OpenAI, Microsoft, Google, Meta ve diğer önde gelen yapay zeka şirketleri, yapay zeka araçlarının çocukları istismar etmede veya bu amaçla kullanılmasını önleme sözü verdi. Firmalar, alınan karar doğrultusunda yapay zeka eğitim verilerinde bu tür içerikleri gözden geçireceklerini ve materyallerin gelecekteki modellerinde bulunmayacağı taahhüdünde bulundu. Bu girişim, çocuk güvenliği grubu Thorn ve sorumlu teknolojiye odaklanan kar amacı gütmeyen bir kuruluş olan All Tech Is Human tarafından yürütüldü. AI şirketlerinden güvenlik önlemi
Şirketler, CSAM olarak da bilinen çocuklara yönelik cinsel istismar içeriklerinin eğitim veri setlerinden çıkarılmasını, bu veri setlerinin CSAM içermediğinden emin olmayı, CSAM içerme riski yüksek veri setlerinden kaçınmayı ve bu tür görüntüler ile bağlantıları veri kaynaklarından kaldırmayı taahhüt ediyorlar. Bununla birlikte önde gelen yapay zeka şirketleri, araçlarının bu tip içerikler oluşturmadıklarından emin olmak için modellerini “stres testine” tabi tutacaklarını da belirtiyorlar.
Google, Meta, OpenAI, Microsoft, Amazon, Anthropic, Civitai, Metaphysic, Mistral AI ve Stability AI’ın imzaladığı bu ortak kararın sektör için çığır açan bir emsal niteliğinde olduğu belirtildi. All Tech Is Human ile birlikte ilkelerin oluşturulmasına yardımcı olan çocuk istismarı karşıtı kâr amacı gütmeyen Thorn, sadece 2023 yılında ABD’de 104 milyondan fazla şüpheli çocuk cinsel istismarı dosyasının rapor edildiğini söylüyor. Yapay zeka ise ürettiği sahte görseller ve deepfake’ler ile işleri daha da zorlaştırıyor.
Bir yanıt bırakın