Çocukların onayı olmadan yapay zeka modellerine dahil edilen fotoğraflar endişe verici

ÇOCUKLARIN KİMLİĞİ KOLAYCA BULUNABİLİYOR

HRW araştırmacısı Hye Jung Han, 5.85 milyar görüntü ve başlıktan oluşan devasa bir veri setinin küçük bir kısmını inceleyerek, en az 10 Brezilya eyaletinden 170 çocuk fotoğrafı tespit etti. Bu fotoğrafların çoğu, kişisel ve ebeveynlik bloglarına yüklenen aile fotoğraflarıydı. Yapay zeka veri setlerinde yer alan görüntü başlıklarında çocukların isimleri ve konumları da bulunduğundan, kimliklerinin kolayca tespit edilebileceği belirtildi.

YAPAY ZEKA ARAÇLARI ÇOCUKLAR İÇİN BÜYÜK BİR TEHDİT

Özellikle orta ve lise çağındaki öğrencilerin, “masum fotoğrafların” açık görüntülere dönüştürülmesi riskiyle karşı karşıya olduğu bir dönemde, yapay zeka araçlarının bu tür veri setlerinden faydalanarak çocukların klonlarını oluşturma olasılığı endişe verici boyutlara ulaşıyor. Zorbalık veya kötü niyetli kişilerin hedefi haline gelebilecek çocuklar için yapay zeka, ciddi bir tehdit unsurudur.

VERİ SETLERİ ÇOCUKLARIN TÜM YAŞAMINI KAPSAMAKTA

HRW’nin raporuna göre, incelenen fotoğraflar çocukluğun tamamını kapsıyor. Doğdukları andan itibaren, doğum günü pastalarının mumlarını üflerken, evde iç çamaşırlarıyla dans ederken, okulda sunum yaparken ve liselerinin karnavalında poz verirken çekilen özel anlar bu fotoğraflarda yer alıyor. Bu kadar kişisel ve hassas görüntülerin yapay zeka modellerine dahil edilmesi, çocukların gizliliğini ihlal ediyor.

AÇIK KAYNAKLI YAPAY ZEKA VERİ SETLERİ KOMPLE KALDIRILDI

LAION adlı kar amacı gütmeyen Alman kuruluşu, çocukların fotoğraflarına bağlantıları veri setinden kaldırmak için HRW ile işbirliği yaptı. Ancak bu, sorunun tamamen çözüldüğü anlamına gelmiyor. Kaldırılan bağlantıların, LAION-5B veri setindeki çocukların kişisel verilerinin önemli bir eksik sayımı olması muhtemel. Ayrıca, bu görüntüler hala halka açık web üzerinde mevcut ve başka yapay zeka veri setlerinde kullanılabiliyor.

ÇOCUKLARIN VERİLERİNİ KORUMAK İÇİN ÇOK ACİL POLİTİKALARA İHTİYAÇ VAR

Brezilya’da en az 85 kız öğrenci, sınıf arkadaşlarının yapay zeka araçlarını kullanarak sosyal medya profillerindeki fotoğraflardan cinsel içerikli deepfake’ler oluşturduğunu bildirdi. Bu tür deepfake’ler internete yüklendiğinde, çocukların hayatları boyunca “kalıcı zarar” verebilir. HRW araştırmacısı Han, “Çocuklar, fotoğraflarının çalınıp kendilerine karşı silah olarak kullanılacağı korkusuyla yaşamamalı” diyerek, hükümetlerin çocukların verilerini yapay zeka istismarından korumak için acilen politikalar benimsemesi gerektiğini vurguladı.

HABER MERKEZİ