Yapay zekâ tehlikesi… Sesini müstehcen bir sahnede duydu!

Oyuncu Allegra Clark, pek çok karakteri seslendirdiği popüler video oyunu “Genshin Impact” dahil olmak üzere birçok projede yer almıştır. Clark, TikTok’ta, yapay zekâ tarafından üretilmiş bir sahnede kendi sesini duyduğunda şaşkınlık yaşadı. Bu sahne, kendisinin izni olmadan kullanılan cinsel açıdan müstehcen bir içerik içeriyordu. Clark, bu durumun müşterileri tarafından yanlış anlaşılmasından endişe duyduğunu ifade etti.

Allegra Clark’ın sesi, ElevenLabs adlı üretken bir yapay zekâ aracı tarafından kopyalanmış ve manipüle edilmiştir. Oyuncu, bu ihlali önlemek ve durumu düzeltmek amacıyla ElevenLabs şirketine bir şikayette bulundu. Ancak Clark, şirketin endişelerini gideremediğini belirtti.

Yapay zekâ tarafından üretilen sesler ve görüntüler, sık sık tepki çekiyor. Gelişmiş yapay zekâ programları, müzik sanatçılarının ve siyasi figürlerin seslerini ve yüzlerini endişe verici bir doğrulukla taklit edebiliyor.

Bu olayın ardından, oyuncuların ve yaratıcı endüstrilerin temsilcilerinin, yapay zekâ teknolojilerinin kullanımına sınırlama getiren ve dijital kopyaların kontrolünü belirleyen yeni sözleşmeler talep etmeleri bekleniyor.

Yapay zekâ ile yaratılan içeriklerin oyuncular ve yaratıcılar arasında yarattığı gerginlikler, teknolojinin etik ve yasal sınırlarının belirlenmesi gerekliliğini daha da vurgulanmış oldu. Bu gelişme, yapay zekâ ve yaratıcı endüstriler arasındaki ilişkinin geleceğini şekillendiren bir döneme işaret ediyor.

Haber Merkezi