Yapay zekâ tehlikesi… Sesini müstehcen bir sahnede duydu!

Oyuncu Allegra Clark, pek çok karakteri seslendirdiği popüler video oyunu 'Genshin Impact' dahil olmak üzere birçok projede yer almıştır. Clark, TikTok'ta, yapay zek tarafından üretilmiş bir sahnede kendi sesini duyduğunda şaşkınlık yaşadı. Bu sahne, kendisinin izni olmadan kullanılan cinsel açıdan müstehcen bir içerik içeriyordu. Clark, bu durumun müşterileri tarafından yanlış anlaşılmasından endişe duyduğunu ifade etti.

Allegra Clark'ın sesi, ElevenLabs adlı üretken bir yapay zek aracı tarafından kopyalanmış ve manipüle edilmiştir. Oyuncu, bu ihlali önlemek ve durumu düzeltmek amacıyla ElevenLabs şirketine bir şikayette bulundu. Ancak Clark, şirketin endişelerini gideremediğini belirtti.

Yapay zek tarafından üretilen sesler ve görüntüler, sık sık tepki çekiyor. Gelişmiş yapay zek programları, müzik sanatçılarının ve siyasi figürlerin seslerini ve yüzlerini endişe verici bir doğrulukla taklit edebiliyor.

Bu olayın ardından, oyuncuların ve yaratıcı endüstrilerin temsilcilerinin, yapay zek teknolojilerinin kullanımına sınırlama getiren ve dijital kopyaların kontrolünü belirleyen yeni sözleşmeler talep etmeleri bekleniyor.

Yapay zek ile yaratılan içeriklerin oyuncular ve yaratıcılar arasında yarattığı gerginlikler, teknolojinin etik ve yasal sınırlarının belirlenmesi gerekliliğini daha da vurgulanmış oldu. Bu gelişme, yapay zek ve yaratıcı endüstriler arasındaki ilişkinin geleceğini şekillendiren bir döneme işaret ediyor.

Haber Merkezi