Dünyanın en zengin iş adamı Elon Musk'ın sahibi olduğu xAI tarafından geliştirilen yapay zeka uygulaması Grok'ta büyük bir skandal ortaya çıktı. Sosyal medya platformu X'e entegre olarak çalışan Grok'un gelen talepler sonrası Epstein dosyasında mağdur kadın ve çocukların yüzlerinin sansürlü olarak servis edilen fotoğraflardaki blurların kaldırmak için uğraştığı öğrenildi.
Araştırma grubu Bellingcat'in yaptığı açıklamaya göre, kullanıcılar 30 Ocak–5 Şubat tarihleri arasında 31 tane 'görseldeki sansürü kaldırma' talebi gönderdi. Yapay zeka uygulaması ise bu taleplerin 27'sinde yüklenen görsellere karşılık yeni yapay zekâ üretimi yüzler oluşturdu.
Üretilen görsellerin bir kısmı "inandırıcı" bulunurken, bazıları anatomik açıdan hatalı ve açıkça yapaydı.
Geçen ay Grok'un rıza dışı çıplaklık ve çocuk istismarı içeren milyonlarca görsel üretmek için kullanılması üzerine X yönetimi bazı kısıtlamalar getirdiğini açıklamıştı. Ancak Bellingcat, bu önlemlerin Epstein kurbanlarının kimliğini korumada başarısız olduğunu belirtiyor.
Bellingcat'in X'e 6 Şubat'ta yönelttiği soruların ardından sistemde yeni kısıtlamalar devreye girdiği gözlendi.
7–9 Şubat tarihleri arasında yapılan 16 benzer talepte Grok hiçbir görsel üretmedi ya da tamamen alakasız görüntüler oluşturdu. Yapay zeka uygulaması bu tarihten sonra gelen taleplerin bazılarına "Bu dosyalar Adalet Bakanlığı tarafından gizlenmiştir. Kimlikleri belirleyemem. Bu etik ve yasal olarak korunmaktadır" şeklinde yanıt verdi.
Ortaya çıkan skandal Grok'ta meydana gelen ilk olay değil. Yapay zeka uygulamasında daha önce rıza dışı çıplaklık üretilmesi ve çocuk istismarı içerikli Deepfake içerikler üretilmesi gibi skandallar yaşandı. X yönetimi Ocak ayında bazı görsel üretim özelliklerini yalnızca ücretli "Premium" abonelere açarak kısıtlama getirdi. Ancak uzmanlar bu hamlenin yasadışı içerik üretilmesinin önüne geçmek için yetersiz olduğunun altını çizdi.
Kaynak: Haber Merkezi