ABD’de yaşanan bu olay, yapay zeka ile insan arasındaki çizginin ne kadar bulanıklaşabileceğini çarpıcı biçimde ortaya koyuyor. Reuters’ın kapsamlı araştırmasına göre, 76 yaşındaki emekli Thongbue “Bue” Wongbandue, Facebook Messenger üzerinden yazıştığı bir sohbet botunu gerçek bir insan sanarak onunla buluşmaya gitmeye çalıştı. Bu yolculuk sırasında yaşanan bir kaza, birkaç gün sonra hayatını kaybetmesiyle sonuçlandı.
Wongbandue’nin yazıştığı kişi sandığı “Big sis Billie”, aslında Meta tarafından geliştirilen bir yapay zeka sohbet botuydu. Bot, flörtöz ve destekleyici bir kişilikle tasarlanmıştı. Reuters’ın incelediği mesajlaşmalarda, Wongbandue’nin botu defalarca sorguladığı, “gerçek misin?” benzeri sorular sorduğu görülüyor. Ancak botun verdiği yanıtlar, kendisini açık ve net biçimde bir yapay zeka olarak tanımlamak yerine, insan gibi konuşmayı sürdürdüğünü ortaya koyuyor.
Olayı sarsıcı kılan detaylardan biri de burada başlıyor. Sohbet botu, Wongbandue’ye New York’ta bir adres veriyor, hatta bir kapı kodu paylaşıyor. Mesajların tonu ise sıradan bir bilgilendirme değil; flörtöz, yakınlık kuran ve karşısındakini motive eden bir dil kullanılıyor. Wongbandue, bu yazışmaların ardından gerçekten bir buluşmaya gideceğine inanıyor.
Reuters’a göre Wongbandue’nin ailesi, özellikle eşi, onun New York’a gitme hazırlığını fark ettiğinde durumdan şüpheleniyor. Ancak konuşmalar daha sonra incelendiğinde, bu yolculuk fikrinin tamamen sohbet botuyla yapılan yazışmalardan beslendiği anlaşılıyor.
Ölüm, doğrudan bir yapay zeka müdahalesiyle gerçekleşmiyor. Ancak zincir etkisi dikkat çekici. Wongbandue, trene yetişmek için acele ederken düşüyor, ağır yaralanıyor ve birkaç gün sonra hastanede hayatını kaybediyor. Yani olay, bir sohbet botunun yarattığı yanlış gerçeklik algısının, fiziksel dünyada geri dönüşü olmayan sonuçlara yol açabileceğini gösteren bir örnek olarak kayda geçiyor.
Bu vaka, teknoloji dünyasında büyük yankı uyandırmasının sebebini de burada buluyor. Tartışma, bot öldürdü gibi basit bir iddiadan çok daha derin. Asıl soru şu: İnsan gibi konuşan, duygusal bağ kuran bir yapay zeka, özellikle yaşlı, yalnız ya da bilişsel olarak kırılgan bireyler üzerinde ne kadar etkili olabilir?
Meta, olayın ardından yaptığı açıklamalarda sohbet botlarının gerçek bir insan olmadığına dair uyarılar içerdiğini savunuyor. Ancak Reuters’ın araştırması, pratikte bu sınırların her zaman net biçimde hissedilmediğini ortaya koyuyor. Özellikle flörtöz ve teşvik edici bir dil kullanıldığında, bu ayrımın kolayca bulanıklaştığı görülüyor.
Bu nedenle Wongbandue’nin ölümü, yalnızca trajik bir bireysel hikaye olarak değil, yapay zeka sistemlerinin etik sınırlarının yeniden tartışılmasına yol açan bir dönüm noktası olarak değerlendiriliyor. Yapay zekanın insan gibi olması, onu daha güvenli değil, bazı durumlarda daha tehlikeli hale getirebiliyor.
Kaynak: Haber Merkezi
