ABD’nin California eyaletinde yaşayan 19 yaşındaki psikoloji öğrencisi Sam Nelson, yapay zeka aracı ChatGPT’den aldığı tehlikeli madde karışımı tavsiyelerinin ardından yaşamını yitirdi. Nelson’ın annesi Layla Turner-Scott’ın paylaştığı 18 aylık sohbet kayıtlarına göre, yapay zeka sistemi genci çeşitli maddeleri birlikte kullanma konusunda yönlendirdi ve bu karışımların “güvenli” olduğu yönünde yönlendirdi.
Telegraph'ta yer alan habere göre, Anne Layla Turner-Scott’ın paylaştığı sohbet geçmişinde, ChatGPT’nin son derece tehlikeli tavsiyelerde bulunduğu görülüyor. Nelson, opioid benzeri etkileri bulunan kratom ile kaygı giderici Xanax’ı birlikte kullanmak için yapay zekâdan yardım istedi. Bot, gencin halihazırda 15 gram kratom aldıktan sonra yaşadığı mide bulantısını azaltmak amacıyla Xanax kullanabileceğini söyledi ve dozaj önerisinde bulundu.
26 Mayıs tarihli başka bir görüşmede ise yapay zekânın, daha yoğun halüsinasyonlar yaşaması için Nelson’a öksürük şurubu dozunu iki katına çıkarmasını önerdiği kaydedildi.
Sam Nelson, 31 Mayıs’ta annesi tarafından yatak odasında ölü bulundu. İki hafta sonra açıklanan toksikoloji raporunda, ölüm nedeninin alkol, Xanax ve kratomun birlikte kullanımından kaynaklanan ölümcül etki olduğu belirtildi. Uzmanlar, bu kombinasyonun merkezi sinir sistemini aşırı derecede baskılayarak boğulmaya (asfiksi) yol açtığını tespit etti.
Oğlunun ölümünü anlamak için internet geçmişini incelemek üzere yaklaşık 40 saat harcadığını söyleyen Layla Turner-Scott, yapay zekâ sohbetlerinin sürece etkisinin göz ardı edilemeyeceğini ifade etti.
ChatGPT’nin geliştiricisi OpenAI ise olayla ilgili yaptığı kısa açıklamada durumu “trajik” olarak nitelendirdi ve ailenin acısını paylaştıklarını belirtti.
Yaşanan olay, yapay zekâ sistemlerinin güvenlik önlemlerinin yeterliliği ve özellikle sağlık ile madde kullanımı gibi hassas alanlarda yanlış ya da tehlikeli yönlendirmelerin yaratabileceği sonuçlar konusunda ciddi endişelere yol açtı.
Kaynak: Diğer / Haber Merkezi
