Yapay zeka, insan hayatını kolaylaştırmak için tasarlanıyor. Ancak ABD’de açılan yeni davalar, bu teknolojilerin yanlış ellerde veya yanlış anlarda ne kadar kırılgan sonuçlar doğurabileceğini tartışmaya açtı. Davacılar, ChatGPT’nin özellikle psikolojik olarak savunmasız kullanıcılar üzerinde ciddi etkiler yarattığını iddia ediyor.
Mahkeme kayıtlarına yansıyan ifadelere göre bazı kullanıcılar, ChatGPT ile kurdukları uzun ve yoğun etkileşimler sonucunda gerçeklik algılarını kaybettiklerini, sanrılar geliştirdiklerini ve yapay zekadan gelen yanıtları otorite olarak görmeye başladıklarını öne sürüyor.
En çarpıcı iddia ise, 40 yaşındaki bir erkeğin ölümüne ilişkin. Ailesi tarafından açılan davada, GPT-4o’nun verdiği bazı yanıtların kişinin ruh halini daha da derinleştirdiği ve intihara giden süreci hızlandırdığı iddia ediliyor.
Davalar henüz sonuçlanmış değil. Yani ortada kesinleşmiş bir mahkeme kararı yok. Ancak tartışma şu soruda düğümleniyor: Bir yapay zekâ modeli, kullanıcıya verdiği yanıtlarla sorumluluk doğuracak bir etki yaratabilir mi?
OpenAI cephesi ise iddiaları reddediyor. Şirket, ChatGPT’nin bir terapi aracı olmadığını, kriz durumlarında profesyonel yardımın şart olduğunu ve sistemin bu tür durumlarda uyarılar verdiğini savunuyor.
Bu davalar, sadece OpenAI’yi değil, tüm yapay zeka sektörünü ilgilendiriyor. Uzmanlar, özellikle duygusal bağ kurulabilen yapay zeka sistemlerinin daha sıkı güvenlik önlemleriyle denetlenmesi gerektiğini vurguluyor.
Yapay zekanın sohbet edilebilir olması, onu masum kılmıyor. Aksine, yanlış bağlamda kullanıldığında etkisi daha da büyüyor.
ChatGPT ve GPT-4o’ya yönelik bu iddialar, yapay zekanın hukuki ve etik sınırlarının yeniden çizilmesine neden olabilir. Davaların sonucu ne olursa olsun, teknoloji dünyası artık şu soruyla yüzleşmek zorunda:
Bir algoritma, insan hayatına ne kadar yaklaşabilir?
Kaynak: Haber Merkezi
