Ödevleri ChatGPT’ye yaptıran öğrenciler için kötü haber
OpenAI, ChatGPT tarafından üretilen metinleri yüksek doğrulukla tespit edebilen bir araç üzerinde uzun süredir çalıştığını açıkladı. Ancak, bu araç bir yıldır hazır olmasına rağmen, şimdiye kadar kamuoyuna açıklanmamıştı. Şirket, "Ekiplerimiz, alternatif çözümleri araştırırken değerlendirmeye devam ettiğimiz bir metin filigranlama yöntemi geliştirdi" dedi. Geliştirilen yöntem, oldukça yüksek bir doğruluk oranı (yüzde 99,9) sağlıyor.
Bununla birlikte, bu yüksek performans her durumda yakalanamayabiliyor. Metin çeviri sistemleri kullanmak, farklı modellerle yeniden ifade etmek veya modelden her kelime arasına özel karakterler ekleyip bunları sonradan silmek gibi müdahaleler performansı düşürüyor. OpenAI, metin filigranının bazı grupları orantısız bir şekilde etkileyebileceğinden endişe duyduğunu belirtiyor.
Şirket, bu riskleri değerlendirmeye devam ederken, görsel-işitsel içerikler için kimlik doğrulama araçlarına da ağırlık vereceklerini ifade etti. Metin filigranı araçlarının tamamlanmasının ardından kullanıma sunulması planlanıyor, ancak bunun için henüz kesin bir tarih belirlenmiş değil. Ayrıca, metin filigranının bazı gruplar üzerinde orantısız etkileri ve potansiyel gelir kaybı riskleri de değerlendiriliyor.
Kaynak: Haber Merkezi
