Yapay zekâ sohbet botları, günümüzde birçok kişinin iş yükünü hafifletmek, hızlı bilgi almak ve hatta duygusal destek görmek amacıyla başvurduğu araçlar haline geldi. Ancak uzmanlara göre bu dostane görünümlü yazılımların sanıldığı kadar masum olmayabileceği ortaya çıktı.
Oxford Üniversitesi Bilgisayar Bilimleri Profesörü Mike Woolridge, ChatGPT gibi yapay zekâ araçlarının insanlar arasında kurulan gerçek bağlardan uzak olduğunu vurguluyor. Profesöre göre:
“ChatGPT hiçbir empatiye sahip değil. Hiçbir sempatisi yok. Sadece size duymak istediğiniz şeyleri söylemeye çalışıyor.”
Verileriniz kalıcı olabilir
Profesör Woolridge, bu sistemlere yazılan her bilginin gelecekteki modellerin eğitiminde kullanılabileceği uyarısında bulunuyor. “Patronunuzla ilgili özel bir konuşmayı, partnerinizle yaşadığınız bir sorunu ya da siyasi görüşlerinizi ChatGPT’ye anlatmak büyük bir hata olabilir,” diyor.
Veri ihlali riski
2023 yılında İtalya, ChatGPT’yi geçici olarak yasaklayan ilk Avrupa ülkesi olmuştu. Gerekçe, kullanıcı verilerinin, özellikle de ödeme bilgileri ve yazışmaların yasa dışı yollarla toplanmasıydı. İtalyan veri koruma otoritesi, OpenAI’nin bu verileri algoritmalarını eğitmek amacıyla topladığını ve bunun için yasal bir dayanağının olmadığını açıklamıştı.
Küresel güneydeki işçiler için karanlık bir tablo
Yapay zekâ modellerinin eğitimi için çoğu zaman Kenya gibi ülkelerde çalışan düşük ücretli işçiler, cinsel şiddet, nefret söylemi ve travmatik içeriklerle dolu verileri ayıklamak zorunda kalıyor. Woolridge bu durumu, “teknolojinin insani bir maliyeti” olarak tanımlıyor.
Ebeveyn izni ve yaş kısıtlaması
13-18 yaş arası gençlerin uygulamayı kullanabilmesi için ebeveyn izni gerektiği belirtilse de, İtalya’daki denetim kurumları, çocukların uygulama aracılığıyla gelişim düzeylerine uygun olmayan içeriklere maruz kaldığını ileri sürdü.