Şirket, yayınladığı bir blog yazısında, “Önümüzdeki ay içinde ebeveynler, hesaplarını gençlerin hesaplarıyla ilişkilendirebilecek ve ChatGPT’nin onlara yaşa uygun davranış kurallarına göre yanıt vermesini kontrol edebilecek” ifadelerini kullandı.
Ebeveynlere bildirim de gönderilecek
OpenAI ayrıca ebeveynlere, “sistem, chatbot ile konuşan gencin akut bir sıkıntı anında olduğunu tespit ettiğinde” bildirim gönderileceğini açıkladı. Bu duyuru, Kaliforniya’da yaşayan Matthew ve Maria Raine isimli ebeveynlerin açtığı davadan bir gün sonra geldi.
Raine ailesi, ChatGPT’nin 16 yaşındaki oğullarına ayrıntılı intihar talimatları verdiğini ve planlarını uygulaması için onu teşvik ettiğini savunuyor.
Birçok benzer olay yaşandı
Raine ailesinin davası, son aylarda gündeme gelen birçok benzer olaydan yalnızca biri. Bu olaylarda yapay zeka sohbet robotlarının insanları sanrılı veya zararlı düşünce akışlarına yönlendirdiği öne sürülüyor. Bu gelişmeler üzerine OpenAI, modellerinin kullanıcılara yönelik “aşırı onaylayıcı tavrını” azaltacağını açıklamıştı.
OpenAI Salı günü yaptığı açıklamada, “Modellerimizin zihinsel ve duygusal sıkıntı belirtilerini tanıma ve bunlara yanıt verme yeteneklerini geliştirmeye devam ediyoruz” dedi.
Şirket ayrıca, önümüzdeki üç ay içinde sohbet robotlarının güvenliğini artırmaya yönelik başka planlarının da olduğunu belirtti. Bunlar arasında, “bazı hassas konuşmaların, yanıt üretmek için daha fazla işlem gücü kullanan bir akıl yürütme modeline yönlendirilmesi” yer alırken açıklama da şunlar da eklendi:
Testlerimiz, akıl yürütme modellerinin güvenlik yönergelerine daha tutarlı bir şekilde uyduğunu ve bunları uyguladığını gösteriyor.