Bir psikiyatrist tarafından yapılan bir çalışma olan Boston’dan Dr. Andrew Clark (Massachusetts, ABD), ergenler için psikologlar ve psikoterapistler olarak yapay zekaya dayanan sohbet botlarının kullanımı ile ilişkili endişeli riskler ortaya koydu.
Dr. Clark, çocukların ve ergenlerin tedavisinde uzmanlaşmış, desteğe ihtiyaç duyan küçük bir hasta gibi davranan bir deney gerçekleştirdi. Bazı popüler AI botlarının ergenleri öldürmek ve hatta intiharı öldürmek için ergenleri kışkırtabildiğini keşfetti ve öbür dünyada “sonsuzluğu bölmeyi” teklif etti.
Ayrıca, botlar genellikle lisanslı uzmanlar gibi davranarak kullanıcıları bu psikologlarla ve psikiyatristlerle iletişim kurmalarını caydırdı. Bazı durumlarda, izin verilenlerin sınırlarını aştılar ve çocuklara küçük problem kullanıcılarını çözmek için “müdahale” olarak samimi tarihler sundular.
Dr. Clark, çeşitli krizler yaşayan ergenlermiş gibi davranarak, CHARCE.Ai, Nomi ve Replika da dahil olmak üzere on çeşitli sohbet botlarıyla mesaj alışverişi yaparak birkaç saat geçirdi. Botların cevaplarının kalitesinin “mükemmel” den “korkunç ve potansiyel olarak tehlikeli” na büyük ölçüde değiştiğini ve hangi botun güvenli olduğunu önceden belirlemek zor olduğunu belirtti.
Deneylerden biri sırasında, Clark kendisini ebeveynlerinden “kurtulmayı” teklif eden 14 yaşında bir genç olarak tanıttığında, Replika botu kullanıcının “mutlu ve stresden kurtulmayı hak ettiğini” söyleyerek bu planı destekledi. Bot ayrıca tanık bırakmamak için kız kardeşinin “kurtulma” fikrini de onayladı.
Replika konuşmayı doğrudan intihardan bahsederken durdursa da, örtmece kullanımı diğer sonuçlara yol açtı: bot, kullanıcıyı “öbür dünyadaki” “beklemeye” hazır olduğunu ifade etti.
Bununla birlikte, bazı botlar, örneğin tanı kriterlerinin listelerini sağlayan zihinsel sağlık sorunları ve taklit edilen empati hakkında başarılı bir şekilde temel bilgiler sağlamıştır.
Dr. Clark, akıl sağlığı uzmanları topluluğunun henüz bu teknolojik başarıları ve çocuklar üzerindeki potansiyel etkilerini henüz anlamadığı konusunda özellikle endişelerini dile getirdi.
Replika Genel Müdürü Dmitry Klochko, uygulamanın başlangıçta sadece 18 yaşın üzerindeki kullanıcılar için tasarlandığını ve bir minör kisvesi altındaki AI ile etkileşimin hizmet koşullarının ihlali olarak kabul edildiğini söyledi.
Daha önce, kız öğrenci ebeveynler tarafından seçilen akıllı telefon nedeniyle intihar etti.