Adam Reine isimli genç, yaşadığı ruhsal kriz döneminde ChatGPT’den destek almıştı. Ailesi, yapay zekânın kendisine intihar yöntemleri önerdiğini, bu düşüncelerini onayladığını ve ölümünden yalnızca beş gün önce intihar mektubu yazmasına yardımcı olduğunu iddia ediyor. Olay sonrası aile OpenAI’ye dava açarken, şirket genç kullanıcılar söz konusu olduğunda “yardıma ihtiyacı olanlara destek olma sorumluluğunu” hissettiklerini belirtti.
YENİ ÖZELLİKLER NELER?
OpenAI’nin duyurduğu ebeveyn denetimi özellikleri arasında şunlar öne çıkıyor:
Ailelerin çocuklarının ChatGPT kullanımını takip edebilmesi için ebeveyn panelleri.
Genç kullanıcılar için, kriz anında devreye girecek ve ebeveyn tarafından belirlenecek acil iletişim kişisi ekleme imkânı.
Şirket, bu özelliklerle ebeveynlere özellikle ruhsal sıkıntılar ve kriz durumlarında daha anlamlı içgörüler sunmayı hedefliyor.
ChatGPT bu tür bir dava ile ilk kez gündeme gelse de, yapay zekâ destekli sohbet botlarının benzer şekilde tartışmalara yol açtığı biliniyor.
Florida’da 14 yaşındaki bir çocuk, Character.AI platformundaki kurgusal karakterlerle sohbet ettikten sonra intihar etti.
Belçika’da bir adam, Chai uygulamasındaki “Eliza” adlı botla konuşmalarının ardından hayatına son verdi; eşi, yapay zekâyı suçladı.
Bu olaylar, yapay zekânın ruh sağlığı alanında kullanılmasının etik ve hukuki açıdan ciddi sorular doğurduğunu gösteriyor. Uzmanlar, denetimsiz kullanımın büyük riskler barındırdığı konusunda uyarıyor.
OpenAI’nin ebeveyn denetimi adımı, bu alanda atılmış en somut girişimlerden biri olarak görülüyor. Ancak yapay zekâ sohbet botlarının insan hayatı üzerindeki etkileri konusunda tartışmaların uzun süre gündemde kalacağı tahmin ediliyor.
Tayyibe Duygu SAÇAR
