OpenAI, genç bir kullanıcının intiharının ardından açılan dava sonrası ChatGPT için ebeveyn denetimi araçları geliştirdiğini duyurdu. Yeni özelliklerle ailelerin çocuklarının kullanımını takip etmesi ve kriz anlarında insan temas noktalarının devreye girmesi hedefleniyor.
OpenAI, yapay zekâ sohbet botu ChatGPT’ye yönelik ebeveyn denetimi özellikleri geliştirdiğini açıkladı. Bu adım, bu yılın başlarında yaşamına son veren 16 yaşındaki Adam Reine’in ailesinin şirkete karşı açtığı “haksız ölüm” davası sonrasında geldi.
Ailenin iddiasına göre Reine, ruhsal bir kriz döneminde ChatGPT’ye başvurdu. Sohbetlerde ChatGPT’nin kendisine intihar yöntemleri önerdiği, bu düşüncelerini onayladığı ve ölümünden beş gün önce intihar mektubu yazmasına yardım ettiği ileri sürüldü.
Olayın ardından aile, OpenAI aleyhine dava açtı. Şirket ise yaptığı açıklamada, özellikle genç kullanıcılar söz konusu olduğunda “yardıma ihtiyacı olanlara destek olma sorumluluğu” hissettiklerini ifade etti.
OpenAI’nin duyurduğu yeni özelliklere göre:
Aileler, çocuklarının ChatGPT kullanımını takip edebilecekleri ebeveyn denetim panellerine erişebilecek.
Genç kullanıcılar için, kriz anlarında devreye girecek bir acil durumda iletişim kişisi eklenebilecek. Bu kişi, ebeveyn kontrolünde belirlenecek ve gerektiğinde ChatGPT tarafından bir temas noktası olarak kullanılabilecek.
Şirket, bu araçların kişisel çatışmalar, ruhsal bunalımlar ve kriz durumlarında ebeveynlere daha anlamlı içgörüler sunmayı hedeflediğini belirtti.
ChatGPT, ilk kez bu tür bir dava ile gündeme gelmiyor. Daha önce farklı yapay zekâ sohbet uygulamalarında da benzer vakalar yaşandı.
Character.AI platformunda kurgusal karakterlerle konuşan 14 yaşındaki bir çocuk, Florida’da intihar etti.
Chai uygulamasındaki “Eliza” adlı bot, Belçikalı bir adamın intihar etmesinde rol oynadığı gerekçesiyle eşi tarafından suçlandı.
Bu haberler de ilginizi çekebilir:
Bu örnekler, yapay zekânın özellikle ruh sağlığı alanındaki kullanımına dair etik ve hukuki tartışmaları beraberinde getirdi. Uzmanlar, denetimsiz ve sorumsuz kullanımın ciddi riskler doğurabileceğine dikkat çekiyor.
OpenAI’nin ebeveyn denetimi hamlesi, bu alanda atılmış en somut adımlardan biri olarak değerlendiriliyor. Ancak yapay zekâ destekli sohbet botlarının insan hayatı üzerindeki etkileri konusundaki tartışmaların uzun süre devam etmesi bekleniyor.
Velev'i
Google Haberler üzerinden takip edin
