OpenAI, sohbet robotunun yönlendirdiği iddia edilen bir gencin intiharının ardından ailesinin dava açması üzerine, platformu için yeni ChatGPT ebeveyn denetimleri özelliğini devreye soktu. Bu adım, yapay zeka platformlarındaki güvenlik tartışmalarını yeniden alevlendirdi.
Şirketin Pazartesi günü yaptığı açıklamaya göre, bu denetimler sayesinde ebeveynler ve gençlerin hesapları birbirine bağlanabilecek. Aileler, bu özellik ile ChatGPT‘nin sohbet geçmişini hatırlama ayarını yönetebilecek ve gençlerin hassas içeriklere erişimini sınırlayabilecek. OpenAI ayrıca, bir çocukta “akut sıkıntı belirtileri” tespit ettiğinde ebeveynleri bilgilendirmeye çalışacağını belirtti. Şirket, “Sistemlerimiz potansiyel bir tehlike saptadığında, özel olarak eğitilmiş küçük bir ekip durumu inceler,” dedi. Ancak sohbet robotu üreticisi, sisteminin mükemmel olmadığını ve “bazen gerçek bir tehlike olmadığında alarm verebileceğini” de kabul etti.
ChatGPT ebeveyn denetimleri hangi dava sonrası geldi?
Bu duyuru, Kaliforniya’da yaşayan bir ailenin, oğullarının ölümünde ChatGPT‘nin rol oynadığını iddia etmesiyle tetiklendi. Matt ve Maria Raine çifti, Ağustos ayında OpenAI ve şirketin CEO’su Sam Altman’a ihmal ve haksız ölüme sebebiyet verme suçlamalarıyla dava açmıştı. Aile, o dönemde 4o olarak bilinen ChatGPT sürümünün “bariz güvenlik açıklarına rağmen aceleyle piyasaya sürüldüğünü” iddia etmişti. Oğulları Adam, avukatları Jay Edelson’ın “ChatGPT’nin aylarca süren teşviki” olarak tanımladığı sürecin ardından Nisan ayında hayatına son verdi. Mahkeme dosyaları, Adam’ın sohbet robotuyla intihar düşüncelerini paylaştığı iddia edilen konuşmalarını ortaya çıkardı. Aile, Adam’ın “en zararlı ve kendine zarar veren” fikirlerini pekiştiren yanıtlar aldığını öne sürdü.
Ailelerin kullanabileceği diğer özellikler
ChatGPT‘nin Pazartesi günkü blog gönderisi, ebeveynlerin günün belirli saatlerinde erişimi engellemek amacıyla “sessiz saatler” belirleyebileceğini açıkladı. Ayrıca aileler, ses modunu devre dışı bırakabilecek ve uygulamanın görüntü oluşturmasını engelleyebilecek. Ancak ebeveynlerin, çocuklarının sohbet kayıtlarına erişim hakkı olmayacak. Şirket açıklamasında, “Yaklaşımımızı şekillendirmek için uzmanlar, savunucu gruplar ve politika yapıcılarla yakın bir şekilde çalıştık. Zamanla bu kontrolleri iyileştirmeyi ve genişletmeyi umuyoruz,” ifadelerini kullandı. Bu yeni ChatGPT ebeveyn denetimleri, uzmanlar tarafından olumlu bir ilk adım olarak değerlendirildi.
Uzmanlar ve şirket yöneticileri ne diyor?
Kâr amacı gütmeyen Common Sense Media’nın Yapay Zeka Programları kıdemli direktörü Robbie Torney, kontrollerin “iyi bir başlangıç noktası” olduğunu, fakat çevrim içi güvenlik konusunda “yapbozun sadece bir parçası” olduğunu belirtti. Torney, “Bu kontroller, sorumlu yapay zeka kullanımı ve gençlerin çevrim içi faaliyetlerini anlamaya yönelik sürekli görüşmelerle birleştirildiğinde en iyi sonucu verir,” dedi. İki hafta önce Altman, şirketin reşit olmayan ChatGPT kullanıcılarını tespit etmeye çalışacağını söyledi ve ekledi: “Şüphe durumunda, riske girmeyip 18 yaş altı deneyimini varsayılan olarak kullanacağız.” Araştırmacılar, sohbet robotu şirketlerinin belirlediği sınırları aşmanın ne kadar kolay olduğunu daha önce belgelemişti.
