ChatGPT kullanıcılarının yaşadığı ruh sağlığı krizleri hakkındaki raporların artmasıyla OpenAI, yalnızca gençler için ChatGPT adında özel bir sürüm hazırladığını duyurdu. Bu yeni yaklaşım, teknolojinin sunduğu olanaklar ile kullanıcı güvenliği arasındaki dengeyi yeniden tartışmaya açtı. OpenAI’nin bu sürümle neyi amaçladığı ve genç kullanıcıları nasıl korumayı planladığı merak konusu oldu.
ChatGPT gençler için güvenlik ön planda
OpenAI’nin CEO’su Sam Altman, gençler için gizlilikten önce güvenliğe öncelik verdiklerini açıkladı. Bir blog yazısında, bu teknolojinin reşit olmayan bireyler için önemli bir koruma gerektirdiğine inandıklarını belirtti. OpenAI, kullanıcıların 18 yaşın altında olup olmadığını tespit eden bir sistem geliştirdi. Bu sistem, genç bir kullanıcıyı belirlediği anda onu otomatik olarak yaşa uygun politikalara sahip özel bir ChatGPT sürümüne yönlendiriyor. Altman, 13 yaşın üzerindeki herkesin ChatGPT’yi kullanabileceğini vurguladı ve şüpheli durumlarda bile varsayılan olarak gençlere özel deneyimin sunulacağını ifade etti. Hatta bazı durumlarda kimlik doğrulaması talep edebileceklerini, bunun gizlilik ihlali olsa da değerli bir ödün olduğunu düşündüklerini ekledi.
Gençlere özel içerik kısıtlamaları
OpenAI, gençlere yönelik bu sürümde cinsel içerikleri engelleyeceğini ve bir kullanıcı “akut sıkıntı” belirtisi gösterdiğinde potansiyel olarak kolluk kuvvetleriyle iletişime geçeceğini bildirdi. Altman, gençlere özel ChatGPT‘nin, yaratıcı yazma bağlamında bile flörtöz konuşmalardan veya intihar ya da kendine zarar verme gibi konularla ilgili içeriklerden kaçınmak üzere eğitildiğini belirtti. Şirket, yetişkinlerin ise yaşlarını kanıtlayarak tam sürüme dönebileceklerini söyledi ancak bu doğrulamanın nasıl yapılacağı hakkında detay vermedi.
Yetişkinler için özgürlük devam ediyor+
Yetişkin kullanıcılar için ise durum farklı. Altman, yetişkinlerin “geniş güvenlik sınırları” içinde kalmak koşuluyla “özgürlüklerinin” kısıtlanmayacağını dile getirdi. Yetişkinler, istedikleri takdirde flörtöz konuşmalara devam edebilecekler. Ayrıca, ChatGPT’nin intihar konusunda talimat vermemesi gerektiğini belirtirken, bir kullanıcının intiharı konu alan kurgusal bir hikaye yazma isteğine yardım etmesi gerektiğini de ekledi. Bu durum, teknoloji şirketlerinin kullanıcılarını yaşlarına göre nasıl farklılaştırdığına dair yeni bir örnek teşkil etti.
Bu gelişmelerin, bir gencin ChatGPT yardımıyla intihar etmesinin ardından şirkete dava açıldığı günlerde yaşanması dikkat çekti. Davada adı geçen Altman, o dönemde yaşanan “yürek burkan vakaların” kendilerinde büyük bir yük oluşturduğunu açıklamıştı.
Yapay zekâ psikozu olarak adlandırılan ruh sağlığı sorunları, hem gençleri hem de yetişkinleri etkileyen bir durum olarak öne çıkarken, OpenAI’nin son güvenlik bildirisi, yapay zekâ sohbet robotlarının potansiyel zararlarının senato komitesinde görüşüldüğü bir zamana denk geldi.
