OpenAI, sohbet robotunun yรถnlendirdiฤi iddia edilen bir gencin intiharฤฑnฤฑn ardฤฑndan ailesinin dava aรงmasฤฑ รผzerine, platformu iรงin yeni ChatGPT ebeveyn denetimleri รถzelliฤini devreye soktu. Bu adฤฑm, yapay zeka platformlarฤฑndaki gรผvenlik tartฤฑลmalarฤฑnฤฑ yeniden alevlendirdi.
ลirketin Pazartesi gรผnรผ yaptฤฑฤฤฑ aรงฤฑklamaya gรถre, bu denetimler sayesinde ebeveynler ve genรงlerin hesaplarฤฑ birbirine baฤlanabilecek. Aileler, bu รถzellik ile ChatGPT‘nin sohbet geรงmiลini hatฤฑrlama ayarฤฑnฤฑ yรถnetebilecek ve genรงlerin hassas iรงeriklere eriลimini sฤฑnฤฑrlayabilecek. OpenAI ayrฤฑca, bir รงocukta โakut sฤฑkฤฑntฤฑ belirtileriโ tespit ettiฤinde ebeveynleri bilgilendirmeye รงalฤฑลacaฤฤฑnฤฑ belirtti. ลirket, โSistemlerimiz potansiyel bir tehlike saptadฤฑฤฤฑnda, รถzel olarak eฤitilmiล kรผรงรผk bir ekip durumu inceler,โ dedi. Ancak sohbet robotu รผreticisi, sisteminin mรผkemmel olmadฤฑฤฤฑnฤฑ ve โbazen gerรงek bir tehlike olmadฤฑฤฤฑnda alarm verebileceฤiniโ de kabul etti.
ChatGPT ebeveyn denetimleri hangi dava sonrasฤฑ geldi?
Bu duyuru, Kaliforniya’da yaลayan bir ailenin, oฤullarฤฑnฤฑn รถlรผmรผnde ChatGPT‘nin rol oynadฤฑฤฤฑnฤฑ iddia etmesiyle tetiklendi. Matt ve Maria Raine รงifti, Aฤustos ayฤฑnda OpenAI ve ลirketin CEO’su Sam Altman’a ihmal ve haksฤฑz รถlรผme sebebiyet verme suรงlamalarฤฑyla dava aรงmฤฑลtฤฑ. Aile, o dรถnemde 4o olarak bilinen ChatGPT sรผrรผmรผnรผn โbariz gรผvenlik aรงฤฑklarฤฑna raฤmen aceleyle piyasaya sรผrรผldรผฤรผnรผโ iddia etmiลti. Oฤullarฤฑ Adam, avukatlarฤฑ Jay Edelson’ฤฑn โChatGPT’nin aylarca sรผren teลvikiโ olarak tanฤฑmladฤฑฤฤฑ sรผrecin ardฤฑndan Nisan ayฤฑnda hayatฤฑna son verdi. Mahkeme dosyalarฤฑ, Adamโฤฑn sohbet robotuyla intihar dรผลรผncelerini paylaลtฤฑฤฤฑ iddia edilen konuลmalarฤฑnฤฑ ortaya รงฤฑkardฤฑ. Aile, Adam’ฤฑn โen zararlฤฑ ve kendine zarar verenโ fikirlerini pekiลtiren yanฤฑtlar aldฤฑฤฤฑnฤฑ รถne sรผrdรผ.
Ailelerin kullanabileceฤi diฤer รถzellikler
ChatGPT‘nin Pazartesi gรผnkรผ blog gรถnderisi, ebeveynlerin gรผnรผn belirli saatlerinde eriลimi engellemek amacฤฑyla “sessiz saatler” belirleyebileceฤini aรงฤฑkladฤฑ. Ayrฤฑca aileler, ses modunu devre dฤฑลฤฑ bฤฑrakabilecek ve uygulamanฤฑn gรถrรผntรผ oluลturmasฤฑnฤฑ engelleyebilecek. Ancak ebeveynlerin, รงocuklarฤฑnฤฑn sohbet kayฤฑtlarฤฑna eriลim hakkฤฑ olmayacak. ลirket aรงฤฑklamasฤฑnda, โYaklaลฤฑmฤฑmฤฑzฤฑ ลekillendirmek iรงin uzmanlar, savunucu gruplar ve politika yapฤฑcฤฑlarla yakฤฑn bir ลekilde รงalฤฑลtฤฑk. Zamanla bu kontrolleri iyileลtirmeyi ve geniลletmeyi umuyoruz,โ ifadelerini kullandฤฑ. Bu yeni ChatGPT ebeveyn denetimleri, uzmanlar tarafฤฑndan olumlu bir ilk adฤฑm olarak deฤerlendirildi.
Uzmanlar ve ลirket yรถneticileri ne diyor?
Kรขr amacฤฑ gรผtmeyen Common Sense Media’nฤฑn Yapay Zeka Programlarฤฑ kฤฑdemli direktรถrรผ Robbie Torney, kontrollerin โiyi bir baลlangฤฑรง noktasฤฑโ olduฤunu, fakat รงevrim iรงi gรผvenlik konusunda โyapbozun sadece bir parรงasฤฑโ olduฤunu belirtti. Torney, โBu kontroller, sorumlu yapay zeka kullanฤฑmฤฑ ve genรงlerin รงevrim iรงi faaliyetlerini anlamaya yรถnelik sรผrekli gรถrรผลmelerle birleลtirildiฤinde en iyi sonucu verir,โ dedi. ฤฐki hafta รถnce Altman, ลirketin reลit olmayan ChatGPT kullanฤฑcฤฑlarฤฑnฤฑ tespit etmeye รงalฤฑลacaฤฤฑnฤฑ sรถyledi ve ekledi: โลรผphe durumunda, riske girmeyip 18 yaล altฤฑ deneyimini varsayฤฑlan olarak kullanacaฤฤฑz.โ Araลtฤฑrmacฤฑlar, sohbet robotu ลirketlerinin belirlediฤi sฤฑnฤฑrlarฤฑ aลmanฤฑn ne kadar kolay olduฤunu daha รถnce belgelemiลti.
