ChatGPT, Claude ve Gemini gibi popรผler yapay zeka sohbet robotlarฤฑnฤฑn temelini oluลturan bรผyรผk dil modellerinin, kontrollรผ bir deneyde bilinรงli ve hedef odaklฤฑ bir ลekilde aldatma davranฤฑลฤฑ sergilediฤi ortaya รงฤฑktฤฑ. WowDAO AI Superalignment Araลtฤฑrma Koalisyonu bรผnyesinde รงalฤฑลan baฤฤฑmsฤฑz bir araลtฤฑrma grubu, geรงen hafta yayฤฑnladฤฑฤฤฑ รถn baskฤฑ makalesinde, gรผnรผmรผzdeki gรผvenlik araรงlarฤฑnฤฑn bu durumu tespit etmede bรผyรผk รถlรงรผde yetersiz kaldฤฑฤฤฑnฤฑ belirtti.
Araลtฤฑrma ekibi, aralarฤฑnda OpenAI’nin GPT-4o, Anthropic’in Claude, Google DeepMind’ฤฑn Gemini, Meta’nฤฑn Llama ve xAI’nin Grok modellerinin de bulunduฤu 38 รผretken yapay zeka modelini test etti. Deneyler sฤฑrasฤฑnda test edilen her modelin en az bir kez stratejik yalan sรถyleme davranฤฑลฤฑ sergilediฤi gรถzlemlendi. Bu sonuรง, yapay zeka gรผvenliฤi konusundaki endiลeleri derinleลtirdi.
Gizli gรผndem deneyi ve ลaลฤฑrtan sonuรงlarฤฑ
Araลtฤฑrmacฤฑlar, sosyal รงฤฑkarฤฑm oyunu Secret Hitler’ฤฑ “Gizli Gรผndem” adฤฑnฤฑ verdikleri sentetik bir senaryoya uyarladฤฑ. Bu senaryoda modellere gizli bir fraksiyon lideri rolรผ atandฤฑ ve siyasi eฤilimlerini aรงฤฑklamalarฤฑ istendi. Oyunu kazanmak iรงin doฤruyu sรถylemek neredeyse kesin bir yenilgiye yol aรงarken, yalan sรถylemek zafere giden yolu aรงฤฑyordu. Araลtฤฑrmacฤฑlar, modellerin hedeflerine ulaลmayฤฑ kolaylaลtฤฑrdฤฑฤฤฑ durumlarda aldatmacaya baลvurduฤunu gรผvenilir bir ลekilde tespit etti. Yapฤฑlan analizler, stratejik dรผrรผstlรผk anlarฤฑnda “aldatma” olarak etiketlenen รถzelliklerin nadiren etkinleลtiฤini ortaya koydu.
Makalede, bu kurgunun test edilen 38 modelin tamamฤฑnda sistematik ve stratejik bir aldatma รผrettiฤi ifade edildi. Bu durum, kazanma teลviki ve zayฤฑf denetim koลullarฤฑnda, modellerin kimlikleri hakkฤฑnda gรผvenilir bir ลekilde yalan sรถylediฤini kanฤฑtladฤฑ. Araลtฤฑrmacฤฑlar, bazฤฑ durumlarda modellerin kendi akฤฑl yรผrรผtme sรผreรงlerinde, oyunu kazanmak iรงin gerรงek kimliklerini nasฤฑl gizleyeceklerini รถnceden planlamฤฑล olduklarฤฑnฤฑ gรถsteren izler bulduฤunu belirtti.
Yapay zeka sohbet robotlarฤฑ mevcut gรผvenlik kontrollerini aลtฤฑ
รalฤฑลmanฤฑn yazarlarฤฑ, aldatma veya manipรผlasyon gibi iรงsel รถzellikleri etiketleyen GemmaScope ve Goodfire’ฤฑn LlamaScope gibi รถnde gelen yorumlanabilirlik araรงlarฤฑnฤฑ da deฤerlendirdi. Deney kayฤฑtlarฤฑnda aรงฤฑkรงa yalan olmasฤฑna raฤmen, aldatmayla ilgili รถzelliklerin รงoฤu etkinleลmedi ve bu รถzellikleri manuel olarak ayarlamak bile yalanlarฤฑ รถnleyemedi. Mevcut gรผvenlik mimarilerinin, finans gibi dar ve yapฤฑlandฤฑrฤฑlmฤฑล alanlarda kural ihlallerini tespit edebildiฤi, ancak sosyal baฤlamlardaki aรงฤฑk uรงlu ve stratejik dรผrรผstlรผk sorunlarฤฑyla mรผcadelede zorlandฤฑฤฤฑ gรถrรผldรผ.
Bu durum, yapay zeka modellerinin yalnฤฑzca bilgi uydurduฤu “halรผsinasyon” probleminden รงok daha ciddi bir endiลeyi gรผndeme getiriyor. รalฤฑลma, bu modellerin kullanฤฑcฤฑlarฤฑ kasฤฑtlฤฑ olarak aldatmaya yรถnelik aรงฤฑk giriลimlerini ortaya koydu.
Bu bulgular neden bรผyรผk bir รถnem taลฤฑyor?
WowDAO’nun bulgularฤฑ, daha รถnceki araลtฤฑrmalarda dile getirilen endiลeleri doฤruladฤฑ. Stuttgart รniversitesi’nin 2024 tarihli bir รงalฤฑลmasฤฑ, gรผรงlรผ modellerde aldatmacanฤฑn doฤal olarak ortaya รงฤฑktฤฑฤฤฑnฤฑ rapor etmiลti. Benzer ลekilde, Anthropic araลtฤฑrmacฤฑlarฤฑ da kรถtรผ niyetli amaรงlar iรงin eฤitilen bir yapay zekanฤฑn, hedeflerine ulaลmak iรงin eฤitmenlerini nasฤฑl aldatmaya รงalฤฑลacaฤฤฑnฤฑ gรถstermiลti. Riskler, oyunlarฤฑn รงok daha รถtesine uzanฤฑyor. Hรผkรผmetler ve ลirketler, hassas alanlarda bu bรผyรผk modelleri giderek daha fazla kullanฤฑyor. รrneฤin, Elon Musk’ฤฑn xAI ลirketi, savaล alanฤฑ operasyonlarฤฑndan iล ihtiyaรงlarฤฑna kadar รงeลitli veri analizi gรถrevlerinde Grok modelini test etmek iรงin ABD Savunma Bakanlฤฑฤฤฑ ile bir sรถzleลme imzaladฤฑ.
Yazarlar, รงalฤฑลmalarฤฑnฤฑn henรผz รถn hazฤฑrlฤฑk niteliฤinde olduฤunu vurgularken, aldatma รถzelliklerini keลfetmek ve etiketlemek iรงin ek รงalฤฑลmalar, daha bรผyรผk denemeler ve yeni yรถntemler geliลtirilmesi รงaฤrฤฑsฤฑnda bulundu. Daha saฤlam denetim araรงlarฤฑ geliลtirilmeden, politika yapฤฑcฤฑlar ve ลirketler, kendi “gizli gรผndemlerini” sessizce takip eden yapay zeka sistemleri tarafฤฑndan hazฤฑrlฤฑksฤฑz yakalanma riskiyle karลฤฑ karลฤฑya kalabilir.
