ฤฐngiltere’nin ulusal yapay zeka kurumu Alan Turing Enstitรผsรผ, insanlarฤฑn beล yฤฑl iรงinde “sรผper zekalฤฑ” makineler รผzerindeki kontrolรผ kaybedebileceฤi konusunda uyardฤฑ. Kurum, รงarลamba gรผnรผ yayฤฑmladฤฑฤฤฑ raporda yapay zekanฤฑn insan yeteneklerini beล yฤฑl iรงinde aลabileceฤine dair “gerรงekรงi bir olasฤฑlฤฑk” bulunduฤunu belirtti. Raporda, geliลmiล sistemler karลฤฑsฤฑnda “somut insan kontrolรผnรผn ortadan kalkabileceฤi” ifade edildi.
Uyarฤฑ, ABD Baลkanฤฑ Trump ile รin lideri ลi Cinping’in bu hafta Beyaz Saray’da bir araya gelmesinin รถncesinde geldi. ฤฐki liderin gรถrรผลmede yapay zeka konusunu ele almasฤฑ bekleniyor. Gรถrรผลme, teknolojinin geliลimini yavaลlatmak iรงin uluslararasฤฑ bir anlaลma รงaฤrฤฑlarฤฑnฤฑn ve artan uyarฤฑlarฤฑn gรถlgesinde gerรงekleลecek.
Manchester Belediye Baลkanฤฑ Andy Burnham, salฤฑ gรผnรผ ABD Baลkanฤฑ Trump’a dรผnyanฤฑn yapay zekayฤฑ dizginlemesi gerektiฤini sรถyledi. Trump ise teknolojiyi kontrol altฤฑna alma giriลimlerini reddetti. Baลbakan ise bu hafta, iki sรผper gรผรง arasฤฑnda yapay zeka konusunda “dรผrรผst bir arabulucu” olmayฤฑ umduฤunu aรงฤฑkladฤฑ.
Yapay zeka sistemlerinin kararlarฤฑ ele geรงirme riski
Britanya’nฤฑn yapay zeka geliลmelerini yรถnetmesine yardฤฑmcฤฑ olmak amacฤฑyla vergi mรผkelleflerinin finansmanฤฑyla kurulan Alan Turing Enstitรผsรผ, teknoloji geliลtikรงe insanlarฤฑn kritik gรถrevlerin kontrolรผnรผ giderek yapay zekaya devredebileceฤi ve sรผrecin dฤฑลฤฑnda kalabileceฤi riskine dikkat รงekti. Kurum, “รถnemli biliลsel gรถrevlerin neredeyse tamamฤฑnda insan yeteneklerini aลan sรผper zekalฤฑ AI sistemlerinin รถnรผmรผzdeki beล yฤฑl iรงinde ortaya รงฤฑkma olasฤฑlฤฑฤฤฑ gerรงekรงi” ifadesini kullandฤฑ. “Sฤฑnฤฑr” sistemlerin nasฤฑl yรถnetileceฤine iliลkin raporda, yapay zeka sistemlerinin insanรผstรผ hฤฑz ve zekasฤฑnฤฑn kararlarฤฑ makinelere devretme baskฤฑsฤฑnฤฑ artฤฑracaฤฤฑ belirtildi.
Rapora gรถre AI sistemleri hฤฑzlandฤฑkรงa insanlar bu sistemlerin eylemlerini anlamlฤฑ biรงimde izlemekte veya durdurmakta zorlanabilir. Enstitรผ, “AI sistemleri kurumlarฤฑn yeterince deฤerlendiremediฤi stratejiler geliลtirirse ve kuruluลlarฤฑn tepki verebileceฤinden daha hฤฑzlฤฑ hareket ederse, somut insan kontrolรผ ortadan kalkabilir” deฤerlendirmesinde bulundu. Rapor, beล yฤฑllฤฑk zaman รงizelgesinin bir “tahmin deฤil, karลฤฑ planlama yapฤฑlmasฤฑ gereken bir olasฤฑlฤฑk” olduฤunu vurguladฤฑ.
Kรผresel yavaลlama anlaลmasฤฑ olasฤฑlฤฑฤฤฑ dรผลรผk gรถrรผlรผyor
Enstitรผ, Anthropic’ten Dario Amodei ve OpenAI’dan Sam Altman gibi yรถneticilerin รงaฤrฤฑsฤฑnda bulunduฤu รผlkeler arasฤฑ yavaลlama anlaลmasฤฑnฤฑn gerรงekleลme ihtimalini bรผyรผk รถlรงรผde dรผลรผk buldu. Raporda, “Sฤฑnฤฑrฤฑ yavaลlatmak acil ve baฤlayฤฑcฤฑ dรผzenleme gerektirir; bu da mevcut uluslararasฤฑ ortamda pek olasฤฑ gรถrรผnmรผyor” ifadesi yer aldฤฑ. Bazฤฑ milletvekillerinin รถnerdiฤi AI “kapatma dรผฤmesi” fikrinin de kรผresel รถlรงekte uygulanmasฤฑ gerektiฤinden pek olasฤฑ olmadฤฑฤฤฑ belirtildi; ancak kurum, modelleri kapatmaya yรถnelik รถnerileri deฤerlendireceฤini aรงฤฑkladฤฑ. Enstitรผ ayrฤฑca sistemler piyasaya sรผrรผlmeden รถnce test edilmesini ve devreye alฤฑndฤฑktan sonra izlenmesini kapsayan resmi bir doฤrulama sistemi รงaฤrฤฑsฤฑnda bulundu.
Burnham, yapay zekanฤฑn tehditlerine karลฤฑ kรผresel bir รงabaya ihtiyaรง duyulduฤunu sรถyledi ancak Britanya, birรงok dรผnya liderinin desteklediฤi ve sistemlerin piyasaya sรผrรผlmeden รถnce zorunlu testten geรงirilmesini talep eden mektubu imzalamadฤฑ. Teknoloji ลirketi yรถneticileri, dijital ajanlarฤฑn siber saldฤฑrฤฑlar baลlattฤฑฤฤฑ veya test ortamlarฤฑndan kaรงtฤฑฤฤฑ bir dizi olayฤฑn ardฤฑndan son haftalarda koordineli bir yavaลlama รงaฤrฤฑsฤฑnda bulundu. Altman pazartesi gรผnรผ uluslararasฤฑ dรผzeyde kabul gรถrmรผล yapay zeka gรผvenlik standartlarฤฑ ile gรผvenlik olaylarฤฑnฤฑn bildirilmesine yรถnelik ortak kurallar รงaฤrฤฑsฤฑnda bulundu. Anthropic ve OpenAI’daki gรผvenlik uzmanlarฤฑ, yapay zekanฤฑn on yฤฑl iรงinde insanlฤฑฤฤฑ yok edebileceฤi konusunda uyardฤฑ. Buna karลฤฑn ABD Baลkanฤฑ Trump รงaฤrฤฑlarฤฑ reddetti, yapay zeka gรผvenliฤine iliลkin endiลeleri “aldatmaca” olarak nitelendirdi ve ABD’nin รin karลฤฑsฤฑnda รถne geรงmeyi sรผrdรผrmesi gerektiฤini vurguladฤฑ.
AI beล yฤฑl iรงinde insan kontrolรผnden รงฤฑkabilir mi?
Alan Turing Enstitรผsรผ’ne gรถre sรผper zekalฤฑ AI sistemlerinin beล yฤฑl iรงinde ortaya รงฤฑkmasฤฑ ve insan yeteneklerini aลmasฤฑ “gerรงekรงi bir olasฤฑlฤฑk” olarak deฤerlendiriliyor; ancak kurum bunun bir tahmin deฤil, karลฤฑ planlama yapฤฑlmasฤฑ gereken bir senaryo olduฤunu vurguluyor.
Alan Turing Enstitรผsรผ, baฤlayฤฑcฤฑ ve acil dรผzenleme gerektirdiฤi iรงin mevcut uluslararasฤฑ ortamda bรถyle bir yavaลlama anlaลmasฤฑnฤฑn saฤlanma ihtimalini dรผลรผk buluyor.
