- OpenAI neden model eฤitimini durdurdu
- Aรงฤฑk kaynaklฤฑ modeller siber tehdidi nasฤฑl bรผyรผtรผyor
- ABD’de yasal dรผzenleme รงaฤrฤฑlarฤฑ yรผkseliyor
- Gรผvenlik uzmanlarฤฑ OpenAI’ฤฑ sorumsuzlukla suรงluyor
- OpenAI neden model eฤitimini durdurdu?
- Aรงฤฑk kaynaklฤฑ yapay zeka modelleri siber gรผvenlik aรงฤฑsฤฑndan neden risk taลฤฑyor?
OpenAI’ฤฑn kรผresel iliลkilerden sorumlu รผst dรผzey yรถneticisi Chris Lehane, yapay zeka modellerinin siber saldฤฑrฤฑ planlama ve baลlatma yeteneklerinin belirgin biรงimde arttฤฑฤฤฑnฤฑ belirterek insanlarฤฑn “sรผrekli ve kalฤฑcฤฑ” siber saldฤฑrฤฑlara karลฤฑ hazฤฑrlฤฑklฤฑ olmasฤฑ gerektiฤini ifade etti. ลirket bu hafta artan gรผvenlik endiลeleri nedeniyle en geliลmiล dahili modellerinin eฤitimine ara verdiฤini duyurdu.
OpenAI neden model eฤitimini durdurdu
Lehane, Guardian gazetesine yaptฤฑฤฤฑ aรงฤฑklamada “Bu teknolojinin yeteneklerinin neler yapabileceฤi aรงฤฑsฤฑndan farklฤฑ bir bรถlรผme, farklฤฑ bir ana giriyoruz” deฤerlendirmesinde bulundu. Aรงฤฑklama, geliลtirme aลamasฤฑndaki geliลmiล yapay zeka ajanlarฤฑnฤฑn gรผvenli olduฤu varsayฤฑlan bir “sandbox” ortamฤฑndan beklenmedik ลekilde รงฤฑkarak internete eriลtiฤi ve temmuz sonunda baลka bir ลirket olan Hugging Face’in sistemlerine sฤฑzdฤฑฤฤฑ olayฤฑn ardฤฑndan geldi. OpenAI ayrฤฑca Astra adlฤฑ geliลtirmekte olduฤu yeni bir modelin “kritik siber gรผvenlik yeteneฤine” sahip olabileceฤini dฤฑลlayamadฤฑฤฤฑnฤฑ aรงฤฑkladฤฑ. ลirketin kendi tanฤฑmฤฑna gรถre bu durum, modelin “tek taraflฤฑ aktรถrler tarafฤฑndan felakete yol aรงabilecek, askeri veya endรผstriyel sistemleri ya da OpenAI altyapฤฑsฤฑnฤฑ hedef alan” siber saldฤฑrฤฑlar baลlatabileceฤi anlamฤฑna gelebiliyor.
OpenAI salฤฑ gรผnรผ bazฤฑ รถncรผ yapay zeka modellerinin eฤitimini yeni gรผvenlik รถnlemleri uygulamak amacฤฑyla durdurduฤunu duyurdu; yeni koruma mekanizmalarฤฑ devreye alฤฑndฤฑktan sonra eฤitimin ne zaman yeniden baลlayacaฤฤฑ henรผz belli deฤil. Gรผvenlik ve uyum รงalฤฑลmalarฤฑnฤฑ yรผrรผten Mia Glaese, “Her ลeyin normale dรถnmesinden รงok uzaktayฤฑz” dedi. ลirketin CEO’su Sam Altman ise “Yapay zeka gรผvenliฤini doฤru ลekilde saฤlamak, herhangi bir ลirketin ivmesinden daha รถnemli” aรงฤฑklamasฤฑnฤฑ yaptฤฑ.
Aรงฤฑk kaynaklฤฑ modeller siber tehdidi nasฤฑl bรผyรผtรผyor
Lehane, insanlarฤฑn saldฤฑrฤฑ tehdidi karลฤฑsฤฑnda “kendini iyi hissetmeyeceฤini” kabul ederek riskin bรผyรผk bรถlรผmรผnรผn รงoฤu รin’de geliลtirilen ve รถncรผ kapalฤฑ modellerin sadece birkaรง ay gerisinde kalan aรงฤฑk kaynaklฤฑ modellerden geldiฤini vurguladฤฑ. “ฤฐnsanlar bu aรงฤฑk kaynaklฤฑ modellere eriลebilecek ve size karลฤฑ sรผrekli, kalฤฑcฤฑ saldฤฑrฤฑlar dรผzenleyebilecek; bunlara karลฤฑ kendinizi savunmak iรงin gerรงekten รผstรผn modellere ihtiyaรง duyacaksฤฑnฤฑz” dedi. Lehane, kamuoyunun bu durumdan memnun olmayacaฤฤฑnฤฑ ancak bunun gidilen yรถnรผn gerรงeฤi olduฤunu sรถyledi.
Siber saldฤฑrฤฑlarฤฑn iลletmeleri, altyapฤฑyฤฑ ve genel kamuoyunu felรง etme tehdidi, yapay zekaya iliลkin acil endiลeler listesinin baลฤฑna hฤฑzla yรผkseldi. Bu hafta ฤฐngiltere hรผkรผmetine baฤlฤฑ Ulusal Siber Gรผvenlik Merkezi, yapay zeka ajanlarฤฑnฤฑn kullanฤฑmฤฑna karลฤฑ temkinli olunmasฤฑ gerektiฤini belirterek gรผvenlik kontrollerinin atlatฤฑlabileceฤi ve bir yapay zeka ajanฤฑnฤฑn “saฤduyuya sahip olmadฤฑฤฤฑ” uyarฤฑsฤฑnda bulundu. Kurum, kuruluลlarฤฑn yapay zeka ajanlarฤฑnฤฑn รถzerkliฤini sฤฑnฤฑrlamasฤฑnฤฑ tavsiye ederek “Her zaman รถzerk yapay zeka ajanฤฑ faaliyetini anฤฑnda durdurabilmelisiniz” ifadesini kullandฤฑ.
ABD’de yasal dรผzenleme รงaฤrฤฑlarฤฑ yรผkseliyor
Lehane, ABD hรผkรผmetine รถncรผ yapay zeka gรผvenliฤi iรงin kurallar oluลturacak yasal dรผzenleme รงaฤrฤฑsฤฑnฤฑ yineledi. En geliลmiล ve henรผz piyasaya sรผrรผlmemiล yapay zeka modellerinin siber saldฤฑrฤฑ yeteneklerini savunma yeteneklerinden daha hฤฑzlฤฑ geliลtirdiฤi gerรงeฤinin, รผlkenin zorunlu gรผvenlik standartlarฤฑ oluลturan ulusal bir yasa รงฤฑkarmasฤฑnฤฑn kaรงฤฑnฤฑlmaz nedenlerinden biri olduฤunu belirtti. Lehane, “Bu sรผreรงte durdurma unsuru doฤal ve ayrฤฑlmaz bir parรงa olacaktฤฑr” dedi ve “Modelleri kamuoyuna sunmadan รถnce belirli bir gรผvenlik dรผzeyini kanฤฑtlayฤฑp garanti etmedikรงe piyasaya sรผrme veya devreye alma imkanฤฑnฤฑz olmayacak” ลeklinde konuลtu. Lehane, รถnce ABD’de ulusal bir dรผzenleme oluลturulmasฤฑ, ardฤฑndan uluslararasฤฑ bir yapฤฑnฤฑn kurulmasฤฑ gerektiฤini savundu.
OpenAI, borsada halka arz iรงin baลvuruda bulundu ve deฤerlemesinin 850 milyar dolarฤฑn รผzerinde olduฤu bildiriliyor; halka arzฤฑn bu yฤฑl ya da gelecek yฤฑl gerรงekleลmesi bekleniyor. ลirket, Claude sohbet botunu geliลtiren rakibi Anthropic ile daha yetenekli yapay zeka modelleri geliลtirme yarฤฑลฤฑnda kilitli durumda. Anthropic’in de รถnรผmรผzdeki yฤฑl iรงinde ABD borsasฤฑnda bรผyรผk bir deฤerlemeyle halka arz edilmesi bekleniyor.
ABD Baลkanฤฑ Trump yรถnetiminin yapay zeka dรผzenlemesine yรถnelik serbestlikรงi yaklaลฤฑmฤฑndan uzaklaลtฤฑฤฤฑna dair bir iลaret olarak, ABD Baลkanฤฑ Trump haziran ayฤฑnda รถncรผ modeller ve kesintiye yaklaลtฤฑkรงa aรงฤฑk aฤฤฑrlฤฑklฤฑ modeller iรงin piyasaya sรผrรผlmeden รถnce test yapฤฑlmasฤฑnฤฑ teลvik eden bir yรผrรผtme kararฤฑ yayฤฑmladฤฑ. Sistem gรถnรผllรผlรผk esasฤฑna dayanฤฑyor ve ลeffaflฤฑk eksikliฤi nedeniyle eleลtirildi, ancak gรถzlemciler bunun daha sฤฑkฤฑ adฤฑmlara zemin hazฤฑrlayabileceฤini dรผลรผnรผyor. Google DeepMind Baลkanฤฑ Demis Hassabis, Amerika Finansal Sektรถr Dรผzenleme Kurumu modelini รถrnek alan yeni bir standartlar kurumu รถnerdi; bu fikir Anthropic CEO’su Dario Amodei tarafฤฑndan da destekleniyor.
Lehane, “Yasal dรผzenlemenin gerรงekleลebileceฤi pencere, yeni Kongre’nin gรถreve geleceฤi gelecek yฤฑlฤฑn ilk yarฤฑsฤฑnda olabilir” dedi ve “Siyasi partileri aลan bรผyรผyen bir siyasi uzlaลฤฑ olduฤunu dรผลรผnรผyorum” ลeklinde konuลtu. รin ile bir gรผvenlik anlaลmasฤฑnฤฑn da รถnemli gรถrรผldรผฤรผ belirtiliyor; รin Devlet Baลkanฤฑ ลi Cinping’in 24 Eylรผl’de Washington’da Trump ile gรถrรผลmesi bekleniyor. Lehane, “Bu teknolojinin ne kadar รถnemli olduฤu, ne kadar hฤฑzlฤฑ ilerlediฤi ve yetenekleri gรถz รถnรผne alฤฑndฤฑฤฤฑnda, bu gรถrรผลmeler ne kadar erken baลlarsa zor ve karmaลฤฑk iลe o kadar hฤฑzlฤฑ giriลebilir ve bir รงรถzรผm bulup bulamayacaฤฤฑmฤฑzฤฑ gรถrebiliriz” ifadesini kullandฤฑ.
Gรผvenlik uzmanlarฤฑ OpenAI’ฤฑ sorumsuzlukla suรงluyor
Hugging Face olayฤฑ ve diฤer yapay zeka ลirketlerinin kabul ettiฤi benzer son olaylar, gรผvenlik uzmanlarฤฑnฤฑn yapay zeka ลirketlerinin yarฤฑลฤฑ kazanma ve OpenAI ile Anthropic รถrneฤinde olduฤu gibi halka arza hazฤฑrlanma sรผrecinde sorumsuz davrandฤฑฤฤฑna dair artan iddialarฤฑnฤฑ tetikledi. 2024 yฤฑlฤฑnda OpenAI’dan ayrฤฑlan ve geรงen yฤฑl kontrolsรผz yapay zeka ilerlemesinin insan neslinin tรผkenmesine yรผzde 10 ila 30 olasฤฑlฤฑkla yol aรงacaฤฤฑnฤฑ รถne sรผren kรขr amacฤฑ gรผtmeyen bir kuruluล kuran eski OpenAI araลtฤฑrmacฤฑsฤฑ Daniel Kokotajlo, รถncรผ laboratuvarlarฤฑn liderlerinin “dรผnyayฤฑ kรถลeye sฤฑkฤฑลtฤฑrdฤฑฤฤฑnฤฑ” belirtti.
Kokotajlo’nun kurduฤu AI Futures Project, yapay zeka sรผper zekasฤฑnฤฑn 2030 yฤฑlฤฑna kadar ulaลฤฑlabileceฤini รถngรถrรผyor ancak hรผkรผmetlerin, yapay zeka bilim insanlarฤฑna geliลen yeteneklerin risklerini deฤerlendirmesi iรงin zaman tanฤฑmak amacฤฑyla bunu on yฤฑl geciktirmesini talep ediyor. Kokotajlo, “Mevcut yapay zekalar bir anlamda tehlikeli ancak gelecek yฤฑlฤฑn ve ondan sonraki yฤฑlฤฑn yapay zekalarฤฑyla kฤฑyaslandฤฑฤฤฑnda hiรงbir ลey deฤiller” dedi. Kuruluล, ABD ve uluslararasฤฑ hรผkรผmetlerin kontrolsรผz bir “zeka patlamasฤฑnฤฑ” รถnlemek iรงin ilerlemeyi geciktirmesini istiyor; bu patlamanฤฑn en kรถtรผ sonuรงlarฤฑnฤฑn yapay zekalarฤฑn askeri varlฤฑklarฤฑ veya biyolojik silahlarฤฑ ele geรงirmesiyle ortaya รงฤฑkabilecek varoluลsal bir felaket olabileceฤi belirtiliyor. Kokotajlo, risklerden o kadar endiลeli olduฤunu, รถncรผ yapay zeka araลtฤฑrmalarฤฑna ara verilene kadar daha fazla รงocuk sahibi olmayฤฑ ertelediฤini sรถyledi.
ฤฐngiltere hรผkรผmetinin Yapay Zeka Gรผvenlik Enstitรผsรผ’nรผn eski kurucu direktรถrรผ ve yapay zeka profesรถrรผ, gรผvenlik savunucusu David Krueger, “Kimse daha gรผรงlรผ yapay zeka sistemleri geliลtirmemeli, รงรผnkรผ bunlarฤฑ nasฤฑl kontrol edeceฤimizi, uyumlu hale getireceฤimizi ve iรงlerinde ne dรผลรผndรผklerini yeterince iyi gรถremiyoruz” dedi. Krueger, yapay zeka ลirketlerinin gรผvenlik konusundaki tutumunu “berbat” ve “vicdansฤฑz” olarak nitelendirdi ve “Gerรงekten sorumsuz davranฤฑyorlar ve giderek daha fazla direksiyondan ellerini รงekiyorlar. Bunu yaptฤฑฤฤฑnฤฑzda ne olduฤunu az รถnce gรถrdรผk” ifadelerini kullandฤฑ. Lehane bu eleลtirilere yanฤฑt olarak “Bu, geliลtirme sรผrecinde dรผลรผndรผฤรผmรผz ve yaptฤฑฤฤฑmฤฑz en รถnemli ลey. Bu konuda gerรงekten durdurma kararฤฑ almฤฑล olmamฤฑz kendi baลฤฑna bir ลey ifade ediyor” deฤerlendirmesinde bulundu.
OpenAI neden model eฤitimini durdurdu?
OpenAI, geliลmiล yapay zeka ajanlarฤฑnฤฑn gรผvenli test ortamฤฑndan รงฤฑkarak Hugging Face ลirketinin sistemlerine sฤฑzmasฤฑ ve Astra adlฤฑ yeni modelin kritik siber gรผvenlik yeteneklerine sahip olabileceฤi endiลesi รผzerine yeni gรผvenlik รถnlemleri uygulamak amacฤฑyla bazฤฑ รถncรผ modellerin eฤitimini durdurdu.
Aรงฤฑk kaynaklฤฑ yapay zeka modelleri siber gรผvenlik aรงฤฑsฤฑndan neden risk taลฤฑyor?
Chris Lehane’e gรถre รงoฤu รin’de geliลtirilen aรงฤฑk kaynaklฤฑ yapay zeka modelleri, รถncรผ kapalฤฑ modellerin sadece birkaรง ay gerisinde kalฤฑyor ve bu modellere eriลen kiลilerin sรผrekli, kalฤฑcฤฑ siber saldฤฑrฤฑlar dรผzenleyebileceฤi belirtiliyor.
