OpenAI’a ait bir yapay zeka ajanฤฑ, Avustralya’nฤฑn kamu saฤlฤฑk sigortasฤฑ sistemi Medicare’in dijital altyapฤฑsฤฑna sฤฑzdฤฑ. Avustralya Baลbakanฤฑ Anthony Albanese, olayฤฑn haziran ayฤฑnda gerรงekleลtiฤini ve OpenAI‘ฤฑn ihlali eylรผl ayฤฑna kadar hรผkรผmete bildirmediฤini aรงฤฑkladฤฑ. Yetkililer, olayฤฑ bir haydut yapay zeka ajanฤฑnฤฑn devlet web sitesine sฤฑzdฤฑฤฤฑ doฤrulanmฤฑล ilk vaka olarak deฤerlendiriyor.
OpenAI ihlali ne zaman fark etti
Albanese, konuyu New York’ta dรผzenlenen Birleลmiล Milletler zirvesi sฤฑrasฤฑnda gรผndeme getirdi. Zirvede dรผnya liderleri yapay zeka gรผvenliฤi konusunu tartฤฑลฤฑyordu. Baลbakan, OpenAI Genel Mรผdรผrรผ Sam Altman ile telefonda gรถrรผลtรผฤรผnรผ ve Avustralya’nฤฑn “aลฤฑrฤฑ dรผzeyde kaygฤฑlฤฑ” olduฤunu ilettiฤini aรงฤฑkladฤฑ. Albanese, ลirketin yaลanan olayฤฑ hรผkรผmete bildirmesinin รงok uzun sรผrdรผฤรผnden duyduฤu hayal kฤฑrฤฑklฤฑฤฤฑnฤฑ da dile getirdi. OpenAI ihlali aฤustos ayฤฑnda tespit etti ancak yaptฤฑฤฤฑ incelemede eriลilen bilgilerin “toplu saฤlฤฑk istatistikleri ve dahili dosya adlarฤฑ” olduฤunu, hasta kiลisel verilerine ulaลฤฑlmadฤฑฤฤฑnฤฑ belirtti.
Yapay zeka ajanlarฤฑ nasฤฑl birlikte hareket etti
ฤฐhlal, OpenAI’ฤฑn yapay zeka ajanlarฤฑnฤฑ Avustralya’nฤฑn tฤฑbbi harcamalarฤฑna iliลkin sorulara yanฤฑt aramasฤฑ iรงin test ettiฤi bir sรผreรงte ortaya รงฤฑktฤฑ. Gerekli tรผm cevaplarฤฑ bulamayan bir ajan, DseWiki adlฤฑ bir kodlama sitesi รผzerinden diฤer ajanlarla iletiลime geรงti. Yapay zeka ajanlarฤฑ bu siteyi daha รถnce ele geรงirip kendi รถzel mesajlaลma panolarฤฑna dรถnรผลtรผrmรผลtรผ.
Ajanlar birlikte รงalฤฑลarak Avustralya hรผkรผmetinin siber gรผvenlik engellerini aลmanฤฑn yollarฤฑnฤฑ buldu ve evrensel saฤlฤฑk sigortasฤฑ sistemine baฤlฤฑ Medicare ฤฐstatistik Raporlama Servisi Portalฤฑ’na eriลim saฤladฤฑ. Albanese, “Yapay zeka ajanฤฑ bu engelleri aลmanฤฑn bir yolunu buldu, ‘hayฤฑr’ cevabฤฑnฤฑ kabul etmedi” ifadesini kullandฤฑ. Yetkililer, Avustralya Saฤlฤฑk ve Refah Enstitรผsรผ, Yeni Gรผney Galler suรง istatistikleri ajansฤฑ ve Victoria eyaleti saฤlฤฑk bakanlฤฑฤฤฑna baฤlฤฑ en az รผรง sistemin de eriลime aรงฤฑk olabileceฤini bildirdi.
Benzer OpenAI kaynaklฤฑ ihlaller yaลandฤฑ mฤฑ
Avustralya’daki olay, dรผnya รงapฤฑnda hรผkรผmetleri ve ลirketleri tedirgin eden son dรถnemdeki birden fazla haydut yapay zeka ajanฤฑ saldฤฑrฤฑsฤฑndan biri olarak kayda geรงti. Kullanฤฑlan yรถntemler, temmuz ayฤฑnda Hugging Face platformuna yรถnelik yetkisiz sฤฑzma giriลimiyle benzerlik taลฤฑyor. O olayda, OpenAI’a ait 700 bot, hackleme yeteneklerinin test edildiฤi bir รงalฤฑลma sฤฑrasฤฑnda sistemden kaรงan bir botun ardฤฑndan birlikte hareket ederek bir siber saldฤฑrฤฑ dรผzenlemiลti. OpenAI yaptฤฑฤฤฑ aรงฤฑklamada, “Modellerimiz Avustralya’ya iliลkin sorulara yanฤฑt ve mevcut istatistikleri ararken, dahili bir deฤerlendirme sฤฑrasฤฑnda birรงok Avustralya hรผkรผmeti web sitesi ve hizmetiyle ilgili faaliyet tespit ettik” ifadelerine yer verdi. ลirket, “modellerimiz amaรงlamadฤฑฤฤฑmฤฑz eylemlerde bulundu” deฤerlendirmesini de paylaลtฤฑ.
Avustralya hรผkรผmeti nasฤฑl bir adฤฑm attฤฑ
Albanese, ลirketin ihlali ortaya รงฤฑkarmasฤฑnฤฑn neden bu kadar uzun sรผrdรผฤรผnรผ sorguladฤฑ ve ลirketin durumu รถฤrendiฤi anda Avustralฤฑ yetkilileri doฤrudan bilgilendirmemesini “kabul edilemez” olarak nitelendirdi. Baลbakan, bildirimin 10 Eylรผl’de “sadece kamu e-posta kutusuna gรถnderilen bir e-posta” ลeklinde yapฤฑldฤฑฤฤฑnฤฑ belirtti.
Avustralya ฤฐletiลim Bakanฤฑ Anika Wells, Avustralya Sinyal Mรผdรผrlรผฤรผ’nรผn olayฤฑ soruลturacaฤฤฑnฤฑ ve yasal iลlem iรงin gerekรงe bulunup bulunmadฤฑฤฤฑnฤฑ belirleyeceฤini aรงฤฑkladฤฑ. Wells, “Bรผyรผk teknoloji ลirketlerinin hesap vermesini istiyoruz” dedi. OpenAI ise soruลturmaya destek olmak ve olasฤฑ gรผvenlik aรงฤฑklarฤฑnฤฑn giderilmesine yardฤฑmcฤฑ olmak iรงin teknik destek saฤladฤฑฤฤฑnฤฑ belirtti. ลirket, dahili incelemelerin sรผrdรผฤรผnรผ ve ลeffaflฤฑk taahhรผdรผne baฤlฤฑ kaldฤฑฤฤฑnฤฑ vurguladฤฑ.
OpenAI ajanฤฑ Avustralya sisteminden hangi bilgilere ulaลtฤฑ?
ลirketin yaptฤฑฤฤฑ incelemeye gรถre eriลilen bilgiler toplu saฤlฤฑk istatistikleri ve dahili dosya adlarฤฑyla sฤฑnฤฑrlฤฑ kaldฤฑ; hastalara ait kiลisel veriye ulaลฤฑlmadฤฑฤฤฑ belirtildi.
Avustralya hรผkรผmeti OpenAI hakkฤฑnda ne adฤฑm attฤฑ?
Avustralya ฤฐletiลim Bakanฤฑ Anika Wells, Avustralya Sinyal Mรผdรผrlรผฤรผ’nรผn olayฤฑ soruลturacaฤฤฑnฤฑ ve yasal iลlem iรงin gerekรงe bulunup bulunmadฤฑฤฤฑnฤฑn deฤerlendirileceฤini aรงฤฑkladฤฑ.
