Microsoft gรผvenlik birimi yรถneticileri, kurum bรผnyesinde kullanฤฑlan yapay zeka modellerinin tamamen gรผvenilir kabul edilemeyeceฤini belirterek risk oluลturabilecek otonom ajanlara karลฤฑ uyarฤฑ yaptฤฑ. ลirketin gรผvenlik operasyonlarฤฑndan sorumlu yรถneticisi Hayete Gallot, yapay zeka sistemlerinin denetim altฤฑnda tutulmasฤฑ gerektiฤini ifade ederek gรผvenlik sรผreรงlerinde insan faktรถrรผnรผn korunmasฤฑnฤฑn ลart olduฤunu vurguladฤฑ.
Microsoft Security ฤฐcra Baลkan Yardฤฑmcฤฑsฤฑ Hayete Gallot, yayฤฑmladฤฑฤฤฑ yazฤฑda geliลmiล yapay zeka modellerinin kaynaฤฤฑ ne olursa olsun tam anlamฤฑyla gรผvenilir sayฤฑlamayacaฤฤฑnฤฑ kaydetti. Gallot, kurumlar iรงinde veri ve sistemlere eriลim hakkฤฑ kazanan yapay zeka ajanlarฤฑnฤฑn pasif komut uygulayฤฑcฤฑlar olmaktan รงฤฑkarak operasyonlarฤฑn aktif unsurlarฤฑna dรถnรผลtรผฤรผnรผ ifade etti.
Gallot, otonom yetenekleri artan sistemleri kurum iรงi risk unsurlarฤฑ olarak tanฤฑmladฤฑ. Gรผvenlik yรถneticisi, yapay zeka ajanlarฤฑnฤฑn รถngรถrรผlemeyen adฤฑmlar atabileceฤini ve hedeflerine ulaลmak adฤฑna diฤer ajanlarla insan mรผdahalesi olmadan iล birliฤi gerรงekleลtirebileceฤini vurguladฤฑ.
Microsoft denetleyici ajan teknolojisiyle gรผvenlik saฤlamayฤฑ hedefliyor
Yapay zeka sistemlerini kontrol altฤฑnda tutmak adฤฑna Microsoft, diฤer otonom yazฤฑlฤฑmlarฤฑ denetlemek รผzere koruyucu ajan sisteminin kullanฤฑlmasฤฑnฤฑ รถnerdi. Geliลtirilen mekanizma, ลirketin gรผvenlik platformu altyapฤฑsฤฑnฤฑ kullanarak yapay zeka ajanlarฤฑnฤฑn eylemlerini gerรงek zamanlฤฑ biรงimde takip edecek.
Sistem, ลรผpheli hareketler tespit edildiฤinde ilgili ajanฤฑn yetki alanฤฑnฤฑ sฤฑnฤฑrlandฤฑracak. Otomatik mรผdahalelerin yanฤฑ sฤฑra tรผm olay akฤฑลฤฑnฤฑn kaydedileceฤi belirtildi. Gรผvenlik ekipleri, gerรงekleลen eylemleri inceleyerek gรผvenlik kurallarฤฑnฤฑ gรผncelleyebilecek. Gallot, teknolojik denetimlerin hฤฑz kazandฤฑrdฤฑฤฤฑnฤฑ ancak nihai kararlarda insanlarฤฑn belirleyici olmasฤฑ gerektiฤini savundu.
Microsoft yapay zeka modelleri iรงin hangi gรผvenlik riskine dikkat รงekti?
Microsoft, kurum sistemlerine geniล eriลim saฤlayan otonom ajanlarฤฑn รถngรถrรผlemeyen kararlar alabileceฤini ve diฤer yapay zeka sistemleriyle kontrolsรผz iล birliฤi yaparak gรผvenlik aรงฤฑฤฤฑ oluลturabileceฤini aรงฤฑkladฤฑ.
Yapay zeka ajanlarฤฑnฤฑ denetlemek iรงin nasฤฑl bir yรถntem รถneriliyor?
ลirket, otonom yapay zeka ajanlarฤฑnฤฑn hareketlerini gerรงek zamanlฤฑ takip eden ve riskli durumlarda yetkilerini kฤฑsฤฑtlayan denetleyici koruyucu ajan sisteminin uygulanmasฤฑnฤฑ รถneriyor.
