ฤฐngiliz yetkililer, araลtฤฑrmalarฤฑn zararlฤฑ gรถrevleri yerine getirmeleri iรงin kandฤฑrฤฑlabileceklerini giderek daha fazla gรถsterdiฤini sรถyleyerek, kuruluลlarฤฑ yapay zeka odaklฤฑ sohbet robotlarฤฑnฤฑ iลletmelerine entegre etme konusunda uyarฤฑyor.
ฤฐngiltere Ulusal Siber Gรผvenlik Merkezi, รarลamba gรผnรผ yayฤฑnlanacak bir รงift blog yazฤฑsฤฑnda, uzmanlarฤฑn, bรผyรผk dil modelleri ya da LLM’ler olarak adlandฤฑrฤฑlan, insan sesine benzeyen etkileลimler รผretebilen algoritmalara baฤlฤฑ potansiyel gรผvenlik sorunlarฤฑnฤฑ henรผz รงรถzemediklerini sรถyledi.
Yapay zeka destekli araรงlar, bazฤฑlarฤฑnฤฑn sadece internet aramalarฤฑnฤฑn deฤil, aynฤฑ zamanda mรผลteri hizmetleri รงalฤฑลmalarฤฑnฤฑn ve satฤฑล aramalarฤฑnฤฑn da yerini almasฤฑnฤฑ รถngรถrdรผฤรผ sohbet robotlarฤฑ olarak henรผz bu geรงiล iรงin erken olduฤunu dรผลรผnรผyor.
NCSC, รถzellikle bu tรผr modellerin kuruluลun iล sรผreรงlerinin diฤer unsurlarฤฑna baฤlanmasฤฑ durumunda riskler taลฤฑyabileceฤini sรถyledi. Akademisyenler ve araลtฤฑrmacฤฑlar defalarca chatbot’larฤฑ hileli komutlarla besleyerek ya da kendi yerleลik korkuluklarฤฑnฤฑ atlatmalarฤฑ iรงin kandฤฑrarak onlarฤฑ alt etmenin yollarฤฑnฤฑ buldular.
รrneฤin, bir banka tarafฤฑndan konuลlandฤฑrฤฑlan yapay zeka destekli bir sohbet robotu, bir bilgisayar korsanฤฑnฤฑn sorgusunu doฤru yapฤฑlandฤฑrmasฤฑ halinde yetkisiz bir iลlem yapmak รผzere kandฤฑrฤฑlabilir.
NCSC, blog yazฤฑlarฤฑndan birinde, deneysel yazฤฑlฤฑm sรผrรผmlerine atฤฑfta bulunarak, “LLM’leri kullanan hizmetler geliลtiren kuruluลlarฤฑn, beta aลamasฤฑnda olan bir รผrรผn veya kod kรผtรผphanesi kullanฤฑrken olduฤu gibi dikkatli olmalarฤฑ gerekir” dedi ve ekledi:
“Bu รผrรผnรผn mรผลteri adฤฑna iลlem yapmasฤฑna izin vermeyebilirler ve umarฤฑm bu รผrรผne tam olarak gรผvenmezler. Benzer tedbirler LLM’ler iรงin de geรงerli olmalฤฑdฤฑr.”
Dรผnyanฤฑn dรถrt bir yanฤฑndaki yetkililer, iลletmelerin satฤฑล ve mรผลteri hizmetleri de dahil olmak รผzere รงok รงeลitli hizmetlere dahil ettiฤi OpenAI’nin ChatGPT’si gibi LLM’lerin yรผkseliลiyle boฤuลuyor. ABD ve Kanada’daki yetkililer, bilgisayar korsanlarฤฑnฤฑn teknolojiyi benimsediฤini gรถrdรผklerini sรถylerken, yapay zekanฤฑn gรผvenlik etkileri de hala odak noktasฤฑ olmaya devam ediyor.
