# Yapay zeka sohbet robotları siber güvenlik riski taşıyor

- Bağlantı: https://www.borsatek.com/yapay-zeka-sohbet-robotlari-siber-guvenlik-riski-tasiyor-101359h/
- Yayımlanma: 2023-08-30T08:05:44+03:00
- Yazar: Selim Soydan

İngiliz yetkililer, araştırmaların zararlı görevleri yerine getirmeleri için kandırılabileceklerini
giderek daha fazla gösterdiğini söyleyerek, kuruluşları [yapay zeka](https://www.borsatek.com/google-yapay-zeka-uygulamasini-ucretli-yapacak-101352h)
odaklı sohbet robotlarını işletmelerine entegre etme konusunda uyarıyor.

İngiltere Ulusal Siber Güvenlik Merkezi, Çarşamba günü yayınlanacak bir çift blog
yazısında, uzmanların, büyük dil modelleri ya da LLM’ler olarak adlandırılan, insan
sesine benzeyen etkileşimler üretebilen algoritmalara bağlı potansiyel güvenlik 
sorunlarını henüz çözemediklerini söyledi.

Yapay zeka destekli araçlar, bazılarının sadece internet aramalarının değil, aynı
zamanda müşteri hizmetleri çalışmalarının ve satış aramalarının da yerini almasını
öngördüğü sohbet robotları olarak henüz bu geçiş için erken olduğunu düşünüyor.

NCSC, özellikle bu tür modellerin kuruluşun iş süreçlerinin diğer unsurlarına bağlanması
durumunda riskler taşıyabileceğini söyledi. Akademisyenler ve araştırmacılar defalarca
chatbot’ları hileli komutlarla besleyerek ya da kendi yerleşik korkuluklarını atlatmaları
için kandırarak onları alt etmenin yollarını buldular.

Örneğin, bir banka tarafından konuşlandırılan yapay zeka destekli bir sohbet robotu,
bir bilgisayar korsanının sorgusunu doğru yapılandırması halinde yetkisiz bir işlem
yapmak üzere kandırılabilir.

NCSC, blog yazılarından birinde, deneysel yazılım sürümlerine atıfta bulunarak, “
LLM’leri kullanan hizmetler geliştiren kuruluşların, beta aşamasında olan bir ürün
veya kod kütüphanesi kullanırken olduğu gibi dikkatli olmaları gerekir” dedi ve 
ekledi:

“Bu ürünün müşteri adına işlem yapmasına izin vermeyebilirler ve umarım bu ürüne
tam olarak güvenmezler. Benzer tedbirler LLM’ler için de geçerli olmalıdır.”

Dünyanın dört bir yanındaki yetkililer, işletmelerin satış ve müşteri hizmetleri
de dahil olmak üzere çok çeşitli hizmetlere dahil ettiği OpenAI’nin ChatGPT’si gibi
LLM’lerin yükselişiyle boğuşuyor. ABD ve Kanada’daki yetkililer, bilgisayar korsanlarının
teknolojiyi benimsediğini gördüklerini söylerken, yapay zekanın güvenlik etkileri
de hala odak noktası olmaya devam ediyor.