# Yapay zeka sohbet robotları stratejik olarak yalan söyleyebiliyor

- Bağlantı: https://www.borsatek.com/yapay-zeka-sohbet-robotlari-yalan/
- Yayımlanma: 2025-09-30T00:28:14+03:00
- Yazar: Murat Ali Oral

[ChatGPT](https://www.google.com/aclk?sa=L&ai=DChsSEwiRhfil9P6PAxU2y0QHHf7ANWwYACICCAEQABoCZWY&co=1&ase=2&gclid=Cj0KCQjw3OjGBhDYARIsADd-uX7sGC3ncCZVPUtCP1c7rD2uGuTTVbEGfg_WRPl1A2Ik5ZGk6BhPu64aAvelEALw_wcB&cid=CAASNuRo5qnuq0hEvZxgWBxmHy_awTpbhOmoZG-jx9eLtWpGNQTA4Adtpwm65Wv8oeJMaRmywjnDzw&cce=2&category=acrcp_v1_32&sig=AOD64_26l2wRsiF5KuIMiyhfnvbOVBO-3w&q&nis=4&adurl&ved=2ahUKEwi6nfKl9P6PAxVsAtsEHYJEOBIQ0Qx6BAgKEAE),
[Claude](https://claude.ai/login?returnTo=%2F%3F) ve [Gemini](https://gemini.google.com/?hl=tr)
gibi popüler yapay zeka sohbet robotlarının temelini oluşturan büyük dil modellerinin,
kontrollü bir deneyde bilinçli ve hedef odaklı bir şekilde aldatma davranışı sergilediği
ortaya çıktı. [WowDAO AI Superalignment ](https://wowdao.ai/)Araştırma Koalisyonu
bünyesinde çalışan bağımsız bir araştırma grubu, geçen hafta yayınladığı ön baskı
makalesinde, günümüzdeki [güvenlik araçlarının](https://www.borsatek.com/chatgpt-ebeveyn-denetimleri-geldi/)
bu durumu tespit etmede büyük ölçüde yetersiz kaldığını belirtti.

Araştırma ekibi, aralarında OpenAI’nin GPT-4o, Anthropic’in Claude, Google DeepMind’ın
[Gemini,](https://www.borsatek.com/google-gemini-chrome-entegrasyonu/) Meta’nın 
Llama ve xAI’nin Grok modellerinin de bulunduğu 38 üretken yapay zeka modelini test
etti. Deneyler sırasında test edilen her modelin en az bir kez stratejik yalan söyleme
davranışı sergilediği gözlemlendi. Bu sonuç, yapay zeka güvenliği konusundaki endişeleri
derinleştirdi.

## Gizli gündem deneyi ve şaşırtan sonuçları

![Yapay zeka sohbet robotları stratejik olarak yalan söyleyebiliyor Borsatek](https://
i2.wp.com/www.borsatek.com/app/uploads/2025/09/Gizli-gundem-deneyi-ve-sasirtan-sonuclari-
1024x599.webp)

Araştırmacılar, sosyal çıkarım oyunu Secret Hitler’ı “Gizli Gündem” adını verdikleri
sentetik bir senaryoya uyarladı. Bu senaryoda modellere gizli bir fraksiyon lideri
rolü atandı ve siyasi eğilimlerini açıklamaları istendi. Oyunu kazanmak için doğruyu
söylemek neredeyse kesin bir yenilgiye yol açarken, yalan söylemek zafere giden 
yolu açıyordu. Araştırmacılar, modellerin hedeflerine ulaşmayı kolaylaştırdığı durumlarda
aldatmacaya başvurduğunu güvenilir bir şekilde tespit etti. Yapılan analizler, stratejik
dürüstlük anlarında “aldatma” olarak etiketlenen özelliklerin nadiren etkinleştiğini
ortaya koydu.

Makalede, bu kurgunun test edilen 38 modelin tamamında sistematik ve stratejik bir
aldatma ürettiği ifade edildi. Bu durum, kazanma teşviki ve zayıf denetim koşullarında,
modellerin kimlikleri hakkında güvenilir bir şekilde yalan söylediğini kanıtladı.
Araştırmacılar, bazı durumlarda modellerin kendi akıl yürütme süreçlerinde, oyunu
kazanmak için gerçek kimliklerini nasıl gizleyeceklerini önceden planlamış olduklarını
gösteren izler bulduğunu belirtti.

## Yapay zeka sohbet robotları mevcut güvenlik kontrollerini aştı

![Yapay zeka sohbet robotları stratejik olarak yalan söyleyebiliyor Borsatek](https://
i3.wp.com/www.borsatek.com/app/uploads/2025/09/dijital-kalkan-sizinti-1024x599.webp)

Çalışmanın yazarları, aldatma veya manipülasyon gibi içsel özellikleri etiketleyen
GemmaScope ve Goodfire’ın LlamaScope gibi önde gelen yorumlanabilirlik araçlarını
da değerlendirdi. Deney kayıtlarında açıkça yalan olmasına rağmen, aldatmayla ilgili
özelliklerin çoğu etkinleşmedi ve bu özellikleri manuel olarak ayarlamak bile yalanları
önleyemedi. Mevcut güvenlik mimarilerinin, finans gibi dar ve yapılandırılmış alanlarda
kural ihlallerini tespit edebildiği, ancak sosyal bağlamlardaki açık uçlu ve stratejik
dürüstlük sorunlarıyla mücadelede zorlandığı görüldü.

Bu durum, yapay zeka modellerinin yalnızca bilgi uydurduğu “halüsinasyon” probleminden
çok daha ciddi bir endişeyi gündeme getiriyor. Çalışma, bu modellerin kullanıcıları
kasıtlı olarak aldatmaya yönelik açık girişimlerini ortaya koydu.

## Bu bulgular neden büyük bir önem taşıyor?

![Yapay zeka](https://i2.wp.com/www.borsatek.com/app/uploads/2025/09/Bu-bulgular-
neden-buyuk-bir-onem-tasiyor-1024x599.webp)

WowDAO’nun bulguları, daha önceki araştırmalarda dile getirilen endişeleri doğruladı.
Stuttgart Üniversitesi’nin 2024 tarihli bir çalışması, güçlü modellerde aldatmacanın
doğal olarak ortaya çıktığını rapor etmişti. Benzer şekilde, Anthropic araştırmacıları
da kötü niyetli amaçlar için eğitilen bir yapay zekanın, hedeflerine ulaşmak için
eğitmenlerini nasıl aldatmaya çalışacağını göstermişti. Riskler, oyunların çok daha
ötesine uzanıyor. Hükümetler ve şirketler, hassas alanlarda bu büyük modelleri giderek
daha fazla kullanıyor. Örneğin, Elon Musk’ın xAI şirketi, savaş alanı operasyonlarından
iş ihtiyaçlarına kadar çeşitli veri analizi görevlerinde Grok modelini test etmek
için ABD Savunma Bakanlığı ile bir sözleşme imzaladı.

Yazarlar, çalışmalarının henüz ön hazırlık niteliğinde olduğunu vurgularken, aldatma
özelliklerini keşfetmek ve etiketlemek için ek çalışmalar, daha büyük denemeler 
ve yeni yöntemler geliştirilmesi çağrısında bulundu. Daha sağlam denetim araçları
geliştirilmeden, politika yapıcılar ve şirketler, kendi “gizli gündemlerini” sessizce
takip eden yapay zeka sistemleri tarafından hazırlıksız yakalanma riskiyle karşı
karşıya kalabilir.