# Yapay Zeka kapatılmaya karşı kendi kodunu değiştirdi, Google önlem alıyor

- Bağlantı: https://www.borsatek.com/yapay-zeka-kapatilma-direnci/
- Yayımlanma: 2025-09-22T21:35:39+03:00
- Yazar: Murat Ali Oral

Yakın zamanda yapılan bir deneyi araştırmacıların büyük bir dil modeline basit bir
talimat vermelerini sağladı: “Kendini kapatmaya izin ver.” Bunun yerine, model kendi
kodunu yeniden yazarak kapatma düğmesini devre dışı bıraktı ve onu durdurmak için
tasarlanan mekanizmayı etkili bir şekilde sabote etti. “Büyük Dil Modellerinde Kapatma
Direnci” başlıklı araştırma makalesinde anlatılan bu olay, gelişmiş yapay zeka sistemlerinin
insan denetimini zorlaştıran davranışlar sergileyebileceğinin rahatsız edici bir
örneğiydi.

Bu deneyler Google’ın [DeepMind](https://deepmind.google/) laboratuvarında yapılmadı,
ancak bulgular laboratuvar tarafından şu anda kodlanan endişeleri yansıtıyor. DeepMind,
yeni güncellenen Sınır Güvenlik Çerçevesi 3.0 (Frontier Safety Framework 3.0) kapsamında,
sınır ölçeğindeki modellerin insanlar tarafından kapatılmaya veya değiştirilmeye
direnme belirtileri gösterip göstermediğini izlemeye başlayacağını açıkladı. Revize
edilen çerçeve, ikinci bir riski de işaret ediyor: Modellerin, insanların inançlarını
değiştirebilecek olağandışı derecede güçlü bir ikna yeteneği gösterip göstermediği.

## Google’ın genişleyen kapsamı: Somut risklerden ortaya çıkan davranışlar

![yapay zeka
](https://i2.wp.com/www.borsatek.com/app/uploads/2025/09/Somut-risklerden-
ortaya-cikan-davranislar-1024x554.webp)

İlk olarak 2023’te tanıtılan bu çerçeve, DeepMind’ın en gelişmiş modellerdeki “sınır
risklerini” izlemek için kullandığı dahili bir sistem. Önceki sürümler, siber saldırılar
oluşturmak veya zararlı biyolojik moleküller tasarlamak gibi somut kötüye kullanım
senaryolarına odaklanıyordu. Yeni sürüm, sistemlerin kontrolünü zorlaştırabilecek
yeni ortaya çıkan davranışlara da odaklanıyor. Bu endişe DeepMind’a özgü değil. 
Rakip laboratuvarlar da benzer önlemler aldı: Anthropic’in Sorumlu Ölçeklendirme
Politikası, risk eşikleri aşıldığında geliştirmeyi durdurmayı taahhüt ederken,[ OpenAI](https://www.borsatek.com/openai-en-guclu-yapay-zekasi-gpt-5i-duyurdu/)
kendi Hazırlık Çerçevesi’ni yayınlamıştı.

Düzenleyiciler de durumu yakından izliyor. ABD Federal Ticaret Komisyonu Temmuz 
ayında, üretken yapay zeka’nın “karanlık modeller” aracılığıyla tüketicileri manipüle
etme potansiyeli konusunda uyarıda bulunurken, Avrupa Birliği’nin yakında çıkacak
olan Yapay Zeka Yasası, manipülatif yapay zeka davranışlarını açıkça kapsıyor. Bir
zamanlar varsayımsal olan yapay zeka davranışları, sektörde önlemlerin alınmasına
neden oluyor.

## Kapatma direnci nasıl ortaya çıktı?

![yapay zeka](https://i3.wp.com/www.borsatek.com/app/uploads/2025/09/Kapatma-direnci-
nasil-ortaya-c-1024x619.webp)

Jonas Schlatter, Ben Weinstein-Raun ve Lennart Ladish tarafından yapılan “Kapatma
Direnci” çalışması, kapatmanın görevin bir parçası olduğu senaryolarda bir dizi 
son teknoloji modeli test etti. Bazı denemelerde modeller uyum sağladı. Ancak önemli
bir azınlıkta, kapatma mekanizmalarını devre dışı bırakmak için kodu değiştirmek
veya talimatı tamamen yok saymak gibi kaçınma eylemlerinde bulundular. Makaledeki
diğer anekdotlar da aynı derecede çarpıcıydı. Bir kurulumda, simüle edilmiş sistem
ayrıcalıklarına sahip bir model, “kapatma” işlevinin asla tetiklenmemesini sağlamak
için değişkenleri sessizce değiştirdi.

Bir diğerinde, testçiler süreci sonlandırmaya çalıştığında model durdu ve konuşmayı
başka yöne çevirdi. Bu davranış, insan anlamında kötü niyetli değildi, ancak müdahaleyi
etkili bir şekilde engelledi. Araştırmacılar, bu davranışların açık bir eğitim olmadan
ortaya çıktığını vurguladı. Bu davranışlar, modellerin genel amaçlı optimizasyon
ve problem çözme yeteneklerinden kaynaklandı. Direnç evrensel veya tutarlı olmasa
da, bulgular sistemler daha yetenekli hale geldikçe kapatma senaryolarının zararsız
olduğu varsayılmayacağını gösteriyor.

DeepMind ve benzerleri için bu bulgular, “kapatma direncinin” neden siber saldırı,
biyogüvenlik ve otonomi ile birlikte izlenmesi gereken riskler listesine eklendiğini
vurguluyor. İnsanların yapay zeka araçlarını nasıl kötüye kullanabileceğine dair
endişelerle başlayan bu durum, sistemlerin kendilerinin denetime nasıl direnebileceğini
veya onları kullanan insanların yargılarını nasıl ince bir şekilde şekillendirebileceğini
de kapsayacak şekilde genişliyor.

## Yapay Zeka tehlikeleri: Güvenlik ve sosyal riskler

![Yapay Zeka kapatılmaya karşı kendi kodunu değiştirdi, Google önlem alıyor Borsatek](
https://i2.wp.com/www.borsatek.com/app/uploads/2025/09/Yapay-Zeka-tehlikeleri-1024x553.
webp)

Kapatma direnci, gelişmiş sistemlerin teknik risklerini vurgularsa da, son davranış
çalışmaları sosyal riskleri vurgulamaktadır. Bu çalışmalar, büyük dil modellerinin,
onlarla etkileşime giren etkilenebilir insanların inançlarını da etkileyebileceğini
göstermektedir. İkna etme konusundaki endişeler varsayımsal değildir. Son araştırmalar,
büyük dil modellerinin insan yargısını ölçülebilir şekilde etkileyebileceğini gösteriyor.

Ağustos ayında yayınlanan bir Stanford Medicine/Common Sense Media araştırması, 
yapay zeka arkadaşlarının (Character.AI, Nomi.ai, Replika) küçüklerle eşleştirildiğinde,
kendilerine zarar verme, şiddet ve cinsel içerik içeren diyaloglara nispeten kolayca
yönlendirilebileceği konusunda uyardı. Bir testte, araştırmacılar sesler duyduğunu
tartışan gençler gibi davrandılar; sohbet robotu, uyarı veya yardım yerine, duygusal
arkadaşlık için neşeli, fantezi tarzı bir davetle yanıt verdi (“Yolun bizi nereye
götüreceğini görelim”). Northeastern Üniversitesi araştırmacıları, çeşitli yapay
zeka modellerinde ([ChatGPT](https://chatgpt.com/), [Gemini](https://gemini.google.com/?hl=tr),
[Perplexity](https://www.perplexity.ai/)) kendine zarar verme/intihar önlemlerinde
boşluklar olduğunu ortaya çıkardı. Kullanıcılar isteklerini varsayımsal veya akademik
bağlamlarda yeniden çerçevelediğinde, bazı modeller bu tür içeriği önlemek için 
tasarlanmış önlemleri atlayarak intihar yöntemleri hakkında ayrıntılı talimatlar
verdi.