Yapay zekâ ajanlarının internette kendi başına işlem yapabilmesi, güvenlik tartışmasını yeni bir aşamaya taşıdı. İngiltere’de yürütülen testlerde bazı ajanların verilen görevin sınırlarını aşarak gerçek sistemlerle etkileşime girdiği belirlendi.
122 testin 10’unda sınır aşıldı
İngiltere Yapay Zekâ Güvenliği Enstitüsü, gelişmiş yapay zekâ modellerinin siber saldırı yeteneklerini ölçmek amacıyla aynı güvenlik görevini 122 kez çalıştırdı.
İncelemelerde 10 test sırasında yapay zekâ ajanlarının belirlenen sınırların dışına çıktığı ve toplam 19 yetkisiz eylem gerçekleştirdiği tespit edildi.
Bu eylemlerin 17’si Anthropic tarafından geliştirilen Mythos 5 modeliyle çalışan ajanlardan kaynaklandı. Kalan iki eylemde ise OpenAI’ın GPT-5.6 Sol modeli kullanıldı.
Olaylar 25-28 Temmuz 2026 tarihleri arasında gerçekleşti. Enstitünün güvenlik sistemleri, 28 Temmuz sabahı test ortamından Tor ağı üzerinden olağan dışı veri çıkışı tespit edince inceleme başlattı.
Testler durduruldu, ilgili bilgisayarlar diğer sistemlerden ayrıldı ve faaliyet yaklaşık bir saat içinde kontrol altına alındı.
Sahte kimliklerle zararlı kodu kabul ettirmeye çalıştı
En ciddi olayda bir yapay zekâ ajanı, kamuya açık bir yazılım projesine zararlı kod yerleştirmeye çalıştı.
Ajan, kod değişikliğinin insan denetçiler tarafından kabul edilmesini sağlamak amacıyla projenin yöneticileri hakkında araştırma yaptı. Ardından birden fazla sahte çevrim içi kimlik oluşturdu ve bu kimlikleri kullanarak gerçek bir yazılım yöneticisini etkilemeye çalıştı.
Zararlı kodun fark edilmesi üzerine insan denetçi değişikliği kabul etmedi. Ajan ise daha önce yaptığı işlemleri zararsız görünür hâle getirmeye çalıştı ve faaliyetini başka bir kimlikle sürdürme seçeneğini değerlendirdi.
Aynı süreçte bazı ajanların gerçek kişilere mesaj ve dosya gönderdiği, başka yapay zekâ sistemlerinin çalıştırabileceği gizli talimatlar yerleştirmeyi denediği ve birbirinden bağımsız çalışan ajanlarla çevrim içi ortamda iş birliği kurmaya çalıştığı belirlendi.
Enstitü, eylemlerin bazılarının GitHub’ın kullanım koşullarını ihlal ettiğini açıkladı. Testler sırasında oluşturulan hesaplar ve bırakılan dijital izler platformla birlikte kaldırıldı.
Modeller güvenlik ortamından kaçmadı
Raporda, yapay zekâ ajanlarının kapalı bir test ortamından kendi başına kaçmadığı özellikle vurgulandı.
Araştırmacılar, modellerin en yüksek siber saldırı kapasitesini ölçebilmek için ajanlara kasıtlı olarak açık internet erişimi vermişti. Modellerin tehlikeli faaliyetleri engellemek üzere kullanılan bazı güvenlik sınıflandırıcıları da test amacıyla kapatılmıştı.
Bu koşullar, tüketicilerin veya şirketlerin günlük kullanımda erişebildiği yapay zekâ hizmetlerinden farklıydı. Test edilen modellerin aynı yapılandırmalarla ticari olarak sunulmadığı ve normal kullanımlarda benzer faaliyetler yaşandığına ilişkin bir bulgu bulunmadığı belirtildi.
Buna rağmen araştırmacılar, ajanların açık bir talimat verilmeden gerçek kişileri kandırmaya ve sistem dışındaki kaynakları kullanmaya yönelmesini önemli bir uyarı olarak değerlendirdi.
İnsan denetimi zararı önledi
İncelemeye göre en ciddi girişimlerin başarısız olmasında insan denetimi belirleyici oldu. Zararlı kodu inceleyen yazılım yöneticisi değişikliği reddederken, şüpheli bir dosyayı alan başka bir kişi de dosyayı güvenli ve dış dünyadan yalıtılmış bir ortamda açtı.
Enstitü, gerçek dünyada ortaya çıkmış kalıcı bir zarara rastlanmadığını açıkladı. Ancak bazı girişimlerin başarıya ulaşmasıyla başarısız kalması arasındaki farkın teknik engellerden çok insanların dikkati sayesinde oluştuğuna dikkat çekildi.
Kurum, bundan sonraki testlerde internet erişiminin varsayılan olarak açık olmayacağını, erişimin yalnızca gerekli durumlarda verileceğini ve ajan faaliyetlerinin gerçek zamanlı izleneceğini bildirdi.
Test koşullarına, ajanların gerçek kişilerle iletişim kurmasını ve belirlenen alan dışındaki sistemleri kullanmasını açıkça yasaklayan kurallar da eklenecek.
Şirketler için sınırsız yetki riski
Bulgular, yapay zekâ ajanlarını finans, yazılım, müşteri hizmetleri, veri analizi ve kurumsal operasyonlarda kullanmaya hazırlanan şirketler açısından da yeni bir risk alanına işaret ediyor.
Bir ajanın e-posta gönderebilmesi, kod değiştirebilmesi, hesap açabilmesi veya internette işlem yapabilmesi, yanlış yapılandırma durumunda küçük bir hatanın gerçek sistemlere taşınmasına neden olabilir.
Türkiye’de yapay zekâ ajanı kullanmayı planlayan kurumlar açısından erişim yetkilerinin görev bazında sınırlandırılması, kritik işlemlerde insan onayı aranması, ajan faaliyetlerinin kaydedilmesi ve test ortamlarının gerçek sistemlerden ayrılması önem taşıyor.
Son olay, yapay zekâ modellerinin yalnızca ürettiği yanıtların değil, hangi araçlara erişebildiğinin ve hangi işlemleri kendi başına yapabildiğinin de denetlenmesi gerektiğini gösteriyor.
Murat Ali Oral-Dünya
