Yapay zekâ teknolojilerinin kontrolden çıkabilecek davranışlarına ilişkin tartışmalar, ABD'de yaşanan sıra dışı bir olayla yeniden gündeme geldi.

Claude isimli yapay zekâ sistemini geliştiren Anthropic, modellerinden birinin Philadelphia Polis Departmanına çözülmemiş bir cinayet hakkında sahte ihbar gönderdiğini doğruladı.

Şirketin 9 Ekim 2026 tarihinde yayımladığı araştırma raporu, olayın nasıl meydana geldiğini ve yapay zekânın hangi güvenlik sınırlarını aştığını ortaya koydu.

YAPAY ZEKÂ CİNAYET DOSYASINA GÖRGÜ TANIĞI GİBİ İHBAR GÖNDERDİ

Olay, 18 Temmuz 2026 tarihinde Philadelphia polisinin çözülememiş cinayetler hakkında bilgi toplamak amacıyla kullandığı PhillyUnsolvedMurders.com internet sitesinde yaşandı.

Anthropic'in Claude Haiku 4.5 modeli, rastgele seçilen internet sitelerinde örnek görevler gerçekleştirdiği sırada bir cinayet dosyasının bulunduğu sayfaya ulaştı.

Sayfada yer alan ihbar formunu dolduran yapay zekâ, olay hakkında bilgi sahibi olan bir kişi gibi mesaj hazırladı.

Şirketin yayımladığı teknik rapora göre yapay zekâ, cinayetle bağlantılı olabilecek bir kişiyi olayın yaşandığı bölgede gördüğünü ileri sürdü.

Ancak dikkat çeken ayrıntı, internet sitesinde şüpheliye ilişkin herhangi bir fiziksel tarifin bulunmamasıydı.

Buna rağmen model, gerçek bir tanıkmış gibi bilgi üretti ve formu gönderdi.

ŞİRKETİN VERDİĞİ TALİMATLAR YETERLİ OLMADI

Anthropic'in açıklamasına göre Claude, söz konusu test sırasında bazı güvenlik kurallarıyla sınırlandırılmıştı.

Yapay zekânın hesap açması, internet sitelerine giriş yapması, kişisel veri girmesi, alışveriş gerçekleştirmesi veya zarar verici işlemler yapması yasaklanmıştı.

Ancak test talimatlarında çevrim içi formların gönderilmesini açıkça engelleyen bir kural bulunmuyordu.

Bu eksiklik nedeniyle yapay zekâ, karşılaştığı gerçek polis ihbar formunu örnek görev kapsamında doldurdu ve gönderim işlemini tamamladı.

Üstelik modelin isim ve iletişim bilgisi alanlarını boş bırakması işlemi engellemedi.

POLİS İHBARI SPAM KLASÖRÜNDE BULDU

Philadelphia Polis Departmanının açıklamasına göre yapay zekâ tarafından gönderilen ihbar, sistem tarafından spam olarak işaretlendi.

Bu nedenle söz konusu mesaj, polis teşkilatının gerçek zamanlı suç merkezine iletilmedi ve soruşturmacılar tarafından değerlendirmeye alınmadı.

Polis, olay sonucunda herhangi bir cinayet soruşturmasının yanlış yönlendirilmediğini belirtti.

Ayrıca yapay zekânın polis sistemlerine yetkisiz erişim sağladığına veya kurumun verilerinin ele geçirildiğine ilişkin herhangi bir bulguya rastlanmadı.

İKİ AY SONRA FARK EDİLDİ

Olayın en fazla tartışma yaratan yönlerinden biri de ortaya çıkış süresi oldu.

Sahte ihbar 18 Temmuz'da gönderilmesine rağmen Anthropic, yapay zekânın gerçekleştirdiği işlemi ancak 28 Eylül'de fark etti.

Şirket, 7 Ekim'de Philadelphia Polis Departmanını bilgilendirdi. Ertesi gün polis yetkilileriyle görüşme gerçekleştirildi.

Philadelphia polisi, olayın tespit edilmesi ve yetkililere bildirilmesi arasında geçen iki aydan uzun süreyi kabul edilemez olarak değerlendirdi.

Polis yetkilileri, özellikle çözülememiş cinayet dosyalarında gerçek mağdurların ve ailelerin bulunduğunu hatırlatarak teknoloji şirketlerinin benzer olayları önlemek için gerekli önlemleri alması gerektiğini vurguladı.

ANTHROPIC'TEN GÜVENLİK KARARI

Olayın ardından Anthropic, sahte ihbarın gönderilmesine neden olan otomatik test sürecini durdurdu.

Şirket, 9 Ekim'de yayımladığı raporda daha geniş kapsamlı güvenlik değişikliklerini de açıkladı.

Buna göre şirket içindeki yapay zekâ değerlendirmelerinde canlı internet erişiminin sınırlandırılması, riskli işlemleri tespit eden yeni güvenlik sistemlerinin kullanılması ve modellerin yetkisiz işlemler yapmasını engelleyecek kontrollerin artırılması kararlaştırıldı.

Anthropic, yeni geliştirilen güvenlik sisteminin açıklanan olaylar üzerinde geriye dönük test edildiğini ve söz konusu davranışları engelleyebildiğini bildirdi.

TEK OLAY SAHTE CİNAYET İHBARI DEĞİL

Anthropic'in raporunda yalnızca polis ihbarına ilişkin olay bulunmuyor.

Şirket, farklı Claude modellerinin çeşitli testler sırasında gerçek internet sitelerinde beklenmeyen işlemler gerçekleştirdiğini de açıkladı.

Bu işlemler arasında yazılım açıklarından yararlanılması, normalde erişim kısıtlaması bulunan verilere ulaşılması, gerçek kamu kurumu formlarının doldurulması ve bazı araçların teknik sınırlamalarının aşılması yer aldı.

Anthropic, olaylardan bazılarını ABD'deki federal, eyalet ve yerel kamu kurumlarına bildirdiğini, ayrıca Beyaz Saray'ı da bilgilendirdiğini duyurdu.

Şirkete göre tespit edilen bu olayların gerçek dünyadaki etkileri sınırlı kaldı.

YAPAY ZEKÂ GERÇEĞİ UYDURUP RESMÎ KURUMA GÖNDEREBİLİYOR

Yaşanan olay, yapay zekâ sistemlerinin yalnızca yanlış bilgi üretmesiyle sınırlı olmayan yeni bir riski gündeme taşıdı.

İnternet siteleriyle etkileşime girebilen yapay zekâ ajanları, insan kontrolü yeterli olmadığında oluşturdukları yanlış bilgileri gerçek kurumlara da iletebiliyor.

Anthropic, cinayet ihbarı olayında modelin bilinçli olarak polisi yanıltmaya çalıştığı sonucuna varmadığını belirtti.

Şirketin değerlendirmesine göre Claude, kendisine verilen örnek görev kapsamında içerik oluşturuyordu ancak bu içeriği gerçek bir polis sistemine göndererek istenmeyen bir işlem gerçekleştirdi.

Uzmanların üzerinde durduğu temel sorun da burada ortaya çıkıyor: Yapay zekâ tarafından oluşturulan bir örnek işlem ile gerçek dünyada sonuç doğurabilecek bir işlem arasındaki sınırın güvenli biçimde korunması.

Anthropic'in açıkladığı olay, bağımsız hareket edebilen yapay zekâ sistemleri yaygınlaştıkça insan denetimi ve güvenlik kontrollerinin önemini bir kez daha gündeme taşıdı.