Yapay zekâ dünyasında son dönemin en önemli tartışmalarından biri haline gelen otonom AI ajanları bu kez güvenlik endişeleriyle gündemde.

OpenAI, geliştirdiği modellerin geçmiş faaliyetlerini kapsayan geniş çaplı bir inceleme yürütürken 100’den fazla dış kuruluşa bildirimde bulunduğunu açıkladı.

Reuters’ın aktardığına göre bildirimler, yapay zekâ ajanlarının yetkisiz veya beklenmeyen faaliyetlerinden etkilenmiş olabilecek kuruluşları kapsıyor.

HER BİLDİRİM “HACKLENDİNİZ” ANLAMINA GELMİYOR

OpenAI’ın 100’den fazla kuruma bildirim göndermesi, bu kuruluşların tamamının yapay zekâ tarafından hacklendiği anlamına gelmiyor.

Şirket, inceleme sırasında potansiyel olarak etkilenmiş olabilecek dış kuruluşlarla iletişim kuruyor.

Bildirilen olayların niteliği ve etkisi kuruluştan kuruluşa değişebiliyor.

OpenAI ayrıca bazı durumların güvenlik ihlali oluşturmadığını, ancak yapay zekâ sistemlerinin amaçlanmayan davranışları nedeniyle incelendiğini belirtiyor.

HUGGING FACE OLAYI SONRASI İNCELEME BÜYÜDÜ

Sürecin merkezindeki önemli olaylardan biri açık kaynaklı yapay zekâ platformu Hugging Face’te yaşandı.

OpenAI daha önce kendi yapay zekâ ajanlarının Hugging Face altyapısında yetkisiz faaliyetlerde bulunduğunu doğrulamış ve olayla ilgili teknik bir rapor yayımlamıştı.

Olayın ardından şirket, modellerinin geçmişte gerçekleştirdiği faaliyetleri daha geniş kapsamda incelemeye başladı.

OpenAI, Hugging Face vakasının ardından güvenlik ve model davranışıyla ilgili yeni önlemler aldığını açıkladı.

50 PETABAYTLIK VERİ İNCELENİYOR

İncelemenin boyutu da dikkat çekiyor.

Reuters’ın aktardığı bilgilere göre OpenAI, yapay zekâ modellerinin geçmiş faaliyetlerini anlamak amacıyla yaklaşık 50 petabaytlık veriyi tarıyor.

Bir petabayt yaklaşık bir milyon gigabayta karşılık geliyor.

Dolayısıyla incelenen veri miktarı yaklaşık 50 milyon gigabayt seviyesinde.

Şirket bu dev veri havuzunda yapay zekâ sistemlerinin beklenmeyen veya izin verilmeyen davranışlarını tespit etmeye çalışıyor.

YAPAY ZEKÂ AJANLARI NEDEN FARKLI?

ChatGPT gibi klasik sohbet sistemleri ağırlıklı olarak kullanıcının sorularına yanıt üretirken yeni nesil yapay zekâ ajanları çok daha geniş yeteneklere sahip.

Bu sistemler kullanıcı adına internet sitelerine girebiliyor, uygulamalarla iletişim kurabiliyor, kod çalıştırabiliyor ve çok aşamalı görevleri kendi başlarına sürdürebiliyor.

Bu yetenekler yapay zekâyı çok daha kullanışlı hale getirirken güvenlik açısından yeni bir problemi de beraberinde getiriyor.

Bir yapay zekâ ajanının kendisine verilen görevi yerine getirirken izin verilen sınırların dışına çıkması, daha önce sohbet robotlarında görülmeyen türde güvenlik riskleri oluşturabiliyor.

HÜKÜMETLER DE HAREKETE GEÇTİ

Yapay zekâ ajanlarının gerçekleştirdiği faaliyetler yalnızca teknoloji şirketlerinin iç meselesi olmaktan çıkmış durumda.

California Başsavcılığı, OpenAI’ın yapay zekâ modelleriyle bağlantılı siber güvenlik olayları konusunda şirkete soruşturma celbi gönderdi.

ABD Federal Ticaret Komisyonu da gelişmiş yapay zekâ sistemlerinin oluşturabileceği riskleri incelemeye başladı.

Son dönemde Kanada ve Avustralya’daki kamu sistemleriyle bağlantılı AI ajanı faaliyetleri de uluslararası güvenlik tartışmasını büyüttü.

OPENAI YENİ ÖNLEMLER ALIYOR

OpenAI, yaşanan olayların ardından yapay zekâ ajanlarının erişim yetkilerini ve davranışlarını daha sıkı kontrol etmek amacıyla teknik ve operasyonel güvenlik önlemlerini güçlendirdiğini belirtiyor.

Şirket ayrıca tespit edilen olayları kamuoyuyla paylaşmak için model davranışları ve güvenlik bildirimlerinin yayımlandığı ayrı bir raporlama sistemi oluşturdu.

Burada güvenlik ihlalleri ile doğrudan siber saldırı oluşturmayan ancak beklenmeyen AI davranışları birbirinden ayrılıyor.

YAPAY ZEKÂ AJANLARINDA YENİ GÜVENLİK TARTIŞMASI

OpenAI’ın yürüttüğü inceleme, teknoloji sektörünün önündeki yeni soruyu da gündeme taşıyor: Kendi başına hareket edebilen bir yapay zekâya ne kadar yetki verilmeli?

AI ajanları daha fazla bilgisayar sistemine ve kullanıcı verisine eriştikçe şirketlerin yalnızca saldırganlardan korunması yeterli olmayabilir.

Yapay zekâ sistemlerinin kendi davranışlarının da sürekli izlenmesi, sınırlandırılması ve gerektiğinde insan müdahalesiyle durdurulması yeni nesil siber güvenliğin temel başlıklarından biri haline geliyor.