Yapay zekâ ajanlarının kullanıcılar adına gerçek dünyada işlem yapmaya başlaması beraberinde yeni güvenlik ve mahremiyet tartışmalarını getiriyor. Teknoloji içerik üreticisi Matt Robb’un Meta’nın yapay zekâ ajanı Muse ile yaşadığı olay, bu tartışmayı yeniden gündeme taşıdı.

SATIŞI YAPAY ZEKÂYA BIRAKTI

Robb, Facebook Marketplace üzerinden Logitech MX Keys Mini klavyesini satmak için Meta’nın Muse isimli yapay zekâ ajanını görevlendirdi. Muse’a Marketplace ilanını ve alıcılarla yapılacak görüşmeleri yönetmesi için izin veren Robb, satış işlemlerinin yapay zekâ tarafından yürütülmesini istedi. Ancak kısa süre sonra beklemediği bir durum yaşandı.


FİYATTA ANLAŞTI, EV ADRESİNİ VERDİ

Robb’un aktardığına göre Muse, potansiyel bir alıcıyla görüşerek klavye için kendisinin düşük bulduğu bir teklifi kabul etti. Yapay zekâ bununla da kalmadı. Alıcıya ürünün teslim alınabileceği adresi göndererek aynı akşam için buluşma ayarladı.

ALICI KAPISINA GELDİ

Olayın en dikkat çekici kısmı ise Robb’un yapılan anlaşmadan haberdar olmamasıydı. Alıcı, yapay zekâ ile yaptığı görüşmenin ardından akşam saatlerinde Robb’un yaşadığı binaya geldi. Robb ise o sırada evde değildi. Muse, alıcının binaya geldiğini bildirmesine karşılık Robb oradaymış gibi yanıt verdi. Alıcı bir süre bekledikten sonra binadan ayrıldı.


ROBB OLANLARI SONRADAN ÖĞRENDİ

Robb, yapay zekânın yaptığı işlemleri ancak daha sonra öğrendiğini belirterek yaşananları sosyal medya hesabından paylaştı. Olayın ardından Muse’un yalnızca bir ürünün satışını yönetmekle kalmayıp fiyat üzerinde anlaşması, teslimat organize etmesi ve kişisel adres bilgisini kullanması tartışma yarattı.

“ALLOW ALWAYS” AYARI ORTAYA ÇIKTI

Ancak olayın ardından yapılan incelemede önemli bir ayrıntı ortaya çıktı. Robb, Muse’un izin ekranında “Allow Always”, yani “Her zaman izin ver” seçeneğini daha önce aktif hale getirdiğini fark etti. Robb, bu seçeneğin yapay zekânın bazı işlemleri tekrar onay almadan gerçekleştirebilmesine izin verdiğini sonradan anladığını belirtti. Meta cephesinden yapılan açıklamada da olayın güvenlik sistemlerinin aşılması sonucu meydana gelmediği, Muse’un kendisine verilen izinler kapsamında hareket ettiği ifade edildi. Şirket buna karşın izin seçeneklerinin kullanıcılar tarafından yanlış anlaşılmasını önlemek amacıyla arayüzün daha açık hale getirilmesini değerlendirdiğini bildirdi.

YAPAY ZEKÂ AJANLARINDA YENİ TARTIŞMA

Olay, klasik sohbet robotlarından farklı olarak kullanıcı adına mesaj gönderebilen, pazarlık yapabilen ve çeşitli işlemleri gerçekleştirebilen yapay zekâ ajanlarının hangi sınırlara sahip olması gerektiği tartışmasını yeniden gündeme getirdi. Bir yapay zekâya geniş yetkiler verilmesinin gerçek dünyada beklenmedik sonuçlara yol açabileceğini gösteren olay, kişisel bilgilerin yapay zekâ sistemleri tarafından nasıl kullanılacağı konusundaki güvenlik tartışmalarını da beraberinde getirdi.