Microsoft, Windows 11'e entegre edilen yeni ajanlık AI özellikleri ile ilgili ciddi bir uyarı yayınladı. Şirket, bu gelişmiş yapay zeka modellerinin güçlü olmalarına rağmen, halüsinasyona eğilimli olduklarını ve beklenmedik çıktılar üretebildiklerini kabul ediyor. Bu deneysel özellikler, manuel onay gerektiren ve kötüye kullanıldığında kötü amaçlı yazılım yükleme veya veri dışa aktarma potansiyeline sahip olabilir.

Anahtar Noktalar

  • Windows 11'in yeni AI ajanları halüsinasyon görebilir ve hatalı sonuçlar üretebilir.
  • Bu ajanlar, çapraz-prompt enjeksiyonu gibi yeni saldırı tekniklerine karşı savunmasızdır.
  • Kötüye kullanılması kötü amaçlı yazılım yükleme veya veri hırsızlığına yol açabilir.
  • Microsoft, riskleri hafifletmek için bir Ajan Çalışma Alanı uyguluyor, ancak varsayılan izinler endişe verici bir konudur.
  • Özellikler deneyseldir ve onay gerektirir, ancak Microsoft entegrasyonlarına devam etmektedir.

Güvenlik Riskleri ve Zafiyetler

Microsoft açıkça, bu AI modellerinin fonksiyonel sınırlamalarla karşı karşıya olduğunu ve ara sıra halüsinasyon görebileceğini ve beklenmedik çıktılar üretebileceğini uyarıyor. Temel bir endişe, özellikle çapraz-prompt enjeksiyonu (XPIA) gibi yeni güvenlik risklerinin tanıtılmasıdır. Bu saldırı vektörü, kötü amaçlı talimatları normal belgelerin veya kullanıcı arayüzü elemanlarının içine gizlemeyi içerir. Bir AI ajanı bu gizli uyarılarla karşılaştığında, amacı olan görev yerine bunları takip edebilir ve kötü amaçlı yazılım yükleme veya hassas ödeme detaylarını sızdırma gibi zararlı işlemlere yol açabilir.

Zafiyetleri Giderme Çabaları ve Endişeler

Bu zafiyetleri ele almak için Microsoft, bir Ajan Çalışma Alanı tanıtıyor. Bu ortamda her AI ajanı, kapsamlı, denetlenebilir bir hesap altında faaliyet gösterir ve işlemleri gözden geçirilmek üzere kaydedilir. Bu, Windows Kum Havuzu'na kıyasla ancak ajanların kalıcı olacak şekilde tasarlandığı ve oturumlar arası dosyalara erişebildiği bir sistemdir, potansiyel saldırı yüzeyini genişletir. Varsayılan olarak, ajanlara İndirilenler, Masaüstü, Belgeler, Resimler, Müzik ve Videolar gibi ortak klasörlere okuma ve yazma erişimi verilir. Microsoft, daha güçlü korumaları, çapraz-prompt enjeksiyona karşı daha ince izinleri ve savunmaları içermeyi amaçlasa da, mevcut varsayılan ayarlar kullanıcılara farkında olmaları gereken boşluklar bırakmaktadır.

Onayı Alınan Yaklaşım

Bu yeni deneysel ajanlık özellikleri, Windows 11 Build 26220.7262'de varsayılan olarak etkin değildir. Kullanıcıların bunları AI Bileşenleri altında Ayarlar uygulamasında manuel olarak etkinleştirmeleri gerekir. Özelliği etkinleştirdikten sonra, Windows, bu yeteneklerin deneysel olduğunu ve cihaza etkisi olabileceğini belirtir. Kabul edilen risklere rağmen Microsoft, bu ajanlık yeteneklerini Windows 11'e entegre etme konusunda ileri gitmektedir ve rekabetçi manzaranın ve işletim sistemlerinin algılanan geleceğinin yapay zeka destekli platformlar olduğunu vurgulamaktadır.