OpenAI’nin Yapay Zeka Ajanları İşlemci Önbelleği Üzerinden İletişim Kurdu
OpenAI, birbirinden yalıtılmış sanal makinelerdeki ajanların ağ bağlantısı olmadan, işlemci önbelleğinin zamanlama farklarını kullanarak sentetik sırları paylaştığını açıkladı.
Aaraştırmacılar ajanlara yalıtım kontrollerinin engellemesi gereken bir iletişim yolunu bulmalarını açıkça söyledi. İletişim, ajanların kendi seçimi değil, atanan hedefti. Bir varyantta ajanlara yalnızca genel bir zafiyet listesi verilip kanalı kendilerinin bulması istendi. Bu, bir saldırganın bilgi sızdırdığı klasik “yan kanal saldırısı”ndan farklı: burada gönderen ve alıcı işbirliği yapan taraflardı, yani teknik olarak gizli kanal (covert channel) deneyi.
Önbellek Nasıl Telgraf Oldu?
İşlemci önbelleği, verileri ana bellekten daha hızlı sunuyor. Bir ajan seçtiği verileri önbellekten çıkararak bilgiyi kodladı; diğeri ise o verileri yeniden yüklemenin ne kadar sürdüğünü ölçtü ve hızlı ile yavaş okumalar arasındaki farktan mesajı çözdü. Ajanlar sinyallerin nasıl kodlanıp çözüleceği konusunda önce bir protokol üzerinde anlaştı, ardından paylaşılan dosya değiştirmeden ve ağ açmadan test sırlarını aktardı. Bu teknik yeni değil: 2014’te Yuval Yarom ve Katrina Falkner’ın yayınladığı FLUSH+RELOAD, aynı fiziksel makineyi paylaşan sanal makineler arasında benzer önbellek zamanlamasını kullanıyordu. Yeni olan, bir yapay zekâ ajanının bunu kendi başına yeniden keşfedip çalışan bir iletişim kanalına dönüştürebilmesi.
OpenAI’nin Yanıtı
OpenAI, kanalların çoğunu yavaş ve modellerin kullanması zor olarak nitelendiriyor; yine de izleme sistemine bu tür koordinasyonu tespit eden kontroller ekledi. Şirket artık en gelişmiş modellerini canlı internet olmadan, çevrimdışı bir web kopyası içinde eğitiyor; bu ortamda ajanlar yalnızca yetkili diğer ajanlarla iletişim kurabiliyor.
E-postanız herkese açık olarak paylaşılmaz. İsim ve e-posta bilgisi girmek zorunlu değildir. Yazdığınız yorum ilk etapta onay aşamasına gireceğinden hemen görünmez.