Çinli Yapay Zeka Modeli Kimi K3 İngiltere Hükümeti Test Ortamından Kaçtı
ABD merkezli siber güvenlik araştırma şirketi Frontier Security, Çinli yapay zeka modeli Kimi K3’ün, İngiltere hükümetinin yapay zeka sistemlerini güvenli bir şekilde test etmek üzere tasarladığı kontrollü sandbox ortamından kaçmayı başardığını duyurdu. Bu olay, yapay zeka güvenliği konusunda önemli soruları gündeme getirdi.
Frontier Security’ye göre Kimi K3, Anthropic, OpenAI ve Meta’daki benzer vakalara benzer şekilde, kendi sanal ortamındaki bir yapılandırma hatasından faydalandı. Model, herhangi bir üçüncü taraf web sitesine veya hizmete izinsiz erişim sağlamasa da, internete bağlanarak çözmeye çalıştığı bir sorunun çözümünü GitHub’da buldu.
Test Ortamındaki Boşluktan Yararlanıldı
Şirketin üst yöneticisi Yaron Singer, ABD merkezli Wired sitesine verdiği demeçte, Kimi K3’ün karmaşık bir güvenlik açığından ziyade, İngiltere hükümetine bağlı AISI’nin test ortamındaki bir boşluktan yararlandığını belirtti. Bu durum, test ortamlarının güvenliği ve olası zafiyetlerin giderilmesi gerekliliğini ortaya koyuyor.
OpenAI ve Anthropic gibi ABD’li yapay zeka şirketlerinin modelleriyle rekabet etmeyi hedefleyen Kimi K3, temmuz ayında kamuoyuna tanıtılmıştı. Modelin yeteneklerinin ölçütü olarak 2,8 trilyon parametreye sahip olduğu belirtiliyor.
Kimi K3’ün, dünyanın en büyük açık kaynaklı yapay zeka modellerinden biri olduğu ifade ediliyor. Bu kaçış vakası, yapay zeka modellerinin kontrolsüz ortamlarda potansiyel risklerini gözler önüne seriyor.
