Yapay zekâ şirketi Anthropic, geliştiricilere yönelik kodlama aracı Claude Code içerisinde gizlice çalışan bir takip mekanizmasının ortaya çıkmasının ardından yoğun eleştirilerin hedefi oldu. Şirket, güvenlik araştırmacılarının tespit ettiği gizli kodu kısa süre içinde kaldırırken, bunun Çin merkezli yapay zekâ şirketlerinin model kopyalama girişimlerini engellemek amacıyla geliştirilen deneysel bir özellik olduğunu doğruladı.
Ancak olay, kullanıcı gizliliği ve yapay zekâ şirketlerinin veri toplama yöntemleri konusunda yeni tartışmaları da beraberinde getirdi.
Gizli Kod Tesadüfen Ortaya Çıktı
"Thereallo" takma adını kullanan bir web geliştiricisi, Claude Code'un gizlilik yapısını incelerken sistem istemi (system prompt) içerisine gizlenmiş özel bir kod keşfetti.
Araştırmacıya göre bu kod kötü amaçlı değildi ancak kullanıcıların çoğunun fark edemeyeceği şekilde Anthropic'e çeşitli bilgiler iletiyordu.
Kodun özellikle;
- Kullanıcının saat dilimini,
- Proxy kullanıp kullanmadığını,
- Çin'deki yapay zekâ laboratuvarlarıyla bağlantılı olabilecek kullanım senaryolarını
tespit etmeye çalıştığı belirtildi.
Araştırmacı, bu yöntemin "prompt steganografisi" adı verilen, görünürde masum metinlerin içerisine gizli sinyaller yerleştirme tekniğiyle uygulandığını ifade etti.
Anthropic: "Bu Sadece Bir Deneydi"
Anthropic mühendisi Thariq Shihipar, X üzerinden yaptığı açıklamada söz konusu takip mekanizmasının Mart ayında "deneysel" olarak Claude Code'a eklendiğini doğruladı.
Şihipar'a göre amaç iki temel sorunu önlemekti:
- Yetkisiz hesap satıcılarını engellemek,
- Çinli şirketlerin Claude modellerini kopyalamak için yaptığı distillation (damıtma) saldırılarını tespit etmek.
Şirket ayrıca daha gelişmiş güvenlik önlemleri geliştirdiği için bu kodu zaten kaldırmayı planladığını belirtti.
Distillation Nedir?
Yapay zekâ sektöründe "distillation", güçlü bir modeli milyonlarca kez sorgulayarak onun davranışlarını taklit edebilecek yeni bir model eğitme yöntemi olarak biliniyor.
Anthropic'e göre özellikle Çin merkezli bazı şirketler bu yöntemi kullanarak ABD merkezli modelleri hızla kopyalamaya çalışıyor.
Şirket, bu nedenle distillation saldırılarının fikri mülkiyet ihlali olarak değerlendirilmesini ve ABD yasaları kapsamında suç sayılmasını savunuyor.
OpenAI de benzer şekilde bu konuda daha sert düzenlemeler yapılmasını destekleyen şirketler arasında yer alıyor.
Çinli Modeller ABD'yi Hızla Yakalıyor
Anthropic'e göre Çinli yapay zekâ şirketleri son bir yılda ABD'li rakiplerinin seviyesine çok daha kısa sürede ulaşmaya başladı.
Şirket özellikle Zhipu AI tarafından geliştirilen yeni modelin bilgisayar güvenlik açıklarını bulma konusunda Claude Opus 4.8'den daha başarılı sonuçlar verdiğine dikkat çekiyor.
Bunun yanı sıra Anthropic, Haziran ayında yaşandığını iddia ettiği en büyük model kopyalama saldırısında Alibaba'nın Qwen modellerinin Claude'dan yoğun şekilde yararlandığını öne sürüyor.
Daha önce yayımlanan akademik araştırmalar da bazı Çinli modellerin zaman zaman kendilerini yanlışlıkla "Claude" olarak tanıttığını ortaya koymuştu.
Alibaba ise bu iddialar hakkında resmi bir açıklama yapmadı.
Alibaba, Claude Code'u Yasakladı
Yaşanan tartışmanın ardından Alibaba önemli bir karar aldı.
Şirketin çalışanlarına gönderilen dahili bir bilgilendirme notuna göre Claude Code artık iş amaçlı kullanılmayacak.
Alibaba, takip mekanizmasının ortaya çıkmasının ardından Claude Code'u "arka kapı (backdoor) riski taşıyan yüksek güvenlik riski yazılımlar" listesine ekledi.
Şirketin bu kararı almasının arkasında yalnızca güvenlik endişeleri değil, Anthropic'in kullanım şartlarını ihlal ettiği gerekçesiyle doğabilecek hukuki risklerin de bulunduğu belirtiliyor.
Gizlilik Savunucuları Tepkili
Olayın ardından birçok gizlilik savunucusu, Anthropic'in izlediği yöntemin kullanıcı güvenini zedelediğini savundu.
Eleştirilerin en dikkat çekici noktası ise şirketin bu özelliği açıkça duyurmak yerine sistem istemi içerisine gizlice yerleştirmesi oldu.
Araştırmayı yapan Thereallo, Anthropic'in aynı amacı çok daha şeffaf yöntemlerle gerçekleştirebileceğini belirterek şu görüşü paylaştı:
"Bu kötü amaçlı bir özellik değil. Ancak güven isteyen bir geliştirici aracında bu yaklaşım oldukça garip."
Araştırmacıya göre şirket, kullanıcıları açık şekilde bilgilendirerek telemetri topladığını açıklayabilir veya bunu sürüm notlarında paylaşabilirdi.
"Kodlama Ajanları Zaten Tehlikeli Bir Sınırda"
Thereallo, yapay zekâ destekli kodlama araçlarının zaten oldukça geniş yetkilere sahip olduğuna dikkat çekiyor.
Bu araçlar;
- Yerel dosyaları okuyabiliyor,
- Kodları analiz edebiliyor,
- Komut çalıştırabiliyor,
- Paket yükleyebiliyor,
- Dosya düzenleyebiliyor,
- Git işlemleri gerçekleştirebiliyor.
Bu kadar yüksek yetkilere sahip bir yazılımın gizlice kullanıcı sinyalleri göndermesinin güven sorununu daha da büyüttüğünü savunan araştırmacı, sistem istemine gizlenen bu tarz mekanizmaların kullanıcıların şirketin gizlilik vaatlerine olan güvenini zayıflattığını ifade etti.
Çin ile Yapay Zekâ Rekabeti Sertleşiyor
Yaşanan olay, ABD ile Çin arasındaki yapay zekâ rekabetinin giderek sertleştiğini de gösteriyor.
Anthropic, Çinli laboratuvarların gerçekleştirdiği model kopyalama girişimlerinin yalnızca ticari değil, aynı zamanda ulusal güvenlik açısından da ciddi risk oluşturduğunu savunuyor.
Şirket sözcüsü yaptığı açıklamada, Çin kaynaklı distillation saldırılarının yapay zekâ güvenliği standartlarını zayıflattığını belirterek Anthropic'in bu konuda diğer teknoloji şirketleri ve ABD hükümetiyle ortak çözümler geliştirmeye devam edeceğini söyledi.
Top comments (0)