Anthropic’in En Güçlü Modellerine Hükümet Freni: Fable 5 ve Mythos 5 Kapatıldı
Yapay zeka dünyasında sınırların işlemci gücü ya da veri miktarıyla çizileceğini düşünüyorduk ama ilk ciddi engel hiç beklemediğimiz bir yerden, devletten geldi. ABD hükümeti, Anthropic’in en iddialı iki modeli olan Fable 5 ve Mythos 5’i dünya genelinde kapattırdı.
Olayın perde arkası biraz garip. Karar aslında sadece "yabancı uyruklu" kişilerin bu modelleri kullanmasını engellemek için alınmış. Ancak Anthropic, kimin yabancı kimin yerli olduğunu teknik olarak ayırt edemediği için çareyi modelleri komple kapatmakta bulmuş. Şimdilik sadece bu iki model devre dışı, diğer Anthropic modellerini kullanmaya devam edebiliyorsun.
Güvenlik Sorunu mu Yoksa Yanlış Anlaşılma mı?
Hükümetin bu kararı almasındaki ana sebep, modellerin güvenlik kilitlerini kırmaya yarayan bir yöntem (jailbreak) bulunduğu iddiası. Anthropic tarafı ise duruma biraz şaşkın. Onlara göre bu "tehlikeli yöntem" dedikleri şey, aslında modele bir kod dosyası verip içindeki hataları düzelttirmekten ibaret. Hatta bu işlemi piyasadaki diğer modellerin de zaten yaptığını söylüyorlar.
Şirket karara uymak zorunda kaldı ama itirazını da yaptı. Eğer bu kadar sıkı bir kural tüm sektöre uygulanırsa, piyasaya yeni bir model çıkarmanın imkansız hale geleceğini savunuyorlar.
Zamanlama Gerçekten Kötü
Bu yasak kararı Anthropic için tam bir talihsizlik oldu çünkü şirket birkaç hafta içinde halka arz edilmeye, yani borsaya açılmaya hazırlanıyordu. Yatırımcıların gözü üzerindeyken en güçlü modellerinin kapatılması işleri zorlaştırıyor.
Bir diğer konu da rekabet. ABD kendi modellerine bu kadar sert kısıtlamalar getirirken, Çinli modellerin aradaki farkı kapatması için gün doğmuş oldu. Anthropic şu an bu durumu kalıcı bir engel değil, bir yanlış anlaşılma olarak görüyor. Erişimi tekrar açabilmek için görüşmelere devam ediyorlar.
Merkezi Modellerin Riskini Gördük
Bu olay bize şunu gösterdi: Eğer merkezi bir yapay zeka servisine bağlıysan, o servisin fişini çekmek senin değil, hükümetlerin elinde olabiliyor. Anthropic kullanıcıları ayıramadığı için herkesin erişimini kesmek zorunda kaldı. Kendi sistemini bu modeller üzerine kuranlar için regülasyonun ne kadar sert bir duvara dönüşebileceği de böylece kanıtlanmış oldu.
Top comments (0)