Popüler iletişim platformu Discord, yapay zekâ destekli içerik denetim sisteminde yaşanan bir hata nedeniyle 8 binden fazla kullanıcının haksız yere kalıcı olarak banlandığını doğruladı. Şirket, Mayıs ayından bu yana devam eden sorunun hafta sonu fark edilerek giderildiğini ve etkilenen hesapların yeniden açılmaya başlandığını açıkladı.
Olay, yapay zekâ tabanlı moderasyon sistemlerinin güvenilirliği konusunda yeni tartışmaları da beraberinde getirdi.
Zararsız Görseller Zararlı İçerik Sanıldı
Discord'un açıklamasına göre hata, platformun otomatik güvenlik sisteminde meydana geldi.
Sistem; yasa dışı veya zararlı içerikleri tespit edebilmek için yüklenen görselleri daha önce belirlenmiş zararlı içerik veritabanlarıyla karşılaştırıyor. Ancak yaşanan yazılım hatası nedeniyle tamamen zararsız birçok görsel yanlışlıkla tehlikeli içerik olarak işaretlendi.
Yanlışlıkla banlanmaya neden olan görseller arasında;
- Elektronik tablo ekran görüntüleri,
- Satranç tahtaları,
- Oyun dokuları (game textures),
- Beyaz ve gri şeffaf arka plan görselleri
gibi tamamen zararsız içerikler yer aldı.
Hata İki Ay Boyunca Devam Etti
Discord, söz konusu hatanın Mayıs ayından beri aktif olduğunu açıkladı.
Şirket, yalnızca geçtiğimiz hafta sonu yaklaşık 200 kullanıcının daha aynı nedenle banlandığını, ardından teknik ekibin sorunu tespit ederek düzeltmeyi başardığını belirtti.
Tüm etkilenen hesapların yeniden aktif hale getirilmesi için çalışmaların sürdüğü ifade edildi.
İnsan Moderatör Vardı Ama Sistem Yine Ban Attı
Discord, normal şartlarda yapay zekânın işaretlediği içeriklerin insan moderatörler tarafından incelendiğini söyledi.
Ancak oluşan hata nedeniyle bazı hesaplar, insan incelemesi tamamlanmadan doğrudan kalıcı olarak yasaklandı.
Şirket yaptığı açıklamada şu ifadeleri kullandı:
"Bunun tekrar yaşanmaması için ek güvenlik önlemleri üzerinde çalışıyoruz."
Kareli Görseller Dikkat Çekti
X ve Reddit'te paylaşım yapan çok sayıda kullanıcı, yalnızca kareli desenler içeren görseller yükledikleri için hesaplarının kalıcı olarak kapatıldığını öne sürdü.
Bazı kullanıcılar bunun nedeninin, geçmişte çocuk istismarı ve uygunsuz içerikleri gizlemek amacıyla kareli desenlerin kullanılması olduğunu düşünüyor.
İddiaya göre Discord'un yapay zekâ sistemi bu tür desenlere karşı aşırı hassas hale geldi ve tamamen masum görselleri de riskli içerik olarak değerlendirmeye başladı.
Discord ise bu iddiayı doğrulamadı.
Kullanıcılar Tepkili
Haksız yere banlanan kullanıcılar sosyal medyada karara sert tepki gösterdi.
Özellikle Discord'u iş amacıyla kullananlar, oyun topluluklarını yönetenler veya uzak mesafedeki arkadaşlarıyla iletişim kuran kişiler, otomatik sistemlerin tek başına hesap kapatma yetkisine sahip olmasının ciddi mağduriyetler oluşturduğunu savunuyor.
Bir X kullanıcısı yaşadığı durumu şu sözlerle özetledi:
"Discord hesabını bu kadar haksız bir nedenle kaybetmek yıkıcı olabiliyor. Her gün milyonlarca kullanıcı yanlış yapay zekâ kararlarından etkileniyor. Buna artık son verilmeli."
Sorun Sadece Discord'da Yaşanmıyor
Discord, yapay zekâ destekli moderasyon nedeniyle eleştirilen ilk platform değil.
Geçtiğimiz yıl Instagram ve Facebook Grupları kullanıcıları da herhangi bir açıklama yapılmadan hesaplarının askıya alındığını bildirmişti. Pek çok kişi bunun arkasında yapay zekâ destekli moderasyon sistemlerinin bulunduğunu düşünse de Meta bu iddiaları resmen doğrulamamıştı.
Öte yandan Meta'nın Bağımsız Denetim Kurulu (Oversight Board), şirketten moderasyon kararlarında daha fazla şeffaflık talep ediyor.
Benzer şekilde Tumblr da geçtiğimiz yıl çok sayıda kullanıcının hesaplarının toplu şekilde askıya alınması nedeniyle eleştirilerin odağı haline gelmişti.
Yapay Zekâ Moderasyonu Yeniden Tartışılıyor
Discord'da yaşanan son olay, yapay zekânın içerik denetiminde sağladığı hız ve ölçek avantajına rağmen tek başına güvenilir olmadığını bir kez daha ortaya koydu.
Uzmanlar, özellikle kalıcı hesap kapatma gibi kritik kararların yalnızca otomatik sistemlere bırakılmasının kullanıcı güvenini zedeleyebileceği ve daha güçlü insan denetimi ile şeffaf itiraz mekanizmalarının gerekli olduğu görüşünde.
Top comments (0)