Facebook yöneticileri yapay zeka teknolojileriyle şirketin kronik sorunlarını, nefret söylemi ve şiddet içerikli paylaşım yapan kullanıcılarını platformdan uzak tutmak için çalışmalarını sürdürüyordu.
Yapılan rapor analizlerine göre Facebook’un yapay zekasının şiddet içerikli paylaşımları belirlemede ve içeriğe müdahalede başarısız olduğu ortaya çıktı.
Yapay zeka %2’lik bir başarı sağlıyor
Facebook, şirketin kurallarını ihlal eden içeriklere müdahale etmek için yapay zeka teknolojisinden yararlanıyor. Sınıflandırıcılar olarak adlandırılan tarama algoritmaları, şirketin içerik denetleme sisteminin temelini oluşturuyor. Facebook algoritmaları, uygunsuz gönderileri belirleyerek yayılmasının önüne geçebilir ya da kaldırabilir. Ancak şirket tarafından yayınlanan raporlara göre yapay zeka teknolojisi uygunsuz içerikleri belirlemede başarılı olmadığı öne sürüldü. Örneğin bir araba yıkama videosunu uygunsuz kabul ederken, şiddetli bir araba kazası videosuna herhangi bir müdahalede bulunmadığı görüldü.
Wall Street Journal tarafından Facebook’un yayınladığı belgeler ile şirketin kendi kuralları çerçevesinde analiz yapıldı. İncelenen belgelere göre Facebook’un saldırgan veya tehlikeli içerikleri ayırt etmede ve platformdan uzaklaştırmada yeterli olmadığı belirlendi. Facebook verilerine göre yapay zekanın kullanılmadığı Mart ayında kuralları ihlal eden içeriklerin %0,6’sı kaldırılmıştı. Mevcut yapay zeka teknolojisinin, platformda kuralları ihlal edenlerin sadece %2’sinin gönderilerinin kaldırıldığı tahmin ediliyor. Yetkililer şimdiye kadarki verilere göre büyük bir gelişme olmadıkça yakın zamanda bu oranın %10’un üzerine çıkmasının mümkün olmadığını kabul etti.
Facebook sözcüsü Andy Stone, şirketin içerik denetleme sisteminde sakıncalı içeriklerin analizi için yapay zeka araçları geliştirdiğini ve şirketin en önemli yatırımının yapay zeka olduğunu söylüyor. Şirketin CEO’su Mark Zuckerberg de 2019 sonuna kadar uygunsuz içeriklerin büyük çoğunluğunu tespit etmek için yapay zekanın kullanılacağını söylemişti. Ancak güncel verilere bakıldığında şirketin yapay zekaya olan güveninin boşa çıktığı görülüyor.