The Wall Street Journal ile Stanford Üniversitesi ve Massachusetts Amherst Üniversitesi'nden akademisyenlerin ortaklaşa yürüttüğü bir araştırma, Instagram'ın öneri sistemlerinin pedofilleri nasıl birbirine bağladığını ve onları içerik satıcılarına nasıl yönlendirdiğini ortaya koydu.

Araştırmacılar, pedofil ağlarının bariz ve açık hashtag'ler kullanarak reklam yaptığını ortaya çıkardı. Hesaplar, #pedowhore, #preteensex ve #pedobait gibi etiketlerle içerik paylaşarak kullanıcıların dikkatini çekiyor. Bu hesaplar, içerik "menüleri" sunarak kullanıcıların satın alabileceği veya sipariş verebileceği videolar ve görüntüler sunuyor.

Araştırmacılar, bir test hesabı oluşturarak bu ağlar tarafından paylaşılan içerikleri incelediklerinde, kendilerine daha fazla hesap önerildiğini ve bu hesapları takip etmeleri için teşvik edildiklerini belirtiyor. WSJ'ye göre, "Bu önerilerden sadece birkaçını takip etmek, bir test hesabını çocukları cinsel içerikle doldurmak için yeterliydi."

Bu konuya yanıt olarak Meta, soruşturmanın gündeme getirdiği sorunları ele almak üzere bir birim oluşturduğunu açıkladı. Şirket, "Çocuk istismarı korkunç bir suçtur. Bu davranışa karşı aktif olarak savunma yapmanın yollarını sürekli araştırıyoruz" dedi.

Meta, sadece Ocak ayında çocuk güvenliği politikalarını ihlal eden 490.000 hesabı ve son iki yılda 27 pedofil ağını kaldırdığını belirtti. Ayrıca, çocukların cinselleştirilmesiyle ilişkili binlerce hashtag'i engellediklerini ve bu terimlerin kullanıcı aramalarında kısıtlandığını söyledi.

Rapor, diğer sosyal medya platformlarının da incelendiğini gösteriyor. Ancak, bu platformların pedofil ağları büyütmeye daha az uygun olduğu tespit edildi. Stanford araştırmacıları, Twitter'da daha az sayıda kullanıcı olmasına rağmen çocuk cinsel istismarı materyali satmayı teklif eden 128 hesap buldu. Bu sayı, Instagram'da bulduklarının üçte birinden daha azdı. TikTok ve Snapchat'te ise bu tür ağların büyümediği belirtildi.

Stanford Internet Observatory'nin baş teknoloji uzmanı David Thiel, Instagram'ın kullanıcıları öne çıkaran ve birbirine bağlayan öneri sistemleri ile istismar edici içeriği inceleyen ve kaldıran güvenlik özellikleri arasında doğru dengeyi kuramadığını ifade etti.

Bu haber, Instagram'ın pedofil ağlarına karşı daha etkili önlemler alması gerektiğini ve algoritmasının yeniden gözden geçirilmesi gerektiğini vurgulamaktadır.