Sosyal medya: doğruluk, nefret ve yapay zekâ riskleri ^{CEFR B2}

Sosyal medya hem bilgiye erişimi kolaylaştırıyor hem de nefret söylemi, yanlış bilgi ve gerçek dünyada zarara yol açabilecek davranışların yayılmasını hızlandırabiliyor. Ocak 2025'te Mark Zuckerberg Meta'nın üçüncü taraf doğrulama programını sonlandıracağını ve X'teki "community notes" modelini benimseyeceklerini açıkladı; şirket ayrıca bazı LGBTQ+ koruyucu politikaları sona erdireceğini bildirdi. International Fact-Checking Network bu adımı "bir geri adım" diye nitelendirdi ve Birleşmiş Milletler İnsan Hakları Yüksek Komiseri Volker Türk, "Çevrimiçi nefret söylemine ve zararlı içeriğe izin vermek gerçek dünyada sonuçlar doğurur." sözleriyle uyarıda bulundu.

Sızdırılmış 2019 tarihli bir Facebook raporu, ürün mekaniklerinin—viralite, öneriler ve etkileşim için optimizasyon gibi—nefret söylemi ve yanlış bilgilerin yayılmasını kolaylaştırdığını belirtti. Araştırmacıların bulgularına göre en alışkan Facebook kullanıcılarının %15'i, platformda paylaşılan yanlış başlıkların %37'sinden sorumluydu. Algoritmalar insanların ne gördüğüne karar veriyor ve yapılan düzeltmeler genellikle orijinal iddialar kadar ilgi görmüyor; First Draft News "Beyninizden [yanlış bilgiyi] çıkarmak çok, çok zordur." diye yazdı.

Öneri sistemleri radikalleşme ile ilişkilendirildi. 2021 tarihli bir çalışma TikTok'un izleyicileri transfobik videolardan şiddet içeren aşırı sağ içeriğe yönlendirebileceğini buldu. YouTube bazen "radikalleşme motoru" olarak anıldı ve YouTube Kids'in genç izleyicileri yeme bozukluğu içeriğine yönlendirdiğine dair endişeler rapor edildi. Araştırmacılar, 2025 Almanya seçimleri öncesinde özellikle TikTok akışlarının sağa kaydığını gözlemledi.

Güven erozyonu da belirgin: 2019 raporu gençlerin çoğu haberini sosyal medyadan aldığını söyledi, 2022 araştırması birçok gencin bilgi için Google yerine TikTok kullandığını ve 30 yaş altı yetişkinlerin sosyal medyaya ulusal haber kuruluşları kadar güvendiğini gösterdi. 2023 çok ülkeli rapor katılımcıların %40'ının "çoğu zaman habere güvenirim" dediğini buldu. Aynı zamanda üretken yapay zekâ yeni riskler ekliyor: 2024 Endonezya seçimlerinde yapay zeka ile üretilmiş dijital avatarlar öne çıktı ve eski aday Prabowo Subianto bunlardan birini geniş biçimde kullandı. ChatGPT gibi sohbet botları gerçekçi metinler ve görseller üreterek gerçeği çarpıtabilir.

2023 Freedom House raporu otomatik sistemlerin daha hassas sansüre izin verdiğini ve dezenformasyon yayanların yapay zekâ üretimli görüntü, ses ve metinlerle gerçeği çarpıtmayı kolaylaştırdığını uyardı. Venezuela'da hükümet yanlısı yapay zekâ mesajları gazetecilere yönelik tehditlerle beraber görüldü; bazı gazeteciler kimliklerini korumak için dijital avatarlar kullanıyor. Küçük veya mizahi sayfalar bile (örneğin "Shrimp Jesus") güveni aşındırıp veri aracılarına besleme sağlayabiliyor; bunun dolandırıcılık ve etki operasyonları için gerçek sonuçları olabilir. Genel olarak teknoloji güç verebilir ve koruyabilir, ama zarar vermek için de kullanılabilir; denge tasarım seçimlerine, güç yapılarına ve araçları kimin kontrol ettiğine bağlıdır.