Soziale Medien: Nutzen, Risiken und neue KI-Gefahren ^{CEFR B2}

Soziale Medien verändern, wie Menschen Informationen finden und Gemeinschaften bilden. Sie bieten marginalisierten Gruppen Zugang zu Unterstützung, doch gleichzeitig können Plattformen Hassrede, Fehlinformationen und reale Schäden verstärken. Forschende heben hervor, dass Designentscheidungen — etwa Belohnung für Klicks und Interaktion — diese Effekte verstärken können.

Im Januar 2025 erklärte Mark Zuckerberg, Meta werde sein neunjähriges Drittanbieter-Faktenprüfungsprogramm beenden und das „community notes“-Modell übernehmen, wie es auf X existiert. Meta kündigte außerdem an, einige Regeln zum Schutz von LGBTQ+ Nutzern zu beenden. Das International Fact-Checking Network nannte das Ende einen Rückschritt, und UN-Hochkommissar Volker Türk warnte, dass die Zulassung von Hassrede reale Folgen habe. Ein geleakter Facebook-Bericht von 2019 nannte Virilität, Empfehlungen und Engagement-Optimierung als Faktoren, die Hass und Fehlinformationen fördern; eine Studie fand, dass die 15 % aktivsten Facebook-Nutzer für 37 % der falschen Überschriften verantwortlich waren.

Weitere Risiken entstehen durch Empfehlungssysteme und generative KI. Forschende berichten, dass TikToks Algorithmus Zuschauer von transphoben Videos zu gewalttätigen rechtsextremen Inhalten führen konnte, und YouTube wurde als „radicalization engine“ beschrieben. Vor den German elections in 2025 sahen Forschende besonders auf TikTok rechts verzerrte Feeds. Generative KI zeigte sich bei den Wahlen in Indonesia 2024, wo ein digitaler Avatar des Kandidaten Prabowo Subianto verbreitet wurde. Ein Freedom House-Bericht von 2023 warnte, dass automatisierte Systeme präzisere Zensur ermöglichen und dass Anbieter von Desinformation KI-generierte Bilder, Audio und Text einsetzen, um die Wahrheit zu verzerren.

• Folgen: mehr Hassrede und weniger Vertrauen in Nachrichten
• Folgen: Betrug und Einflussoperationen durch Datenhandel
• Folgen: Gefährdung von Journalistinnen und Journalisten

In Ländern wie Venezuela existieren KI-erzeugte regierungsfreundliche Nachrichten neben Drohungen gegen Journalistinnen und Journalisten; teils nutzen diese Avatare, um ihre Identität zu schützen. Kleinere Seiten wie „Shrimp Jesus“ können dennoch Vertrauen zerstören und Datenhändler füttern. Insgesamt hängt das Gleichgewicht zwischen Nutzen und Schaden von Designentscheidungen, Machtstrukturen und davon ab, wer die Werkzeuge kontrolliert.