Desinformation, KI, Plattformen: Wer kontrolliert die digitale Welt?

Die Herausforderungen sind vielfältig. Ich möchte jedoch drei wichtige besonders hervorheben.

Die erste besteht darin, die Menschen wieder stärker mit der Realität zu verbinden. Die digitale Welt ist kein von der realen Welt getrennter Raum, ihre Auswirkungen sind sehr konkret. Online-Gerüchte, digitale Belästigung oder ausländische Einflussnahmen auf Wahlen haben reale Folgen. Dennoch werden solche Phänomene oft verharmlost, weil sie sich auf Bildschirmen abspielen.

Die zweite Herausforderung betrifft die Geschwindigkeit. Im digitalen Raum geschieht alles sofort, viral und in verstärkter Form. Inhalte verbreiten sich innerhalb weniger Minuten in grossem Umfang, während Bildungsangebote, rechtliche Regelungen und institutionelle Reaktionen deutlich mehr Zeit benötigen.

Schliesslich darf auch die Frage der informationellen Souveränität nicht unterschätzt werden. Ein immer grösserer Teil der öffentlichen Debatte findet auf privaten, häufig ausländischen Plattformen statt, die darüber entscheiden, welche Inhalte sichtbar sind, verstärkt werden oder unsichtbar bleiben. Dies berührt unmittelbar demokratische Prozesse und das Vertrauen in Informationen. 

Generative KI ermöglicht es heute, innerhalb weniger Minuten täuschend echte Texte, Bilder, Stimmen oder Videos zu erstellen. Gleichzeitig ist Desinformation zu einem lukrativen Geschäft geworden: Schockierende oder emotional aufgeladene Inhalte lassen sich besonders leicht verbreiten, erreichen ein immer grösseres Publikum und verbreiten sich deutlich schneller.

Hinzu kommt, dass Algorithmen nicht auf Wahrheit, sondern auf Aufmerksamkeit und Interaktion ausgerichtet sind. Verstärkt wird dies durch unsere kognitiven Verzerrungen: Menschen schenken Informationen eher Glauben, wenn diese ihre bestehenden Überzeugungen bestätigen. Zudem wurden die traditionellen redaktionellen Kontrollmechanismen weitgehend durch Systeme ersetzt, deren Hauptziel darin besteht, Aufmerksamkeit zu erzeugen, und nicht die Zuverlässigkeit von Informationen sicherzustellen.

Genau hier setzt ein interdisziplinärer Ansatz wie jener des CAS en Gouvernance de l’information et confiance numérique an, den ich mit leite. Der Studiengang ermöglicht es, Desinformation als Teil eines komplexen Gesamtsystems zu analysieren und nicht lediglich als individuelles Fehlverhalten zu betrachten. 

Inzwischen wurden KI-gestützte Erkennungssysteme entwickelt, die Unstimmigkeiten in Bildern, Stimmen, Bewegungen oder Metadaten analysieren können. Ergänzend dazu ermöglichen forensische Methoden eine vertiefte Überprüfung und Bewertung verdächtiger Inhalte.

Dennoch ist eine gewisse Nüchternheit angebracht: Die Erkennung erfolgt häufig erst am Ende der Verbreitungskette. Falschinformationen wurden oft bereits gesehen und geteilt, bevor eine Korrektur möglich ist. Zudem können sie selbst nach einer Widerlegung nachhaltige Spuren hinterlassen.

Deshalb liegt die eigentliche Herausforderung weniger in der nachträglichen Entlarvung falscher Inhalte als vielmehr in der verlässlichen Zertifizierung ihrer Herkunft. Mit diesen technischen und rechtlichen Fragen befasst sich unter anderem die Weiterbildung Mécanismes de droit pénal et preuves numériques, die ich selbst konzipiert habe und unterrichte. 

Absolut. Ich spreche allerdings lieber von einer rechtlichen Verantwortung. Zwanzig Jahre Selbstregulierung haben gezeigt, dass ihre Grenzen schnell erreicht sind.

Diese Plattformen sind längst nicht mehr nur einfache Hosting-Dienste. Ihre Algorithmen treffen in grossem Massstab redaktionelle Entscheidungen. Sie bestimmen, welche Inhalte hervorgehoben, ausgeblendet, verstärkt oder verzerrt werden.

Wenn Jugendliche mit schädlichen Inhalten konfrontiert werden, handelt es sich nicht um einen Zufall, sondern um das Ergebnis eines Systems, das darauf ausgelegt ist, Aufmerksamkeit zu binden. Dasselbe gilt, wenn KI zur Erstellung pornografischer Deepfakes eingesetzt wird: Das Problem liegt nicht nur im individuellen Missbrauch, sondern auch in der technischen Architektur, die einen solchen Missbrauch überhaupt ermöglicht.

Die Europäische Union hat begonnen, diese Praktiken regulatorisch zu erfassen. Der Handlungsbedarf bleibt jedoch enorm. In der Schweiz existieren zwar bereits bestimmte Straftatbestände im digitalen Bereich, doch für Plattformen selbst bestehen bislang nur wenige verbindliche Leitplanken.

Mit diesen Fragen befasst sich auch unsere Weiterbildung Régulation des plateformes de réseaux sociaux dans une société démocratique, die genau diese Machtverhältnisse und ihre Auswirkungen analysiert.