Seit Corona haben sie Hochkonjunktur – Fake News, Halbwahrheiten und Verschwörungstheorien. Führungskräfte aus Wirtschaft und Politik schätzten die Gefahr schon vor der Krise als das größte Cyberrisiko ein. Gemeinsam mit dem Fraunhofer FKIE und NewsGuard arbeitet pressrelations an Lösungen zur frühzeitigen Erkennung von Desinformation. Im Interview erläutern die drei Partner, was genau dahintersteckt und wie sich Reputationsrisiken künftig minimieren lassen.
Jens – seit fast 20 Jahren durchforstet pressrelations täglich alle Arten von Medien und analysiert die Ergebnisse, damit Kunden eine solide Basis für ihre Kommunikationsarbeit haben. Wie siehst Du die Entwicklung von Fake News und Desinformation?
Jens Schmitz: Verschwörungstheorien und Falschmeldungen sind an sich ja kein neues Phänomen. Besonders in Krisenzeiten hatten sie immer schon Hochkonjunktur. Das Internet hat die Medienwelt jedoch fundamental verändert, sie ist viel komplexer und unübersichtlicher geworden. Die sozialen Medien spielen dabei eine entscheidende Rolle. Durch sie hat sich die Taktzahl bei der Verbreitung immens erhöht. Jeder kann die Rolle eines Mediums einnehmen, Informationen verbreiten, die nicht unbedingt journalistischen Standards entsprechen müssen, und dabei große Reichweiten erzielen.
In diesem Zusammenhang hat der Medienwissenschaftler Bernhard Pörksen den Begriff der „Empörungsdemokratie“ geprägt, in der sich jeder zuschalten, seiner Wut freien Lauf lassen und seine eigenen „Wahrheiten“ verbreiten kann. Hinzu kommt, dass die Corona-Pandemie momentan einen optimalen Nährboden für Desinformation bietet.
Wie geht Ihr als Medienbeobachter damit um?
Jens Schmitz: Für uns ist das eine spannende Herausforderung. Unsere Kunden erwarten ja nicht nur einen Überblick darüber, wie sich ihre Themen medial entwickeln. Für strategische Entscheidungen in der Kommunikationsarbeit benötigen sie auch die Einordnung und Bewertung der Ergebnisse. Dazu gehört auch die Glaubwürdigkeit der berichtenden Quellen und deren Inhalte. Dies ist besonders für die Krisenprävention entscheidend. Gerät ein Unternehmen in einen Shitstorm oder wird mit Falschinformationen in Verbindung gebracht, kann das schwere Schäden für die Reputation bedeuten. Dem wollen wir etwas entgegensetzen und Kunden frühzeitig alarmieren, wenn fragwürdige Inhalte über sie, ihre Produkte oder in Zusammenhang mit ihren Kernthemen kursieren.
Im Juli gaben pressrelations, Fraunhofer FKIE und NewsGuard bekannt, künftig gemeinsam gegen Fake News vorzugehen. Welchen Vorteil können Kunden und Nutzer von der Kooperation erwarten?
Jens Schmitz: Kunden gewinnen künftig einen besseren Überblick über die Glaubwürdigkeit der Medien, die über sie berichten, und können so über ein gezieltes Fake-News-Monitoring und -Alerting Reputationsrisiken besser identifizieren und ihnen entgegenwirken. Im analytischen Bereich lassen sich zudem Muster erkennen, wie sich Falschinformationen verbreiten. Aus diesen wiederum lassen sich für die Zukunft gewisse Regeln ableiten.
Herr Professor Schade, Sie haben gemeinsam mit den Forscherinnen und Forschern des Fraunhofer FKIE ein Tool entwickelt, das die automatisierte Auswertung von Nachrichten ermöglicht und Hinweise auf bewusst gestreute Desinformation gibt. Das Ganze funktioniert wie eine Art „Spamfilter“. Wann schlagen Ihre Algorithmen Alarm?
Professor Dr. Ulrich Schade: Um dies beantworten zu können, muss ich kurz skizzieren, wie solche Programme generell funktionieren. Zunächst einmal trainiert man zwei Sprachmodelle, eins mit Beispielen seriöser Quellen, also mit seriösen journalistischen Quellen, und eins mit Beispielen von „Fake“. Das Programm wird damit darauf trainiert, die sprachlichen Unterschiede zwischen den beiden Textsorten an bestimmten Merkmalen zu erkennen. Zum Beispiel kann das Verhältnis von Adjektiven und Nomen ein solches Merkmal sein. Wenn also etwa die „Fake“-Beispieltexte im Schnitt deutlich mehr Adjektive aufweisen als die seriösen Nachrichtentexte und wenn ein zu bewertender Text dann sehr viele Adjektive im Vergleich zur Anzahl der Nomen aufweist, so ist das ein einzelnes Indiz dafür, dass der zu bewertende Text „Fake“ sein könnte.
Für die Bewertung zieht das Tool sehr viele solcher Merkmale heran, nicht nur sprachliche, sondern auch solche aus Metadaten. Trotzdem gilt natürlich, dass die Qualität des Tools von den Textbeispielen, mit denen es trainiert wurde, abhängt. Sind die Beispiele schlecht gewählt, liefert das Tool keine guten Ergebnisse.
Haben Sie weitere Beispiele dafür, woran sich Fake News erkennen lassen?
Professor Dr. Ulrich Schade: Wir haben im Kontext der Bundestagswahl 2017 nach russischer Beeinflussung geschaut. Einige der analysierten Fake News wurden von Russen erstellt, die zwar sehr gutes Deutsch sprechen, aber keine Muttersprachler sind. Im Russischen gibt es z.B. die Eigenart, das „ist“ durch einen Gedankenstrich zu ersetzen. Dadurch fanden sich in den entsprechenden Texten an falschen Stellen Gedankenstriche. Orthografie, Satzbau, aber auch die Wortwahl, z. B. die Verwendung von Superlativen und „aggressiven“ Adjektiven, können weitere Hinweise auf Fake News sein. Es hängt immer vom jeweiligen Thema ab: Wenn „Corona“ in Verbindung mit „Impfen“ und „Mikrochips“ auftritt, wäre das z. B. ein Alarmsignal.
Nun gibt es sehr viele verschiedene Arten von Fake News – frei erfundene und jene, die bewusst einzelne Fakten verdrehen – wie gehen Ihre Maschinen mit dieser Vielfalt um?
Professor Dr. Ulrich Schade: Entscheidend ist, wie gesagt, dass Sie dem Klassifikator, wenn Sie ihn trainieren, die richtigen Beispieltexte vorgeben. Zudem werden auch Metadaten ausgewertet. Also wer postet wann und wie oft? Meist sind noch Bots im Hintergrund beteiligt, die sich zu einem Netz zusammenschließen, das dann mit Falschinformationen geflutet wird. Je häufiger Menschen etwas hören, desto schneller glauben sie es, und wenn viele die gleiche Geschichte erzählen, wird diese eher für wahr gehalten. Die Strukturen dieser Netze können wir über sogenannte Metadaten erkennen.
pressrelations beobachtet täglich rund 2 Mio. Nachrichtenbeiträge aller Medienkanäle. Sie nutzen die News, um Ihr Programm weiterzuentwickeln. Warum sind diese großen Datenmengen wichtig?
Professor Dr. Ulrich Schade: Wir benötigen gute Sprachmodelle sowohl zu seriösen Nachrichten als auch zu „Fake“. Um die erstellen zu können, brauchen wir viele Beispiele, wobei sich eine große Menge an Beispielen aber erst dann positiv auswirkt, wenn mit dieser Menge auch Sonderfälle abgedeckt werden. Wenn ein Mensch lernt, was ein Vogel ist, genügt es nicht, Beispiele von Singvögeln und Raubvögeln zu präsentieren und als Nicht-Vögel Raubkatzen und Affen. Das bietet keine Basis zur korrekten Klassifikation von Fledermäusen, Pinguinen, Insekten und Straußen als „Vogel“ oder „kein Vogel“.
Herr Dr. Meißner, in der Analyse und Bewertung von Fake News setzen Sie als Journalist und Kommunikationswissenschaftler gemeinsam mit Ihren Kolleginnen und Kollegen von NewsGuard bei der Quelle an. Warum?
Dr. Florian Meißner: Unser Schwerpunkt ist in der Tat die Analyse von Nachrichten- und Informationswebsites. Die Widerlegung einzelner Falschnachrichten durch Faktenchecker, das sogenannte „Debunking“, ist natürlich sehr wichtig. Es gibt viele gute Organisationen in dem Bereich, die in der Corona-Krise viel zu tun hatten. Allerdings existiert beim Faktencheck ein zentrales Problem: Überprüfung und Richtigstellung kommen meist erst dann, wenn die Falschnachricht schon ihre Wirkung entfaltet und sich viral verbreitet hat. Das lässt sich dann oft kaum mehr einfangen. Denn habe ich mir erst einmal ein Bild gemacht, ist es schwer, dieses nochmal zu korrigieren. Deshalb setzen wir genau am anderen Ende an und betreiben „Prebunking“. Wir machen Nutzerinnen und Nutzer von vornherein darauf aufmerksam, wenn es sich bei einer Informationsquelle belegtermaßen um ein unzuverlässiges Medium handelt.
Wie läuft so ein Medien-Check genau ab?
Dr. Florian Meißner: Der redaktionelle Prozess dahinter ist sehr aufwendig. Jede einzelne Bewertung entsteht unter Beteiligung von mindestens drei NewsGuard-Journalistinnen und -Journalisten. Wir schauen, wie eine Seite in den vergangenen Jahren berichtet hat, und legen verschiedene Glaubwürdigkeits- und Transparenzkriterien an. Kriterien, die beispielsweise auch in der journalistischen Ausbildung zum Tragen kommen. Die Ergebnisse unserer Bewertungen werden Nutzerinnen und Nutzern über unsere roten und grünen NewsGuard-Symbole auf einen Blick erkennbar angezeigt; alle Einzelheiten und die entsprechenden Belege sind dann in unseren Mediensteckbriefen nachzulesen.
Wie muss ein Medium beschaffen sein, um 100 Punkte zu bekommen?
Dr. Florian Meißner: Wir haben einen Katalog von neun grundlegenden journalistischen Kriterien, die gewichtet sind nach ihrer Bedeutung. Zum Beispiel Kriterien für Glaubwürdigkeit: Hat eine Website wiederholt Falschinformationen verbreitet, ohne diese richtigzustellen? Wird verantwortungsbewusst recherchiert oder werden Zitate oder Fakten aus dem Kontext gerissen? Gibt es Korrekturrichtlinien und werden auch tatsächlich regelmäßig Korrekturen veröffentlicht? Werden Nachricht und Kommentar getrennt? Gibt es irreführende Überschriften? Gibt es zudem verschiedene Kriterien für Transparenz: Werden Eigentumsverhältnisse offengelegt? Und wird Werbung also solche gekennzeichnet? Werden die redaktionell Verantwortlichen benannt? Und gibt es Informationen zu den Autorinnen und Autoren?
Wie viele Seiten sind bisher analysiert worden?
Dr. Florian Meißner: Weltweit sind es bereits fast 6.000, ein Großteil davon sind US-amerikanische Medien. Seit anderthalb Jahren sind wir auch in Europa aktiv. Neben Deutschland in Großbritannien, Frankreich und Italien. Hierzulande haben wir bisher rund 250 Medien überprüft, aber es kommen kontinuierlich weitere hinzu.
Wie reagieren Medien, wenn sie eine negative Bewertung kassieren?
Dr. Florian Meißner: Bei schlechten Bewertungen ist es klar, dass man sich nicht immer Freunde macht. Das erleben auch viele Faktenchecker bei ihrer täglichen Arbeit. Zur journalistischen Fairness gehört: Wenn wir auf problematische Inhalte stoßen, geben wir den Webseitenbetreibern die Möglichkeit zur Stellungnahme. Manchmal werden Informationen auf diesen Webseiten dann auch geändert, ergänzt oder korrigiert. In diesen Fällen aktualisieren wir natürlich unsere Bewertungen.
Einen ersten Anwendungsfall für das neu entwickelte Verfahren ist die Analyse des US-Wahlkampfs in Zeiten der Corona-Krise. Wie kommen die drei Partner dabei zusammen?
Jens Schmitz: Insgesamt geht es darum, die Glaubwürdigkeit des US-Wahlkampfs unter die Lupe zu nehmen und zu schauen, wie hoch dabei der Anteil an Desinformation ist. Unter den speziellen Bedingungen der Corona-Krise ergibt sich im aktuellen Wahlkampf ein spannendes Forschungsfeld.
Die Medienanalyse nehmen wir selbst vor, greifen dabei aber sowohl auf die NewsGuard-Scores als auch auf die Ergebnisse des Fraunhofer FKIE zurück. Die erste Teilanalyse, die gerade erschienen ist, ist eine Twitter-Analyse, die u. a. zeigt, dass Biden viel weniger tweetet, aber mehr Interaktionen pro Tweet hat. Über den NewsGuard-Score wird deutlich, dass Biden Inhalte aus wesentlich glaubwürdigeren Quellen teilt als Trump.
Mensch und Maschine arbeiten bei der Analyse Hand in Hand. Welche Vorteile ergeben sich daraus?
Jens Schmitz: Wir haben damit einen ganz neuen Ansatz geschaffen. Bisher gibt es entweder Angebote, die sich auf die Inhalte konzentrieren, oder solche, die sehr stark von der Quelle ausgehen. Die Kombination aus beiden bietet den Vorteil, dem Nutzer noch mehr Orientierung zu bieten, welchen Medien und welchen Informationen er vertrauen kann. Bei Quellen mit geringer Glaubwürdigkeit besteht zudem immer ein erhöhtes Reputationsrisiko, das es im Blick zu behalten gilt.
Dr. Florian Meißner: Von Unternehmen, die im Bereich Ad Management tätig sind, wissen wir, dass Brand Safety in diesem Kontext ein großes Thema ist. Dabei lässt sich Brand Safety auch weiter fassen: frühzeitig zu erfahren, wer sich im Netz wie und mit welchem Hintergrund zu einem Unternehmen und seinen Themen äußert. Damit sollte man nicht erst anfangen, wenn es zu spät.
Vielen Dank für das Gespräch!
Bildnachweise:
Titelbild: Kai Pilger via Unsplash.com
Portraits:
- Prof. Dr. Ulrich Schade: ©Fraunhofer FKIE
- Dr. Florian Meißner: ©Florian Meißner
- Jens Schmitz: ©pressrelations
NewsRadar®/Infoboard: ©pressrelations
