Im Dezember luden der Verband Medien mit Zukunft (VMZ) und Google Schweiz zum zweiten Mal zu einem Austausch über KI im Journalismus ein. Der Fokus lag dieses Mal bei den Chancen und Risiken von KI für die Medienbranche, bei veränderten IT-Bedrohungslagen und bei der Frage, wie man sich eine Cybersecurity-Strategie aufbaut.
Der Austausch begann mit einer Session der Techspark Academy. Cybersecurity-Experte Noè Canevascini gab mithilfe verschiedener Case Studies einen Einblick in die aktuelle Bedrohungslage durch Cyberkriminelle und die Veränderungen, die dieser Bereich durch KI erfahren hat. Die Teilnehmenden wurden aufgefordert, ihre eigene Situation einzuschätzen und zu hinterfragen.
Dabei wurde deutlich, dass Medien nicht nur aufgrund digitaler Assets wie Fotoarchiven und Abonnent:innendatenbanken oder wegen eines Online-Shops interessant für Angreifer:innen sind. Auch die Verbreitung von Desinformation und gezielte Diskreditierung kann Motivation für einen Angriff sein. Die Motivation für Attacken muss sich den Angegriffenen nicht direkt erschliessen und kann willkürlich erscheinen.
Was lässt sich daraus schliessen? Kein Medienbetrieb ist zu klein, um nicht als Ziel zu gelten. Jede:r sollte sich um die Sicherung seiner digitalen Assets kümmern, grundlegende Cybersecurity-Massnahmen einführen und wissen, wen man im Fall des Falles kontaktieren und um Hilfe fragen kann.
Olga Reznikova, Cybersecurity-Expertin bei Google, erklärte, was KI im Sicherheitsbereich leisten kann und was nicht. Ihr zufolge ist vor allem zu beachten, dass es sich bei KI in erster Linie um language models handelt. Ihr output ist sprachbasiert und nicht geeignet als Ersatz für direkte, produktive Aufgaben. So könne KI selbst keinen pentest durchführen, also einen Sicherheitstest der IT-Systeme, um Sicherheitslücken zu schliessen. Sie könne aber einen soliden pentest-Plan entwerfen. Ausserdem gebe es gegenüber der KI Vertrauensprobleme, weshalb ihr selten Zugriff zu Produktionssystemen gewährt werde.
Die KI kann also unterstützen, aber nicht menschliche Übersicht und Initiative ersetzen. Menschliche Aufsicht ist immer noch entscheidend in Fragen der Sicherheit.
Auch Tom Hofmann ist Cybersecurity-Experte, er arbeitet für kritische Infrastrukturen und Regierungen und hat einen Fokus auf Open-Source-Software. In seinem Vortrag zu KI präsentierte er einen «Realitätscheck jenseits von Hype und Buzzwords».
Tom zufolge hat sich mit dem Einsatz von KI vor allem die Quantität von Cyberangriffen erhöht, nicht so sehr aber die Qualität. Es gibt nur ein paar wenige Ausnahmen: So wird das social engineering, also die Manipulation von Opfern beispielsweise zur Herausgabe von Informationen, qualitativ immer besser. Die durch KI benutzte Sprache wird besser und macht Texte glaubwürdiger. Das gilt auch für deepfakes bei Videos und Stimmen.
Berichte von massiven Cyberrisiken durch KI seien jedoch einerseits vom Hype getrieben, andererseits von konkreten Verkaufsabsichten derjenigen, die dafür Lösungen verkauften. Das Wichtigste, so Hofmann, sei auch in heutigen Zeiten immer noch, die Basics der Cybersecurity umzusetzen. Das umfasst ein Inventar der eigenen Systeme, die Nutzung eines Passwortmanagers, die Aktualisierung von Software und Prüfung auf Schwachstellen, die sichere Konfiguration von Systemen, die im Internet laufen und der Schutz der Cloud.
Konkrete KI-Tools und ihre Anwendungsbereiche zeigte Luisa Fernau auf. Sie ist Trainerin bei der Google News Initiative und präsentierte die beiden Google-Tools News Consumer Insights (NCI) und NotebookLM, die konkret in der Verlagsarbeit dienlich sein können.
Der mit Google-Analytics-Account kostenfrei nutzbare Dienst NCI erstellt Berichte, Statistiken und Empfehlungen auf Basis der Google-Analytics-Daten. So könne man kritische Insights zu seinen Zielgruppen erhalten, die Bindung zu den Leser:innen steigern und seine Werbeeinnahmen erhöhen, erklärte Fernau.
Bei NotebookLM handelt es sich ihr zufolge um einen digitalen Forschungsassistenten, der Fakten zusammenfassen, Ideen erklären und Zusammenhänge zwischen Daten erarbeiten könne. Das Besondere: NotebookLM greift nur auf die Informationen zurück, die man ihm als Quelle zur Verfügung stellt und arbeitet mit Zitaten. So soll gegenüber den gängigen large language models ein hohes Mass an Genauigkeit, Transparenz und Vertrauen hergestellt werden.
Der Event bei Google war der Teil der Austauschreihe «Hilfe zur Selbsthilfe», welche der VMZ gemeinsam mit We.Publish organisiert: Für Vertreter:innen unabhängiger Medien organisieren wir monatliche Veranstaltungen in Form von Remote-Inputs, Workshops oder Podien. Dabei sind es oft die Teilnehmenden selbst, die von ihrem Alltag berichten und Best-Practices-Beispiele zeigen. Die Teilnahme ist kostenlos, finanziert wird die Reihe von der Volkart Stiftung.