KI im Journalismus:
Chancen & Risiken
Steffen Kühne
AI + Automation Lab
Bayerischer Rundfunk
Über mich
BR Recherche
AI + Automation
Lab
BR Data
Investigativer Journalismus
KI & Automatisierung
Journalismus
Automatisierte Formate & Anwendungen
Was ist�Künstliche Intelligenz?
Künstliche
Intelligenz
Automatisierung
Künstliche
Intelligenz
Medizin
Maschinelles
Lernen
Deep
Learning
Generative
KI
Philosophie
Ethik
Science Fiction
Technologie
ChatGPT
Industrie
Informatik
Linguistik
Statistik
Automatisierung
Roboter
KI-Modell�stellt Funktionalität bereit�wird trainiert������„Motor“�� Beispiel: GPT-4
KI-Anwendung�stellt Benutzeroberfläche bereit�wird programmiert������„Auto“��Beispiel: ChatGPT, Copilot, WriteSonic, Jasper, …
Was ist ein�KI-Modell?
Klassische Programmierung
if (hasFur && hasTail && hasPointyEars && hasWhiskers) {� print(“It’s a cat!”)�} else {� print(“It’s NOT a cat!”)�}
Jede Regel muss einzeln festgelegt werden. Für Algorithmen mit sehr vielen Regel ist das irgendwann nicht mehr möglich.
Training von KI-Modellen
Verwendung
Keine Katze!
Katze!
falsch-positives�Ergebnis
Katze!
„Katze“
Training
Trainingsdaten
Wahrscheinlichkeiten statt Wahrheiten
Ein künstliches neuronalen Netzwerk gibt Ergebnisse mit unterschiedlichen Wahrscheinlichkeiten aus. Daraus kann man teilweise ablesen, wie „sicher“ das Ergebnis ist.
Katze ██████████ 99 %�Tier ██████████ 98 %�Haustier ████████ 82 %�Luchs ███████ 73 %�Hund ████ 41 %
Entwicklungsprozess von KI-Modellen
Grundsätzlich läuft die Entwicklung eines KI-Modells folgendermaßen ab:
Entwicklungsprozess von KI-Modellen
KI-Modelle werden trainiert – und nicht im klassischen Sinne programmiert –�um eine bestimmte Aufgabe zu erfüllen.
vereinfachte Darstellung
Trainingsdaten
Die Erhebung und Zusammenstellung von Trainingsdaten ist jedoch mit einigen Problemen verbunden:
Arten von KI-Anwendungen
Chatbots: direkte Interaktion über natürlichsprachliche Anweisungen und Fragen (Prompts)
Vorlagenbasierte Systeme: wiederverwendbare Vorlagen für konkrete Aufgaben anlegen und verwenden
Kontextsensitive Assistenten: Vorschläge für Tätigkeiten innerhalb einer Anwendung
Hintergrundprozess: Aufgaben werden im Hintergrund, ohne Zutun der Nutzer:innen, erledigt.
Autonome Agenten: flexible Systeme, die selbstständig entscheiden können wie eine Aufgabe gelöst werden soll
Was ist eine�KI-Anwendung?
KI-Anwendungen optimieren
Fine-Tuning (Feinabstimmung): Anpassung des Modells durch weitere wenige Trainingsschritte, ohne das Modell grundsätzlich zu verändern.
Zero-/Few-Shot-Learning: Einsatz des Modells für Aufgaben, für die es nicht explizit trainiert wurde, basierend auf wenigen oder keinen Beispielen.
RAG (Retrieval-Augmented Generation): Prompt-bezogene Informationen aus einer Datenbank abrufen und diese in die Antwort integriert.
Prompt Engineering: Clever formulierte Fragen oder Anweisungen erstellen, um die Antworten eines KI-Modells zu beeinflussen.
„KI ist Software, die im Idealfall macht, worauf sie trainiert wurde.“
Was kann
generative KI?
Generative KI
„Klassische KI“: Bilderkennung, Spracherkennung und -verarbeitung, Empfehlungssysteme, Vorhersageanalytik
→ klare Probleme, einfache Modelle
Generative KI: Inhalte erzeugen (Texte, Bilder, Audio, Video), Deepfakes, Chat-Assistenten
→ universeller Ansatz, komplexe Modelle
KI-generierte Texte
Große Sprachmodelle können verschiedene Aufgaben erfüllen:
Tool: Generierte Texte erkennen
Online-Tools können dabei helfen KI-generierte Text zu erkennen. Jedoch geben diese Tools häufig nur einen groben Anhaltspunkt, lassen sich leicht austricksen und können durchaus auch falsch-positive Ergebnisse produzieren.
�
Liste: Texte generieren
Prompting Basics
Vorurteile und Halluzination
KI-generierte Bilder
Bildverarbeitende KI-Modelle können folgende Aufgaben erfüllen:
Liste: Bilder generieren
Desinformation mit KI
Quelle: GADMO (2024)
FALSCH!
FALSCH!
FALSCH!
KI-generierte Bilder erkennen
Quelle: GADMO (2023)
Tools: Generierte Bilder erkennen
Der Advanced AI Image Detector ist einer von vielen Onlinediensten, der KI-generierte Bilder erkennen soll. Gut ist, dass nur Wahrscheinlichkeit ausgegeben wird. Leider fehlen weitere Angaben zur verwendeten KI, digitalen Wasserzeichen und weiteren Metadaten.
https://contentatscale.ai/ai-image-detector/
Tools: Umgekehrte Bildersuche
Mit der umgekehrten Bildersuche kann kann Bilder im Internet finden und in welchem Kontext sie ursprünglich verwendet wurden.
Tools: Digitale Wasserzeichen
Manche Hersteller versehen ihre KI-generierten Bilder mit einem unsichtbaren, digitalen Wasserzeichen (C2PA-Metadaten). Verschiedene Werkzeuge können diese Metadaten auslesen. Wasserzeichen können aber vermutlich relativ einfach entfernt werden.�
https://contentcredentials.org/verify
Deep Fakes
Deep Fakes sind mit künstlicher Intelligenz erzeugte Videos oder Audiodateien, die Personen so darstellen, als würden sie Dinge sagen oder tun, die sie nie gesagt oder getan haben.
FALSCH!
FALSCH!
Auswirkungen
KI-generierte Avatare & Sprache
HeyGen https://app.heygen.com/
ElevenLabs https://elevenlabs.io/
KI-generierte Videos
Bislang waren KI-Videos noch wenig beeindruckend. Das hat sich mit der Vorstellung von OpenAI Sora geändert.
Was bringt uns
KI im Journalismus?
Was kann KI besser?
Geschwindigkeit: spezifische Aufgaben schnell erledigen, (unkritische) Entscheidungen treffen, teilweise in Millisekunden�
Skalierbarkeit: viele Aufgaben gleichzeitig bearbeiten, gleichbleibende Qualität, geringe Kosten
Konsistenz: hohe Präzision, vergleichbare Ergebnisse, wiederholbare Prozesse, keine Ermüdungseffekte.�
Datenanalyse: große Datenmengen speichern, analysieren, zusammenfassen, Muster und Trends entdecken
Was können Menschen besser?
Komplexe Kommunikation: Zuhören, Verhandeln, Erklären, Interpretieren, soziale und emotionale Intelligenz, Empathie�
Flexibel denken: Kreativität, auf nicht erwartbare Ereignisse reagieren, unstrukturierte Informationen verarbeiten
Kontextualisieren: Informationen und Aussagen einordnen, Folgen abschätzen, Irrelevantes ignorieren, Ironie, Sarkasmus, Humor�
Expertenwissen nutzen: Problemlösung mit Fachwissen, Strategien entwicklen, Priorisieren von neuen Informationen
Anwendungsfelder im Journalismus
Verifikation von (Deep) Fakes und zugespieltem Material
Bild-, Video- und Audioanalyse
Recherche
Verifikation
Produktion
Archivierung
Distribution
Analyse
Datenanalyse
Bild-, Video- und Audioanalyse
Sprachanalyse
Trendanalyse
Übersetzungs-�programme
Transkription
Metadaten-�Anreicherung
Verschlag-�wortung für Text, Bild, Audio
Transkription
Automatisierte Texte, Bilder, Audios & Videos
Textzusammen-�fassungen
Sprachsynthese
Avatare
Korrektur
Transkription
Untertitelung
Analyse von Zielgruppen, Reichweite
Social Media�Monitoring
Tippgeber und Impulsgeber für neue Recherche
Empfehlungs-�systeme
Kommentar-�moderation
Hate Speech
Sprach-�assistenten & Chat Bots
Accessibility:�Einfache Sprache, Vertonung
ARD: Simple Audio Mining
Das Transkribieren von Interviews ist extrem zeitaufwändig und lästig.
ARD SAM wandelt Audiodateien in Text (Speech-to-Text) um und spart Mitarbeitenden in den Redaktionen Nerven�und Zeit.
BR: Regional Update
Bayern 1 liefert regionale Radionachrichten:
Nachrichten werden segmentiert, verschlagwortet und personalisiert ausgespielt.
Prototyp: Regional Update
BR: Text Summarizer
BR24 liefert ein umfangreichen Nachrichtenangebot.
Nachrichten für den Bayerntext aufzubereiten ist aufwändig, vor allem wegen der fixen Textlänge
Der Text Summarizer liefert passende (extraktive) Textkürzungen.
Studie: JournalismAI Collab
BR: Dein Argument
BR24 bekommt jeden Tag tausende Kommentare von Leser:innen.
Unser Dienst durchsucht Kommentare nach Fragen und Hinweisen an die Redaktion und meldete diese via Teams.
Studie: JournalismAI Collab
OFR: Aiditor
Online-Anwendung, um verschiedene KI-Dienste nutzen zu können:
Es braucht Journalist:innen
Kritisch und differenziert: KI-Systeme sind schlecht darin komplexe Sachverhalte zu kontextualisieren.
Empathisch und nahbar: KI kann keine echte Beziehung zu Menschen aufbauen und hat kein echtes Verständnis von Emotionen.
Vor Ort und mittendrin: Keine KI kann „vor Ort sein“. Menschen wollen aber wissen, was in ihrem Ort oder ihrer Gemeinschaft passiert.
Hybride Workflows
Universalität: KI wird die meisten journalistischen Tätigkeiten unterstützten, Journalist:innen jedoch nicht ersetzen.
Assistenzsysteme: Die KI macht Vorschläge, der Mensch nimmt ab. Idealerweise als Integration in die bestehenden Arbeitsumgebungen.
Automatisierung: Unkritische, zeitraubende und schlecht skalierbare Tätigkeiten (z.B. Labeling) sollten automatisiert werden.
Was macht KI wertvoll?
Internetanbindung: KI-Anwendungen, die im Internet suchen können, sind weniger abhängig von der Aktualität des (Sprach-)Modells.
Datenbanken und Archive: Eine Anbindung der unternehmenseigenen Daten verbessert die Faktizität und Qualität der Antworten.
Systemintegration: KI sollte Teil bestehender Redaktionssysteme und Office-Anwendungen sein (weniger Copy & Paste)
Vorlagen: Einmal geschaffene Prompts und Workflows sollten wiederverwendbar sein.
Beispiel: Datenanbindung
Retrieval-Augmented Generation (RAG)
KI im Unternehmen
Unvermeidbarkeit: Mitarbeitende werden KI dort einsetzen, wo es ihnen hilft, egal ob es erlaubt ist oder nicht.
Verfügbarkeit: Softwarehersteller integrieren KI bereits in ihre Produkte, sichtbar oder unsichtbar.
KI ist Software: KI ist auch nur Software. Die meisten Unternehmen haben bereits Regeln und Prozesse, um Software einzuführen.
KI ist auch nur Software
Probleme von KI
Hype: unreflektierter Einsatz für alle Probleme
Interpretation: schlechte Nachvollziehbarkeit von Ergebnissen
Bias: fehlende, verzerrte oder falsche Trainingsdaten
Infrastruktur: aufwändige Integration in die eigene Infrastruktur, Kosten
Rahmen: ungeklärte ethische und rechtliche Fragen
Souveränität: Abhängigkeit von großen (US-)Unternehmen
Akzeptanz: Vorbehalte von Mitarbeitenden und Nutzer:innen
Talent: Schwierigkeit, KI-Expert:innen zu finden
Chancen von KI
Digitaler Wandel: KI zwingt Unternehmen die Digitalisierung nachzuholen, wovon auch andere Prozesse profitieren können.
Kosteneffizienz: KI ermöglicht es, Kosten zu sparen. Der Fokus sollte dabei aber erstmal auf der Verwaltung liegen.
Richtlinien: Der Einsatz von KI braucht klare Richtlinien. Unternehmen sollten das als Chance nutzen, Mitarbeitende an Bord zu holen.
Wo können wir KI einsetzen?
Was sind unsere größten Probleme? Welche Aufgaben sind besonders zeitaufwendig oder repetitiv?
Welche Regeln braucht es
für KI in Redaktionen?
Grundlagen für KI-Richtlinien
��Komponenten einer KI-Richtlinie: https://algorithmwatch.org/en/project/ai-ethics-guidelines-global-inventory/
Icons: flaticon.com
Beispiel: KI-Richtlinien des BR
Leitwerte
Link: KI-Richtlinien im BR
Beispiel: KI-Richtlinien des BR
DJV-Positionspapier
Der Deutsche Journalisten-Verband (DJV) fordert, dass Redaktionen selbst über den Einsatz von Künstlicher Intelligenz (KI) entscheiden und KI lediglich die Arbeit der Redaktionen unterstützen, aber nicht ersetzen darf. ���
Quelle: DJV-Positionen zu KI
Wie können wir
über KI berichten?
Algorithmic Accountability Reporting
Viele wichtige Entscheidungen werden heutzutage von Algorithmen getroffen, auch solche, die uns selbst betreffen.
Algorithmen können fehlerhaft und diskriminierend sein, mit unmittelbaren negativen Folgen für die Betroffenen.
Wie ein Algorithmus entscheidet ist oft intransparent und wird als Geschäftsgeheimnis betrachtet.
�Fachbegriff: Algorithmic Accountability Reporting
Beispiele: AI + Automation Lab
Beispiel: Raciness Detection
KI-Dienste werden genutzt, um zu überprüfen ob ein Bild sexuell anstößig ist. Dabei gelten unterschiedliche Standards für Männer und Frauen.
Diese Problem lässt sich mit einem einfachen Experiment beweisen.
Wie können wir über KI berichten?
Leitfragen: Wo werden Algorithmen eingesetzt? Wer entscheidet über den Einsatz? Gibt es Richtlinien und eine Qualitätskontrolle? Wie werden diskriminierende Effekte ausgeschlossen? Was sind die Konsequenzen für Betroffene?
Journalistischer Ansatz: Auskunftsrechte nutzen, Betroffene finden, Follow the Money, Crowdsourcing, Selbstversuch
Technischer Ansatz: Reverse Engineering
Handbuch: Black Box Reporting
AI + Automation Lab: Black Box Reporting
Verantwortungsvolle KI-Berichterstattung
Es gibt ein paar Dinge, die man bei der Berichterstattung über KI beachten sollte sollte:
„Am Ende entscheidet immer ein Mensch darüber, ob und wie KI
eingesetzt werden soll.“