KI-Sicherheit, Deepfakes und digitales Vertrauen
Cybersecurity bedeutet heute nicht nur den Schutz von Netzwerken, sondern auch von Informationen, Bildern und Stimmen. Manipulation ist dabei kein neues Problem: Schon im frühen 20. Jahrhundert wurden Fotos politisch verändert, später wurde Bildbearbeitung durch digitale Werkzeuge immer leichter.
Mit generativer KI hat sich die Lage verschärft. Deepfakes und KI-Videos können heute so realistisch wirken, dass selbst Medien und Nutzer sie kaum sicher erkennen.
Eine Meta-Analyse von 56 Studien und insgesamt mehr als 86.000 Versuchspersonen findet eine durchschnittliche Trefferquote von ca. 56 Prozent über alle Medien gemittelt.
Die Folgen reichen weit über Technik hinaus. Forschungen und Analysen sehen Risiken für demokratische Prozesse, weil Deepfakes Unsicherheit, Misstrauen und Polarisierung verstärken können; schon die bloße Erwartung von Deepfakes kann das Medienvertrauen schwächen.
Im Jahr 2023 wurde das virale Bild des Papstes in einer weißen Daunenjacke zum Wendepunkt. Es wirkte so glaubwürdig, dass viele Menschen, darunter auch Medien, es für echt hielten. Für viele war das der Moment, in dem ihnen klar wurde, dass man Bildern nicht mehr so vertrauen konnte wie zuvor. Generative KI hatte die Grenze von offensichtlich gefälschten Bildern zu etwas überschritten, das von der Realität kaum noch zu unterscheiden war.
Der gleiche Wandel vollzog sich auch im Bereich Video. Neue Text-zu-Video-Systeme ermöglichen es, allein anhand einer Eingabe vollständige Audio- und Videoinhalte zu generieren. Keine Kamera. Kein Photoshop. Keine technischen Kenntnisse erforderlich. Das bedeutet, dass nun jeder Inhalte erstellen kann, in denen jemand fast alles sagt oder tut.
Labore an der UC Berkeley entwickeln Tools zur Inhaltsprüfung. Lernmodelle suchen nach Mustern im Bildrauschen, die typisch für KI-Generierung sind. Mathematische Messungen (z. B. ob Fluchtpunkte paralleler Linien korrekt zusammenlaufen) können Fälschungen entlarven, da die KI hier regelmäßig Fehler macht.
