26/06/2026
𝗗𝗲𝗲𝗽𝗳𝗮𝗸𝗲𝘀 𝗲𝗿𝗸𝗲𝗻𝗻𝗲𝗻, 𝘄𝗲𝗻𝗻 𝗱𝗮𝘀 𝗔𝘂𝗴𝗲 𝘃𝗲𝗿𝘀𝗮𝗴𝘁
25 Mio. Dollar Schaden durch eine gefälschte Videokonferenz, jeder Vierte fällt auf KI-Fakes herein: Deepfakes sind längst kein Zukunftsproblem mehr. In dieser Folge des Security-Insider Podcast erklärt Raphael Frick vom Fraunhofer SIT, wie Forensiker mit KI gegen KI-Fälschungen kämpfen und ob dieses Wettrüsten zu gewinnen ist.
Sechs Finger an einer Hand, verzerrte Gesichter, unsinnige Hintergründe: Noch vor drei Jahren konnte man KI-generierte Bilder auf den ersten Blick entlarven. Diese Zeiten sind vorbei. Aktuelle Generatoren wie Z-Image Turbo erzeugen Bilder, die selbst geschulte Betrachter nicht mehr von echten Fotos unterscheiden können.
Und die Bedrohung geht längst über manipulierte Bilder hinaus: Anfang 2024 verlor das Ingenieurbüro Arup 25 Millionen Dollar, weil Betrüger in einer Videokonferenz per Deepfake den Finanzvorstand und mehrere Kollegen täuschend echt simulierten. Laut TÜV-Verband ist bereits jeder vierte Nutzer auf KI-generierte Inhalte hereingefallen. Wenn das menschliche Auge versagt, braucht es technische Methoden, um Fälschungen zu entlarven.
Genau daran arbeitet Raphael Frick. Er forscht am Fraunhofer-Institut für Sichere Informationstechnologie (SIT) in Darmstadt in der Abteilung „Media Security and IT Forensics“ an neuartigen Erkennungsmethoden für KI-generierte und manipulierte Bilder und Videos.
Sein Schwerpunkt liegt auf Deep-Learning-basierten Detektionsverfahren und der multimodalen Analyse von Falschinformationen in sozialen Netzwerken. Unter anderem hat er 2024 mit „DiffSeg“ eine Methode zur Erkennung von Diffusion-basiertem Inpainting entwickelt, die auf der renommierten CVPR-Konferenz vorgestellt wurde.
Im Podcast spricht er über das Wettrüsten zwischen immer besseren Fälschungstools und forensischen Erkennungsmethoden, erklärt wie KI gegen KI eingesetzt wird und gibt eine ehrliche Einschätzung, ob die Forensik dieses Rennen gewinnen kann.
Treten Sie unserer Community auf Telegram bei und bleiben Sie auf dem Laufenden:
t.me/FactFinderCommunity
(Bild: Vogel IT-Medien) Podcast: Raphael Frick vom Fraunhofer SIT erklärt, wie KI-Forensik Deepfakes erkennt und ob das Wettrüsten gegen KI-Fälschungen zu gewinnen ist.
