Fraunhofer SIT Darmstadt; Echtzeit-Warnsystem gegen Deepfake-Videokonferenzen entwickelt; Lokal, datenschutzkonform, kein Server nötig

Wenn der Fake-Chef anruft: Echtzeit-Warnsystem gegen gefälschte Videokonferenzen

August 2026 Seite 1 | 3 Forschung Kompakt — Deepfakes Wenn der Fake-Chef anruft: Echtzeit-Warnsystem gegen gefälschte Videokonferenzen Deepfakes dienen Betrug und Identitätsdiebstahl – selbst dort, wo der Mensch seinen Augen und Ohren im Allgemeinen traut: Videokonferenzen in Unternehmen geraten zunehmend ins Visier von Kriminellen. Fraunhofer- Forschende arbeiten daran, Betrugsversuche in Echtzeit zu erkennen. Videokonferenzen erleichtern die Kommunikation über Standorte hinweg und ermöglichen es trotzdem, sich in die Augen zu schauen. Doch immer öfter darf man zweifeln, ob die Augen des Gegenübers echt sind. Denn Deepfake-Technologien können heute Stimmen und Bilder in Echtzeit so realistisch wie noch nie fälschen. Opfer eines solchen Deepfake-Zoomcalls, bei dem alle Teilnehmendem – inklusive seinem Chef – KI-generiert waren, wurde der Finanzdi- rektor eines Unternehmens in Singapur 2025. Er kam mit einem Schrecken davon: Die Behör- den konnten den von ihm überwiesenen Betrag von knapp 500 000 US-Dollar später sichern. Allein in Singapur verzeichnete die dortige Cyber Security Agency (CSA) im ersten Quartal 2026 einen riesigen Anstieg solcher Videobetrugsfälle. So gab es dort nur im Januar über 1200 Fälle. Im Vorjahresmonat waren es 43. Doch das Problem ist global. Nach Prüfung von über einer Milliarde Fälle weltweit resümiert der Entrust Identity Fraud Report 2026: »Identi- tätsbetrug ist nicht mehr opportunistisch, sondern inzwischen industrialisiert, global organi- siert und kommerziell optimiert.« Grund genug für Fraunhofer-Forschende wie Prof. Martin Steinebach, Chef-IT-Forensiker am Fraunhofer-Institut für Sichere Informationstechnologie SIT in Darmstadt, mit Hochdruck an diesem Thema zu arbeiten. »Videokonferenzen sind für die Deepfake-Erkennung eine Herausforderung«, weiß der Ex- perte: »Die Bild- und Tonqualität schwankt, da die Netzqualität variiert. Weil die Datenströme komprimiert werden, gehen genau jene Bildfehler verloren, an denen frühere Erkennungsme- thoden Deepfakes oft festgemacht haben.« Hinzu kommen automatische Weichzeichnungs- filter, wechselnde Beleuchtung, Rauschen und Bewegungen im Hintergrund. Ein Detektor darf auf solche normalen Videokonferenz-Effekte nicht fälschlich reagieren. Lokale Lösung für Echtzeiterkennung Steinebach und sein Team aus Experten am Fraunhofer SIT und am Fraunhofer Heilbronn For- schungs- und Innovationszentrum (HNFIZ) für Cybersicherheit haben im Rahmen eines ATHENE-Forschungsprojekts eine Lösung entwickelt, die Video- und Audio-Deepfake-Erken- nung kombiniert. Die KI-basierte Software soll Teilnehmenden bei sicherheitskritischen Video- calls kontinuierlich Hinweise liefern, wie wahrscheinlich ein Deepfake ist. Die Warnung erfolgt visuell: »Wenn ein Gespräch im Augenblick viele Indikatoren aufweist, gibt das System eine
August 2026 Seite 2 | 3 Wahrscheinlichkeit aus, ob es sich hier um Deepfake handeln könnte«, so der Forscher. »Dann ist aber immer noch der Mensch gefragt, der mit gezielten Rückfragen oder auch ei- nem Rückruf auf einem anderen Kanal die Echtheit seines Gegenübers verifizieren muss.« Die Analyse kann lokal auf einem leistungsfähigen Laptop laufen, ohne dass Bild- oder Tonda- ten an einen externen Server übertragen werden müssen. Damit ist sie datenschutzkonform und für Unternehmen geeignet, die vertrauliche Gespräche führen, etwa mit Vorständen, Fi- nanzabteilungen oder externen Partnern. »Für die lokale Echtzeitanalyse unserer Lösung reicht ein Rechner mit moderner Grafikkarte und zwölf Gigabyte Grafikspeicher«, sagt Steine- bach. Interessant dürfte die Lösung auch für Anbieter von Videokonferenzsystemen sein, die sie als Plugin oder fest eingebaute Sicherheitsfunktion in Systemen wie Teams, Zoom oder vergleich- baren Unternehmenslösungen integrieren könnten. Ebenso möglich wäre eine zentrale Unter- nehmensinfrastruktur: ein geschützter Serverbereich, über den besonders wichtige Gespräche analysiert werden. Die genaue Form hängt vom Einsatzszenario, den vorhandenen Ressourcen und den Datenschutzanforderungen ab. KI schlägt Signalverarbeitung »Eine Beobachtung, die wir anfangs gemacht haben, war, dass klassische Signalverarbei- tungsmethoden bei Echtzeiterkennung heute sehr schnell an ihre Grenzen kommen. Maschi- nelles Lernen war wesentlich schneller und effizienter«, berichtet Steinebach. Er füttert das selbstlernende System mit echten und manipulierten Audio- beziehungsweise Videodaten und es lernt, Unterschiede selbstständig zu erkennen. Im Audiobereich nutzte das Team unter an- derem öffentlich verfügbare Datensätze mit rund 19 000 echten und etwa 160 000 gespoof- ten, also manipulierten, Aufnahmen. Entscheidend ist dabei, dass die Trainingsdaten ein realistisches Videokonferenzumfeld mög- lichst gut abbilden. Deshalb müssen typische Effekte, wie sie in Videokonferenzen auftreten, mit abgebildet werden: Kompression, wechselnde Qualität, Weichzeichnungs-filter. In der KI spreche man von Augmentation, erklärt Steinebach: »Man versieht das Material mit den Stö- rungen, die im realen Betrieb auftreten, und schult das System so, dass es mit diesen umge- hen kann.« Da es sich um ein spezialisiertes Modell für eine klar umrissene Aufgabe handelt, ist das Training deutlich kleiner dimensioniert als bei großen Sprachmodellen. »Spannend war, dass die Erstellung der Deepfakes in so einem Echtzeitsystem fast zeitaufwendiger und schwieriger hinzubekommen war als die Erkennung.« Ausblick: Praxistest von Technik und Prozess Der Demonstrator des Fraunhofer SIT befindet sich aktuell noch in der Proof-of-Concept- Phase. Im nächsten Schritt planen die Forschenden, mit Unternehmen und Videokonferenz- systemanbietern zusammenzuarbeiten, um die Technologie zuverlässig, datenschutzfreundlich und nutzerfreundlich in reale Infrastrukturen zu integrieren. Zudem gelte es, juristische Fragen zu klären, etwa, ob Gesprächspartner der Analyse zustimmen müssen oder wie Nutzungsbe- dingungen eines Videokonferenzsystems eine solche Funktion abbilden.

Die Fraunhofer-Gesellschaft mit Sitz in Deutschland ist eine der führenden Organisationen für anwendungsorientierte Forschung. Im Innovationsprozess spielt sie eine zentrale Rolle – mit Forschungsschwerpunkten in zukunftsrelevanten Schlüsseltechnologien und dem Transfer von Forschungsergebnissen in die Industrie zur Stärkung unseres Wirtschaftsstandorts und zum Wohle unserer Gesellschaft. Die 1949 gegründete Organisation betreibt in Deutschland derzeit 74 Institute und Forschungseinrichtungen. Die rund 30 000 Mitarbeitenden, überwiegend mit natur- oder ingenieurwissenschaftlicher Ausbildung, erarbeiten das jährliche Finanzvolumen von 3,6 Mrd. €. Davon fallen 3,2 Mrd. € auf den Bereich Vertragsforschung

August 2026 Seite 3 | 3 Die weitere Entwicklung von Deepfakes sieht Martin Steinebach ambivalent. Einerseits be- stehe die Gefahr, dass sich bald auch so sicherheitskritische Verfahren wie die Video-Identifi- zierung von Banken durch Deepfakes fälschen lassen. Andererseits können kryptographische Absicherung, zusätzliche Authentifizierung und technische Erkennungssysteme das Risiko sen- ken. Wichtig bleibt jedoch die Kombination aus Technik und Prozess: Wenn in einer Video- konferenz plötzlich eine Überweisung gefordert wird, sollte ein zweiter, unabhängiger Kom- munikationskanal genutzt werden.

Abb. In ihrer Arbeit erstellen die Forschenden am Fraunhofer SIT zunächst selbst Deepfakes, um das System zu trainieren. Hier ein beispielhafter Vergleich zwischen der Detektion des authenti- schen Forschers links und mit dem Gesicht von Tom Cruise rechts. © Fraunhofer SIT

Kontakt — Ansprechpersonen

Monika Landgraf Fraunhofer-Gesellschaft, München Direktorin Unternehmens- kommunikation Tel. +49 89 1205-1333 presse@zv.fraunhofer.de

Oliver Küch Fraunhofer-Institut für Sichere Informa- tionstechnologie SIT Kommunikation Tel. +49 6151 869-213 oliver.kuech@sit.fraunhofer.de