BACS warnt vor KI-generierten, interaktiven Videos in Unternehmen; CEO-Betrug durch geklonte Stimmen wächst.

BACS warnt vor KI-generierten, interaktiven Videos in Unternehmen; CEO-Betrug durch geklonte Stimmen wächst.

Woche 31: Was die Zukunft bringt – Interaktion im KI-Zeitalter

04.08.2026 - Der letzte Teil der BACS-Sommerserie widmet sich dem Thema KI-generierter und interaktiver Videos, die anhand von bestehenden Bildern und Audioaufnahmen erstellt werden sowie der zukünftigen Entwicklung in diesem Bereich. Dank der künstlichen Intelligenz (KI) können auf rasche Weise Videos mit Hilfe von statischen Bildern generiert werden. Für das Klonen einer Stimme wird aktuell eine Audiodatei von ungefähr 10 Sekunden benötigt.

Sie erhalten einen Telefonanruf mit der Stimme eines Verwandten oder eines Freundes, der sich in einer Notlage befindet oder einen Anruf vom Chef, der eine dringende hohe Zahlung fordert. Jedoch handelt es sich weder um einen Freund noch um den Chef, sondern um eine KI-generierte Stimme. Das alles erfolgt interaktiv und in Echtzeit.

Momentan ist die Anzahl der Meldungen beim BACS zu solchen Betrugsversuchen noch gering. Es sind Einzelfälle. Dies dürfte sich zukünftig jedoch ändern. Der Fundus an Videomaterial als Grundlage für Deepfakes ist im Zeitalter von Social Media nahezu unerschöpflich. Durch die Zunahme einfach zugänglicher und verbesserter Technologien, die von immer mehr Internetnutzerinnen und -nutzern verwendet werden können, dürfte sich diese Entwicklung in Zukunft weiter verstärken. Wohin diese Entwicklung letztlich führt, bleibt jedoch ungewiss. Auch wenn bessere technische Methoden künftig vorhanden sind, werden diese durch Betrüger erst eingesetzt, wenn diese erfolgreich zu monetarisieren sind und in funktionierende Betrugsmodelle umgesetzt werden können.

Wie sich Betrugsformen zukünftig weiterentwickeln, wird an den beiden folgenden Phänomenen illustriert:

Beim CEO-Betrug werden Mitarbeitende meist vom Chef angewiesen, eine dringende Zahlung an einen angeblichen Lieferanten im Ausland zu tätigen oder Geschenkkarten zu kaufen. In der Regel wird in diesen Fällen eine Dringlichkeit vorgegeben, so dass das Opfer nicht auf die Idee kommt, den Auftrag zu hinterfragen. Typischerweise ist der Chef oder Präsident für Rückfragen telefonisch nicht erreichbar. Die Betrüger versuchen zu vermeiden, dass Mitarbeitende mit dem Chef in Kontakt treten. Es gibt aber auch jetzt schon Fälle, bei denen die Betrüger es bewusst darauf anlegen, telefonisch Kontakt aufzunehmen. Dabei suchen die Betrüger im Vorfeld nach Audiomaterial des Chefs im Internet und generieren mit diesem Material eine geklonte Stimme. Da einer Stimme mehr vertraut wird als einer E-Mail, lohnt sich in diesen Fällen der Aufwand. In einzelnen Fällen nimmt sogar ein geklonter Chef an einer Videokonferenz teil, um seiner Forderung Nachdruck zu verleihen. Noch handelt es sich um Einzelfälle. Solche Fälle werden zukünftig zunehmen und betreffen vor allem Unternehmen, die einen offenen Umgang mit Mitarbeiterdaten haben und beispielsweise auch proaktiv persönliche Videos publizieren.

Immer wieder erhält das BACS Meldungen zu sogenannten Schockanrufen. Dabei geben sich die Anrufer als Polizei aus und behaupten, dass die Tochter oder der Sohn der angerufenen Person einen schweren Unfall verursacht habe. Zur vermeintlichen Bestätigung wird das Gespräch kurz an die angebliche Tochter

den Sohn übergeben, die jeweils mit aufgeregter Stimme um Hilfe bitten. Viele Betroffene sind überzeugt, dabei tatsächlich die Stimme ihres Kindes erkannt zu haben. Es ist denkbar, dass Betrüger hierfür mithilfe von frei zugänglichem Videomaterial aus sozialen Medien geklonte Stimmen einsetzen. Ebenso möglich ist jedoch auch, dass Betroffene in der Stresssituation lediglich glauben, die vertraute Stimme erkannt zu haben. Ob wirklich KI im Einsatz ist, kann das BACS in diesen Fällen jeweils nicht abklären.

Das BACS erhält immer wieder Anfragen, ob Anrufe von unbekannten Nummern, bei denen sich niemand meldet, verwendet werden, um Stimmmuster abzufischen. Dem BACS sind hierzu keine Fälle bekannt, dass mit einem simplen «Hallo» oder dem Nennen des «Namens» eine ganze Stimme geklont werden kann und anschliessend für einen Betrug verwendet wird. Vielmehr liegt die Motivation der Angreifer darin, auf diese Weise automatisiert zu testen, ob hinter einer Telefonnummer wirklich eine Person steht und diese auch gewillt ist, bei «jeder» Nummer einen Anruf entgegenzunehmen. Es wird aber auch über Fälle berichtet, bei denen Betrüger im Vorfeld anrufen, um eine Stimmprobe zu erhalten. Diese richten sich aber vornehmlich an Unternehmen. Die Angreifer müssen die Opfer über eine gewisse Zeit in ein Gespräch verwickeln, um mit den erhaltenen Daten einen Klon zu erstellen. Für gezielte Angriffe wird sich diese Vorgehensweise etablieren, für flächendeckende Angriffe ist die Vorgehensweise zu aufwändig und die Betrüger dürften sich vor allem an den frei verfügbaren Social-Media-Inhalten bedienen.

Die Erstellung von Videos geschieht heutzutage in den meisten Fällen noch anhand von Standbildern und nicht durch eine Veränderung eines bestehenden Videos. Zurückzuführen ist das auf die grosse Datenmenge, welche durch die KI analysiert werden müsste. Der resultierende Aufwand bezüglich Kosten und Dauer sind noch zu hoch. Ein Bild gibt der KI nur einen einzelnen Referenzpunkt für die Generierung des Videos und somit können spezifische Bewegungen der Gliedmassen oder auch die Mimik des Gesichtes verloren gehen. Auch die Synchronisation der Lippen ist noch nicht perfekt und kann ein Indiz für eine Fälschung sein. Die Entwicklung wird auch hier voranschreiten und perfektere Videos mit vergleichsweise wenig Aufwand ermöglichen.

Derzeit ist dem BACS kein breitflächiger Einsatz von Betrugsversuchen dieser Art bekannt. Noch werden diese sehr gezielt angewandt, da diese heute noch mit manueller Arbeit durchgeführt werden müssen und zumeist auf einzelne lohnende Ziele fokussiert sind. Der Einsatz von generativer KI für die Videobearbeitung benötigt gemäss heutigen Stand immer noch einen gewissen Aufwand. Auch sind für solche interaktiven Betrugsvarianten oft bessere und oftmals auch teurere Modelle notwendig, womit der Einsatz bei einem breitflächigen Einsatz unrealistisch bleibt. Jedoch zeigt der Trend, dass auch die günstigeren Modelle leistungsstärker werden und davon auszugehen ist, dass diese Angriffsmethoden in Zukunft auch flächendeckend eingesetzt werden.

Zukünftig wird die vermeintliche «Authentizität» eines Videos oder eines Sprachanrufs einer bekannten Person aber nicht mehr ausreichen. Vielmehr müssen verstärkt Gestik, Mimik und typische Ausdrucksweisen der dargestellten Person beachtet werden. Deepfake Videos können zwar ein äusserlich realistisches Bild erzeugen, weisen jedoch oft unnatürliche Verhaltensmuster der entsprechenden Person auf. Daher ist es entscheidend, nicht nur dem sichtbaren Erscheinungsbild zu vertrauen, sondern auch das Verhalten der Person kritisch zu hinterfragen.

Trauen Sie nicht jedem Anrufer.

Rufen Sie den vermeintlichen Angehörigen über die bekannte Rufnummer zurück.

Beenden Sie nicht plausible Anrufe sofort.

Lassen Sie sich nicht einschüchtern oder unter Druck setzen.

Geben Sie niemals Passwörter oder PIN am Telefon bekannt.

Gewähren Sie niemals fremden Personen Zugriff auf Ihren Computer, auch wenn Ihnen diese vertrauenswürdig erscheinen.

European Cyber Security Month (ESCM): Tipps für Seniorinnen und Senioren

Die Anzahl Meldungen der letzten Woche nach Kategorien sind publiziert unter:

Woche 31: Was die Zukunft bringt – Interaktion im KI-Zeitalter