Das U.S. Federal Bureau of Investigation (FBI) warnt vor einer Zunahme von Erpressungskampagnen, bei denen Kriminelle leicht verfügbare Tools mit Künstlicher Intelligenz (KI) nutzen, um aus den unschuldigen Fotos von Menschen sexuell eindeutige Deepfakes zu erstellen und sie dann zu belästigen oder zu erpressen.

Laut einer kürzlich veröffentlichten Bekanntmachung hat die Behörde eine wachsende Zahl von Berichten von Opfern erhalten, "deren Fotos oder Videos in explizite Inhalte umgewandelt wurden". Die Videos, auf denen sowohl Erwachsene als auch Minderjährige zu sehen sind, werden über soziale Medien oder Pornoseiten verbreitet.

Besorgniserregend ist, dass die rasant wachsende Technologie es fast jedem ermöglicht, gefälschte explizite Inhalte zu erstellen, die Erwachsene und sogar Kinder zu zeigen. Dies führt dann zu Belästigung, Erpressung und vor allem Sextortion.

Manchmal findet das Opfer die Inhalte selbst, manchmal wird es von einer anderen Person darauf aufmerksam gemacht, und manchmal wird es direkt von dem böswilligen Akteur kontaktiert. Was dann passiert, ist eines von zwei Dingen:

  • Der böswillige Akteur verlangt eine Zahlung, da er die Inhalte sonst an Freunde und Verwandte weitergibt.
  • Er verlangt echte Bilder oder Videos mit sexuellen Inhalten.

Ein weiterer Grund für Sextortion

Bei letzterem handelt es sich um Sextortion, eine Form der Erpressung, bei der ein Täter sein Opfer mit Tricks oder unter Zwang dazu bringt, sexuell eindeutige Inhalte von sich selbst zu teilen, und dann damit droht, diese zu veröffentlichen, wenn das Opfer nicht zahlt oder keine weiteren Bilder/Videos schickt. Dies ist ein weiterer schnell wachsender Trend, vor dem das FBI im letzten Jahr öffentlich warnen musste.

LESEN SIE WEITER: Schutz von Teenagern vor Sextortion: Was Eltern wissen sollten

Bei Sextortion wird das Opfer in der Regel von einer Person, die sich als eine andere Person ausgibt, online angefixt. Sie führen das Opfer so lange an der Nase herum, bis es die expliziten Bilder/Videos erhält. Im Falle der Erpressung durch Deepfake sind die gefälschten Bilder das Mittel, mit dem die Opfer erpresst werden - ein Freundschaftsdienst ist nicht erforderlich.

Indiesem Zusammenhang gibt es auch Sextortion-Betrügereien, bei denenKriminelle E-Mails verschicken, in denen sie behaupten, Malware auf dem Computer des Opfers installiert zu haben, die es ihnen angeblich ermöglicht, die Person beim Ansehen von Pornos aufzuzeichnen. Sie geben persönliche Daten an, wie z. B. ein altes E-Mail-Passwort, das sie bei einem früheren Datenschutzverstoß erlangt haben, um die Bedrohung - die fast immer eine leere Drohung ist - realistischer erscheinen zu lassen. Das Phänomen des Sextortion-Betrugs per E-Mail entstand aus der zunehmenden Sensibilisierung der Öffentlichkeit für Sextortion selbst.

Das Problem mit Deepfakes

Deepfakes werden mithilfe neuronaler Netzeerstellt, die es Nutzern ermöglichen, das Aussehen oder den Ton einer Person effektiv zu fälschen. Im Fall von visuellen Inhalten werden sie darauf trainiert, Video-Input zu nehmen, ihn über einen Encoder zu komprimieren und dann mit einem Decoder wiederherzustellen. Auf diese Weise könnte das Gesicht einer Zielperson effektiv auf den Körper einer anderen Person übertragen werden, die dann die gleichen Gesichtsbewegungen wie die Zielperson nachahmt.

Diese Technologie gibt es schon seit einiger Zeit. Ein virales Beispiel war ein Video von Tom Cruise, in dem er Golf spielt, zaubert und Lutscher isst, das Millionen von Zuschauern anlockte, bevor es gelöscht wurde. Die Technologie wurde natürlich auch verwendet, um die Gesichter von Prominenten und anderen Personen in unzüchtige Videos einzufügen.

Die schlechte Nachricht ist, dass die Technologie für jedermann immer leichter zugänglich wird und so weit ausgereift ist, dass auch Technik-Neulinge sie ziemlich überzeugend einsetzen können. Das ist der Grund, warum (nicht nur) das FBI besorgt ist.

Wie man die Deepfaker besiegt

Wenn solche synthetischen Inhalte erst einmal veröffentlicht sind, kann es für die Opfer sehr schwierig werden, die kontinuierliche Weitergabe der manipulierten Inhalte oder deren Entfernung aus dem Internet zu verhindern Dies könnte in den USA schwieriger sein als in der EU, wo die GDPR-Bestimmungen über das "Recht auf Löschung" den Dienstanbietern vorschreiben, bestimmte Inhalte auf Anfrage des Einzelnen zu löschen. Aber selbst dann wäre es für die Eltern oder ihre Kinder eine schmerzhafte Erfahrung.

In der digitalen Welt, in der wir ständig auf dem Laufenden sind und alles mit anderen teilen müssen, drücken viele von uns auf "Veröffentlichen" und erstellen einen Berg von persönlichen Videos und Fotos, die im Internet verteilt sind. Diese sind eigentlich harmlos, aber leider sind viele dieser Bilder und Videos für jedermann leicht zugänglich. Diejenigen, die böswillige Absichten haben, scheinen immer einen Weg zu finden, diese visuellen Mittel und die verfügbare Technologie für schlechte Zwecke zu nutzen. Das ist auch der Punkt, an dem viele Deepfakes ins Spiel kommen, denn heutzutage kann fast jeder solche synthetischen, aber überzeugenden Inhalte erstellen.

Es ist besser, dem Trend jetzt zuvorzukommen, um den potenziellen Schaden für Sie und Ihre Familie zu minimieren. Beachten Sie die folgenden Schritte, um das Risiko, Opfer eines Deepfakes zu werden, von vornherein zu verringern und die möglichen Folgen zu minimieren, wenn der schlimmste Fall eintritt:

Für Sie:

  • Überlegen Sie immer zweimal, wenn Sie Bilder, Videos und andere persönliche Inhalte veröffentlichen. Die harmlosesten Inhalte könnten theoretisch von bösartigen Akteuren ohne Ihre Zustimmung in einen Deepfake verwandelt werden.
  • Informieren Sie sich über die Datenschutzeinstellungen Ihrer Social-Media-Konten. Es ist sinnvoll, Profile und Freundeslisten privat zu halten, so dass Bilder und Videos nur mit denjenigen geteilt werden, die Sie kennen.
  • Seien Sie immer vorsichtig, wenn Sie Freundschaftsanfragen von Personen annehmen, die Sie nicht kennen.
  • Senden Sie niemals Inhalte an Personen, die Sie nicht kennen. Seien Sie besonders vorsichtig bei Personen, die Druck ausüben, um bestimmte Inhalte zu sehen.
  • Seien Sie vorsichtig bei "Freunden", die sich online ungewöhnlich verhalten. Ihr Konto könnte gehackt worden sein und dazu benutzt werden, Inhalte und andere Informationen auszuspionieren.
  • Verwenden Sie immer komplexe, eindeutige Passwörter und eine mehrstufige Authentifizierung (MFA), um Ihre Konten in sozialen Medien zu schützen.
  • Führen Sie regelmäßig Online-Suchen nach sich selbst durch, um persönliche Informationen oder öffentlich zugängliche Video-/Bildinhalte zu identifizieren.
  • Ziehen Sie die umgekehrte Bildsuche in Betracht, um Fotos oder Videos zu finden, die ohne Ihr Wissen online veröffentlicht wurden.
  • Senden Sie niemals Geld oder grafische Inhalte an unbekannte Personen. Sie werden nur noch mehr verlangen.
  • Melden Sie alle Sextortionsaktivitäten der Polizei und der betreffenden Social-Media-Plattform.
  • Melden Sie Deepfake-Inhalte an die Plattform(en), auf denen sie veröffentlicht wurden.

Für Eltern:

  • Führen Sie regelmäßig Online-Recherchen über Ihre Kinder durch, um festzustellen, wie viele persönliche Informationen und Inhalte online öffentlich zugänglich sind.
  • Überwachen Sie die Online-Aktivitäten Ihrer Kinder in angemessenem Rahmen und besprechen Sie mit ihnen die Risiken, die mit der Freigabe persönlicher Inhalte verbunden sind.
  • Überlegen Sie sich zweimal, ob Sie Inhalte Ihrer Kinder veröffentlichen, auf denen ihre Gesichter zu sehen sind.

Die billige Deepfake-Technologie wird sich weiter verbessern und die Erpressung und Belästigung demokratisieren. Vielleicht ist das der Preis, den wir für ein offenes Internet zahlen. Aber wenn wir online vorsichtiger sind, können wir die Wahrscheinlichkeit, dass etwas Schlimmes passiert, verringern.