Sind Deepfakes illegal? Die dunkle Seite der KI erklärt

"Sind Deepfakes illegal? Die dunkle Seite der KI erklärt

Letzte Aktualisierung: 17. April 2024

Deepfakes erklärt die dunkle Seite der KI, da sie eine wachsende Bedrohung darstellt. Hier ist ein Bild, das das Konzept der Deepfake-Technologie veranschaulicht und einen Splitscreen-Vergleich zwischen einem Originalgesicht und seiner veränderten Version zeigt, die als jemand anderes erscheint.

Deepfakes erklärt die dunkle Seite der KI, da sie eine wachsende Bedrohung darstellt

Wir leben in einer Welt, in der mit künstlicher Intelligenz alles möglich scheint. Während KI in bestimmten Branchen, wie beispielsweise dem Gesundheitswesen, erhebliche Vorteile bietet, sind auch Schattenseiten aufgetaucht. Es hat das Risiko erhöht, dass böswillige Akteure neue Arten von Cyber-Angriffen starten und Audio- und Videoinhalte für Betrug und virtuelle Entführungen manipulieren. Zu diesen böswilligen Handlungen zählen Deepfakes, die mit dieser neuen Technologie immer häufiger vorkommen.

Was sind Deepfakes?

Deepfakes nutzen KI- und maschinelle Lerntechnologien (KI/ML), um überzeugende und realistische Videos, Bilder, Audiodateien und Texte zu produzieren, die Ereignisse zeigen, die nie stattgefunden haben. Manchmal haben Menschen es unschuldig genutzt, beispielsweise als die Kampagne „Malaria Must Die ein Video erstellte, in dem der legendäre Fußballspieler David Beckham scheinbar in neun verschiedenen Sprachen spricht, um eine Petition zur Beendigung der Malaria zu starten.

Angesichts der natürlichen Neigung der Menschen, zu glauben, was sie sehen, müssen Deepfakes jedoch nicht besonders ausgefeilt oder überzeugend sein, um Fehlinformationen oder Desinformationen wirksam zu verbreiten.

Nach Angaben des US-Heimatschutzministeriums reichte das Spektrum der Bedenken im Zusammenhang mit „synthetischen Medien von „einer dringenden Bedrohung bis „Keine Panik, seien Sie einfach vorbereitet.

Der Begriff „Deepfakes hat seinen Ursprung darin, dass die Technologie hinter dieser Form manipulierter Medien, den sogenannten „Fakes, auf Deep-Learning-Methoden basiert. Deep Learning ist ein Zweig des maschinellen Lernens, das wiederum Teil der künstlichen Intelligenz ist. Modelle für maschinelles Lernen nutzen Trainingsdaten, um zu lernen, wie bestimmte Aufgaben ausgeführt werden, und verbessern sich, je umfassender und robuster die Trainingsdaten werden. Deep-Learning-Modelle gehen jedoch noch einen Schritt weiter, indem sie automatisch die Merkmale der Daten identifizieren, die ihre Klassifizierung oder Analyse erleichtern, und so auf einer tieferen oder „tieferen Ebene trainieren.

Die Daten können Bilder und Videos von allem sowie Audio und Text umfassen. KI-generierter Text stellt eine weitere Form von Deepfake dar, die ein zunehmendes Problem darstellt. Während Forscher mehrere Schwachstellen in Deepfakes mit Bildern, Videos und Audio identifiziert haben, die bei der Erkennung hilfreich sind, erweist sich die Identifizierung von Deepfake-Texten als schwieriger.

Wie funktionieren Deepfakes?

Einige der frühesten Formen von Deepfakes wurden 2017 beobachtet, als das Gesicht des Hollywoodstars Gal Gadot in ein pornografisches Video eingeblendet wurde. Motherboard berichtete damals, dass es sich angeblich um das Werk einer Person handelte - eines Redditors, der sich „Deepfakes nennt.

Der anonyme Reddit-Benutzer sagte dem Online-Magazin, dass die Software auf mehreren Open-Source-Bibliotheken basiert, beispielsweise Keras mit einem TensorFlow-Backend. Um die Gesichter der Prominenten zusammenzustellen, nutzte die genannte Quelle die Google-Bildersuche, Stockfotos und YouTube-Videos. Beim Deep Learning handelt es sich um Netzwerke miteinander verbundener Knoten, die autonom Berechnungen an Eingabedaten durchführen. Nach ausreichendem „Training organisieren sich diese Knoten dann selbst, um bestimmte Aufgaben zu erfüllen, wie beispielsweise die überzeugende Bearbeitung von Videos in Echtzeit.

Heutzutage wird KI verwendet, um das Gesicht einer Person durch das einer anderen Person an einem anderen Körper zu ersetzen. Um dies zu erreichen, könnte der Prozess Encoder- oder Deep Neural Network (DNN)-Technologien nutzen. Um zu lernen, wie man Gesichter austauscht, verwendet das System im Wesentlichen einen Autoencoder, der Bilder von zwei verschiedenen Personen (Person A und Person B) verarbeitet und unter Verwendung derselben Einstellungen in eine gemeinsame, komprimierte Datendarstellung umwandelt.

Nachdem die drei Netzwerke trainiert wurden, um das Gesicht von Person A durch das von Person B zu ersetzen, wird jeder Frame des Videos oder Bildes von Person A von einem gemeinsamen Encoder-Netzwerk verarbeitet und dann mithilfe des Decoder-Netzwerks von Person B rekonstruiert.

Jetzt machen es Apps wie FaceShifter, FaceSwap, DeepFace Lab, Reface und TikTok für Benutzer einfach, Gesichter auszutauschen. Insbesondere Snapchat und TikTok haben es für Benutzer einfacher und weniger anspruchsvoll in Bezug auf Rechenleistung und technisches Wissen gemacht, verschiedene Echtzeitmanipulationen zu erstellen.

Eine aktuelle Studie von Phototutorial besagt, dass es 136 Milliarden Bilder auf Google Bilder gibt und dass es bis 2030 382 Milliarden Bilder in der Suchmaschine geben wird. Dies bedeutet, dass Kriminelle mehr Möglichkeiten denn je haben, das Konterfei einer Person zu stehlen.

Sind Deepfakes illegal?

Allerdings gibt es leider eine ganze Reihe sexuell eindeutiger Bilder von Prominenten. Von Scarlett Johannson bis Taylor Swift geraten immer mehr Menschen ins Visier. Berichten zufolge wurden im Januar 2024 Deepfake-Bilder von Swift millionenfach auf X angeschaut, bevor sie entfernt wurden.

Woodrow Hartzog, ein auf Datenschutz- und Technologierecht spezialisierter Professor an der Boston University School of Law, erklärte: „Dies ist nur das prominenteste Beispiel für etwas, das schon seit geraumer Zeit vielen Menschen, vor allem Frauen, zum Opfer fällt.

Im Gespräch mit Billboard sagte Hartzog, es handele sich um einen „giftigen Cocktail und fügte hinzu: „Es ist ein bestehendes Problem, gemischt mit diesen neuen generativen KI-Tools und einem breiteren Rückschritt bei den Verpflichtungen der Branche zu Vertrauen und Sicherheit.

Im Vereinigten Königreich ist es seit dem 31. Januar 2024 aufgrund des Online Safety Act illegal, KI-generierte intime Bilder ohne Zustimmung zu teilen. Das Gesetz führt außerdem weitere Vorschriften gegen die Weitergabe und Androhung intimer Bilder ohne Zustimmung ein.

Allerdings gibt es in den USA derzeit keine Bundesgesetze, die das Teilen oder Erstellen von Deepfake-Bildern verbieten, aber es gibt einen wachsenden Druck auf Änderungen des Bundesgesetzes. Anfang dieses Jahres, als das britische Online-Sicherheitsgesetz geändert wurde, schlugen Vertreter das Gesetz „No Artificial Intelligence Fake Replicas And Unauthorized Duplications (No AI FRAUD) vor.

Der Gesetzentwurf führt einen föderalen Rahmen ein, um Einzelpersonen vor KI-generierten Fälschungen und Fälschungen zu schützen, und stellt die Erstellung einer „digitalen Darstellung von Personen, ob lebend oder verstorben, ohne Zustimmung unter Strafe. Dieses Verbot erstreckt sich auf die unbefugte Verwendung ihres Abbilds und ihrer Stimme.

Die Bedrohung durch Deepfakes ist so ernst, dass Kent Walker, Googles Präsident für globale Angelegenheiten, Anfang des Jahres sagte: „Wir haben im letzten Jahrzehnt viel gelernt und nehmen das Risiko von Fehlinformationen oder Desinformationen sehr ernst.

„Für die Wahlen, die wir auf der ganzen Welt gesehen haben, haben wir rund um die Uhr Kriegsräume eingerichtet, um potenzielle Fehlinformationen zu identifizieren.

Im Vereinigten Königreich wird die Erstellung sexuell eindeutiger Deepfake-Bilder unter Strafe gestellt, gab die Regierung im April bekannt.

Ausgewähltes Bild: DALL-E / Canva"

Bitte beachten Sie, dass die französische Version von Ai unterstützt wird und daher geringfügige Fehler auftreten können.

AUTOR

Über ABN Asia: Ai Base Network (ABN), ABN Asia wurde im Jahr 2012 gegründet und ist ein Unternehmen mit akademischem Hintergrund, das von Lehrkräften und ehemaligen Studierenden aus Ungarn, den Niederlanden, Russland, Deutschland und Japan gegründet wurde. Wir teilen eine gemeinsame Leidenschaft und eine klare Vision für Technologie, die Innovation und erstklassige Qualität für unsere Kunden bringt. Unser Motto lautet: Besser. Schneller. Sicherer. In vielen Fällen: Günstiger.

Zögern Sie nicht, uns zu kontaktieren, wenn Sie IT-Dienstleistungen, digitale Beratung, Standardsoftwarelösungen benötigen oder uns Angebotsanfragen (RFPs) senden möchten. Sie können uns unter [email protected] kontaktieren. Wir sind bereit, Ihnen bei all Ihren Technologiebedürfnissen zu helfen.

© ABN ASIA