ディープフェイクは違法ですか？ AIのダークサイドを解説

"ディープフェイクは違法ですか？ AIのダークサイドを解説

最終更新日: 2024 年 4 月 17 日

AIのダークサイドディープフェイクが増大する脅威として説明される。これはディープフェイク技術の概念を説明する画像で、元の顔と別人のように見えるように変更されたバージョンの分割画面の比較を示しています。

AIのダークサイドディープフェイクが増大する脅威として説明される

私たちは、人工知能があれば何でもできるように見える世界に住んでいます。ヘルスケアなどの特定の業界では AI に大きなメリットがありますが、暗い側面も明らかになってきています。犯罪者が新たなタイプのサイバー攻撃を仕掛けたり、詐欺や仮想誘拐のために音声や映像を操作したりするリスクが高まっています。これらの悪意のある行為の中には、この新しいテクノロジーによってますます蔓延しているディープフェイクがあります。

ディープフェイクとは何ですか?

ディープフェイクは、AI および機械学習 (AI/ML) テクノロジーを使用して、決して起こらなかったイベントを示す説得力のあるリアルなビデオ、画像、音声、テキストを作成します。マラリア・マスト・ダイ・キャンペーンがマラリア終結を求める嘆願活動を開始するために、伝説のサッカー選手デビッド・ベッカムが9か国語で話すように見えるビデオを作成したときなど、人々がこの言葉を無邪気に使用することもありました。

ただし、見たものを信じるという人々の自然な傾向を考慮すると、誤った情報や偽情報を効果的に広めるために、ディープフェイクは特に洗練されたり、説得力を持ったりする必要はありません。

米国土安全保障省によると、「合成メディア」をめぐる懸念の範囲は「差し迫った脅威」から「パニックにならずに備えてください」まで多岐にわたります。

「ディープフェイク」という用語は、この形式の操作されたメディア、つまり「フェイク」の背後にあるテクノロジーがディープラーニング手法に依存していることに由来しています。ディープラーニングは機械学習の一分野であり、人工知能の一部です。機械学習モデルはトレーニング データを使用して特定のタスクの実行方法を学習し、トレーニング データがより包括的かつ堅牢になるにつれて改善されます。しかし、ディープ ラーニング モデルはさらに一歩進んで、データの分類や分析を容易にするデータの特徴を自動的に識別し、より深い、つまり「より深い」レベルでのトレーニングを行います。

データには、音声やテキストだけでなく、あらゆる画像やビデオを含めることができます。 AI が生成したテキストは、ディープフェイクの別の形式であり、ますます問題を引き起こしています。研究者らは、検出に役立つ画像、ビデオ、音声を含むディープフェイクのいくつかの脆弱性を特定しましたが、ディープフェイクのテキストを特定するのはより困難であることが判明しています。

ディープフェイクはどのように機能するのでしょうか?

ディープフェイクの初期の形態のいくつかは、2017 年にハリウッドスターのガル・ガドットの顔をポルノビデオに重ね合わせたものでした。マザーボードは当時、これは「ディープフェイク」という名前で知られるレディターの仕業ではないかと報じた。

この匿名の Reddit ユーザーはオンラインマガジンに対し、このソフトウェアは TensorFlow バックエンドを備えた Keras などの複数のオープンソース ライブラリに依存していると語った。有名人の顔を収集するために、情報源はGoogle画像検索、ストック写真、YouTubeビデオを使用したと述べた。深層学習には、入力データの計算を自律的に実行する相互接続されたノードのネットワークが含まれます。十分な「トレーニング」の後、これらのノードは、リアルタイムでビデオを説得力を持って操作するなど、特定のタスクを実行するために自らを組織します。

最近では、AI を使用して、ある人の顔を別の体の別の顔に置き換えることができます。これを実現するために、プロセスではエンコーダーまたはディープ ニューラル ネットワーク (DNN) テクノロジーが使用される場合があります。基本的に、顔を交換する方法を学習するために、システムは、2 人の異なる人物 (人物 A と人物 B) の画像を処理し、同じ設定を使用して共有の圧縮データ表現にマッピングするオートエンコーダーを使用します。

3 つのネットワークをトレーニングした後、人物 A の顔を人物 B の顔に置き換えるために、人物 A のビデオまたは画像の各フレームが共有エンコーダ ネットワークによって処理され、人物 B のデコーダ ネットワークを使用して再構築されます。

現在では、FaceShifter、FaceSwap、DeepFace Lab、Reface、TikTok などのアプリにより、ユーザーは簡単に顔を交換できます。特に Snapchat と TikTok は、ユーザーがさまざまなリアルタイム操作を作成するためのコンピューティング能力と技術的知識の点で、より簡単かつ要求の少ないものを実現しました。

Photoutorial による最近の調査によると、Google 画像には 1,360 億枚の画像があり、2030 年までに検索エンジンには 3,820 億枚の画像が存在すると予想されています。これは、犯罪者が誰かの肖像を盗む機会がこれまで以上に増えていることを意味します。

ディープフェイクは違法ですか？

そうは言っても、残念なことに、有名人の露骨な性的画像が大量に存在しています。スカーレット・ヨハンソンからテイラー・スウィフトまで、ターゲットにされる人はますます増えている。 2024年1月、スウィフトのディープフェイク写真は削除されるまでX上で何百万回も閲覧されたと伝えられている。

プライバシーとテクノロジー法を専門とするボストン大学法学部のウッドロー・ハーツォグ教授は、「これは、かなり長い間、多くの人々、主に女性を犠牲にしてきた事件の最も注目を集めた事例にすぎない」と述べた。

ハートツォグ氏はビルボードに対し、これは「有害なカクテル」だと述べ、「これは既存の問題であり、これらの新しい生成AIツールと、信頼と安全に対する業界の取り組みの広範な後退が混在している」と付け加えた。

英国では、2024 年 1 月 31 日より、オンライン安全法により、AI が生成した親密な画像を同意なしに共有することが違法になりました。同法はまた、同意なしに親密な画像を共有したり、共有すると脅迫したりすることに対するさらなる規制を導入している。

ただし、米国には現時点でディープフェイク画像の共有や作成を禁止する連邦法はないが、連邦法の変更を求める動きが高まっている。今年初め、英国のオンライン安全法が改正される際、代表者らは人工知能による偽のレプリカと不正な複製禁止（AI詐欺禁止）法を提案した。

この法案は、AIが生成した偽造品や偽造から個人を守るための連邦枠組みを導入し、生死を問わず、同意なしに誰かの「デジタル描写」を作成することを犯罪とする。この禁止は、彼らの肖像と音声の両方の無許可使用にまで及びます。

ディープフェイクの脅威は非常に深刻で、グーグルの国際問題担当社長ケント・ウォーカー氏は今年初めに次のように述べた。

「私たちが世界中で見てきた選挙では、潜在的な誤情報を特定するために年中無休の作戦室を設置しました。」

英国では、露骨な性的ディープフェイク画像を作成する行為が犯罪化されると政府が4月に発表した。

アイキャッチ画像：DALL-E / Canva"

日本語版は Ai 支援を使用しているため、小さな間違いが存在する可能性があることをご了承ください。

著者

Ai Base Network (ABN), ABN ASIAは、アカデミアに深く関わり、アメリカ、オランダ、ハンガリー、日本、韓国、シンガポール、ベトナムでの仕事経験を持つ人々によって設立されました。ABN ASIAは、学問とテクノロジーが機会と出会う場所です。最先端のソリューションと優れたソフトウェア開発サービスにより、ビジネスがレベルアップし、グローバルシーンに挑戦できるよう支援しています。 私たちの取り組み: より速く。 より良い。 より信頼性が高くなります。 ほとんどの場合、価格も安くなります。

いつでも、ITサービス、デジタルコンサルティング、既製のソフトウェアソリューション、または提案依頼書（RFP）をお探しの際は、お気軽にお問い合わせください。お問い合わせ先は[email protected]です。お客様のテクノロジーに関するニーズにお応えします。

© ABN ASIA