ある分析によると、オンラインで発見されたディープフェイク動画の数は今年、2019年と比べて550％増加し、その大部分がポルノ動画だったという。

生成人工知能 (AI) などの新しいテクノロジーの出現により、ディープフェイク コンテンツの作成が大幅に増加しています。ディープフェイク コンテンツとは、ビデオ、画像、または本物の人物やシナリオを描写していると称する、デジタル的に変更または生成されたコンテンツです。音。 。

ディープフェイクポルノの被害者たちは、これらの架空のシナリオに描かれることがいかに人生を破壊する可能性があるかを説明し、ある者はそれを「終身刑」と呼んでいる。

ディープフェイク コンテンツは、超現実的なコンテンツを生成できる機械学習アルゴリズムを使用して作成されます。 これらは、被害者をターゲットにしたり、人々を脅迫したり、犯罪的または政治的操作の一形態を構成したりするために使用される可能性があります。

2023年に発表されたディープフェイクに関する包括的な報告書では、オンラインで見つかったディープフェイク動画全体の98％がディープフェイクポルノであり、ディープフェイクポルノの標的となった被害者の99％は女性であると結論づけた。

オンライン個人情報詐欺から人々を守ることを目的とした Web サイト homesecurityheroes.com のアナリストは、95,820 のディープフェイク動画、85 のオンライン チャネル、およびディープフェイク エコシステムに関連する 100 以上の Web サイトを調査しました。

この研究の主な結論の 1 つは、 報告 それは、被害者の顔の鮮明な 1 枚の画像を使用して、誰でも 1 分間のディープフェイク ポルノ ビデオを作成するのに、25 分もかからず、費用もかからないということです。

分析されたディープフェイクポルノビデオのほとんどは韓国人女性のものだった。 韓国に次いで、ディープフェイクポルノの被害者が最も多い国籍は米国、日本、英国だった。

韓国でディープフェイクポルノが蔓延

韓国はディープフェイクポルノの被害が圧倒的に多い国であり、報告書のアナリストらはこれがK-POPの世界的な人気のせいだとしている。 韓国最大の女性ポップグループとみられるブラックピンクのメンバー４人のうち３人が、最も標的にされた１０人に入っている。

同報告書の調査分析ディレクター、クリス・グエン氏は「K-POPアイドルは、韓国内外で知名度が高く、ファンが多いことで知られている」と説明した。 「彼らの公開プロフィールと大規模なファンベースは、彼らが関与するディープフェイクポルノの作成と配布がより幅広い視聴者に届く可能性が高いことを意味します。

知名度の高さに加えて、K-POPアイドルをフィーチャーしたコンテンツに対する需要も「非常に高い」とグエン氏は語った。 「注目を集めてトラフィックを増やすために、特にアダルトサイトで露骨なディープフェイクコンテンツを作成することで、この需要を悪用している人もいます。」

グエン氏はまた、韓国の厳しいポルノ規制がこの種のコンテンツの作成と配布に寄与している可能性が高いと指摘した。

これは、情報を隠蔽、消去、検閲しようとする意図せぬ結果である「ストライサンド効果」に関連している可能性があります。 このような場合、実際にはこの情報に対する認識と関心が増幅されるため、結果は「裏目に出る」ことになります。 »

インターネット上でディープフェイクが蔓延している

ディープフェイク ポルノの蔓延を分析したアナリストは、最もアクセス数の多い 10 のポルノ サイトのうち 7 つがディープフェイク コンテンツをホストしていることを発見しました。

ディープフェイクポルノを専門とするトップ 10 の Web サイトでは、ビデオの再生回数が 3 億 300 万回を超えており、アナリストは、この種のコンテンツがいかに広く普及し、人気があるかを示していると述べています。

研究者らは、この種のコンテンツに対する態度について、その作成に伴う倫理的配慮に特に注意を払い、さらなる議論を呼びかけている。 彼らは、「ディープフェイク」コンテンツの突然の増加には2つの要因があると考えています。

まず、敵対的生成ネットワーク (GAN) と呼ばれる、生成 AI に使用される機械学習フレームワークの一種の出現により、「ディープフェイク」コンテンツを作成する技術的手段が提供されました。

第二に、GAN ベースのツールに簡単にアクセスできるということは、ほぼ誰でもディープフェイク コンテンツを迅速かつ安価に作成できることを意味します。

広告

「これらのプラットフォームは、単純な顔の交換からより複雑なビデオ操作まで、幅広い機能を提供します」とレポートでは説明されています。 著者らは、ディープフェイクの作成に特化したオンライン コミュニティの成長により、「コラボレーション、知識の共有、オープンソース プロジェクトの開発が促進された」と付け加えています。