英国政府の諜報・安全保障・サイバーセキュリティ局であるGCHQはこの報告書に対し、「児童性犯罪者はあらゆるテクノロジーを活用しており、児童性虐待の素材の将来は『子供たちはAIによって生成されたコンテンツ』であると信じている人もいる」と回答した。

虐待画像の作成者は、アートやグラフィック デザインで使用する画像を生成する Stable Diffusion と呼ばれる人工知能ソフトウェアを使用しています。

AI を使用すると、通常は人間の知能が必要なタスクをコンピューターが実行できるようになります。

Stable Diffusion ソフトウェアを使用すると、ユーザーが希望する画像を言葉で説明すると、プログラムが画像を作成します。

しかし、BBCは、この番組が乳児や子供の強姦を含む児童性的虐待の現実的な映像を作成するために使用されたことを発見した。

英国警察のオンライン児童虐待チームは、すでに捜査中にこの種のコンテンツに遭遇していると述べている。

研究者でフリージャーナリストのオクタヴィア・シープシャンクスは、数か月間この問題を調査してきました。 彼女は児童慈善団体 NSPCC を通じて BBC に連絡し、調査結果を明らかにした。

「AI が生成した画像が可能になって以来、インターネットには画像が氾濫しています。それは幼い女の子だけではありません。 [pedófilos] 幼い子供たちのことを話してください」と彼女は言います。

英国の法律では、児童の性的虐待を描いたコンピューター生成の「疑似画像」は本物の画像と同じように扱われる。 英国においてそのようなコンテンツを所有、公開、転送することは違法です。

NPCCの児童保護責任者であるイアン・クリッチリー氏は、そのような「合成」画像には実際の子供が描かれていないため、誰も危害を加えられなかったと主張するのは間違っていると述べた。

同氏は、小児性愛者は「犯罪の規模に応じて、思考から合成イメージ、そして実際の児童虐待へと移行する可能性がある」と警告している。

BBC の調査によると、虐待映像は次の 3 段階のプロセスを通じて共有されます。

画像クリエイターの中には、主に漫画やアニメを共有するアーティストが使用している Pixiv と呼ばれる日本の人気ソーシャル メディア プラットフォームに投稿する人もいます。

しかし、このサイトは日本でホストされており、性的な子供の絵を共有することは違法ではないため、クリエイターたちはこのプラットフォームを利用してグループ内で、またトピックをキーワードでインデックス化するハッシュタグを通じて自分の作品を宣伝している。

Pixivの広報担当者は、同社はこの問題を優先していると述べた。 同氏は5月、Pixivが未成年者が関与する性的コンテンツの写実的な描写をすべて禁止したと主張した。

同社は監視システムを強化し、AI開発の問題に対処するために多大なリソースを割り当てたと述べている。

シープシャンクス氏はBBCに対し、調査結果ではユーザーが産業規模で児童虐待の画像を作成しているようだと示唆していると語った。

「量は膨大です。人々 [os criadores] 「毎月少なくとも 1,000 枚の画像を作成することを目指しています」と彼女は言います。

Pixiv 上の個々の画像に対するユーザーのコメントは、子供に対して性的関心を持っていることを明らかにしており、一部のユーザーは AI によって生成されたものではない虐待の画像や動画の提供を申し出ることさえあります。

シープシャンクスはプラットフォーム上のいくつかのグループを監視した。

「メンバーが 100 人いるグループ内では、人々が『ほら、ここに本物のリンクがあるよ』というようなことを共有しています」と彼女は言います。

Pixiv アカウントの多くには、米国のコンテンツ共有サイト Patreon 上の「無修正コンテンツ」と呼ばれるものに人々を誘導するリンクがプロフィールに含まれています。

Patreonの価値は約40億ドルで、25万人以上のクリエイターが所属していると主張しており、そのほとんどは有名な著名人、ジャーナリスト、作家が所有する正規のアカウントだという。

ファンは、月々 3.85 ドル (約 18 レアル) から、ブログ、ポッドキャスト、ビデオ、画像にアクセスできるよう毎月購読することでクリエイターをサポートできます。

しかし、私たちの調査により、Patreon アカウントが、AI によって生成された子供のわいせつな写実的な画像を、要求された素材の種類に応じてさまざまな価格帯で販売していることが判明しました。

あるユーザーは自分のアカウントに「私は自分のPCで女の子たちを訓練している」と書き、「服従」が表示されると付け加えた。 別のユーザーは月額 8.30 ドルで、「独占的な無修正アートワーク」を提供しました。

BBCはPatreonに例を送り、同プラットフォームはそれが「半ば現実的であり、当社のポリシーに違反している」と認めた。 同プラットフォームは、アカウントは直ちに削除されたと述べた。

パトレオンは「ゼロ寛容」方針を掲げ、「クリエイターは未成年者が関わる性的テーマに特化したコンテンツに資金を提供することはできない」と主張した。

同社は、インターネット上でAIが生成した有害なコンテンツの増加は「現実的で悲惨なこと」だと述べ、このコンテンツの「増加する量を特定し、削除した」と付け加えた。

同プラットフォームは「AIによって生成された人造児童搾取素材はすでに禁止している」と述べ、「若者の安全を守る」ための専用チーム、技術、パートナーシップを持っていると付け加えた。

Stable Diffusion AI Imager は、英国に本拠を置く企業 Stability AI が主導する、学術界と複数の企業との世界的なコラボレーションから生まれました。

作成できるコンテンツの種類を制御するコード制限のあるいくつかのバージョンがリリースされています。

しかし昨年、以前の「オープンソース」バージョンが公開され、ユーザーはすべてのフィルタを削除して、そのソフトウェアを使用して違法な画像を含むあらゆる画像を作成できるようになった。

スタビリティAIはBBCに対し、「当社のプラットフォーム上で違法または非倫理的な目的での悪用を禁止しており、当社のポリシーではこれに児童性的虐待の内容が含まれていることを明確にしている」と語った。

「当社の製品を違法または不正な目的で使用する者に対する法執行活動を強力にサポートします」とStability AIは述べています。

人工知能が急速に発展し続けるにつれて、人工知能が人々のプライバシー、人権、安全保障にもたらす可能性のある将来のリスクについて疑問が生じています。

ジョー [nome completo omitido por motivos de segurança]GCHQの児童性的虐待主任責任者はBBCに対し、「GCHQは、AI生成コンテンツなどの新たな脅威に先手を打ち、犯罪者に安全な場所を確実に確保するよう法執行機関を支援している」と語った。

NPCCのイアン・クリッチリー氏は、リアルなAIや「合成」画像の連発により、虐待の本当の被害者を特定するプロセスが遅れるのではないかと懸念していると述べた。

同氏は次のように説明する。「警察の取り締まりという観点から、世界中のどこであれ、人工的または人造的な子供ではなく、本物の子供が虐待されている場所を特定するというさらなる需要が生まれます。」

クリッチリー氏は、今が社会にとってインターネットの将来を定義する極めて重要な時期であると考えていると述べた。