ユピテルが提案する、ライフスタイルを豊かにする情報コラム

人工知能(AI)によって捏造された写真や映像が問題を引き起こす可能性については、専門家たちが以前から予測していました。氾濫するフェイク動画や画像にはどんな危険があるのでしょうか。また、そんなフェイクに対抗するための新しい技術や制度も進んでいます。世界や日本で進行するディープフェイクの現状と対策を紹介します。

「フェイク」は直訳すると「偽物」という意味なので、語感から受けるイメージはあまり良いものではありませんが、本来のディープフェイクはいくつかの画像を部分的に交換する技術を指します。

背景を切り抜いたり色を変えたり…といった作業は以前から画像編集ソフトなどで行われてきましたが、AIが登場したことで非常に精巧なものが作れるようになりました。そんな中で注目されているのが、GAN(敵対的生成ネットワーク)というシステムです。これは偽物を作る「Generator」というシステムと、それを見抜く「Discriminator」というシステムを競い合わせることで、偽物の精度を上げていくというものです。偽画像を作成して本物と区別するという作業を何度も繰り返すことによって「本物そっくりの偽物＝ディープフェイク」が完成します。

このディープフェイクは様々な分野で活用できます。俳優やニュースレポーターのディープフェイクを作って複数の言語で喋らせれば、吹替や字幕を付ける作業は不要になりますし、台本を読み間違えて撮り直すこともなくなります。すでに中国のテレビ局には、英語と中国語でニュースを読み上げる人間そっくりのAIアナウンサーが登場しました。彼らは疲れることなく、24時間ニュースを読み上げることができます。新製品のイメージにぴったりのモデルを作ったり、語学の練習に活用したりすることもできます。

しかしその一方、近年ではディープフェイクを悪用した精巧なフェイク動画やフェイク画像の氾濫が大きな問題となっています。

☆あわせて読みたい
・AIに人格が？ディープラーニングの賜物か？アーカイブがなせる業か？
・対話型人工知能とは？音声アシスタントとは違う、対話型AIの可能性を読み解く

ディープフェイクの悪用は社会に大きな影響を与えます。今、最も大きな被害が出ているのは、有名人など実在する人の顔を合成して作られる有害な成人向けコンテンツです。日本でも2020年に初めてフェイクによる成人コンテンツ関連の逮捕者が出ました。現在も規制が追いついておらず、名誉棄損や著作権違反となる違法な画像や動画が数多く出回り続けています。

政治や社会問題に関連するフェイク動画も作られています。オバマ元大統領がトランプ元大統領の悪口を言っている動画や、ウクライナの大統領がロシアに降伏するよう呼び掛けている動画は広範囲にわたって拡散されました。

自然災害や事故の偽映像も増加しています。「静岡県の水害」として出回ったフェイク動画を覚えている方も多いでしょう。東日本大震災と原発事故の映像が、別の災害で悪用された事例もあります。さらには詐欺などの犯罪にフェイク動画が使われる可能性も懸念されています。もし、家族や友人にそっくりの声や映像で振り込め詐欺(オレオレ詐欺)が行われたら、被害者は今よりはるかに多くなるに違いありません。

ある調査では、政治関連のディープフェイクが偽物だと気づいた人はわずか2割であることも明らかになりました。偽・誤情報は事実を報じたニュースより約6倍も速く拡散されるというデータもあります。ディープフェイクが社会に与える影響は計り知れません。

☆あわせて読みたい
・アーカイブとは何か？故人を生き返らせるライフログやAIチャットボット

こうしたディープフェイク対策のひとつとして挙げられるのが検出技術の開発です。精巧なフェイクは人の目で判別することができないため、ディープフェイクを判別・検出するAIやデータの改ざんを防ぐブロックチェーンの利用が注目されています。サイバーワクチンと呼ばれる特殊処理を画像に施し、フェイク画像を元の状態に復元する技術も研究されています。ただ、フェイクの技術も進化を続けています。ある研究者は、フェイクをAIで見抜くまでには6週間かかると述べました。検出する側も常にアップデートする必要があります。

また、各国のメディアは偽情報対策の専門部署・専門チームを設置するようになりました。ウェブサービスを提供する事業者にも、センセーショナルなニュースに対するファクトチェックや誤情報の削除、検索システムや広告の見直しなどが求められています。

法整備や法規制ももちろん必要ですが、「表現の自由」や技術の進歩も考慮したバランスが求められます。防衛省は2022年４月から「グローバル戦略情報官」を設置し、各国が発信する情報の真偽や影響を分析しています。しかし現在、明確にディープフェイクを禁止する法律はなく、名誉棄損や肖像権の侵害で訴訟に発展するケースがほとんどです。現在協議が進められているEUの「AI法案」は、成立すればディープフェイク問題を含め、AIを包括的に規制する世界初の法律となる予定です。

結局のところ、偽情報を作る・拡散するのは人間であり、AIが勝手に行うわけではありません。日々接する多くの情報に対し、最終的には一人ひとりが、それが真実かどうか見極める目を持つことが重要です。偽情報の作成・拡散は多くの人を傷つける上、罪に問われることもあります。情報化社会の中で個人のリテラシーが問われているといえるでしょう。

☆あわせて読みたい
・子どもとデジタル　今だからこそおさらいしたい、リテラシーと安全とは