
先日には、岸田文雄首相のフェイク動画が作られ騒動となった。執務室風の壁をバックに、岸田首相が卑劣な発言を繰り返し語り続け、そのコメントを日本テレビのニュース番組のロゴやテロップとともに表示されたことから、ぱっと見は本物かもしれないと思わせるものであった。
この動画はX(旧Twitter)等で拡散され、さらには再生回数200万回以上を記録するなど、大きな反響を呼んだ。
作成者はテレビ局の取材に対して「逆ギレみたいになってしまいますけど、そんなに大問題なんですか?フェイクニュースっていわれていますけど、ギャグだとわかるような形でやっていますし、これがダメなら風刺画とか全部ダメじゃないですか」と答えている。
また、日本テレビのアナウンサーがニュース番組で高配当の投資への参加を呼びかける広告動画がSNSで拡散され、日本テレビが「改変されたもの」と注意を呼びかけたこともあった。「3日で10万円」というフェイク広告だが、実際には今年8月に「自転車のヘルメット着用努力義務」についてのニュース動画を改変したものだった。
過去には、ゼレンスキー大統領が「降伏」を呼びかける動画がロシアのSNSで拡散された。ドナルド・トランプ元米大統領が取り囲まれた警官から必死に逃れようとする画像がメディアに取り上げられたこともある。
当時トランプ氏は、ポルノ女優のストーミー・ダニエルズ氏への「口止め料」支払い疑惑をめぐり、起訴される可能性があった。実際これはフェイク画像で、英調査報道機関ベリングキャットの創設者エリオット・ヒギンズ氏が「ミッドジャーニー(Midjourney)」というAIツールを使って作成し、Xに投稿したものと白状した。
AIを使って生み出すフェイク写真や動画は「ディープフェイク」と呼ばれている。これまでにテイラー・スウィフト氏やスカーレット・ヨハンソン氏ら女性歌手及び女優を合成したポルノ動画が問題となっていた。2018年にはパラク・オバマ元米大統領がトランプ氏を罵るフェイク動画が拡散したこともある。
FacebookやInstagramを運営するメタ(Meta)やX、ティックトック(TikTok)といったSNSメディア各社はプラットフォームでディープフェイクを禁止しているとしているが、発見する技術はまだ開発されておらず、見つけ出される前に拡散されてしまっているのが現状だ。
生成AIの進歩により、より本物に近いディープフェイクが作成することがいとも簡単にできるようになった。生成AIを組み込んだ画像作成プログラムや動画編集プログラムはさらに進化していて、元のネタ画像やネタ動画さえあれば、あたかも本人が写っている写真や、本人が喋っているかのような動画を簡単に作成できる時代になった。
生成AIさえあれば誰もが簡単に「フェイクニュース」を大量に作成したり、配信できる時代になったのだ。