AIを悪用して作られる「ディープフェイク」　巧妙に作られた偽物が人類の思考をも支配する

近頃、俳優の加藤清史郎氏、女優の蒼井優氏、山本美月氏らが「れいわ新選組」と山本太郎代表を支持するコメントをしていたとのフェイクニュースが拡散し、事務所と政党が「まったくの事実無根」であると否定する騒動に発展している。

問題となったフェイクサイトは「れいわ新選組」を名乗り、3名がそれぞれ山本太郎代表を支持しているとコメントしている。蒼井優氏は「私はれいわ新選組の政策に共感します。山本さんは、若者に対して、真摯に向き合ってくれています。私自身も、太郎さんのように、社会に貢献できるよう、これからも努力していきたいと思います」というコメントを掲載されていた。あたかも本人が語ったかのようなコメントだった。

これがSNSやまとめサイトで一気に拡散してしまい、蒼井氏の所属事務所「イトーカンパニー」は公式ページで「本日、某まとめサイトにて掲載され、Xにて拡散されております弊社所属の蒼井優のれいわ新選組、および山本太郎氏に対するコメントですが全くの事実無根です」と否定する声明を発表した。夫の南海キャンディーズの山里亮太氏も否定した。

山本氏の所属しているインセントも公式サイトで「山本美月が特定の政党を支持するようなコメントを出したことは一切ございません」と声明を発表。

れいわ新選組も「『れいわ新選組支持者の有名人のまとめ！』と称し、れいわ新選組を応援しているという芸能人とその応援メッセージをさも事実であるかのように公表しているサイトも確認されています。しかし、このサイトに記載された内容について、れいわ新選組はまったく承知しておらず、そのような事実もないと考えております」と声明を出し、法的措置を検討しているとした。

今回は単なる一部の騒動で終始しそうだが、これがもし選挙期間中であったなら多大な影響を社会に及ぼしたことはいうまでもない。

今回作成されたサイトについて、作成者は「AIを使って作成した」と述べており、「AIが作ったコメントは正しいだろうとチェックすることを怠った」と続けている。生成AIが作ったコメントを正しいと判断したと主張した格好だ。サイト作成者本人がAIの信憑性について嘘を作らないと信じていた節がある。もちろん疑ってかからないといけないが、悪意はなかったのかもしれない。

先日には、岸田文雄首相のフェイク動画が作られ騒動となった。執務室風の壁をバックに、岸田首相が卑劣な発言を繰り返し語り続け、そのコメントを日本テレビのニュース番組のロゴやテロップとともに表示されたことから、ぱっと見は本物かもしれないと思わせるものであった。

この動画はX（旧Twitter）等で拡散され、さらには再生回数200万回以上を記録するなど、大きな反響を呼んだ。

作成者はテレビ局の取材に対して「逆ギレみたいになってしまいますけど、そんなに大問題なんですか？フェイクニュースっていわれていますけど、ギャグだとわかるような形でやっていますし、これがダメなら風刺画とか全部ダメじゃないですか」と答えている。

また、日本テレビのアナウンサーがニュース番組で高配当の投資への参加を呼びかける広告動画がSNSで拡散され、日本テレビが「改変されたもの」と注意を呼びかけたこともあった。「3日で10万円」というフェイク広告だが、実際には今年8月に「自転車のヘルメット着用努力義務」についてのニュース動画を改変したものだった。

過去には、ゼレンスキー大統領が「降伏」を呼びかける動画がロシアのSNSで拡散された。ドナルド・トランプ元米大統領が取り囲まれた警官から必死に逃れようとする画像がメディアに取り上げられたこともある。

当時トランプ氏は、ポルノ女優のストーミー・ダニエルズ氏への「口止め料」支払い疑惑をめぐり、起訴される可能性があった。実際これはフェイク画像で、英調査報道機関ベリングキャットの創設者エリオット・ヒギンズ氏が「ミッドジャーニー（Midjourney）」というAIツールを使って作成し、Xに投稿したものと白状した。

AIを使って生み出すフェイク写真や動画は「ディープフェイク」と呼ばれている。これまでにテイラー・スウィフト氏やスカーレット・ヨハンソン氏ら女性歌手及び女優を合成したポルノ動画が問題となっていた。2018年にはパラク・オバマ元米大統領がトランプ氏を罵るフェイク動画が拡散したこともある。

FacebookやInstagramを運営するメタ（Meta）やX、ティックトック（TikTok）といったSNSメディア各社はプラットフォームでディープフェイクを禁止しているとしているが、発見する技術はまだ開発されておらず、見つけ出される前に拡散されてしまっているのが現状だ。

生成AIの進歩により、より本物に近いディープフェイクが作成することがいとも簡単にできるようになった。生成AIを組み込んだ画像作成プログラムや動画編集プログラムはさらに進化していて、元のネタ画像やネタ動画さえあれば、あたかも本人が写っている写真や、本人が喋っているかのような動画を簡単に作成できる時代になった。

生成AIさえあれば誰もが簡単に「フェイクニュース」を大量に作成したり、配信できる時代になったのだ。

昨年、米掲示板サイト大手の「Reddit」に誰かが1分間に1回のペースで1週間に渡りコメントを投稿した。正体がGPT-3と判明するまで何十人ものユーザーとやり取りをしていた。誰かがGPT-3を使ってボットを作成し、Redditにコメントを投稿していたのだ。GPT-4を使ったボットであれば正体が明らかになることはなかったのではないかともいわれている。

生成AIを使えばフェイクニュースやフェイクコメントも簡単に作成できる。その結果起こるのが、閉鎖的な空間のなかで特定の意見や信念が増長されてしまい、それ以外の意見を受け入れなくなってしまう「エコーチェンバー」と呼ばれる現象だ。

2021年1月6日に起きた米連邦議会占拠事件はエコーチェンバーで増強された陰謀論が背景にある。トランプ氏の支持者らが「2020年の米大統領選挙で不正があった」と訴え議会を襲撃したのだ。襲撃したのは、Qアノン陰謀論の信奉者達だった。

生成AIを悪用すればこのような陰謀論は簡単に作成できるし、それの根拠となる画像や動画も簡単に作成できるため、それをSNSでAIボットを使って拡散すれば簡単に誰でも洗脳さえできるようになる。洗脳とまでいかなくとも、世論を動かすことができるようになるのだ。

ディープフェイクのほかにも、生成AIを悪用すれば自動運転による爆弾テロ、自動フィッシング詐欺、AIによる企業のネットワークのハッキングなども考えられる。軍事利用では、自律型ドローン爆撃、顔認証への悪用、株式市場や暗号資産市場の操作なども起こり得る。

また、レビューサイトで生成AIを使って評価コメントをしたり、写真をもとにアドレスを特定することや、絵画・イラスト、音楽、アニメ動画などを簡単に偽造することも可能だろう。絵画などについては、AIで作成された偽物のNFT作品がすでに出回っている。さらに、AIを使った美少女画像作品集などはすでにAmazon等で販売されている状況だ。

音楽では、バッハの音楽を学習させた偽造楽曲が売られていたりする。今後は日本の人気歌手やアイドルらを偽造したコンテンツも販売される可能性が大いにある。実際、“AI美空ひばり”による新曲「あれから」が作成され、権利関係こそクリアになってはいたものの、「死者への冒涜にあたるのではないか」との批判の声もあがっていた。

今後は権利関係を無視してAIを活用したコンテンツを作成する者も出てくることは明らかで、その裁判ともなれば「勝手にAIが作った」と主張すれば場合によっては無罪となる可能性もある。

ファッション業界ではAIによる真贋判定が広まりつつある。米ソフトウェアメーカー・Alitheon社は、iPhoneのアプリで本物か偽物かをAI判定する技術を開発したほどだ。しかし、そういう真偽判定するプログラムの作成者によればAIが偽物を故意に本物と判定するケースも出てくる。

ディープフェイクの画像や動画の真偽を判定する技術も出てきてはいる。大学共同利用機関法人・情報・システム研究機構の国立情報研究所（NII）は、AIが作成したフェイク顔映像の真偽を自動判定するプログラム「SYNTHETIQ VISION」を開発。現在、サイバーエージェンシーが採用し、現在タレント等のディープフェイク映像検知で実用化している。

しかし、AIそのものがディープラーニングを繰り返し、より巧妙で本物に近いものを創る技術が高くなればなるほど、人の作成した技術では追いつかなくなる世界が訪れる。

AIに関するあらたな法整備と、倫理観が求められている。整備せずには、イーロン・マスク氏のいう「ダークAI」が人類を支配しかねないフェーズに現在あるのだ。

 画像：Iolite作成、Shutterstock

Profile

◉里見 晃
元週刊誌記者。スキャンダルや経済記事を担当した。現在はフリージャーナリストとして、月刊誌、週刊誌、Web媒体で執筆している。暗号資産などWeb3.0領域関連の記事を書く一方で、ラーメンや居酒屋などB級グルメ記事も執筆している。

関連記事

誤報に躍る暗号資産市場 これからのメディアのあり方と存在意義とは——

OpenAIやGoogleとのAI戦争に挑む「Grok」 イーロン・マスクが使う2つの“武器”