AI(人工知能)を活用し、本人そっくりの映像や音声を生成するディープフェイク。
日本ではまだ馴染みのない言葉ですが、詐欺や偽ニュースの拡散にこの技術が多用される例がいま世界中で広がっています。
こうした偽映像がアメリカ大統領選を混乱させる危険性に専門家が警鐘を鳴らし始めました。
株式会社EmbodyMe
[blogcard url="https://embodyme.com/ja/"]
タブレットのカメラに向かって顔を動かしているこちらの男性。
よく見ると男性の顔の動きに合わせてベートベンの顔も同じ動きをしています。
このアプリ、ディープフェイクというAIの技術を使って開発されたものです。
EmbodyMeの吉田一星社長、
顔を認識する技術。
顔に5万点以上のポイントをトラッキングし表情を反映させる。
先月、この技術を使ってテレワークで使うことを想定した新しいアプリを開発しました。
取材したテレビ東京の轟拓人記者がこのアプリを体験します。
先輩の藤田拓也記者がビデオ会議に参加したところ意外な人物の顔が…
アメリカ大統領のドナルド・トランプです。
トランプ大統領のように見えていますが、実は私が話していました。
コロナ禍でビデオ会議の利用が広がる中、自分の顔を映すことに抵抗を感じる人も多く、このアプリでストレスが軽減できるといいます。
他にもアプリにスーツ姿の写真をあらかじめ読み込ませておけば、ビデオ会議に寝起き姿のまま参加することもできます。
誰でもどんな映像でも作れることを目指して最初のステップをしてやっている。
ゲームや映画をはじめ、多くの分野で応用されるディープフェイク。
一方、悪用される例も多く確認されています。
AI技術を悪用して女優のわいせつな合成映像を作った男が逮捕され、いま警察署に入っていきます。
先月30日、警視庁や京都府警などはディープフェイクを使ったわいせつ動画の一斉摘発に乗り出し、男3人を逮捕しました。
女性芸能人の顔写真を数万枚集めてAIに学習させ、アダルトビデオに出演する女性の顔とすり替えネット上に公開したと見られています。
ディープフェイク関連の摘発は日本では初めてです。
また世界でもディープフェイクによる被害は拡大しています。
例えばこちらはアメリカのオバマ元大統領の映像。
トランプ大統領は救いようのない間抜けだ。
とてもオバマ氏の発言とは思えませんが…ディープフェイクで作られた偽の映像です。
ひと目見ただけではわからないほど精巧なものも増えてきています。
オランダのサイバーセキュリティー会社によりますと今年6月にインターネット上で確認されたディープフェイクの数はおよそ5万件、この1年半で6倍以上になっているといいます。
情報セキュリティに詳しい湯浅教授は今後ディープフェイクがある犯罪に使われる恐れを指摘します。
情報セキュリティ大学院大学の湯浅墾道教授、
日本で一番懸念されるのは振り込め詐欺。
ある人の声を入手し、それに近い声を合成して振り込め詐欺に使う。
ディープフェイクを使えば映像だけでなく、実は音声も偽造することができます。
アメリカのある調査会社は今年中にもディープフェイクによる詐欺の被害額が2億5,000万ドル、日本円でおよそ260億円に達すると試算しています。
また来月に迫ったアメリカ大統領選でも懸念が…
相手を誹謗中傷するためにうそのスピーチを作って流すなど、ディープフェイクがアメリカ大統領選で流れる恐れがかなりある。
前回、2016年の大統領選でも偽の情報が出回りましたが、今回は精巧なフェイク動画によってより深刻な世論への影響が危惧されているのです。
こうした中、急務となっているのがディープフェイクを見破る技術の開発です。
国立情報学研究所の山岸順一教授もその研究を進めています。
2018年くらいから作っている。
フェイクビデオの検出アルゴリズムとしては世界で最初に提案した論文。
山岸教授が研究を進めているのは大量のフェイク動画をAIに学習させることで目の不自然さや輪郭のずれなどフェイクならではの特徴を見つける技術です。
現状およそ85%の精度でフェイク動画を見抜くことができるといいます。
またマイクロソフトも先月、フェイク動画をAIで検知するソフトを発表。被害の拡大を食い止めるため世界中で研究が進められているのです。
ただ山岸教授はディープフェイクの技術と見破る技術のせめぎ合いはイタチごっこだといいます。
やはり完璧ではない。映像を見る側のリテラシーも教育する必要がある。