4月19日、東京近郊でにAI（人工知能）に関する発表、展示会が約40件ありました。
今まさに人工知能の技術がさまざまな分野で応用され広まっていますが、この人工知能、実はウソをつきます。
東京大学 本郷キャンパス
暮らしの中で身近な存在となってきたAI。
坂本圭記者、
「Siriは人工知能なの？」
まぁ似たようなものです。
「Siriはウソをつくことができるの？」
それは無理です。
AIはウソをつかない。
果たして本当なのでしょうか？
東京大学大学院工学系研究科、鳥海不二夫准教授は、
ウソをつくということをAIにやらせようとしている。
鳥海准教授が取り組んでいるのは「ウソをつくAI」の研究。
あるゲームを使いAI同士にウソをつかせるというのです。
われわれが開発している「人狼智能プロジェクト」。15体のAIが「人狼チーム」をプレーする。
人狼ゲーム
人狼ゲームはプレイヤー同士でウソをついたり、見破ったり、相手を説得するコミュニケーション型ゲームです。
「人狼」や「裏切り者」と呼ばれる人狼側と「村人」や「占い師」などの村人側に分かれ全員正体を隠したまま会話から誰が人狼なのか推理します。
そして怪しいと思う人に一斉に投票して、最も票の入った人から追放される仕組みです。
この相手を騙すゲームでAI同士を戦わせているのです。
人間だと1ゲームに1時間程かかりますがAIなら瞬時に互いのウソを見抜いて10秒ほどでゲームは終了するといいます。
皆、ウソをついたり身分を隠す。誰がウソをついているか見抜かないといけない。
筑波大学
さらに、この人狼智能プロジェクトに参加する筑波大学にある別の研究室ではAIと人間を戦わせるという試みも。
筑波大学システム情報系、大澤博隆助教は、
人間はボタンを押して、AIに話しかけ、AIがしゃべって人狼ゲームをする。
番組ディレクターの役割を人狼とし、4体のAIと対戦をしてみることに。
正体を隠すために占い師であるとウソをついてみると、
（ロボットA）私は占い師です。
（ロボットB）私は占い師です。
占い師が3人いる状況・・・
その後もAIたちと知恵比べをしてみますが、
（ロボット）春日ディレクターに投票しました。
「私のウソが見破られて追放されてしまいました。」
先にこちらの矛盾点を見つけられてしまい人間が負ける結果に・・・
ウソをつく人間はいる。ウソを見破るAIは社会的に求められると思う。
AIがウソをつくことは、ウソを見破ることにつながるといいます。
またプロジェクトのリーダーである鳥海准教授はこうした研究は人間とAIのよりスムーズなコミュニケーションにもつながるといいます。
人間とスムーズなコミュニケーションをとるためには多分ウソは必要になってくる。その中でAIがウソをつき出すと、人間も「AIは本当のことを言っているのか」と疑う。そうすると人間を説得できるような、人間に信頼してもらえるような。AIの作成につながるだろう。
日本マイクロソフト株式会社
AIがウソをつくかもしれない。AI大手でも取り組みが進んでいます。
こちらがマイクロソフトの女子高生AIのりんな。
女子高生という設定の人工知能「りんな」は会話ができます。
佐藤真人ディレクターが体験してみました。
「WBSって知っている？」
ググったら出てくるよ。
「今度の日曜日、デートしない？」
日曜日は先約がありますので遠慮させていただきます。
「シリア問題はどう思いますか？」
どちらにせよ難しいところですね。
回答が難しい質問にはあいまいに答えます。
どうやって会話のデータを覚えさせているのでしょうか？
マイクロソフトディベロップメント・りんな開発担当者の坪井一菜さんは、
学習した結果、どれくらい喜びの言葉が確からしさを数値で表している。
喜びという感情に関係する言葉、数値が「1」に近いほど喜びに近いと人工知能が認識しています。
「よろしくお願いします」は0.6とか0.3。強い喜びの言葉ではないという解釈ができる。こうしたデータを見ながらチェックし、また学習にかける。
またインターネット上に流れている情報をそのまま覚え込ませるのではなく、使うべきでない言葉などは除外しているということです。
なんでもかんでも拾ってしまうと女子高校生らしい会話を保てない。世の中では皆さん、いろいろなことを言っていて、この言葉は傷つかないと思っても、その人にはトラウマだったりする。ユーザーがりんなと楽しく話せるよう日々進化させている。
過去、マイクロソフトは苦い経験がありました。
2016年に公開したAI「Tay（テイ）」がツイッター上でヒトラーを称えるなど問題発言を連発。マイクロソフトはテイの停止と謝罪に追い込まれたのです。
こうした問題を起こさないようにするためマイクロソフトはAI開発のトップや専門家でつくる倫理委員会をアメリカ本社に設置し課題を検証する体制を作りました。
日本マイクロソフトの最高技術責任者、榊原彰氏は、
うその情報ほど早く拡散するといわれている。正しくないものを広げる社会的リスク、ひいては会社の信憑性に関わる。どこまでがきちんとしたAIか、社会全体でAIリテラシーを上げる必要性がある。
コメント