研究開発戦略ローンチアウトー第81回「情報科学技術がもたらす人間の意思決定の変化」

情報科学技術の発展がもたらした便利さと困難さ

　例えば、購入する商品を決める、食事に行く店を決める、車のドライブルートを決める、といった意思決定シーンでは、選択に必要な情報をサーチエンジンで検索したり、レビューサイトでの評判やパーソナライズされたレコメンドに従ったりということがよく行われています。種々の施設の建設計画や運用計画といった意思決定シーンでは、ある選択肢を選んだときの結果がどうなるかを、シミュレーションやデータ分析を用いて予測することも行われています。このように、情報科学技術を活用することによって、より効率のよい意思決定や、より正確な予測に基づく意思決定が可能になってきています。

　その反面、情報科学技術が発展したことで、意思決定に、ある種の難しさが生じてきたように思います。情報爆発やボーダーレス化が進んで、意思決定の際に考慮すべき要因が膨大になり、また、選択したアクションの影響が及ぶ範囲も拡大しました。それが人間の思考可能なレベルを超えれば、クリティカルな要因・影響を見落とすリスクが高まります。例えば、想像外の業種から投入された商品が強力な競合商品になってしまったり、まったく異分野のコミュニティから思わぬ視点で非難を受けてしまったりといった、要因・影響の見落としから苦境に陥った事例を耳にします。

　以下では、このような情報科学技術が人間の意思決定にもたらした便利さと困難さのそれぞれについて、最近の話題を取り上げます。

自動化される意思決定

　AI(人工知能)の第三次ブームだと言われ、さまざまなシーンにAI技術の適用が広がっています。いま市場に多く出ているのは、画像を認識したり、異常を検知したり、売上を予測したりといった診断型AI・予測型AIですが、診断・予測の結果からアクションの選択肢を生成する意思決定支援型AIや、最適なアクションの決定・実行まで行う自動意思決定型AIも現れています。

　技術的にはいくつかのアプローチが試みられていますが、ここではトピックとして、強化学習技術を用いた自動意思決定型AIの先進事例を紹介します。強化学習は、ある状態で、あるアクションを実行すると、ある報酬が得られるという形に定式化できる問題について、アクションの選択と報酬の受け取りを重ねながら、将来的により多くの報酬が得られるようにアクションを選択する意思決定方策を学習する技術です。例えば、車の自動運転において、他の車や壁等にぶつかったら罰を与え、速い速度で進むことができたら報酬を与えるようにして、運転試行を繰り返していくと、上手い運転の仕方(コンピューターによる運転制御の仕方)を車が学習できるようになります。AIを応用した囲碁ソフトが、人間の世界トップ棋士に圧勝したことが大きな話題になりましたが、この囲碁ソフトにも強化学習技術が使われています。

誘導される意思決定

　「デジタルゲリマンダー(digital gerrymander)」という言葉をご存知でしょうか。ソーシャルメディア等を用いた政治操作のことで、2016年の米国大統領選挙の結果にも影響を与えたと言われています。ソーシャルメディアにおけるパーソナライズされたコンテンツ表示を操作することで、特定の政党支持者の投票率を向上できてしまう危険性が指摘されています。また、デマやフェイクニュース(偽のニュース)がソーシャルメディア上で拡散しやすいことも指摘されています。フェイクニュースの発信者が狙うことのひとつとして、フェイクニュースを広く拡散させることで、人びとの意思決定(例えば投票)を自分の意図する方向へ誘導しようという考えがあります。

　ソーシャルメディアにおいて、意見が自分に近い人としかつながらず、自分の意見に沿った情報しか見ない(反対意見には耳を貸さない)といった傾向が強くなるようです。また、ソーシャルメディアにおける支持表明(フェイスブックでの「いいね!」やツイッターでのリツイート等)は、投稿内容を丁寧に読まず、ましてその根拠になる一次情報を確認することもなく、反射的に行われることが少なくありません。こういったことが、意思決定の誘導されやすさの下地になっているのかもしれません。

人間の意思決定を支える情報科学技術へ

　AI技術を含む情報科学技術は、それを適切に進化させ、うまく活用していけば、さまざまな可能性を効率よく、見落としなく調べて評価し、熟慮した上で、最良の選択ができるように我々を助けてくれるものになります。

　しかし、その反面、熟慮せずに反射的に意思決定を行い、他者からの誘導に乗りやすいという傾向を強めているのも、情報科学技術の発展が招いた一面のように思います。また、カナ漢字変換を使うようになって漢字が書けなくなったという話をよく聞きますが、意思決定支援型AIや自動意思決定型AIに頼るうちに、人間の意思決定能力が低下する(自分自身で熟慮して判断することが不得意になってしまう)という不安も沸いてきます。

　AI技術が進化し、さまざまな意思決定問題への適用が広がったとしても、解決すべき問題を定義し、AI技術をどのように適用するかという、さらに上位の意思決定は人間が行うべきことだと思います。人間(個人や集団)の意思決定を情報科学技術で支えるためにはどうすべきか議論・検討していきたいと考えています。年内には、戦略プロポーザルをまとめて公開したいと考えていますので、ご意見・ご助言等いただけると幸いです。

参考資料等

• 「自動化される意思決定」に関する複数通りのアプローチは、「研究開発の俯瞰報告書:システム・情報科学技術分野(2017年)」(CRDS-FY2016-FR-04、2017年3月発行)の3.3.2「機械学習技術」で述べています。
• 強化学習技術による車の運転制御の学習の事例は、JSTサイエンスチャンネルの動画「ディープラーニング:最先端の人工知能アルゴリズム」(2016年1月8日配信)で詳しく紹介されています。
• 「デジタルゲリマンダー」については、例えば、情報セキュリティ大学院大学の湯淺墾道教授による記事「デジタル・ゲリマンダー:SNSによる選挙介入の実態」(2016年12月2日)が参考になります。
• 「人間の意思決定を支える情報科学技術」については、ワークショップ報告書および戦略プロポーザルを作成中で、下記にて公開する予定です。
  http://www.jst.go.jp/crds/report/