AI（人工知能）は私たちの暮らしを便利に変えてくれる半面、私たちがコントロールされてしまう危険性をはらんでいる。AIを使うべき場面と、使わない方がよい場面にはどのようなものがあるのだろうか。AIと法律の専門家で、米ニューヨーク州の弁護士資格も持つ、中央大学国際情報学部の平野晋教授に聞いた。
映画を扱う授業、学生から新鮮な意見
―「映画と法律」というテーマで授業をしていますね。
私は映画が好きなんです（笑）。「ブレードランナー」「ロボコップ」「2001年宇宙の旅」などのSFモノを授業で扱っています。「大義の為に死することこそ、我々ができる最も人間的なことである」という人造人間のセリフをどう理解すべきか（ブレードランナー）や、ヒトの兵士よりもロボット兵士の方が市街戦でも非戦闘員を正しく見分けられるから人道的である、という趣旨の映像表現をどう思うか（ロボコップ）、「HAL（ハル）9000」というAIが宇宙飛行士たちを排除した理由はなぜなのか（2001年宇宙の旅）――などを学生たちに尋ねます。多くの学生はこれらの映画を観たことがないので、議論すると新鮮な意見が飛び出します。
―何がAIの欠点なのでしょうか。
まずAIの最も重大な欠点は、AI開発者、提供者、または利用者などの想定や意図に反する判断や行動をしてしまう「制御不可能性」です。今から半世紀以上前の1968年に公開された「2001年宇宙の旅」のHAL9000がその代表例でしょう――。
不透明性、説明「無」責任、営業秘密…
それ以外にも多くの欠点を、AIは内包しています。たとえば「opacity（オパシティ）」と呼ばれる「不透明性」。これは一般的には「ブラックボックス」問題とも呼ばれています。仕組みが複雑すぎて、または学習したデータが不明なゆえに、なぜAIがそのような予測、推奨、または判断（アウトプット）を行ったのか、その機序や理由が分からない問題が不透明性です――この欠点もHAL9000が象徴しています。
不透明性と近似する問題として、「説明『無』責任」も欠点として挙げられます。なぜそのようなアウトプットをしたのかの説明責任を果たせない問題です。その原因の一つが不透明性、という関係にあります。アウトプットの機序や理由が不透明であれば、説明も当然できないというわけです。
さらに説明「無」責任のもう一つの原因は、「営業秘密」という法律です。たとえばAIによって害を被った原告が、AIの提供者らを被告として損害賠償責任を追及する際に、AIが犯したかもしれない誤りを解明するためには、ソースコードなどを開示してもらう必要性が生じ得ます。それにもかかわらず、AI提供者側が営業秘密などの法律を盾に隠蔽してしまうと正義が実現できない、すなわち説明責任を果たせ（さ）ない、という問題も米国では指摘されています。
人生の重大事で安易に使用すべきではない
―営業秘密が出てくるんですね。
そのような営業秘密の問題に関しては、裁判所がアルゴリズムの使用を禁じる判断を下した事例が、米ヒューストン市で生じた事件に見受けられます。その事件では、同市の独立教育区が、ベンダーから提供されたアルゴリズムを用いて最下位の評価を受けた教員の雇用を不継続としました。しかし最下位な評価に至った理由や機序を、教員たちに説明できませんでした。
独立教育区が最下位評価の機序を説明できなかった原因は、ベンダーが営業秘密を理由に、同区に対してさえもソースコードなどの情報開示を拒んだことにありました。雇用不継続となった教員や組合は、説明責任を要求する憲法上の人権規定（適正手続の保障）違反を理由に、そのようなアルゴリズム使用の恒久的な差し止めを求めて提訴。すると裁判所は、説明責任を果たせないようなシステムの使用は禁じる他にない、と判断しました。この事件が例示しているように、人生の重大事や権利を侵害するような判断にAIを利用する際には、説明責任を果たせない欠点が違憲となるおそれも考慮しておく必要があるのです。
ところでAIの制御不可能性については不透明性と相まって、AIロボット兵器の使用がためらわれる原因の一つにもなっています。制御不可能な、何をしでかすか分からないような代物を、兵器に使えるでしょうか。民間人を攻撃するかもしれないし、友軍を攻撃してくるかもしれない。改善したくても、不透明性ゆえにそもそもなぜそのような行動をとったのかの機序も不明であるから改善もできない……そのような欠陥システムは、人命がかかるミッションにとても使えたものではない、と国際赤十字委員会は指摘しています。
私はAIを、人生の重大事や権利が関わる場面で安易に使用すべきではない、と考えています。他方、キュウリの形を選別したり、テニスや野球の球がインであったかストライクであったかのような「機械的判断」を行ったりするタスクならば、ヒトよりも素早く、正確に、疲れることなく働き続けることができるAIを使ってよいでしょう。しかし、前述した採用活動のような「価値的判断」については、AIの使用に対して慎重であるべきと考えています。
大谷選手の価値はデータで語り尽くせない
―人生の重大事や権利が関わるタスクには安易に使用すべきでない、というところをもう少し詳しくお伺いできますか。
たとえば、昇進や昇格といった人事評価の際の判断要素として「データで数値化していない要素」も評価しなければならないタスクは、AIに任せにくいと思います。
今、データ野球と言われていますが、たとえば米国のメジャー・リーグではデータ化とデータ分析が非常に進化しているにもかかわらず、それでも、例えば大谷翔平選手の立ち居振る舞いが仲間の選手やチーム全体に与える、無形のリーダーシップなどの価値は数値化するのが難しい、と言われています。誰が見ても「すごい選手」で、データだけでもすごい選手であることは間違いないのですが、彼の価値はそれだけでは語り尽くせません。
同様に、就活生が将来企業に貢献するか、出世するかのような予測を、AIが入社選考時に正しく予測できる保証はない、と日米の研究者が批判しています。そもそも落選者が30年後にどのように大成したか／しなかったのかのデータを有していないのですから、入社選抜時点におけるそのような予測は、正しさを検証しようもない予測（もはや「占い」といった方がよいかも）に過ぎません。
それが正しいという主張や宣伝でさえも、効率的で採用活動の手間を省けることを餌にしつつ、数値や統計を使っているから正確であるなどと、まことしやかに喧伝されると、そのサービスを購入する企業側もだまされてしまうことも大問題である、と指摘されています。
「人間中心」を社会の原則に
ところで、スタートアップ企業に対しては「高度なサービスを提供するよう要求すべきでない」という主張を見かけることがあります。しかしスタートアップだからといって、（就活時に）人生の重大事を不当に左右したり、安易に権利侵害を生じさせたりするような、低品質なサービス提供が許されてはなりません。
そのような分野においては、規模の大小にかかわらず等しく高品質なサービス提供ができなければ、当然規制されるべきでしょう。スタートアップ企業だからといって、就活生がその不正確・不公正な判断の犠牲になっても泣き寝入りしなければならないという主張は、とても受け入れられないからです。
規模の大小にかかわらず、事業者には等しく安全性を維持する義務が課されるべきという方針は、製造物責任法の判例に見受けられます。たとえ個人経営の小規模な料理店であっても、大企業の食品会社と同様に、中毒を出せば損害賠償責任を免れない、と裁判所によって判断されているのです。被害者の身になれば、当然な判断でしょう。
内閣府のAIガイドラインは「人間中心のAI社会原則」、と命名されていますし、日本が主導して理事会勧告に至った「OECD AI原則」も「信頼に値するAI」を目指しています。さらに昨年成立・施行された「AI法」も、「国際的な規範の趣旨に即した指針の整備その他の必要な措置を講ずる」と規定しています。したがってAI利用によってかえって人間が阻害されたり、信頼に値しないようなAIが使われたりしてはいけないのです。
