AI（人工知能）が私たちの生活に徐々に浸透している。AI開発や利用そのものを包括的に「規制」する法律は日本にないけれども、将来、問題となる事案には何が考えられるだろうか。AIに人生を委ねることに対して、どのような危機感を持てばよいのだろうか。AIと法律の専門家で、米ニューヨーク州の弁護士資格も持つ、中央大学国際情報学部の平野晋教授に聞いた。
AI面接で就活生はなぜ落とされたのか
―政府の有識者会議などでAIに関する委員を務められています。
総務省のAIネットワーク化検討会議（旧：ICTインテリジェント化影響評価検討会議）のメンバーになったことを契機に、政府が主催する会議や、国を代表して経済協力開発機構（OECD）の国際会議に参加してきました。企業や消費者といった様々なステイクホルダーの方々と話す機会に恵まれ、視野が広がりました。2019年4月に中央大に国際情報学部を創設してからは、多摩キャンパスではなく、 ここ（東京）市ヶ谷田町キャンパスで学生を教えています。
―学生とのやりとりで、AIの使われ方に危機感を持ったのですか。
はい。ゼミの1期生が就職活動で「AI面接を受けた」と言うのです。結果を聞くと、ご縁がなかった、という。「なぜ落ちたと思うか」と尋ねると、「分からない」「しょうがない」と答えます。もちろん、企業が落とした学生に理由を説明しないことは、分かっていました。
それにしても、「なぜうちの学生は機械ごときに人生の重大事を左右されて疑問を抱かないのか」と思ったのです。そこで、少し法学論文をリサーチしたところ、先進国の米国では、採用選考をAIに委ねることに対しての批判が多いことを知った次第です。
米国で批判が多い背景としては、だいぶ以前から、非常に多くの有名企業が膨大な求職者から送られてくる履歴書を、効率化のためにAIで振るい落としている慣行を挙げることができます。
しかしAIは文脈を理解できないので、たとえば休職期間が半年以上の履歴書を振るい落とすように指示されていると、背景を無視して落としてしまう。たとえば結婚や出産などのために半年休職していたけれども、今では職場復帰できる環境になって、働く意欲や能力が高い女性人材が、そのような背景や事情をAIは理解できずに振るい落としてしまうことが批判されています。
ほかにも、面接を動画に記録し、AIで点数をつけるという採用活動が行われ、これは科学的根拠に欠け、説明責任を果たしておらず、かつ差別的なアウトプットも生じうるとして、厳しく批判されています。
さらにある企業は、面接動画をAIが評価するというサービスを提供していたところ、人権団体から米FTC（連邦取引委員会）に対して訴えを提起されました。その結果、同社がそのサービス提供を取りやめたという例もあります。
日米欧の三極の間で異なるアプローチ
―米国はテック企業の発展などAIが進んでいるイメージがありますが、やはり問題が生じているのですね。
はい。日本よりAIやアルゴリズムの利用が急速に進み、かつ広範囲に普及した分だけ、様々な問題が日本より早めに顕在化しています。日本はその諸問題を「他山の石」として、より賢くAIを利用すべきであるというのが私の持論で、この考え方を研究姿勢に据えています。
ところで様々な問題を内包するAIの統治（これを「AIガバナンス」といいます）について、日米欧の三極の間で異なったアプローチをとっている点は、興味深いと思います。
まずEU（欧州連合）は、「AI Act」と呼ばれる「規則」を通じて加盟各国に対し直接的に規制を適用する、AIに厳しい縛りをかけています。AI Actではリスクを4段階評価し、上から「許容できないリスク（禁止AI）」「高リスク（規制対象AI）」「限定的なリスク（透明性の確保）」、および「規制なし」としています。縛りを受けないのは最下層の部分だけで、さらにこの規則には罰則も備わっているのでかなり厳しい。EUは、何か問題が起こる前から規制をかける「予防原則」の立場に立っています。
他方、EUとは反対の極にいる米国は、予防原則を嫌って、「許可不要な技術革新」（“permissionless innovation”）的な立場をとってきました。特にトランプ大統領が再度政権をとってからは、その風潮が強化されています。
もっとも米国は「合衆国」という統治機構をとっていて、各州政府がいまだに多くの統治権を保持している点を軽視してはなりません。たとえトランプ大統領が主導する連邦政府は予防原則を嫌っていても、将来は民主党政権が復活する蓋然性（がいぜんせい）は低くはないのです。ですから同大統領と異なる立場をとる州の動向も見過ごせません。たとえばイリノイ州のように、一定のAIを規制する州法を成立・施行させた州が存在する事実は、冷静に理解しておくべきでしょう。
AI法は「準ハードロー」、リスクへの対応に懸念
―日本の法整備はどのようになったのでしょうか。
以前から日本はAIの研究開発や利活用を萎縮させないために、有識者会議などを通じて強制力のない「ガイドライン」や「指針」を作成・公開し、事業者らがそれを自主的に遵守することに期待するという、いわゆる「ソフトロー」による統治政策をとってきました。
しかしその後、国民への世論調査では、AIについて「不安に思っている」と答える人が多いという結果が出ました。そこで2024年の夏から、AIの統治に関する法制化を視野に入れた有識者会議である、「AI制度研究会」が内閣府に設置され、私もその構成員として意見を述べてきた次第です。
同研究会の第1回会合には、岸田文雄首相（当時）が臨席し、AIの「リスク対応とイノベーションの促進」の両立を目指す検討を要請されました。同研究会としては、その要請に応える立法を同年末の第6回会合の「中間とりまとめ案」にて提言しました。その会合に臨席した石破茂首相（当時）からは、城内実内閣府特命担当大臣（当時）らに対して、提言に基づく法案提出を急ぐようにとの指示があり、翌25年に法案が国会に提出され、『人工知能関連技術の研究開発及び活用の促進に関する法律（AI法）』が同年5月に成立しました。
AI法はいわば「準ハードロー」（編集部注：罰則などが規定され、強制力のあるハードローと、指針やルールに表されるような「決まり」といったソフトローの中間にあるという意味）であり、厳しい規制に対して謙抑的な立場をとった法律になっています。その理由の一つは、厳し過ぎる規制はAIの研究開発・利活用を萎縮させてしまい、「リスク対応とイノベーションの促進の両立」という目的に反する懸念が出てきたからです。加えて、AIを標的として厳しく規制する立法案を起案するためには、立法が必要な社会的前提事実（立法事実）が必要なところ、AIが生じさせるかもしれないリスクはまだまだ顕在化していないからでした。
つまり現段階では厳しい規制立法案を起案することが現実的に難しい点が指摘されました。さらに、そもそもAIのリスクに対して現行法による対応がまだ十分行われていない点も懸念され、まずは現行法を適用・執行して国民の不安を払拭すると共に、その結果として現行法が不十分である事実（法の欠缺＝けんけつ、編集部注：ある事柄に適用される法が存在しないこと）が発見されれば、その時こそ規制立法に必要な立法事実が明らかになる、とAI制度研究会で指摘されました。
AI法も同研究会の議論を反映して、まずは現行法規やガイドラインなどの適用・執行を中心とする立場をとることになったのです。さらに同法には罰則がなく、国がとれる措置はたとえば調査、対策の検討、指導などとされ、それらは規制法ではない、と同法案の提出者である政府は国会で答弁しています。AIの活用事業者には、政府などの施策に協力する責務が課されていますが、その責務は努力義務である、と政府は国会で答弁しています。
現行法だけで不十分なら、規制法成立はありうる
―日本での立法の傾向について具体的に教えてください。
AI法案の国会審議においては、努力義務や協力責務だけでは不十分ではないか、といった批判がありました。しかし前述したように、現実問題として具体的にまだ生じていない問題の〈おそれ〉に対して、罰を課す前提となる要件を規定することは困難です。むしろ、現行法をきちっと執行することこそが喫緊の課題であって、これによりありうる「法の欠缺」を発見できます。
また同法で新たに設立された、首相がトップとなって全大臣が構成員となる「人工知能戦略本部」も、AIの諸問題に対する現行法の執行を後押しする仕組みになっています。つまり、AIが引き起こす諸問題については首相がトップとなる同本部が司令塔になれますので、たとえば各省庁が主管する現行法違反のおそれについて、同本部から当該省庁に対する法執行の後押しが可能なのです。
加えて、同法が国に付与したAIに関する調査機能を用いれば、たとえば将来生じるかもしれない、AIの能力がヒトを超えて人類に対する脅威になるかもしれないというような、「汎用AI」や「強いAI」や「シンギュラリティー」の出現に備えて、現時点からAIの研究開発の動向・進捗を政府が把握して、万が一の事態に備えることが可能です。
そもそも日本では、立法事実を欠くような厳しい規制立法をいきなり制定することを嫌う傾向が見受けられます。たとえば男女雇用機会均等法は、改正前の当初は規制法ではありませんでした。しかしそれが、時代の進化に伴う社会の変化に応じて規制法として改正されています。AI法も、まずは規制法の前段階としてソフトロー的な制定法というスタイルをとりました。
しかし今後、時代が進んでAI技術と活用が進化し広範囲に普及するにつれて諸問題が顕在化し、現行法規やガイドラインの適用だけでは不十分であることが明らかになった段階で、たとえば具体的なリスクに応じた事業法の改正といった形式をとる規制法が成立することはありうると思います。
