政府、AIのリスク対策で法規制を検討 国の戦略として利用促進と両立目指す

　政府が人工知能（AI）の法規制に向け本格的に動き出した。政策の司令塔となるAI戦略会議は4月に「人間中心」など10原則を柱にしたAI事業者向け指針を策定し、5月には法規制を検討する方針を決めた。6月3日、岸田文雄首相が議長を務める「総合科学技術・イノベーション会議」を開催。安全性を確保した上で社会での活用を加速させることなどを盛り込んだ「統合イノベーション戦略2024」を策定し、翌4日に閣議決定した。

　こうした政府の方針は、AIが急速に進歩して社会のさまざまな場面に普及する一方、生成AIによる偽情報の拡散や犯罪への悪用例が増加し、社会が悪影響を受けるリスクが高まっていることに関する対策が急務になったためだ。いち早く厳格な法規制を課すことを決めた欧州連合（EU）など、世界の潮流に歩調を合わせる狙いもある。

　統合イノベーション戦略はまた、量子技術やロボット開発分野でAIを活用し、分野を超えて「重要技術の統合的戦略」や「技術の融合」を推し進めることを盛り込み、AIを中心とした技術開発で先行する欧米に追いつくことを目指している。

制度研究会で今夏に議論開始

　統合イノベーション戦略2024は「3つの強化方策」で「AI分野の競争力強化と安全・安心の確保」を打ち出した。この中で「生成AIはインターネットにも匹敵する技術革新とされ、社会経済システムに大きな変革をもたらす一方、偽・誤情報の流布や犯罪の巧妙化などさまざまなリスクも指摘され、安全・安心の確保が求められる」と指摘した。

　そして「イノベーション推進のためにもガードレールとなるAI利用の安全・安心を確保するためのルールが必要。国際的な動向なども踏まえ､（規制）制度の在り方を検討する」と明示し、今夏にAI戦略会議の下で新たに開催する「AI制度研究会（仮称）」で具体的な検討を始める、とした。

　また、生成AIによる偽・誤情報対策としてAIが作ったコンテンツを判別する技術を開発し、AIコンテンツ分野でのリテラシー向上や交流サイト（SNS）上の成り済まし型偽広告の対策にも取り組む。

　医療や自動運転、金融などは社会への影響が大きい重要な分野のため、これらの規制内容は技術の進展や利用状況に応じて見直していく。具体的な安全策の検討のために「情報処理推進機構（IPA）」に2月に設置された「AIセーフティ・インスティテュート（AISI）」で先進的な技術的知見を集めるという。

　AI戦略会議は規制を考える上で検討すべきAIのリスクとして、医療機器や自動車の誤作動、偽情報や誤情報による人権侵害や投資詐欺、AIの兵器転用などを挙げている。

背景にEUの規制法成立

　政府がAIの法規制導入を本格的に検討することを決めた背景には、EUが世界に先駆けて包括的規制法づくりを進めたことがある。

　欧州委員会はいち早く2021年にAIのリスクを「容認できない」から「最小限」まで4段階に分け、段階に応じて義務を課す規制法案を発表。その後生成AIの普及を受け、画像がAIで作成された場合にはそのことを明示することを義務付ける条項を追加した規制案も加わり、今年3月に欧州議会が法案を採択。5月21日にEU加盟国で構成する理事会が世界初の包括的なAI規制法案を承認し、同法が成立した。

　この規制法は、EU内で活動する世界の企業を対象に2026年から適用し、違反した場合は制裁金を課す。欧州からの報道によると、その額は世界年間売上高の最大7％か最大3500万ユーロ（約59億円）のいずれか高い方だという。日本企業も対象になり、制裁金の額も大きいため、多くの日本企業関係者に少なからず動揺を与えた。

　生成AIの影響は国境を越える。統合イノベーション戦略はEUの規制法による具体的な影響には言及していないが、「国際的な動向を踏まえつつ」との表現を何度か使い、「二国間・多国間の枠組みや連携を戦略的に活用する我が国の方針を産学官で共有、実行する」として利用促進だけでなく規制の分野でも国際連携の必要性を強調している。

核融合、量子技術、バイオ分野の研究支援強化

　統合イノベーション戦略はAI以外では、核融合、量子技術、バイオテクノロジー分野を中心に研究支援や人材育成の一層の強化を進めるとしている。また、国内で人手不足が深刻化する中で「AI・ロボティクスによる自動化・省力化は急務で、技術の社会実装の加速が必要」と指摘。量子技術やロボット開発ではAIを積極的に活用し、分野を超えた統合的な技術開発を推し進める方針を明確にしている。

　同戦略はまた、「テクノロジーを社会実装し、社会課題の解決や新たな価値創造を進めるためには自然科学だけでなく、人文・社会科学も含めた『総合知』を活用することが重要」と指摘し、活用事例の周知やワークショップなどの開催を通じて「総合知」の重要性を普及啓発する、とした。

　このほか、AIの活用と規制をはじめとして各分野で産学官を挙げて人材の育成・確保が急務であることを強く訴えているのも特徴だ。具体的には、10兆円規模の基金で世界水準の研究成果を目指す「国際卓越研究大学」制度での研究力強化や、地域の中核を担い、特色ある大学の支援や研究に打ち込める研究環境の実現などを打ち出している。

リスク対策も技術開発も急務

　先進7カ国（G7）は昨年12月に「安全、安心、信頼できるAI」を世界に普及させることを目指した国際指針と行動規範に合意した。合意の背景にはAIが人間社会を変える過程で生じる負の側面への危機感があった。今年は国際指針に基づく各国個別の指針や規則にいかに実効性を持たせるかが問われている。

　生成AIによる偽動画の悪用例は深刻だ。偽動画はロシアが侵攻したウクライナのほか、パレスチナ自治区ガザでも拡散した。今秋の米大統領選挙でも偽動画による混乱が危惧されている。著作権侵害や個人情報流出など、多様な弊害が増加している。対策や規制は国を問わず待ったなしだ。

　政府が今回決めた法規制の本格的検討作業もこうした各国共通の危機感の高まりを受けてのことだ。規制色が強いEUの法規制や米国での規制の動きも見ながら日本独自の、かつ国際ルールに合った規制の在り方が問われ、作業を急ぐ必要がある。昨年広島で開かれたG7首脳会議で議長国日本はAIの活用と規制に関する「広島AIプロセス」の創設を主導して国際指針につなげた。AIのリスク対策での国際協力、国政連携でも先導することが期待されている。

　国際的な規制の動きの一方、米国と中国、EUとの間のAIを巡る開発覇権競争は激しい。残念ながら日本は開発競争の先頭集団には入っていない。欧米や中国ではAI開発に大量の資金が流入し、技術の進化の速度が増している。今回の統合イノベーション戦略に盛り込まれた内容はどれも実行することが急務だが、日本の得意分野もある。AIを中心とした先端技術開発で日本独自の活路を見いだすことが求められている。