「故人AI」の問題を哲学・倫理学の観点から考察し、社会受容への道筋をさぐる 佐藤啓介さん

　AIの進化が「人」のあり方にも影響を及ぼしつつある。鬼籍に入ったはずの「美空ひばり」は新曲を披露し、「手塚治虫」も新作を発表した。AI技術による故人の復活は、死の概念を大きく変えかねない。ところが、法整備は追いつかず、明確なルールのないまま、すでに商業化にまで至っている。いま、私たちは死をめぐるAI技術とどのように向き合うべきなのか。哲学・倫理学の観点から故人AIの研究に取り組んでいる佐藤啓介さん（上智大学大学院実践宗教学研究科教授）にヒントを伺った。

死者倫理の研究がきっかけに

―「故人AI」とは何ですか。

　「死者AI」「デジタル故人」「死者のデジタルアバター」などとも呼ばれる、AI技術による故人のよみがえりです。故人が生前に残したテキストや画像、音声などのデータから、その行動や発言、思考のパターンをAIに学習させて、まるで生きているかのように再現できます。2019年の大晦日、AIを用いた歌声合成技術でよみがえった「美空ひばり」がNHK紅白歌合戦で新曲を歌い、翌年には、AIと人間のコラボレーションで「手塚治虫」の新作が発表され、話題になりました。

―新曲や新作は興味深いけれど、故人AIには故人の日記を勝手に読んでしまうような後ろめたさも感じます。

　故人AIに対して「故人への冒涜」と感じる人は少なくありません。日本では6割以上の人が、自分の死後にAIとして復活することに反対したという調査結果もあります。故人AIは倫理に反すると捉える人が多いものの、倫理学ではまだ研究が始まったばかりです。

―故人AIの研究を始めたきっかけをお聞かせください。

　私の専門は宗教哲学で、10年ほど前から「死者倫理」を研究しています。これは、亡くなった人の扱いについて、哲学の観点から考える学問です。大まかにいうと、なぜ故人を敬わなければいけないのか、どこまで敬えばいいのか、特に社会の中では故人を尊重するべきなのかといった問いを考察します。

　研究を進めるうちに、AI美空ひばりが登場して賛否両論が巻き起こりました。このとき、故人AIを巡る問題を考えていくと、「死者倫理とは何か」を明らかにしていけると思ったのです。2022年に米オープンAIの生成AI「ChatGPT」が公開されると、日本でもAIが一気に普及したため、「故人AIと死者倫理」は、急いで取り組まなければいけないテーマであると考えています。

言動を新たにつくりだすのは問題か

―佐藤さんは、故人AIの何が問題だと考えていますか。

　故人AIは、故人が生前には行わなかった言動を、新たにつくりだす可能性があります。実際にはそう言わないかもしれないし、そう振る舞わないかもしれないけれど、いかにもその人らしい言動をするというわけです。それが、故人AI固有の特徴であり、問題となりうると考えています。

―まるで本人のような故人AIが、やってもいない罪を告白するとか、ありえない事態が起こるかもしれないですね。

　故人AIではありませんが、ディープフェイク（生成AIを用いた合成技術）は問題になっていますよね。2023年には岸田文雄首相（当時）の偽動画が出回りました。この事例は、肖像権などの権利侵害となるため、「ディープフェイクは問題である」として議論できます。

　ところが、ターゲットが故人の場合、権利侵害には当たりません。故人には人権がなく、一部を除いて権利は保証されていないからです。いまのところ、直接の名誉棄損に当たらない限り、故人AIがありもしないことを語り出したとしても法的措置は取れません。

適用できる法はないが、何をしてもいいわけではない

―AIの悪用から故人の尊厳を守るにはどうしたらいいのでしょうか。

　まず、法に照らし合わせて考えなければいけません。しかし、調べれば調べるほど、故人に適用できる法はほとんどない。現行法では、故人は保護の対象ではないのです。だからといって、故人AIは何をしてもいいわけではないでしょう。

―故人AIの利用を、個々の良心に任せられますか。

　「法は倫理の最低限度」といいますが、法は倫理の一部と考えます。ただ、多様なバックグラウンドの人たちが共に暮らす現代において、倫理観を共有するのは難しい。なので、やはり最低限の法は必要でしょう。それさえ守れば、お互いに納得できないことも許容していくしかないと思います。

「グリーフケア」の役割を果たしうる

―故人AIにも法ができれば、規制をかけて故人を守れるのですね。

　そうですね。ただ、規制ばかりでいいのかという問題もあって。故人AIによる死後の復活を望まない人が多い反面、故人に会いたいと願っている遺族もまた多いです。故人AIのニーズは確実にあり、すでにビジネスとして展開されています。その是非はともかく、一つ言えるのは、故人AIは「グリーフケア」の役割を果たしうることです。

―グリーフケアとは？

　グリーフとは、誰かを亡くしたときの悲嘆のこと。悲しみに暮れている人に寄り添い、サポートすることをグリーフケアといいます。故人の音声を聞いて癒されたり、故人AIとちょっと会話をして、悲しみが和らいだりすると期待されているのです。

「故人を敬う」を定義し、議論のために交通整理

―故人AIの基準はどのあたりになりそうですか。

　おそらく、「過去を再現する」と「新たな言動をつくりだす」の間で線引きされるのではないでしょうか。過去を再現するだけなら、生前に撮影したビデオを見るのと変わりません。一方、生前にはない言動をさせるとなると、事情が異なります。このあたりを境目にして、「故人を冒涜している」「その一線を越えてはいけない気がする」と、拒絶反応が出てくるのではないでしょうか。ところが、容認できない理由を説明できる人は少ないです。

―確かに。無意識ながら判断基準はあるということでしょうか。

　その判断基準が「故人を敬う」ではないかと考えています。ただ、もう少し掘り下げていかなければなりません。「敬う」とは尊重することだとして、何を尊重するのか。故人の存在なのか、生前の姿や在り方、記憶に残っている印象なのか。それを突き詰めていくと、私たちが尊重しようと思っているのはきっと、故人の人格のようなものです。そうすると次は、「人格」とは何かという問いが出てきます。人格についても、文献や先行研究を参照しながら考察していくのです。

　このように、ある概念を取り出して、解きほぐして、整理して、分析していく。これが、哲学の基本的な手法です。正解を導き出すというよりは、議論のための交通整理をします。哲学では昔の思想家の主張をもとに議論していて、はたから見ると、この世にいない人の考えを話し合って何になるのかと思われそうですが、概念を整理するときの手がかりになるのです。そうしながら、理論を構築していきます。

　その理論を用いて、倫理学では「では、善や悪の基準とはどのようなものか」という一般的な問題や、さらに具体的な主題に引き寄せた個別の場面における判断基準や行動規範を考えていきます。

考えるべきことの連鎖は難しいが、やりがいでもある

―理論を構築できたらゴールと考えていいですか。

　もう一つ、手続きがあります。哲学の手法で重要なのは、構築した理論に反論してみること。例えば、「故人の人格を尊重する」を基準にして、故人AIで新たな言動をつくりだすのは認めないという理論を打ち立てました。この反論として考えられるのは、故人が生前に言わなかったことを言わせるのは、故人AIに始まったことではありません。これまでも小説やドラマ、ゲームなどでさんざんやってきました。

―そう反論されると、故人AIだけ規制する根拠が揺らぎます……。

　そうなんですよ。なので、著作権のような考え方ならどうでしょう。死後70年は保護期間として、新たな言動はつくらせない。あるいは、故人AIの公的利用は認めず、私的利用のみ認めるという線引きもありえると思います。つまり、遺族が故人AIに最新ヒット曲を歌わせて故人をしのぶのはいいけれど、上手に歌うからとYouTubeで公開するのは駄目という判断です。

―考えなければいけないことがどんどん広がりますね。

　故人AIの問題から出発して、ディープフェイクの問題や「故人を敬う」の定義など、考えるべきことがいろいろとありましたね。その連鎖が、故人AIを巡る倫理的問題の難しさであり、やりがいでもあります。

　故人AIに限らず、技術の発達によって新しい現象が起こり、それまでの概念を問い直さなくてはならない事態はたくさんあります。例えば、医療技術の進化で「脳死」という概念が生まれ、改めて「死とは何か」を議論したように。そこに倫理学、哲学が果たす役割は大きいと考えています。

―今後、故人AIはどのように社会に受容されていくとお考えですか。

　いまはまだ違和感がある技術かもしれないけれど、緩やかに受け入れられていくと思います。江戸後期に写真技術が伝来して、いつの間にか慣れていったように、故人AIにも慣れるのではないかと。あくまでも予測ですが、故人AIは故人ではなく、一種のフェイクであり、故人とは別人格であるという受け入れられ方をされていくような気がしています。

※佐藤さんは論文などで「死者AI」の呼称を用いていますが、本記事では同義として「故人AI」を採用しています。