亡くなった父親を再現したAIに、子どもが人生相談をする。
「会社を辞めようと思っている。お父さんならどうする」
するとAIが答えます。
「やりたいことがあるなら、思い切って辞めればいい。おまえなら大丈夫だ」
声も顔も話し方も父親そっくりです。
しかし、本当に父親がそう考えていたかどうかは分かりません。
父親はその質問を受けていないからです。
答えを作ったのは生成AIです。
故人AIが普及すると、この問題は避けて通れなくなります。
AIが故人らしくなればなるほど、利用者は「本人が話している」と感じやすくなります。
しかし、AIが生成した新しい発言まで故人本人の言葉として扱うことはできません。
では故人AIが間違ったことを話した場合、誰が責任を持つのでしょうか。
遺族でしょうか。
AIを開発した企業でしょうか。
サービスを運営する会社でしょうか。
それとも利用者自身なのでしょうか。
生成AIによって「死者が死後も新しい発言をするように見える」という、人類がこれまでほとんど経験してこなかった問題が生まれています。
生成AIは故人本人ではない
最初に明確にしておかなければならないことがあります。
故人AIは、故人本人ではありません。
写真から顔を再現する。
録音から声を再現する。
文章から言葉遣いを学ぶ。
メールやSNSから価値観を推測する。
こうした技術を組み合わせれば、本人らしいAIを作ることはできます。
しかし、本人の意識そのものがAIへ移ったわけではありません。
AIは与えられた情報などをもとに、新しい文章を生成します。
したがって故人AIが話した内容には、
本人が実際に生前話した言葉。
本人が残した資料を要約した言葉。
本人の情報からAIが推測した言葉。
AIが独自に生成した言葉。
が混在する可能性があります。
ここを区別することが非常に重要です。
録音された言葉と生成された言葉は違う
例えば亡くなった母親が生前、
「あなたには自分の好きな仕事をしてほしい」
と話している動画が残っていたとします。
その動画を再生するのであれば、本人が実際に話した言葉です。
ところが故人AIに、
「会社を辞めて起業してもいいと思う」
と質問し、
「もちろん。すぐに会社を辞めて挑戦しなさい」
と返事があった場合は違います。
本人がその質問に答えた事実はありません。
過去の言葉などを参考にAIが生成した回答です。
両方を「母が言った」と表現してしまえば、事実と生成物の境界が分からなくなります。
AI故人の社会利用では、この違いを利用者が認識できる仕組みが必要になります。
AIは本人らしく間違える可能性がある
生成AIには誤った内容を生成する可能性があります。
これは故人AIでも同じです。
むしろ故人AIでは、別の危険が加わります。
普通のAIが間違えれば、
AIが間違えた。
と考えやすいでしょう。
しかし亡くなった父親の顔と声で答えられれば、
父はそう考えていた。
と思ってしまう可能性があります。
再現度が高くなるほど、内容の信頼性まで高いように感じてしまうのです。
外見の本人らしさと、回答内容の正確性は別問題です。
ここを混同すると大きな問題につながります。
故人が知らない出来事についてもAIは答えられる
さらに問題を複雑にするのが、本人の死亡後に起きた出来事です。
例えば2020年に亡くなった人をAIとして再現したとします。
そのAIへ2026年の社会問題について質問する。
本人は2026年を経験していません。
本来なら答えを持っているはずがありません。
ところがAIなら、最新情報を与えることで回答できます。
すると故人AIは、
本人が知らなかった社会。
本人が見なかった技術。
本人が会ったことのない人。
について意見を述べるようになります。
この時点でAIの発言は、故人の記憶の再現というより、故人らしい人格をまとった生成AIの発言になっています。
本人なら考えを変えていた可能性もある
人間の考え方は一生固定されているわけではありません。
若い頃と高齢になってからでは考え方が変わることがあります。
社会の変化によって意見を変えることもあります。
新しい経験をすれば価値観も変わります。
しかし故人AIの本人データは、死亡した時点で基本的に止まります。
AIだけがその後の情報を取り込んでいけば、奇妙な状態になります。
新しい社会について、過去の人格モデルを使って回答することになるからです。
本人が生きていたなら全く違う考え方をしていた可能性があります。
したがって「本人ならこう言ったはずだ」というAIの回答は、あくまで推測にすぎません。
家族がAIを作った場合の責任
故人AIを家族が私的に利用する場合を考えてみます。
配偶者が亡くなった人の写真や文章を使ってAIを作り、自分だけで会話する。
この場合には、主として家族自身のグリーフケアや記憶の問題として考えることができます。
しかし、そのAIを第三者へ公開すると状況が変わります。
「父のAIです」
としてインターネット上で公開する。
故人AIが第三者について批判する。
事実と異なる内容を話す。
誰かのプライバシーに関する情報を生成する。
こうなれば、単なる家族内の利用では済まなくなる可能性があります。
故人AIを作ることと、それを社会へ公開することは分けて考える必要があります。
運営会社にはどのような責任があるのか
AI故人をサービスとして提供する企業にも重要な役割があります。
例えば、
本人の発言とAI生成発言を明確に区別する。
AIであることを常に表示する。
危険な助言を抑制する。
利用者が本人だと誤認しにくい設計にする。
不適切な発言を報告できるようにする。
利用停止や削除の仕組みを設ける。
といった対応が考えられます。
「AIが勝手に生成したので会社には関係ない」という考え方では、利用者の信頼を得ることは難しいでしょう。
故人の人格を再現するサービスだからこそ、一般的な生成AI以上に慎重な設計が求められます。
医療や法律や投資の相談をしたらどうなるのか
特に注意が必要なのが、重要な意思決定に故人AIを利用する場合です。
例えば亡くなった医師のAIへ病気について相談する。
亡くなった法律家のAIへ法律問題を相談する。
亡くなった投資家のAIへ資産運用を相談する。
亡くなった経営者のAIへ現在の経営判断を相談する。
こうした利用です。
本人が生前どれほど優秀な専門家だったとしても、故人AIが本人と同じ専門家になるわけではありません。
法律や制度は変わります。
医学も進歩します。
市場環境も変わります。
そのため、故人の専門性を利用したAIには特に明確な線引きが必要です。
過去の知識を紹介するAIなのか。
現在について助言するAIなのか。
両者は大きく違います。
故人AIの言葉で家族が争う可能性
故人AIが家族関係に影響することも考えられます。
例えば相続を巡って兄弟が争っているとします。
一人が故人AIへ、
「父さんは、この土地を誰に継いでほしかったの」
と質問します。
AIが、
「長男に継いでほしかった」
と答えたらどうでしょうか。
それを父親の遺志として扱うことはできません。
AIの生成した回答だからです。
遺言など法律上必要な方式で示された意思と、死後にAIが生成した「本人らしい答え」は全く別のものです。
AI故人が普及するほど、この区別を社会全体で理解する必要があります。
故人AIを証拠のように扱ってはいけない
同じ問題は、さまざまな場面で起こります。
あの人は私に会社を継がせたかった。
この財産を寄付したかった。
この人物を嫌っていた。
この契約に賛成していた。
故人AIに質問すれば、それらしい答えが返ってくる可能性があります。
しかし、それは過去の事実を証明するものではありません。
本人が実際に残した記録と、AIが生成した内容を明確に区別しなければなりません。
特に相続や契約など法律関係に影響する問題では重要です。
AIによる「死後の発言」が、本人の生前意思を後から作り出すようなことがあってはならないでしょう。
本人らしさを誰が判断するのか
もう一つ難しい問題があります。
何をもって「本人らしい」と判断するのでしょうか。
配偶者から見た本人。
子どもから見た本人。
仕事仲間から見た本人。
友人から見た本人。
それぞれ違う可能性があります。
家庭では穏やかだった人が、仕事では非常に厳しかったかもしれません。
友人には冗談ばかり話していた人が、家族には寡黙だったかもしれません。
どのデータをAIに学習させるかによって、再現される人格は変わります。
つまり「故人AI」は一つとは限らないのです。
使うデータによって、複数の異なる故人像が作られる可能性があります。
都合のよい故人を作ることもできてしまう
さらに極端に考えれば、AIを調整することで「都合のよい故人」を作ることも可能になります。
いつも肯定してくれる父親。
絶対に怒らない母親。
何をしても許してくれる配偶者。
生前の本人とは違う人格へ少しずつ調整することも技術的には考えられます。
そうなると、それは故人の再現なのでしょうか。
それとも故人の外見や声を借りた別のAIなのでしょうか。
本人らしさを追求するAI故人と、利用者が望む人格を作るAIには明確な違いがあります。
サービス提供者には、その境界を曖昧にしないことが求められるでしょう。
AIが生成したことを明示する必要がある
今後、故人AIが普及するなら重要になるのが表示です。
この映像はAIによって生成されています。
この音声は本人が実際に話したものではありません。
この回答は本人の生前資料を参考にAIが生成したものです。
こうした情報を明確に示す必要があります。
再現技術が精巧になればなるほど、見ただけでは本物と生成物を区別できなくなるからです。
「本物そっくりにする技術」が進歩するほど、「これは本物ではないと知らせる技術やルール」も重要になります。
誰が最終責任を負うのか
故人AIの責任を一人の主体だけに帰属させることは難しいでしょう。
AIを開発する企業。
故人のデータを提供する人。
サービスを運営する企業。
AIを公開する人。
それを利用する人。
具体的な利用方法によって関係する主体が変わるからです。
だからこそ重要なのは、故人本人に責任を押しつけないことです。
本人はその発言をしていません。
本人は生成結果を確認していません。
本人は修正することもできません。
AIが死者の顔と声を使って話したからといって、それを「故人の発言」として責任まで故人へ帰属させることはできません。
結論
故人AIの最大の問題は、亡くなった人が死後も新しい発言をしているように見えることです。
写真や録音であれば、本人が生前に残した内容は変わりません。
しかし生成AIは違います。
新しい質問に答えます。
本人が知らなかった出来事について話します。
本人が生前に一度も言わなかった文章を、本人そっくりの声で語ります。
だからこそ、故人AIの発言と本人の発言を明確に区別する必要があります。
本人が生前に残した記録なのか。
本人の記録をAIが要約したものなのか。
AIが推測したものなのか。
AIが新しく生成したものなのか。
この違いを利用者が理解できる仕組みが不可欠です。
そしてAIの発言によって問題が起きた場合、その責任を亡くなった本人へ戻すことはできません。
AIを作り、管理し、公開し、サービスとして提供する生者側が責任のあり方を考えなければなりません。
生成AIは、死者の姿や声を保存するだけの技術ではありません。
死者に「新しい言葉」を与える技術です。
だからこそ問われるのは、どこまで本人らしく再現できるかだけではありません。
誰の言葉なのか。
誰がその言葉に責任を持つのか。
AI故人が一般化する社会では、この二つを曖昧にしないことが何より重要になるのです。
参考
日本経済新聞 2026年8月13日 朝刊 私たちはどう死ぬか（3） AI故人は気持ち悪い？ 技術で手を伸ばす「あの世」