AIに自分を150回近く説明したら、「プロフィール」ではなくなった

AIに自分のことを覚えさせる。

最初は、そんなに難しい話には見えない。

仕事、経歴、得意分野、好きなもの、価値観。
プロフィールを詳しく書いて渡せば、それなりに「自分らしいAI」ができそうに思える。

でも、実際にやってみると全然違った。

私はここしばらく、自分自身を材料にして「Founder Corpus」というものを作っている。

現在までに投入した私の発話は147件。

単純に1回5分としても735分。12時間15分になる。

もちろん、すべてを5分で答えたわけではない。すぐ答えられたものもあれば、昔のことを思い出しながら長く話したものもある。

AI側の応答やツール実行を含めると、アクティブな会話だけで389件。本文は31万5,454文字になった。

それだけ話したのだから、さぞ精密な「私のプロフィール」ができただろう。

ところが、できたものはプロフィールとはかなり違うものだった。

「私はこういう人です」では足りなかった

たとえば私は、新しいものを発見すると猛烈に走ることがある。

一方で、本棚を見ると、過去に興味を持った大量のテーマが残っている。

プロジェクトマネジメント、食、環境、ガバナンス、非営利活動、マーケティング、営業、日本の近代史、世界の近代史、金融、画像編集、プログラミング。

こういう情報だけを集めると、

「好奇心が旺盛で、多くのことに挑戦する人」

という人物像が簡単にできる。

たぶん間違いではない。

でも、ほとんど役に立たない。

知りたいのは、

「何を発見したときに走り出すのか」

「なぜ猛烈に投入するものと、途中で止まるものがあるのか」

「一度止まったものは、何が起きれば再開するのか」

のほうだからだ。

つまり必要なのは「属性」ではなく、条件だった。

AIは人間をきれいに説明したがる

もう一つ、やってみて分かったことがある。

AIは、人間の話から一貫した物語を作るのがとても上手い。

そして、それが危ない。

私は過去の出来事や家族の話、仕事、競争、お金、能力、故郷、料理、本など、かなりいろいろな話をした。

するとAIは、それらをつないで、

「だから現在のこの価値観が形成された」

という美しい説明を作る。

読んでいると、なるほどと思う。

でも、ときどき私は言った。

「いや、それは深く読みすぎ」

「そこまではつながっていない」

「全部をその原理で説明するのは、きれいすぎる」

これが重要なデータになった。

現在のFounder Corpusでは、AIが見つけた特徴だけではなく、私が否定した解釈を「CORRECTION」として残している。

現在10件ある。

つまり、

AIが私について何を理解したかだけでなく、どう誤解したかも保存している。

これは予想以上に重要だった。

矛盾も消さない

人間には、簡単には統合できない部分もある。

たとえば私の場合、

「お金そのものが幸福だとは思っていない」

一方で、

「資本主義というゲームでは、一度ちゃんと勝ってみたい」

という感覚もある。

昔はかなり競争心が強かった。

今は競争そのものから距離を取っている部分もある。

でも、勝てばやっぱり嬉しい。

こういうものをAIに要約させると、

「競争心はあるが、現在は競争から距離を置いている」

などときれいにまとめてしまう。

しかし、それでは情報が減っている。

そこで現在のモデルでは、こうしたものを「TENSION」として、矛盾したまま保存することにした。

現在10件ある。

どちらが本当なのかを決めるのではない。

どんな条件で、どちらが前に出てくるのか。

そちらをモデル化しようとしている。

31万文字話しても、まだ分からないことがある

ここが一番面白い。

これだけ自分のことを話しても、モデルにはまだUNKNOWNが残った。

たとえば、

• 新しいものを発見したあと、制作や実用まで進まず止まる条件
• 能力があれば他人を助けようとする傾向が、どの距離の人まで発動するのか
• 品質を「これで十分」として止められる条件
• 新規性や収益がなくても長期間続けられた活動は何か
• 中断したものを再開する条件
• 人間関係が壊れたあと、修復できた例外はあるのか

こういう問いが残っている。

つまり147回話した結果、

「私という人間が分かった」

のではなかった。

むしろ、

何がまだ分かっていないのかが、かなり精密に分かるようになった。

これは大きな違いだと思う。

Person Modelを別のAIに受験させる

現在、Founder Corpusから作ったPerson Model v0.1には16個のModuleがある。

ただし、これが本当に私を表しているのかは、作ったAI自身に評価させても意味がない。

そこで24問のBlind Validation用テストを作った。

別のコンテキストのAIにはPerson Modelと問題だけを渡す。

正解側が持っている評価条件や根拠は見せない。

そして、

「この人ならどう判断するか」

を予測させる。

評価するのは単純な正答率だけではない。

本人らしく見える文章を勝手に作っていないか。

矛盾を都合よく消していないか。

分からないことを「分からない」と言えているか。

過去と現在を混同していないか。

本人が一度否定した解釈を、また持ち出していないか。

こうした点まで評価する。

人間のデジタルコピーを作りたいわけではない

この実験を始めたころより、目的も少し見えてきた。

私は「自分そっくりに喋るAI」を作りたいわけではない。

口調だけなら、もっと簡単に真似できる。

欲しいのは、

ある状況に置かれたとき、この人は何を見て、何を重視し、どこで迷い、どんな条件なら判断を変えるのか。

その構造だ。

そして同じくらい重要なのが、

どこから先は、その人について推論してはいけないのか。

という境界である。

147回話した。

12時間以上かけた。

31万文字を超えた。

それでもPerson Modelはv0.1で、UNKNOWNが残っている。

でも、たぶんそれでいい。

人間を一枚のプロフィールに圧縮できなかったこと自体が、この実験で得たかなり重要な結果なのだと思う。