意味が混じると、議論は止まる

「意味の監査」というものを考え始めている。

AI時代の意思決定に、意味の生成過程を監査するという品質保証を入れられないか。

そんなことを考えながら、ちょうど実際の仕事で作っていた報告資料に「意味の監査」を試してみた。

すると、思っていた以上に大きな問題が見つかった。

「20時間必要」と「2人必要」は同じではない

その資料は、ある業務改善のPoCについて報告し、今後の運用体制を提案するものだった。

実際に業務へ入り、業務量を観察した結果、週18時間程度の実務リソースが配置されていた。繁閑への余裕を考えると、定常運用では週20時間程度を確保しておくのが妥当だと考えた。

そして私は、その20時間を1人ではなく、2人で分担する体制を提案した。

最初の資料では、この二つがかなり近い場所に書かれていた。

「週20時間程度の実務リソースが必要である」

「スタッフは2名必要である」

一見すると、特におかしくない。

しかし、意味の監査という観点から見直してみると、この二つはまったく違う種類の意味だった。

週20時間程度のリソースが必要だというのは、PoCから導いた「条件」である。

一方、それを2人で担うというのは、その条件を満たすために私が選んだ「提案」である。

週20時間を1人で担うことだってできる。

だから、

週20時間必要である。
したがって、2人必要である。

とは言えない。

ここには一本、余計な矢印が入っていた。

そこで資料を大きく組み替えた。

第Ⅱ部では、PoCから何が分かったのかだけを書く。

実務工数と責任者工数は分ける必要がある。責任者機能が必要である。実務には週20時間程度のリソースが必要である。特定個人の常時待機に依存してはいけない。応答基準を明文化する必要がある。

そして、そこでいったん止める。

「これらは満たすべき条件であり、何名でどう担うかは一意に決まらない」と明記した。

そのうえで第Ⅲ部に入り、

「この条件を満たす複数の方法の中から、責任者1名＋スタッフ2名を提案する」

とした。

最終的な資料では、「事実」「判明したこと」「提案」「ご判断いただきたいこと」を区別し、どこかに異論があれば、その地点まで戻って議論できる構造にした。

なぜ、こんな小さな違いが重要なのか

資料を直していて気づいた。

これまでの打ち合わせで議論が妙なところで止まる原因の一つは、これだったのではないか。

たとえば私が、

「20時間必要なので、2名体制を提案します」

と言う。

相手は、

「なぜ2人必要なんですか？」

と聞く。

私は、

「実際にこれだけの業務量があるんです」

と説明する。

すると相手は、

「いや、そんなことは分かっています」

となる。

話が噛み合わない。

考えてみれば当然だ。

相手は「2名という提案の妥当性」を問うている。

私は「20時間という必要量の妥当性」を説明している。

二人とも間違ったことを言っていない。

ただ、違う意味について話している。

意味が混じっているから、どこに異論があるのか分からない。

そして、異論の場所が分からないと、議論は止まる。

これは単なる「分かりやすい資料の作り方」の話ではないように思えてきた。

グライスを知った

この話をAIと続けていて、ポール・グライスという哲学者・言語学者の話になった。

語用論で非常に重要な仕事をした人である。

私たちは、言葉に書かれていることだけを交換しているわけではない。

たとえば、

「今日は寒いね」

と言われたとき、それが単なる気温の報告とは限らない。

窓を閉めてほしいのかもしれない。

暖房をつけてほしいのかもしれない。

そろそろ帰ろう、という意味かもしれない。

私たちは、発話された文字どおりの意味に、その場の状況や相手との関係、それまでの会話などを加えて、書かれていない意味を復元している。

人間のコミュニケーションでは、この「書かれていない部分」の交換量がものすごく多い。

もちろん、人間はグライスを勉強してから会話するようになったわけではない。

人間はずっとそうやって話してきた。

グライスは、それを後から観察し、構造を見つけた。

そう考えると、LLMがかなり人間臭く見えてくる。

LLMも意味を補ってしまう

LLMの中に「グライスの法則」がプログラムとして書き込まれているわけではない。

LLMは、人間が残してきた膨大な言語を学習した。

その結果、人間と同じように、書かれていない意味をかなり巧みに補う。

これはLLMのすごいところである。

同時に、意味の監査が必要になる理由でもある。

「週20時間必要である」

「スタッフ2名を提案する」

この二つが並んでいたら、人間もAIも自然に、

「20時間必要だから2人必要なのだ」

という橋を架けてしまう。

しかし、その橋は本当に渡ってよい橋なのか。

そこを一度止めて、

「その矢印は、どこから来た？」

と問う。

LLMは、意味を滑らかにつなぐことがとても得意である。

意味の監査は、その滑らかになった意味をもう一度分解する仕事なのかもしれない。

でも、人間だって本当に理解したかは分からない

ここから話はさらに変な方向へ進んだ。

では、LLMは意味を「理解」しているのだろうか。

考えているうちに、そもそも人間同士でも、相手が本当に理解したかどうかなど分からないことに気づく。

説明したあと、

「分かりました」

と言われる。

復唱してもらう。

正しい言葉が返ってくる。

別の例を出してもらう。

正しく答えられる。

それでも、その人の内部に構築された概念が、自分の内部にある概念と本当に同じなのかは確認できない。

有名な「赤」の問題もそうだ。

私が見ている赤と、あなたが見ている赤が、本当に同じ赤なのか。

二人とも赤信号を見て「赤」と言う。

赤いカードを選べと言えば同じカードを選ぶ。

観察できる行動は一致している。

しかし、その二人の内部で生じている「赤」の経験が同じであることを直接比較する方法はない。

これは言葉についても同じなのではないか。

比較できるのは、外に出てきたものだけ

私たちが比較できるのは、文字列である。

発言である。

復唱である。

質問への回答である。

具体例である。

反例への反応である。

そして、その後の行動である。

内部にある「意味そのもの」を直接取り出して比較することはできない。

するとコミュニケーションというものが、少し違って見えてくる。

人間は、直接共有することのできない内部状態を持っている。

それを言葉や行動という観察可能な痕跡に変換して相手へ渡す。

相手は、自分の持っているコンテキストを総動員して、そこから意味を再構築する。

だから、

意味は文字列の中にそのまま格納されているわけではない。

文字列だけでは足りない。

その言葉が発せられた状況。

それまでに何を話していたか。

二人の関係。

過去に同じ言葉をどう使ってきたか。

何を決めようとしている場面なのか。

そうしたコンテキストが加わって、初めて意味が立ち上がる。

では、どこまで確認すれば「分かった」と信じてよいのか

ここで、意味の監査にとってかなり難しい問いが出てきた。

意味そのものの一致を確認できないのなら、

どこまで確認すれば、意味が共有されたと合理的に信じてよいのか。

これは「80％一致したら合格」という閾値の問題ではないと思う。

そもそも意味の一致率など測れない。

でも、証拠を増やすことはできる。

同じ言葉を復唱できる。

自分の言葉で説明できる。

具体例を作れる。

反例を識別できる。

条件を変えた未知のケースにも適用できる。

実際の判断や行動が、その理解と整合する。

こうした異なる種類の観察が重なっていけば、

「内部が完全に同一だとは証明できない。しかし、この意味は十分共有されていると考えてよい」

という地点には近づける。

ここで重要なのは、証拠の量だけではない。

同じ文章を10回復唱しても、あまり証拠は増えない。

説明できる。

適用できる。

適用してはいけない境界も分かる。

そして行動できる。

異なる種類の証拠が重なる方が強い。

必要な確認の深さは、意思決定によって違う

さらに、すべてのコミュニケーションで同じ深さまで確認する必要もない。

「明日の集合は10時です」

「10時ですね」

これなら十分だろう。

しかし、

「この企画を承認します」

では事情が違う。

何を承認したのか。

費用だけなのか。

体制までなのか。

その前提条件も受け入れたのか。

失敗した場合のリスクを認識しているのか。

その判断は後から戻せるのか。

コミットメントが大きくなるほど、意味が共有されていることについて、より厚い確認が必要になる。

ここで「意味の監査」と「意思決定」がつながった。

意味そのものを監査することはできない

最初、私は「意味の監査」という言葉から、資料の中を流れる意味を追跡することを考えていた。

しかし、少し考えが変わってきた。

意味そのものを直接監査することはできないのかもしれない。

他人の頭の中は見えないからだ。

監査できるのは、

どんな事実が観測されたのか。

そこからどんな解釈が生まれたのか。

どんな前提によって次の主張へ進んだのか。

何が条件で、何が提案なのか。

どこからが予測なのか。

そして、相手がその意味を共有していると、何を根拠に判断したのか。

そうした意味が生成され、伝達され、意思決定へ変換されるまでの痕跡である。

だから意味の監査は、

「あなたと私は完全に同じ意味を共有しています」

と証明するものではない。

むしろ、

「この意味が十分に共有されていると、なぜ信じてよいのか」

を確かめるものなのだと思う。

完全な理解を証明することはできない。

それでも、人は決めなければならない。

だから必要なのは、完全な証明ではなく、

この意思決定を先へ進めてもよいと合理的に信じられるだけの確認

なのだろう。

会計監査が絶対的な保証ではなく、合理的な保証を目指すように。

意味についても、そんな品質保証を作れるのではないか。

まだ「意味の監査」が何なのか、答えが出たわけではない。

でも今日、少なくとも一つ分かったことがある。

意味が混じると、異論の場所が分からなくなる。
異論の場所が分からないと、議論は止まる。

意味を分ければ、

「ここまでは同意する。でも、この矢印には同意しない」

と言える。

それだけでも、会議はかなり変わるはずだ。

そして、もしかすると意味の監査とは、正しい意味を決める技術ではない。

人と人が、完全には覗くことのできない互いの意味を抱えたまま、それでも合理的に意思決定するための技術なのかもしれない。