本を書き終えてから、バグ取りが始まった

本を書き終えた。

正確には、18章すべての原稿がそろった。

タイトルは『意味の監査』。
AIが文章を作る時代に、事実と判断の「あいだ」で何が起きているのかを考える本である。

全部の章を書き終えたとき、私は当然、かなり終わった気になっていた。

あとは誤字を直して、表現を少し整えて、一冊にまとめればいい。

そう思っていた。

ところが、各章の最新版を一本につないで、最初から最後まで読める形にしてみたところ、別の仕事が始まった。

バグ取りである。

章ごとには正しい

奇妙なのは、一つひとつの章に、大きな問題があったわけではないことだった。

各章は何度も直している。

事実と提案を分ける。

誰の発言なのかを確かめる。

AIが足した意味と、本人が語ったことを分ける。

不要な説明を削る。

その章だけを読めば、かなり整理されていた。

ところが18章をつなぐと、別の種類の問題が見えてくる。

たとえば、第9章では、ある実務資料について書いていた。

以前はその資料を「PoCの資料」と呼んでいたが、改稿の途中で、もっと一般的な話として読めるように、「ある業務について調査し、その結果と今後の提案を一つの資料にまとめた」と書き換えた。

第9章だけを見れば、それで終わっている。

ところが後の第13章には、

「前に見たPoCの資料では」

という言葉が残っていた。

第13章は、昔の第9章を参照したままだった。

各章は動いている。

でも、章と章のあいだの接続が古い。

ソフトウェアで言えば、モジュールを更新したのに、呼び出し側のインターフェースが昔のまま残っていたようなものだった。

本にも依存関係がある

考えてみれば、当たり前のことなのかもしれない。

本は、章を18個並べただけのものではない。

前の章で出した問いを、後の章で受け取る。

以前の例を、別の角度から使う。

一度定義した言葉を、後半では説明なしで使う。

「これは後の章で扱う」と約束する。

そして後の章では、「前に見たように」と振り返る。

つまり、本には依存関係がある。

ところが執筆中は、どうしても一章ずつ見てしまう。

第7章を書いているときは、第7章を良くする。

第11章を書き直しているときは、第11章を良くする。

その結果、一つひとつの章は良くなっていく。

しかし、ある章を直したことで、別の章に書いてある「過去」が古くなる。

これが、一冊につないで初めて見えた。

編集者は、少しSEに似ている

今回、自分は筆者と編集者の両方をやることになった。

書いているときに見ているものと、編集しているときに見ているものは、かなり違う。

筆者としては、

「この章で何を言いたいか」

を考える。

編集者としては、

「この章を変えたことで、後ろの章が壊れていないか」

を見る。

この言葉の意味は、前と後ろで同じか。

前の章で削った例を、後の章がまだ参照していないか。

ある章では「かもしれない」と書いていたものが、後ろでは「である」に変わっていないか。

本人が言ったことと、AIが補ったことの帰属が入れ替わっていないか。

そう考えると、編集者は少しSEに似ている。

もっと正確に言えば、ソフトウェアアーキテクトに近いところもある。

文章をきれいにするだけではない。

依存関係を見る。

インターフェースを見る。

変更の影響範囲を見る。

一つの修正が、別の場所にどんな副作用を出すのかを見る。

今回、自分で筆者と編集者の両方をやったことで、その違いをかなりはっきり体験することができた。

削ったら、別の概念が出てきた

今回、もっと面白かったことがある。

第11章を書き直していたときのことだ。

この章では、人についての情報をAIに渡すと、AIがそのあいだに線を引き、一つの人物像を作ることを扱っていた。

たとえば、

子どもの頃に宇宙戦艦の絵を描いていた。

ブロックでも宇宙戦艦を作っていた。

いまはシステムを設計する仕事をしている。

それぞれは事実である。

しかし、

「子どもの頃から世界を作ることが好きで、その力がいまのシステム設計につながっている」

という一本の物語は、本人が語ったものではない。

AIが、そのあいだに線を引いた。

私は、このように、本人が語っていない因果や動機、まとまった人物像を、観測された材料のあいだに補ってしまうことを、Narrative Hallucinationと呼んでいる。

ところが、この章を整理している途中で、もう一つ別の話が混じっていることに気づいた。

「この人なら、次にどう考えるだろう」

という未来の予測である。

最初は、これも同じ問題だと思っていた。

過去の発言や行動をたくさん集めれば、その人らしい未来の回答も作れる。

だから、同じ「人物モデル」の話として扱っていた。

でも、よく考えると違う。

過去のNarrative Hallucinationでは、点はすでに存在している。

Aという行動があった。

Bという発言があった。

Cという判断があった。

AIが作るのは、その点と点の「あいだ」にある線である。

しかし未来には、まだ点そのものが存在していない。

「この人なら次にDを選ぶだろう」

というとき、AIは線を引いているだけではない。

まだ存在しないDという点そのものを予測している。

これは別の推論だった。

第11章から未来予測の話を全部外した。

すると、Narrative Hallucinationの輪郭が急にはっきりした。

同時に、別の研究テーマが一つ現れた。

文章を削ったら、概念が増えた。

妙な話である。

文章のバグだと思っていたら、理論のバグだった

この感覚には、少し研究に似たところがある。

ある現象を、これまでの理論で説明しようとする。

ところが、どうしても説明がきれいに収まらない部分が残る。

最初は、説明の仕方が悪いのだと思う。

言葉を変える。

順番を変える。

例を変える。

それでも、どこかがおかしい。

そういうとき、問題は説明の仕方ではなく、そもそも一つだと思っていた現象の中に、二つの別のものが混じっていることがある。

医学でも、似た症状としてひとまとめにされていたものが、研究が進むと別の病態として分かれていくことがある。

数学でも、見た目には同じように見える概念が、条件を厳密にすると別のものとして区別されることがある。

今回も、それに近かった。

第11章の文章が、何度直してもうまく流れなかった。

そこで文章を直すのをやめて、

「そもそも、この二つは同じ問題なのか」

と疑ってみた。

すると、

観測された過去の点をつなぐ推論と、

まだ存在しない未来の点を予測する推論は、

別のものだった。

文章のバグだと思っていたものが、実は理論のバグだった。

この瞬間は、かなり面白かった。

編集とは、概念モデルのデバッグでもある

ここまで来ると、編集の意味も少し変わって見える。

編集というと、文章を読みやすくすること、重複を削ること、構成を整えることを思い浮かべる。

もちろん、それもある。

でも今回の執筆では、編集をしているうちに、

何を同じ概念として扱うのか。

何を別の概念として分けるのか。

どこまでを一つの説明で扱えるのか。

どこから先は別の問題として切り出すべきなのか。

そういう、概念そのものの境界を何度も見直すことになった。

つまり、編集していたのは文章だけではなかった。

頭の中にあるモデルそのものだった。

編集とは、概念モデルのデバッグでもある。

そう考えると、書き手と編集者が別の人であることにも意味がある。

書いた本人には、全部がつながって見えている。

なぜその話がそこにあるのかも分かっている。

そのため、二つの別の概念が一つになっていても、本人には自然に読めてしまう。

編集者は、そのつながりを一度疑う。

「ここ、本当に同じ話ですか」

と。

今回、自分でその両方をやったことで、筆者と編集者が違う役割を持っている理由を、少し理解できた気がする。

書くことと、考えることは別ではなかった

本を書く前は、ある程度まとまった考えがあって、それを文章にするのが執筆だと思っていた。

もちろん、そういう部分もある。

しかし今回やってみて感じたのは、少し違った。

書いている途中で、

これは同じ概念なのか。

それとも別の概念なのか。

この例は、本当にこの章に属するのか。

この一文は、前に言ったことと矛盾していないか。

この説明は、知らないうちに強くなっていないか。

そんなことを何度も確かめる。

すると、文章を直しているはずなのに、概念の境界そのものが動いていく。

執筆は、出来上がった考えを文章へ変換する作業だけではなかった。

考えそのものをデバッグする作業でもあった。

AIと書くと、履歴が残る

今回の執筆では、普通の原稿とは少し違う管理をしている。

各章には、確定した版だけでなく、途中の候補版も残している。

どの記述が何を根拠にしているのかを示すEvidence Mapがある。

なぜその修正をしたのかを残すEditorial Decisionがある。

まだ決めていないことはOpen Questionとして残している。

そして、各章の最新版をつないだWhole Book Assemblyを作る。

少し大げさに言えば、本というよりソフトウェアの開発に近い。

本文だけを見るのではなく、

なぜこの文になったのか。

何を削ったのか。

どの概念を分離したのか。

どの問いがまだ残っているのか。

その履歴も一緒に持っている。

AIと一緒に大量の文章を作れるようになったからこそ、こういう管理が必要になったのだと思う。

文章を増やすこと自体は、もうそれほど難しくない。

難しいのは、その文章の意味がどこから来たのかを追い続けることである。

最後に必要だったのは、校正ではなかった

18章を書き終えた。

各章もかなり直した。

そこで必要になったのは、もう一度すべての文章を磨くことではなかった。

むしろ、触りすぎない方がいい。

必要だったのは、章と章のあいだを見ることだった。

前の章で削った概念が、後ろの章に残っていないか。

「後で触れる」と書いたものが、本当に後で触れられているか。

前の章では「かもしれない」だったものが、後ろで「である」に変わっていないか。

本人が言ったことが、いつの間にかAIの分析として扱われていないか。

同じ言葉が、章によって別の意味になっていないか。

いま私は、この作業をCross-Chapter Consistency Auditと呼んでいる。

本を書き終えてから、バグ取りが始まった。

そして面白いことに、バグを取っていると、また新しい問いが見つかる。

たぶん、本を書くという仕事は、きれいな文章を完成させることだけではない。

自分が何を同じものだと思い、何を別のものとして扱っているのか。

その境界を、最後まで確かめ続ける仕事なのだと思う。