校正ではない。意味を監査する。

生成AIで文章を作ることが、ずいぶん簡単になった。

企画書を作る。
報告書をまとめる。
プレゼンテーションを作る。
記事を書く。

以前なら何時間もかかっていた仕事が、数分でそれらしい形になる。

しかも最近のAIが作るものは、かなりよくできている。

文章は整っている。
論理も通っている。
見出しもきれいだ。
プレゼンテーションなら図解までしてくれる。

だから、読んでいると「なるほど」と思う。

ここに、少し厄介な問題がある。

「なるほど」と思えることと、それが本当にそこにあった意味であることは、同じではない。

AIは、点と点をつなぐのがうまい

例えば、私について三つの事実があったとする。

子どもの頃、物を分解するのが好きだった。

若い頃、マイケル・ジャクソンをよく聴いていた。

そして今、生成AIに夢中になっている。

これをAIに渡して、「この人物について文章を書いて」と頼む。

すると、こんな文章ができるかもしれない。

子どもの頃から、完成したものをそのまま受け入れるより、その仕組みを知りたくて物を分解していた。音楽ではマイケル・ジャクソンに惹かれ、テクノロジーと表現が融合して人を魅了する世界に触れた。そして現在は生成AIに没頭している。振り返れば、幼い頃から一貫していたのは、「仕組みを分解し、そこから新しい表現の可能性を探る」という姿勢だったのかもしれない。

なかなかいい。

本人である私が読んでも、

「なるほど。確かにそうだったのかもしれない」

と思ってしまう。

でも、少し待ってほしい。

私は、物を分解していた理由を「仕組みを知りたかったから」と言っただろうか。

マイケル・ジャクソンを好きだった理由を「テクノロジーと表現の融合に惹かれたから」と言っただろうか。

そして、この三つが一つの関心として現在まで続いていると、どこかで確認しただろうか。

どれも、元の三つの事実には書かれていない。

点は私が渡した。

線を引いたのはAIである。

人物を作らせると、もっと分かりやすい

以前、AIを使って人物モデルを作る実験をしていた。

例えば、元になるデータに、

「女性」
「秋田県」
「65〜69歳」
「就業者」

という情報があったとする。

これを自然な人物像にしてほしいとAIに頼めば、

67歳。夫と二人暮らし。スーパーでパート勤務をしており、休日には家庭菜園を楽しんでいる。

そんな人物を作ることができる。

とても自然だ。

秋田県に住む67歳の女性が家庭菜園をしていても、何も不思議ではない。

しかし、元のデータは彼女に夫がいるとは言っていない。

スーパーで働いているとも言っていない。

家庭菜園をしているとも言っていない。

AIが、意図的に嘘をついたわけではない。

バラバラに存在する情報を、人間が理解しやすい一つの世界にしたのである。

むしろAIが優秀だから起きる。

不自然な文章なら、人間は疑う。

ところが、生成された世界が自然であればあるほど、もともと存在した事実と、AIがその間を埋めるために生成した意味との境界が見えにくくなる。

私はこの問題を、人物モデルを作る過程で何度も見てきた。

だから、事実と推測を分ければいいのだと思っていた。

しかし、最近は、それだけでは足りないのではないかと考えている。

企画書では、もっと見つけにくい

例えば、ある企画書に三つの情報が書かれている。

Aという市場変化が起きている。

Bという顧客課題が存在している。

Cという技術が登場している。

三つとも事実だったとする。

AIは、これらをきれいにつなぐ。

AによってBが深刻化している。したがって、今後はCへの対応が必要になる。

非常に読みやすい。

Aは正しい。
Bも正しい。
Cも正しい。

だから、文章全体も正しいように見える。

しかし、本当に確認しなければならないのは、AでもBでもCでもない。

A → B → C

この「→」ではないだろうか。

Aが本当にBを引き起こしているのか。

BがあるからCが必要なのか。

その関係はデータによって確認されているのか。

企画者本人がそう考えていたのか。

それとも、AIが文章を完成させるために置いた橋なのか。

ここには、誤字も脱字もない。

文章としてもおかしくない。

論理破綻さえしていないことがある。

だから、普通の校正では見つからない。

AI資料が増えるほど、問題は「文章の質」ではなくなる

最近は、AIでプレゼンテーションまで簡単に作れる。

材料を入れれば、AIが構造化してくれる。

背景があり、課題があり、原因があり、解決策があり、ロードマップがある。

図解も美しい。

作った本人からすると、

「そうそう。これが言いたかった」

となることも多い。

問題は、それを見る側である。

AIは、与えられた材料をただ並べているわけではない。

点と点の間に橋を架けている。

因果を補い、順序を作り、重要度を決め、ときには本人が明示していなかった意図まで推測して、一つの世界観にまとめる。

しかも、その仕事がうまい。

だからこそ怖い。

人間が何時間もかけて作った雑な資料なら、

「ここ、話が飛んでない？」

と気づける。

AIが美しく整えてしまうと、その飛躍まで美しくなる。

必要なのは、校正ではない

ここしばらく、私はAIとの対話や実験を通じて、この問題をずっと追いかけてきた。

最初は、AIが余計なことを言わないようにする研究だった。

次に、事実と推測を分離する問題になった。

さらに、人間の何気ない一言をAIが深読みし、本人が持っていなかった意味まで発見してしまう問題が出てきた。

逆に、文章によっては意味を早く示した方がよいことも分かってきた。

プレスリリースなら、読者は早く要点を知りたい。

一方、複数案から意思決定してもらう提案書なら、最初から結論を押しつけることで、その後の情報がすべて結論を補強する材料として読まれてしまうことがある。

文章の種類によって、

どこまで意味を作るのか。

いつ意味を提示するのか。

何を確定し、何を保留するのか。

読者自身に、どこまで考えてもらうのか。

それを制御する必要がある。

ここまで考えて、ようやく名前が見えてきた。

校正ではない。

意味を監査する。

「点」ではなく「線」を監査する

従来の文章チェックは、主に点を確認してきた。

数字は正しいか。

固有名詞は正しいか。

引用は正しいか。

誤字脱字はないか。

文章として読みやすいか。

もちろん、これらはこれからも必要だ。

しかし、生成AI時代にはもう一つ必要になる。

点と点の間に引かれた線は、どこから来たのか。

事実なのか。

本人の判断なのか。

合理的な推論なのか。

仮説なのか。

単なる物語上の接着剤なのか。

あるいは、AIが「この方が意味が通る」と判断して作ったものなのか。

全部を消せばいいわけではない。

線がなければ文章にならない。

仮説も推論も必要だし、ときにはAIが作った橋によって、人間自身が気づいていなかったものを発見することもある。

問題は、

その線が存在することではなく、その線の出所が見えなくなることだ。

だから必要なのは、AIに意味を作らせない仕組みではない。

意味が、

どこで生成され、

どこで圧縮され、

どこで保留され、

どこで確定され、

そして、どこで事実の顔をしてしまったのか。

それを追跡できる仕組みなのだと思う。

私はいま、それを「意味の監査」と呼んでいる。

まだ研究の途中である。

ただ、一つだけ、かなりはっきりしてきた。

生成AI時代に監査しなければならないのは、文章に書かれている「点」だけではない。

その間にある「→」である。

そして、おそらくこれから大量に作られるAI文書の中で、最も見つけにくく、最も大きな意思決定を動かすのも、この小さな矢印なのだと思う。