· 技術革新とデジタルトレンド · シリーズ: 意味の地図をつくる · 読了目安 12 分
AIは、本当に「言って」いるのか？――Meaning AuditからAIと「主張」の哲学を訪ねる
「AIがそう言っていた」
AI に、ある市場の見通しを聞いた。答えはすぐに返ってきた。
この市場は、今後成長すると考えられます。
翌日の会議で、私は「AIもそう言っていました」と口にした。誰も気にしなかったし、私も気にしていなかった。
あとになって、その「言っていた」に引っかかった。人について「言っていた」と言うとき、そこには、そう考えて、そう話した誰かがいる。AI の場合も、同じ意味で「言っていた」と言ってよいのだろうか。
このシリーズでは、AI の話が何度も「まだ分からないこと」に戻ってきた。第2回では AI の出力を証言と呼べるのか、第5回では AI の「約束します」は誰の約束なのか、という問いを残した。そのたびに、読んだ資料には AI についての議論がなかった、と書いてきた。
今回は、その問いを正面から扱っている、最近の哲学の論文を訪ねてみた。
「言う」には、何が要るのか
まず、人が何かを「言う」とき、何が起きているのか。
哲学では、何かが本当だと示す言葉の使い方を「主張」と呼ぶ。Stanford Encyclopedia of Philosophy の「主張」の項目によれば、主張を、話し手の信じていることの表れとみる考え方は、少なくとも Kant にまでさかのぼる。
もう一つ、私が引っかかったのは、主張を「責任の引き受け」とみる考え方だった。この見方では、話し手は、言ったことが間違っていたときに責められることを引き受けている。聞き手の側は、それが間違っていたら話し手を批判してよい立場を得る。ただしその立場は、事情によっては覆されうる。
人に「言っていた」と言うとき、私たちは、間違っていたらその人に聞き返せる、と無意識に思っているのかもしれない。
2025年の Butlin と Viebahn の論文は、AI が主張するための条件として、二つを挙げている。
The first, basic requirement is that for an output of some system to be an assertion the output must have a descriptive function. The second—which is much more demanding—is that for a system to be capable of assertion it must be sanctionable by agents with which it interacts.
（一つ目の基本的な条件は、あるシステムの出力が主張であるためには、その出力が記述の働きを持たなければならない、ということだ。二つ目は、はるかに厳しい条件で、システムが主張できるためには、そのシステムがやりとりする相手から制裁を受けうるものでなければならない、ということだ）
二人によれば、事前学習だけの大規模言語モデルは一つ目の条件を満たさない。根拠への忠実さや正しさのために調整されたモデルは一つ目を満たしうるが、二つ目は満たさない。
立場は、分かれている
ただ、これで決着しているわけではない。後で紹介する Williams と Bayne の論文（プレプリント版）は、チャットボットは主張できるという見方は真剣に受け止めるべきだとしつつ、それへの反論も重い、としている。読んでいくと、立場は分かれていた。
ある論文は、言葉を使うことは行為であり、行為には意図が要ると考える。大規模言語モデルには意図がないため、言葉による行為は今のところ成立しないとみる立場だ。
別の論文は、チャットボットとのやりとりを、一種のごっこ遊びとして説明する。要旨によれば、出力は文字どおりには意味を持たないが、ごっこ遊びの中では意味を持ち、私たちはそこから世界についての知識を得られる、という。
さらに別の論文は、機械の発話の一部は、それを設計したり使えるようにしたりした人たちに代わって行う「代理の主張」とみなす方が妥当だ、と論じる。
これに対して、2024年に公開された Williams と Bayne の論文のプレプリント版では、代理の主張という見方が退けられている。人が誰かを通して主張する典型的な場合には、本当の主張者の候補がはっきりいる。けれどチャットボットとのやりとりでは、その候補がはっきりしない、というのだ。二人は代わりに、主張の特徴の一部だけを持つか、限られた形でしか持たない「主張の手前のもの」という枠を提案している。
意図がないため言葉による行為は成立しないとみる。ごっこ遊びとして説明する。誰かに代わる代理の主張として説明する。主張の特徴の一部を持つ「主張の手前のもの」とみる。少なくとも今のところ、どれかに決まっているわけではない。
証言なのか、計器なのか
では、AI が「言っていない」としたら、AI の答えから何かを知ることはできないのだろうか。
ここで役に立ったのは、証言の定義を、話し手の側からではなく、聞き手の側から考える見方だった。SEP の「証言」の項目には、聞き手が、ある伝達を情報を伝えるものとして合理的に受け取るとき、そこに一種の証言が成り立つ、という定義が紹介されていた。この定義も、何らかの伝達の行為があることは前提にしている。そのうえで、話し手が何を言うつもりだったかとは別に、聞き手がそこから知識を得られることを説明できる。
先のごっこ遊びの論文も、要旨の中で、チャットボットの話を科学の計器の認識論とつなげている。私なりの例で言えば、温度計は何かを「言っている」わけではないが、私たちは温度計から気温を知る。
こうした見方を手がかりにすると、二つの問いは分けて考えた方がよさそうだ。AI は話し手なのか、という問いと、AI は情報源になりうるのか、という問いである。
AIの答えには文がある。でも、話者はいるのだろうか。
「約束します」と言われたら
この違いは、約束になると、もっとはっきりする。
AI の窓口に問い合わせて、「必ず明日までに対応します」と返ってきたとする。これは誰の約束なのか。AI 自身の約束なのか、サービスを提供している会社の約束なのか。それとも、私がそう読んでいるだけなのか。
今回の調査では、AI の約束そのものを主題にした論文は見つからなかった。近いものとして、チャットボットの「謝罪」を扱った論文があり、チャットボットは謝罪のできる種類の言語的・道徳的な行為者ではないと考える理由がある、と論じていた。
代理の主張という考え方を、約束にもそのまま当てはめられるのかは分からない。謝罪の論文も、約束そのものを扱ったものではない。AI 自身の約束なのか、会社の約束なのか、誰の約束でもないのか、そもそも約束という行為が成り立っていないのか。第5回で残した問いは、ここでも開いたままだ。
誰かが、その答えを採用したとき
もう一つ、仕事の中ではよく起きることがある。
AI が「この契約は問題ありません」と答え、担当者がその一文を、そのまま社内の資料に書き写したとする。
このとき、AI が何をしたのかと、資料の中でその主張を誰が引き受けたのかは、別の問いになる。AI が主張したかどうかが決まらなくても、資料に書き写して外に出した時点で、その文は組織の文書の一部になる。第13回で見た、書いた人と、言った人と、引き受けた人のずれが、ここにもある。
文章が生成されたことと、誰かがその内容を主張したことは、同じではない。
意味の監査に戻る
意味の監査の側から見ると、「AIがそう言っていた」という一文は、二つのことを一度に済ませてしまっている。
一つは、根拠と出典（Evidence / Source）の問いだ。その答えは、どんな情報源から、どう作られたのか。第15回で見たように、AI が資料を探して要約したなら、その答えは出典の鎖の途中で作られたものでもある。
もう一つは、引き受け（Commitment）の問いだ。その答えを、文書の中で誰が引き受けているのか。「AIがそう言っていた」と書くことは、引き受け手を AI に預けたように見せる。けれど、その AI が「言って」いるのかどうかは、哲学の中でもまだ決まっていない。
ここで言う Commitment は、意味の監査で、成果物が何を判断や結論として採用しているかを見る段のことだ。主張の理論の「責任の引き受け」と同じものかどうかは、確かめていない。
意味の監査から見た地図（第16回）
| 意味の監査の段 | 今回の訪問から生まれた問い |
|---|---|
| Evidence / Source（AI の答え、その元になった資料） | AI は、話し手として扱われているのか、情報源として扱われているのか／答えは、どの資料から、どう作られたのか |
| Interpretation（「AIが言っていた」） | 「言った」を、人に使うときと同じ意味で読んでいないか |
| Inference / Warrant（AI の答え → 文書の結論） | AI の答えから文書の結論へ進むとき、何が足されたか |
| Commitment（文書が引き受けていること） | AI の答えを、文書の中で誰が引き受けているか／引き受け手が書かれているか |
注記: 右の問いは、今回の訪問から私が拾ったもので、AI の哲学の理論の図式ではない。
今回分かったこと
- AI が「主張」しているかどうかは、哲学の中で論争が続いていて、決着していない。
- 主張の条件として、出力が記述の働きを持つことに加えて、やりとりする相手から制裁を受けうることを挙げる論文がある。
- 意図がないため言葉による行為は今のところ成立しないとみる立場、ごっこ遊びとして説明する立場、設計者などに代わる代理の主張とみる立場、「主張の手前のもの」とみる立場がある。
- 証言を聞き手の側から定義する見方は、話し手の意図とは別に、聞き手が知識を得られることを説明する。これを手がかりにすると、「AI は話し手か」と「AI から何かを知れるか」を分けて考えられそうだ。
- AI の答えを人が文書に書き写したとき、その主張を誰が引き受けたかは、AI が主張したかどうかとは別の問いになる。
まだ分からないこと
- AI の答えを、意味の監査では、話し手の発言として扱うべきなのか、計器の読み取りのように扱うべきなのか。
- AI の「約束します」は、誰かの約束として成り立っているのか。
- AI の答えが、人の主張に変わるのは、どの時点なのか。読んだときか、書き写したときか、外に出したときか。
- 主張の理論でいう「責任の引き受け」と、意味の監査の Commitment は、どこまで重なるのか。
出典
- Pagin, P. & Marsili, N., “Assertion”, Stanford Encyclopedia of Philosophy（2025年改訂）. https://plato.stanford.edu/entries/assertion/
- Leonard, N., “Epistemological Problems of Testimony”, Stanford Encyclopedia of Philosophy（2021）. https://plato.stanford.edu/entries/testimony-episprob/
- Butlin, P. & Viebahn, E., “AI Assertion”, Ergo 12（2025）, 969–988. https://doi.org/10.3998/ergo.7960
- Gubelmann, R., “Large Language Models, Agency, and Why Speech Acts are Beyond Them (For Now) – A Kantian-Cum-Pragmatist Case”, Philosophy & Technology 37: 32（2024）. https://doi.org/10.1007/s13347-024-00696-1
- Mallory, F., “Fictionalism about Chatbots”, Ergo 10（2023）. https://doi.org/10.3998/ergo.4668 （要旨のみ参照）
- Arora, C., “Proxy Assertions and Agency: The Case of Machine-Assertions”, Philosophy & Technology 37: 15（2024）. https://doi.org/10.1007/s13347-024-00703-5
- Williams, I. & Bayne, T., “Chatting with bots: AI, speech acts, and the edge of assertion”, Inquiry（2024年オンライン公開）. https://doi.org/10.1080/0020174X.2024.2434874 （本文はプレプリント版 https://arxiv.org/abs/2410.16645 を参照）
- Magnus, P. D., Buccella, A. & D’Cruz, J., “Chatbot apologies: beyond bullshit”, AI and Ethics 5（2025）. https://doi.org/10.1007/s43681-025-00800-x （本文はプレプリント版 https://arxiv.org/abs/2501.09910 を参照）
英文の引用の日本語訳は筆者による。市場の見通し、温度計、AI の窓口、契約の確認の例は筆者による。
