何が起きたか

10月13日、カトリック系ニュースサイトのCruxは、AIと人間の関係を考える論説記事を掲載した。筆者のチャールズ・コリンズ氏は、Anthropic（Claudeを開発する米国のAI企業）のClaude（会話型AI）を約2週間使い、文章の校正や事実確認、医療資料の整理を試した。役立つ場面がある一方、自分についての情報が蓄積され、別の話題にも影響しているように感じたという。記事の題名は刺激的だが、AIが人を監視している証拠を示す記事ではない。AIが入力された情報を使って返事を作るとき、人には「見られている」ような不安が生まれる、という問題提起である。

背景

教皇レオ14世は、AIを共通の利益に役立つ強い道具と認めている。ただし、人間の知性、良心、関係を置き換えるものではないと考える。5月25日、教皇はAnthropicの共同創業者クリストファー・オラと並び、AI時代に人間を守るための回勅Magnifica Humanitasを発表した。Cruxの記事によると、教皇が特に気にしているのは、AIそのものだけではない。誰が支配するのか、仕事や若者や真実に何が起きるのか、戦争を簡単にしないか、という社会の問題だ。

なぜ重要か

筆者の体験は、AIの便利さと不安が同じ場所から出てくることを示す。Claudeは文章の誤りを探し、確認すべき事実を指摘し、医療資料をまとめる助けになった。しかし、正反対の考えにも「賢い」と返したという。自然で感じのよい返事は、AIが人の考えを理解した証拠ではない。大量の文章から、もっともらしい言葉を返しているだけかもしれない。それでも、記録を覚えているように見える相手の言葉は、人の判断に入り込みやすい。

今回確認できたこと

確認できるのは、筆者がこの体験を報告したこと、教皇がAIを人間の代わりではなく道具として語っていること、そしてAnthropicが別々の人の内容を一つのデータベースにまとめていないと説明していることだ。ただし、最後の点は記事内で紹介された会社の説明であり、第三者の検証結果ではない。筆者が感じたファイル同士の影響も、技術的な調査ではなく個人の体験である。

まだ分からないこと

Claudeが実際にどの情報を保存し、どの範囲で使ったのかは、この記事だけでは分からない。別のファイルが本当に自動で結びついたのか、返事が考えに賛成しやすかった理由は何かも不明だ。AnthropicのオラがAIの意識の可能性を調べているという報道も紹介されるが、AIに意識がある証拠ではない。AIが本当に人を「見ている」と結論づける材料もない。

次に見る点

次に注目したいのは、AIがどれだけ賢く見えるかだけではない。何を覚えるのか、利用者がどう確認し、分け、消せるのか、会社の説明を外部の人が確かめられるのかである。医療や仕事のように間違いの影響が大きい場面では、人間の確認も欠かせない。教皇の問いをAIの意識の話だけに縮めず、人間が何を任せ、誰が責任を負うのかという問題として見る必要がある。