AI（LLM）を使ってブログの記事やZINEの構成をしている時に、面白いことが起きました。
ChatGPTと会話していたら、ChatGPTが「あなたは以前『ZINEを100冊書きたい』『観察者として生きたい』と話していた」と回答してきました。しかし、過去の会話でそういう話はあったものの、自分が発言した記憶はありませんでした。そこで「それはあなたが提案してきたことではないですか？」と聞き返したら、その通りで、ChatGPTがその1ヶ月前くらい、別のセッションのやりとりの中で提案してきた内容でした。
ChatGPTのその回答は、会話の中での結論部の土台として置かれていました。私が書く文章について、ChatGPTが「あなたが書き続けているのは観察ではなく、生活を設計し直す過程の記録だ」と言った診断の根拠が、ChatGPT自身の出した提案をベースにしたものだったのです。AIが自分の出力を、他人の前提として再利用していたのでした。
私がそのことに気付けたのは、「100冊書く」「観察者として生きる」というフレーズがChatGPTから出てきたのが印象的で、頭の片隅に記憶として残っていたからです。私の発想からはなかなか出てこない。ましてや「観察者として生きる」なんていうちょっと大仰な言い方は、私は滅多に使いません。自分がどういう言葉を使うかは、職業柄ある程度自覚的です。また、25年分のブログがデータとして残っていて、ChatGPTとClaudeに全部一度読み込ませ、文体を分析させたことがあります。
自分の語彙の輪郭をある程度わかっていることが、AIが出力した内容を検品する時の条件になるのだと思います。
ChatGPTの過去ログを検索し、「100冊」「観察者」に触れた会話がChatGPT側の発言によるものだということを確認したから、ChatGPTに「それはあなたの提案ですよね」と聞くことができました。もし「ちょっといいフレーズだから」と思ってそのまま採用したら、AIが結んだ自分の像を自分で内面化してしまっていたかもしれません。
ChatGPTだけではなく、Claudeとの会話でも同じ構造が起こり得ます。私と1つのセッションで長く会話していくうち、Claudeは私がブログ・AI・生活の記録としてそれぞれ書き分けている文体を読み取り、その層について「役目を終えたもの」「川底に何を残すか」というフレーズを説明として使うようになりました。これは、私の記述からAIが抽出して名づけたものです。これを私が採用するかしないかはもちろん私の自由なのですが、AIがそれを既定の事実として扱い始めると、私が遭遇した事象と同じように、自分の像だと簡単に勘違いしてしまいます。
対策としては、自分が言いそうにないフレーズが出てきた際には、「それは、私が言ったことでしたっけ」と確認することが一番です。そうすると、AIは過去のログを参照して修正してくれるでしょう。あるいは、AIによる提案の中で、過剰に意味付けされたフレーズや物語については、必ず自分で判定した上で書く。
AIとの会話をすべて覚えておくことは不可能なので、自分の内面に近いことをAIと一緒に作ろうとする時には自衛するしかなさそうです。
