想像し，象徴し，創造する

“AI Hallucinations” という言葉があるそうな。 辞書的には hallucination とは幻覚とか妄想とかいった意味らしい。 そして yomoyomo さんが “AI Hallucinations” を紹介している。

• 「機械の中の幽霊」ならぬ「AIの中の幻覚」？ AIの「ハルシネーション」について考える - YAMDAS現更新履歴
• AI Hallucinations: A Provocation – O’Reilly

yomoyomo さんの記事の前半にある ChatGPT を検索サービスと繋げることへの懸念は私も同意する。 このブログでは何度も書いているが，昨年から台頭してきた，いわゆる Generative AI と呼ばれる一連が示すものは「翻案の大量生産」だ。 一方で AI と検索サービスのマッチングで期待されるのは，たとえばグレッグ・イーガン著作の『万物理論』に出てくるシジフォスのようなものだろう。 しかし，あれは20世紀の人が夢見た「エキスパートシステム」の延長線上にあるもので， ChatGPT のような妄想を垂れ流すものじゃない。 むしろ IBM が開発した Watson のほうが近いよね。

ChatGPT の妄想が（今のところ）許容されるのは，出力の評価を行うのが人間側だから。 AI はまだ「自律性¹」を獲得できてないのだから当然だが。 人は，妄想の中にも一欠片の真実を見い出せば，それを（良くも悪くも）評価する。 日本語で「忖度」というやつだ（笑） 心なきモノの心を慮れるのは人間の美点のひとつだろう（皮肉でなく）。

私は（このブログなんかもそうだが）思考が横滑りしやすいので，実は ChatGPT の妄想には勝手に親近感を覚えている。 どのくらい横滑りするかというと “AI Hallucinations” を読んで10年前に出版されたラブコメ作品を連想する程度には横滑りする。

神の力とは、想像し、象徴し、創造する力だ

だから CustomGPT.ai で遊んだりしてるんだけど。

人間だって何もないところからは妄想も想像もできない。 その意味で Generative AI が示すものはとても象徴的である。 でも今のところそれらがやっていることは（コピー機が作品を大量に複製するように）既存の何かをそれっぽく組み合わせた Remix を妄想という形で撒き散らしているだけで，まだその先がない。 象徴し創造する，に至れないわけだ。 まぁ “AI Hallucinations” に書かれているように，妄想までできるようになったことを評価すべきかもしれないけど。

それとも，やっぱり人の知能だの知性だのといったものの根源は機械で代替できる程度のものなのかと落胆するところかな（笑）

参考文献