資本主義の走狗としての AI 技術

あっ！（私でも知ってる）テッド・チャンの記事だ。

• テッド・チャンはAIでなく資本主義を恐れる - YAMDAS現更新履歴
  • Transcript: Ezra Klein Interviews Ted Chiang - The New York Times
  • Ted Chiang: Fears of Technology Are Fears of Capitalism

とりあえず『息吹』は yomoyomo さんのページから発注した。 私は『あなたの人生の物語』は「理解」が一番面白いと思ってる人間なので（中二病全開な話は好きなのよ）好みとはズレてるかもしれないが。

ちなみに私は，上の記事の内容とは少し違う文脈¹ で「十分に発達した技術は魔法と区別がつかない（Any sufficiently advanced technology is indistinguishable from magic）」というもの言いには批判的な立場の人間である。 それは「区別がつかない」のではなく単なる「科学技術の放棄」だ。 人類が宇宙に飛び去った後の地球で猫が人類の「遺跡」を使って文明社会っぽい暮らしをしているようなものである（笑） 箸が転んでも「SF だ！」と言う SF 者はそれも SF と言うかもしれないが，科学技術が放棄・失伝された世界観はどちらかというとファンタジーやオカルトに分類される。

エンジニア，特にソフトウェア・エンジニアには「技術が社会を変える」などというそれこそ中二病な発想をする人がそこそこいる気がする。

確かに何某かの技術革新がパラダイムシフト（社会構造の根本を変える）トリガーとなることはある。 産業革命とか典型的だし，コンピュータの登場からインターネット・クラウド・人工知能と続く流れも，今世紀末あたりの時点から振り返ればパラダイムシフトだったという歴史認識になるかもしれない。

でも，それでも人の社会を構成するのは人であり，変えることができるのも人だけだ。 人の社会は人の活動によって連綿と続くものであって，乙女ゲームの美麗スチルのように離散的に派生するイベントの寄せ集めではない。 ポストモダンなどという断絶はないのだ。

もし「技術が社会を変える」ことがあるなら，それは社会を「変える」のではなく「放棄」だろう。 つまり技術によって作られた「なにか」に社会を明け渡すということに他ならない。 人がそれを善しとするのなら，人類社会はそこで試合終了である。

まぁ，この手のディストピアは SF では鉄板ネタだし，だからこそ「シンギュラリティ（特異点）」などという妄執に取り憑かれる人も出てくるのだろう。 20世紀末に「超能力」というオカルトが（SF 作品にも出てくるほど）大流行したように，「シンギュラリティ」というオカルトもしばらくは流行り続けるかもしれない。

話が逸れた。

結局「AIでなく資本主義を恐れる」という話は「包丁による刺殺で罪に問われるべきは包丁ではなく（作った人でもなく）それを使った人間である」という定番の話をそれらしく壮大に語っているだけのように見える。

コンピュータ，インターネット，オープンソースと情報処理技術が「産業機械」として社会に組み込まれていく中で，クラウドは最初から資本主義そのものを想像し象徴するシステムとして登場している。 そして，そのクラウド（に溢れる情報）を効率的に処理する道具（のひとつ）が現在の AI 技術なのである。

ならば，資本主義の走狗としての AI 技術が人の社会の中で正しく「使われる」よう（規制を含めて）仕組みを整えていくのは人の役割である。 「シンギュラリティ」なるオカルトに引きこもっている場合ではないということだ。

実際には，情報処理技術をコントロールする「仕組み」自体が情報処理技術で構成されているというのが本当の問題なんだろうけど。 アダム（CompilerZero）を元に作られたエヴァ（CompilerOne）は本当に「正しい」のか，ということだ。

「正しい」も情報のひとつに過ぎないのだから。

最初に挙げた yomoyomo さんの記事でさらりと紹介されているが，同じくテッド・チャンさんの

• Why Computers Won’t Make Themselves Smarter | The New Yorker
  • ブログ: なぜ、コンピュータは自ら賢くならないのか?

を読んだ後に改めて『あなたの人生の物語』の「理解」を読むと，この短い作品が人の「知性」や「知能」といったものへの理解に対する痛烈な皮肉になっていることが分かる。

やっぱテッド・チャンは面白いわ！

参考図書