「オラクルに銃を突きつけろ」

あらゆる予測市場は「オラクル［神託］」、つまり、ある事象の結果についての決定的な真実の源泉を必要とする。「今年パキスタンで新たにどれだけの太陽光発電設備が稼働したか」は、一見すると実証的な問いに聞こえる。しかし、すべての参加者が揃ってパキスタンを歩き回り、ソーラーパネルを数えてその設置日を確認するわけにはいかない以上、彼らは何らかの第三者の評価者を権威あるものとして合意し、その判断に従わなければならない。

真実を報道したことでジャーナリストが殺害予告を受けるのは残念ながら珍しいことではない。 […] だが、ファビアンが語っているのはまったく新しい――はるかに予測不可能な――脅威だ。ある任意の出来事の結果を外した誰かが激怒し、脅しによって賭けを取り戻せると考えるようになったのだ。

機械学習システムに携わった者なら誰でも知っているように、それらは「報酬ハッキング」に陥りやすい。壁や家具との衝突を避けながら室内を最短経路で移動するようプログラムされた機械学習搭載のルンバがそうだった。衝突センサーを前面に搭載したそのルンバは、後ろ向きに室内を動き回るようになり、家具や壁に散々ぶつかりながら、一度も衝突を記録しなくなった。

市場もまた、参加者の報酬ハッキングを誘発しうる。指標が目標になる。あなたはある事象の結果に賭けているつもりでも、実際に賭けているのはオラクルがその結果についてどう言うかだ。結果がどれほど明確で外部からの影響に対してどれほど堅牢であろうと、オラクルはこめかみに銃を突きつければ動かせる。

アルゴリズムという言葉がこれほど一般的に使われるようになったのは、いつ頃からだろう。私は情報学専攻の学生だったので、本来の意味でのアルゴリズムについて学んだけれど、今ではもっと広い意味でアルゴリズムという言葉が使われるようになった。

いずれにせよ、そうやってアルゴリズムは企業の都合が良いように書き換えられていく。YouTubeが「長尺であれ」といえば長尺が中心になり、「縦型ショートであれ」といえば縦型ショートばかりになる。それはまるで神託であり、それに従わない者は異端とされる。たとえばYouTubeのサムネイルで煽らない者、Xで未だにリンク記事を投稿している者は、プラットフォームに言わせれば神託に従わない、愚かな異端であろう。だがアルゴリズムの内側にいるのは神ではなく、経営者である。

だとすると、そんな恣意的で流動的な仕組みのことをアルゴリズムと言っていいのだろうか？ と修士（情報学）の端くれとしては思うのである。それってただの経営戦略では？

これからAIが普及するほど、なにも考えず「AIが言ってたのだから正しい！」「AIはこう言っているから従うべきだ！」と言う人達が増えていくのだろうと思うと憂鬱だが、AI企業はそうした人達を止めようとはしない。一方で、いまアルゴリズムの責任を取ろうとしないように、AIの言動が批判されてもその責任を取ろうとはしないだろう。