AI は正解を答えない

岩波書店の『科学』という雑誌があって時々読んでいる（Kindle 版がある）のだが，2026年1月号の特集記事は「AIは科学をどう変えるのか」だった。

特集の最初の記事，国立科学研究所の相澤彰子さんによる「科学を支援するAI：現状と課題」に以下の記述がある。

もし，人間の介在なく自律的に研究を進める AI サイエンティストが実現されれば，研究の超並列化が可能になり，たとえば1000本の研究を同時に試行して，成功した数件の論文のみを選んで査読にかけるなどの方法で，科学的発見のチャンスが広がるかもしれない。一方で，人間が介在しないことによるリスクやコストについては，まだ議論に必要なデータが揃ってない黎明期であり，現状では，将来に向けた AI のグランドチャレンジとして位置づけられる。

これが現状の生成 AI に対する人間の正しい接し方だよなぁ，というのが私の感想である。

現状の生成 AI はあくまでも推論機械のひとつに過ぎず，その特徴は「翻案の大量生産」にある。 人間同士のグループチャットでひとつの問いかけについて多様なレスポンスが返ってくるように，生成 AI に対してもひとつの問い合わせに対して様々な回答が返ってきて（その中には妄想（hallucinations）も含まれる）然るべきで，それらをどう咀嚼し検討し排除・選択していくかはレスポンスを受ける人間側の仕事である。 人間の社会なんだから。

だから，ひとつのプロンプトに対して単一の答えが返ってくるような AI サービスなど欠陥品だし，ましてや人生相談になど使えるわけがない。 どれだけ人間っぽく振る舞っても，現状の AI は推論機械以上の存在にはなれない（シンギュラリティは越えられない）。

あるシチュエーションの絵を描くよう AI に命じて明らかにジ○リ風の絵が返ってきたり，写真上の人物を水着姿に描き換えたりしたのなら，それらを公衆に晒さないよう務めるのは人間側の役割である（君の性癖は隠しとけ）。 AI が言論デコイを生成できるからといって，それをしばら撒いて世論を操作するとか，それこそ公安9課な妄想で止めておくべき。 逆に自分の絵を学習させて様々なシチュエーションを AI に描かせたら，自身の作風の幅が広がるかもしれない。 道具なんてのは使いようである。

創作分野については上述の物言いは的が外れているかもしれないので，あまり深堀りしないでおくが，エンジニアリングにおいては最初の引用に出てきた「AI サイエンティスト」ならぬ AI エンジニアが望まれてもいいと思っている（知財権の問題は今回は置いておく）。

そもそもプログラムが書けるだけのプログラマなんか世紀を跨ぐあたりで淘汰されている。 少なくとも設計もできないような下流プログラマ（前世紀ではコーダーと呼ばれていた）なんかどこも欲しがらないし，リーン・アジャイル・スクラムと開発体制が整い並列駆動するイテレーションの中で様々な UI や UX を試行錯誤し評価し要件さえも変えていくことが当たり前になっている。 UI や UX に（定石はあるが）決まりきった正解はない。 決まった要件で決まった設計で水が上から下に流れるように製造が進んでいくなど神代の時代の話である。

もし AI エンジニアが台頭するなら，人間の役割はアイデアの（AI による）無数の実装を管理・評価し（ときには AI システムの中身に手を入れて）調律することかもしれない。 ゼロ年代にはコードの読めない SE とか平気でいたが， AI がコードを完璧に書くようになっても（社会の中心に人間がいる限り）人間エンジニアはコードを読み書きできて評価できなければならない。 エンジニアに求められるものは，私のようなロートルがかつて求められていたものとは確実に違うだろう。

Bruce Schneier と Nathan E. Sanders の共著である “Rewiring Democracy” の邦訳が出ないかなぁと密かに期待しているのだが

『Rewiring Democracy』は、『ハッキング思考』でも論じた、速度、規模、範囲、複雑度という4つの次元でのAIの人間に対する優位性を踏まえながら、行政、立法、司法、そして選挙（に代表される市民の政治参加）などの各分野でどのようにAIが有効活用できるか（そして、どのように悪用もできるか）を豊富な事例とともに解説しています。

以前紹介した通り，米国の中間選挙に向けて「AI による組織化（Organizing with AI）」が進むかどうかも注目している。 AI は人々を導かない。 人々が AI を絶えずチューニングしていくのである。

まぁ，でも，その前に結城浩さんの新刊『AIと生きる』が出たら，それを読むところからかな。

ブックマーク

• 生成AIツールを利用して開発されたソースコードにはどこから著作権が発生するのか？ – Shuji Sado
• 「便利なものを作ったら負け」OSS界の巨人・mattnが語る、アウトプットの心理的ハードルとの付き合い方 - エンジニアtype | 転職type
• OpenAI、ホワイトボードの数式や図をLaTeXの図版に変換。問題の仮説検証、推論、関連文献の検索など、論文執筆を支援してくれる「Prism」公開 － Publickey

参考