LLM は軍事技術か？
さて，いつものように Mastodon/Bluesky の自 TL で見かけたポストより。 以下の yomoyomo さんの記事を起点に話を始めよう。
- 公益テクノロジーは国家に奉仕するのか――AI時代のテクノロジーと権力
- 旧聞に属しますが、先月バーニー・サンダース米上院議員がニューヨーク・タイムズ紙に、人工知能がほぼ間違いなく世界…
セキュリティ専門家ブルース・シュナイアー氏とパランティア共同創業者アレックス・カープ氏の対比に注目。
Powered by linkcard
Bernie Sanders 米上院議員の話から始まっているが，この記事のメインは暗号学者でセキュリティ専門家（で私が勝手に先生呼ばわりしている） Bruce Schneier 氏と Palantir Technologies 社共同設立者兼 CEO である Alexander C. Karp 氏の対比だろう。 もう少し詳しくいうと Schneier 氏等の “Rewiring Democracy” と Karp 氏の “Technological Republic” との対比だ。
ちなみに記事中で
しかし、『テクノロジカル・リパブリック』と『Rewiring Democracy』を並べて論じている人をワタシは見たことがありません。
と書かれていて，今まであまりそういう考察はされていないのかも知れない。 もっとも私は国際政治に疎いので「リパブリック」と聞いても先日話題になった某国大統領渾身のギャグのほうを思い浮かべてしまったり（笑）
話を戻して…
実際に両方の書籍を読んだわけではないので正しく理解しているか怪しいが，まずは最初の記事を更に Proton Lumo に要約してもらった。 こんな感じ：
シュナイアー vs. カープ（パランティア）の比較
記事の核心は，シュナイアーの「公益テクノロジー」論と，パランティア共同創業者アレックス・カープの著書『テクノロジカル・リパブリック』の比較です。両者は「技術者が社会課題に関与すべき」という認識を共有しながらも，重要な違いがあります：
- シュナイアー：「公共」を広く捉え，社会正義や共通善を重視。国家による監視や権力集中に敏感。
- カープ：明確に国家（特に米国）を中心に据え，地政学的競争に勝つための技術者の関与を重視。強い軍事防衛能力を肯定。
Schneier 氏側を「国家による監視や権力集中に敏感」と評すのはよく分かる。
暗号学者というシュナイアーの出自を考えれば当然ですが、サイバーセキュリティやプライバシーの観点で、安全の名の下での国家による国民の監視や権力集中に対して彼は敏感です。
（強力な）暗号はそもそもが軍事技術であり，つい前の世紀までは，国家によって統制されて然るべきものとされていた。 この辺は Steven Levy 氏の『暗号化』を一読されることをおすすめする。
- 暗号化―プライバシーを救った反乱者たち
- インターネット黎明期、プライバシー保護を賭け、暗号のプロが集まる諜報機関の厚い壁に挑んだ男たちの孤独な闘いがあった。ｅコマースやネット社会の裏に秘められた人間ドラマ。『ハッカーズ』の著者が１０年に及ぶ取材を経てまとめた全米ベストセラー、待望の邦訳。
- 評価
20世紀末，暗号技術の世界で何があったのか。知りたかったらこちらを読むべし！
Powered by linkcard
私は1990年代の PGP 愛用者で，国家の所有物だった暗号技術が一般庶民に降りてくる（誤解を恐れずに言うなら）「暗号技術の民主化」とでもいうような変化をリアルに体験してきた。 もし「暗号技術の民主化」がなければ HTTPS すらままならなかったろう。
一方で LLM を中心とする今の AI サービスは，私企業により最初から一般向けに提供されているものだ。 これが予想以上にハッキングに向いていたわけだ（単にハッキング・ツールとして優秀であるだけでなく AI サービス自体が hackable でもある）。
- ＜10/16新刊＞『ハッキング思考』
- 富裕層、権力者、急成長企業はシステムをハッキングして成功した。AI時代にルールを味方につけるには、「正しいハッキングの考え方」が必要だ。
- 評価
Powered by linkcard
故に国家（特に米国）が LLM を情報戦の（核兵器に匹敵する）軍事技術として統制をかけようとするのは自然な成り行きかも知れない。 先月，米国政府が Anthropic 社製モデルに対して輸出規制をかけたのも，やはりそういう流れの一部と見てよさそうである1。
最初に紹介した記事に戻ると，最後の方のオチが秀逸でちょっと笑ってしまった2。
JS・タンは「私がパランティアの本を読んだんで、あなた方は読む必要はないです」において、シリコンバレーのリベラルな価値観に対する軽蔑に目がくらんでしまい、この業界を単一のイデオロギー的ブロックとしてしか理解できていない著者たちの近視眼的な見方、2010年代にシリコンバレーの起業家が消費者向けビジネスに夢中だったのは、（シリコンバレーのルーツに米軍があるにせよ）インターネットの台頭とゼロ金利時代を背景に、消費者向けプラットフォームこそ手っ取り早く莫大な利益を生み出すビジネスモデルだったこと、逆に言うと2020年代、特に第二期トランプ政権下でGoogleをはじめとするビッグテックは軍との契約に積極的であり、『テクノロジカル・リパブリック』の主張は既に成立しなくなっている点について批判しています。
（久しぶりにこんな長いセンテンスを見た（笑） 書籍の文章でも最近はなかなか見かけないよ）
私個人としては LLM が国家の統制下に入るのと企業の独占所有物となるのでは「どちらがいいか」と言われれば，どっちもお断りである。
そのためにも早く AI サービス依存状態から脱しないとね。
今月半ばで既に GitHub Copilot の 10USD クレジットを使い切っちゃったよ orz
ブックマーク
参考
- Rewiring Democracy - Schneier on Security
- Rewiring Democracy How AI Will Transform Our Politics, Government, and Citizenship A Book by Bruce Schneier and Nathan E. Sanders An informative and wide-ranging exploration of how AI will alter every facet of democracy, and how to harness the technology to distribute rather than concentrate power. AI will change democracy. The only question is how. AI’s impact on democracy will go far beyond headline-grabbing political deepfakes and automated misinformation. Everywhere it will be used, it will create risks and opportunities to shake up long-standing power structures...
Powered by linkcard
- 暗号化 プライバシーを救った反乱者たち
- スティーブン・レビー (著), 斉藤 隆央 (翻訳)
- 紀伊國屋書店 2002-02-16
- 単行本
- 4314009071 (ASIN), 9784314009072 (EAN), 4314009071 (ISBN)
- 評価
20世紀末，暗号技術の世界で何があったのか。知りたかったらこちらを読むべし！
- ハッキング思考 強者はいかにしてルールを歪めるのか、それを正すにはどうしたらいいのか
- ブルース・シュナイアー (著), 高橋 聡 (翻訳)
- 日経BP 2023-10-12 (Release 2023-10-12)
- Kindle版
- B0CK19L1HC (ASIN)
- 評価
Kindle 版が出てた！
- ヒトラーと哲学者: 哲学はナチズムとどう関わったか
- イヴォンヌ シェラット (著), 三ッ木 道夫 (翻訳), 大久保 友博 (翻訳)
- 白水社 2015-01-22
- 単行本
- 4560084122 (ASIN), 9784560084120 (EAN), 4560084122 (ISBN)
- 評価
ナチス・ドイツ時代の哲学史物語という感じ。哲学（者）がヒトラーおよびナチス・ドイツにどのような影響を与えたか，またヒトラーおよびナチス・ドイツが哲学（者）にどのような影響を与えたかを物語風に編み上げていく。
-
Anthropic 社の Claude Fable 5 および Mythos 5 については今月早々に輸出規制が解除されている。一方で OpenAI 社の最新モデル GPT 5.6 も一時公開制限が行われた。米国では高機能 LLM に対する政府の干渉が常態化しつつあるようだ。余談だが Anthropic 社は Palantir Technologies 社とパートナーシップを結び自社製モデルを提供している。 ↩︎
-
そもそも Palantir Technologies 社は顧客に CIA, NSA, FBI, DHS といった情報機関や国防総省などの防衛機関を抱えている。また悪名高い ICE の移民強制送還プログラムにも関与していることが知られていて，批判の対象にもなっている。本文で挙げている “Technological Republic” についても，記事を読む限り，顧客に対するリップサービスが感じられて，正直共感できないんだよなぁ。まぁ，ナチス時代のドイツの例もあるし，独裁政権やマフィア（あるいは海賊）国家にぶら下がる企業や知識人ってのは，そういうものかも知れないが。 ↩︎