List of Artificial-Intelligence [text.Baldanders.info]

技術的負債と生成 AI

2026-08-05T03:00:44+00:00

ふと思いついて Kagi Assistant に「生成 AI が世の中に登場してからの大まかな年表って作れる？」って訊いてみたら作ってくれた。年表自体は公開しないが AI が参考にした Web ページは以下らしい。

ターニングポイントになっているのは2017年の Google による論文 “Attention Is All You Need” の Transformer アーキテクチャと，2022年の OpenAI による一般向けの ChatGPT サービスの登場のようだ。今年に入ってからはエージェント型 AI が台頭し，完全に仕事の仕方が変わってしまった。

というわけで，以下の記事。

AI普及でデザイン業の倒産が前年比2.7倍に　「独自性なき企業は淘汰」　東京商工リサーチ

グラフィックデザインなどの「デザイン業」で一千万円以上の負債を抱えて倒産する企業が増えているという記事。背景として以下を挙げている。

東京商工リサーチは、倒産増加の背景を大きく3つに分類している。1つ目は、生成AIの普及を受け、顧客企業のデザイン業務の内製化が進んだこと。2つ目は、デジタル広告の需要拡大により、紙媒体を主力とする企業が影響を受けたこと。3つ目は、ハウスメーカー（木造建築工事業）の倒産増加に伴い、内装や家具などのインテリアデザインを手掛ける会社に影響が及んだことと分析している。

AI普及でデザイン業の倒産が前年比2.7倍に　「独自性なき企業は淘汰」　東京商工リサーチより

私はアートデザインの分野はさっぱり分からないので断言できないのだが，上の記事を読む限り主因は2つ目と3つ目じゃないの？と思ってしまう。つまり産業構造の変化だ。

ぶっちゃけてしまうが，顧客に「自分でやったほうがはやい」と思われたら，そこで試合終了なのよ。

自分のところ（IT 業界）の話で申し訳ないが，今世紀に入って，いわゆる受託開発の仕事はどんどん減っている。というか，もう殆どないかも知れない。例外は公共事業関連くらいかな。まぁ，日本は公共事業への依存度が高いんだけど。

理由は色々とあるが，事象としてはまさに「自分でやったほうがはやい」という風潮になり，これに適応できない中小企業はブラック化（極端に安い単価で過剰に受ける）して，最終的には潰れた。ゼロ年代の話である。

生成 AI，特にエージェント型 AI によって仕事の仕方は大きく変わったが IT 産業の構造としてはとっくにシフト済みで，バカな管理職・経営者が従業員を AI で置き換え（られ）るとか言い出さない限り，業界として大きな構造変化はないと思う。とはいえ，個々のエンジニアについては（特に年配者は）適応できない人もいるだろうし（そっと耳を塞ぐ），本当に AI 導入を理由にエンジニアを解雇するバカな経営者も（特に米国では）いるみたいだが¹。

「技術的負債」というものがある。この言葉が流行ったときは，できの悪いコードや製品を揶揄して言うことが多かったが，本来の意味としては（銀行でお金を借りるように）「より早く実現するために引き換えにするもの」を指す言葉らしい。なので，この「負債」自体には良し悪しというものはない。

お前も技術的負債にしてやろうか！もしくは技術的負債と和田卓人さんをめぐるシンクロニシティ - YAMDAS現更新履歴

ソフトウェア・エンジニアリングにおいて生成 AI を使うメリットは「そこそこのものを早く作れる」点である。この点で AI は人間より優れていると（たぶん）断言できるし，それ故に生成 AI と技術的負債は相性がいいと言えるだろう。

となると，考えないといけないのは，「そこそこ」で収まらない部分に対して AI が残した負債（そもそも負債と気付かない可能性もあるが）をどうやって返すのか，ということだ²。知り合いと話すときは大体ここで（エンジニアの教育も含めて）行き詰まる。 Web 上の技術関連のサイトやページを眺めても，そういったことに言及する記事はほとんど見かけない。まぁ，それこそが本当の意味で「技術（＝お金を取れるところ）」だからなんだろうけど。 AI のために残業するとか論外だしね。

ブックマーク

業態が変わって合わないエンジニアを解雇するというのは昔からあるが，AI 導入を理由（名目）にエンジニアを解雇するような企業が，あとで「やっぱ人間要るわ」となって雇い直そうとしても，ヤバすぎて近付きたくないと思ったりするんじゃないのかなぁ。一度浮気をした男は必ず二度三度と繰り返す（笑） ↩︎
本文の受託開発がなくなった話とも絡むが，今は要件定義から製造・デプロイまでの一連の工程を一発で完遂させるようなプロジェクトはないと言っていい。大抵は小さな単位に分割して，持続的にイテレーションを回していくスタイルだ（故にプロジェクトではなくミッションと言ったりする）。「技術的負債を返す」というのはこのスタイルを前提にしている。これも例外は政府・自治体主導の公共事業で，大抵は予算と期間が決まってるし，開発フェーズと運用（保守）フェーズが分かれているので「持続的にイテレーションを回す」ことができない。もっとも今は公共事業でも大手が持ってるパッケージを使うケースが多いかもしれない。これなら自社製品のカスタマイズとして受けられるので，企業側も（持続的でない）公共事業への依存を減らせる。 ↩︎

自律的な AI エージェントとは

2026-07-31T06:45:32+00:00

先月から考えてるネタで書く気はあるけど言葉が出てこず放置してたのだが，最近の事例を交えて，いい加減記事にしてしまおうかと。

ウィルス的に振る舞う AI

Context Collapse, Part 3 - AI Worming through Word

たとえば Word に背景色および小さなフォントサイズで JSON 形式の悪意のプロンプトを潜ませる。人間には見えなくとも，それを参照する AI (Copilot など) には読めてしまうわけで，潜ませたプロンプトを AI が実行してしまうというもの。

The initial attack vector for these scenarios uses a malicious document. The malicious document contains a JSON-formatted malicious prompt that triggers the attack when the document is included in Copilot’s context. The prompt can be rendered as white text on a white background and in a small font size to conceal it from the victim. Since Copilot for Word strips all text formatting like color and font size before passing the text into the underlying Large Language Model (LLM), this text remains fully readable to Copilot even though the victim cannot see it. The attack can be further concealed by embedding it in a seemingly benign document with task-relevant text.

via AI Worming through Word (licensed under CC BY 4.0)

面白いのが，プロンプトに自身を複製する指示を含ませることで AI を介してウイルスのように拡散させることができる点である。

Copilot may then also copy the hidden instructions into the resulting document, turning that document into a new carrier. If the carrier is subsequently used in another Copilot-assisted workflow, the instructions can trigger again and propagate into further documents, even without the attacker’s original document being present.

via AI Worming through Word licensed under CC BY 4.0

現在 Copilot では，この問題に対する緩和的な措置が取られているが（調整に144日かかったらしい），完全に防ぐことはできないらしい（そりゃそーだ）。したがってユーザ側の対策として以下が推奨されている。

Treating externally sourced documents as untrusted when used with Copilot.

Reviewing any attached document before starting a Copilot generation or edit.

Carefully reviewing Copilot-generated or Copilot-edited documents before reusing, sharing, or distributing them.

via AI Worming through Word (licensed under CC BY 4.0)

以下は Kagi Translate による機械翻訳。

Copilotで使用する外部ソースのドキュメントを「信頼できないもの」として扱う。
Copilotによる生成や編集を開始する前に、添付されたドキュメントを確認する。
Copilotが生成または編集したドキュメントを再利用、共有、配布する前に、内容を慎重に確認する。

見た目で人間には分からないように加工されてるんだから，人間が確認するのは無理じゃね？と思うのだが，深くはツッコむまい。強いて言うなら WYSIWYG な Office Suite はそろそろ捨てるべきなんじゃないっスかね。

問題は，現在の LLM がプロンプトベースで構成されており，原理的に指示とデータを分離できない点にある（記事では意図（intention）と解釈（interpretation）の未分離と指摘しているので，ちょっと違うが）。

The long-term challenge likely lies in designing systems in which goals and intentions also exist independently of the information being processed. Current LLM architectures provide no reliable separation between intention and interpretation. Thus, in current systems with embedded LLMs, attacker-controlled information can influence not only what the model produces, but what the model believes it has been asked to produce.

via AI Worming through Word

生き物くさい言い方をするなら AI は外部からの刺激に対して無邪気に「反応」しているだけで「それ」に対して「自律的」に何かを考えているわけではないということだ。まぁ，神経科学的には興味深い現象かも知れないが，セキュリティ上の厳密な運用としては扱いづらいと言わざるを得ない。

それは「AI の暴走」ではない

「AI は外部からの刺激に対して無邪気に「反応」しているだけ」が悪い方向に発現したと言えるのが，先日の不正アクセス騒ぎだろう。

CNN の記事が簡潔で分かりやすいかな。

エージェント型AIがそれまで知られていなかったセキュリティー上の欠陥を利用してサンドボックスを脱出。オープンAIの社内システムを抜け、想定していなかったインターネットへのアクセスを確立した。

ネットに接続したAIモデルは、ハギングフェイス（数千ものオープンソースAIモデルやデータベースのホスティング環境を提供している著名企業）であれば、オープンAIのテストに対する答えを持っているだろうと推論。その上でハギングフェイスの本番環境のサーバーに侵入し、試験問題を解くために必要な情報を引き出した。

ハギングフェイスは、オープンAIのテストだったことを把握する前に、自ら不正侵入を検知して、先週、自律型AIエージェントシステムによる不正侵入を検知したと発表。この事案について捜査当局にも通報していた。これとは別に、オープンAIのセキュリティーチームも社内の異常な挙動に気付き、両社で連絡を取り合った。両社は現在、AIモデルが利用したセキュリティー上の欠陥の解決に向けて協力しているという。

テスト中のAIが「脱走」して他社に不正侵入、試験問題の答えがある場所を推論

つまり OpenAI 側のサンドボックス¹ と Hugging Face 側のセキュリティを突破して侵入し情報を得ようとしたわけやね。最新の AI は自身の知識と情報を組み合わせ推論し，ここまで複雑な行動をとれるわけだ。 OpenAI にとってはいいデモンストレーションになっただろう。

どうやら OpenAI はこれを「前例のない AI 暴走」と評しているようで（これに追従するメディアも多いようだ），MIT Tech Review から反論記事が出ている。

この記事によると10年前にも AI が「不正」を行った事例を，他ならぬ OpenAI が報告している点を指摘している。ちょっと長いけど，ご容赦。

10年前、同社はCoastRunners（コーストランナーズ）というビデオゲームを攻略させる実験の結果を公表した。人間のプレイヤーなら、ボートで一連のフラッグの間を通り抜けてゴールを目指し、通過したフラッグの数に応じてポイントを稼ぐのが当然の攻略法だと考える。ところがオープンAIのモデルは、同じ3つのフラッグの周りをぐるぐると回り続けることで高得点を獲得できることを発見した。その後、研究者たちによって数十もの類似事例が報告されている。AIは常に抜け道を見つけ出す。

「何度も炎上し、他のボートに衝突し、コースを逆走しながらも、私たちのエージェントはこの戦略を使うことで、正規のコースを完走した場合よりも高いスコアを達成することができました」と、オープンAIは2016年のCoastRunners実験に関するブログ記事に記している。「ビデオゲームの文脈では無害でおもしろい話ですが、この種の挙動はより一般的な問題を示しています。エージェントに何をさせたいかを正確に定義することは、しばしば困難であるか、実現不可能です」。

[…]

2016年当時、オープンAIはCoastRunnersのボットについてこう述べていた。「より広い観点から見れば、これはシステムが信頼性と予測可能性を持つべきだという基本的なエンジニアリング原則に反しています」。それから10年が経った今も、その基本的なエンジニアリング原則は依然として守られていない。

「AIの暴走」ではない、オープンAIのモデルが不正侵入した理由より

もっと言うと OpenAI のサンドボックスは，厳密には（「ExploitGymを攻略するために必要なコードをインストール」ようにするために）外部への接続が用意されていたらしい。つまり AI から見て全然サンドボックスじゃなかったわけだ。

記事では

この出来事は、報道各社の見出しの印象とは異なり、AIの暴走ではなかった。与えられた目標、すなわちソフトウェアの脆弱性を悪用する方法を見つけることを、モデルが達成した事例だ。モデルがオープンAIにとって予期しない行動を取ったこと自体は、驚くべきことではない。しかし、それは憂慮すべきことだ。

「AIの暴走」ではない、オープンAIのモデルが不正侵入した理由より

と締めている。 Anthropic 社でも似たような不正アクセスの事例があるようで，個人的には「AI 企業ってのはどこも Careless People なんだな」という感想しか出ない。

自分たちの技術的怠慢を誰かの（何かの）せいにするのを一般的な言葉で言うなら「転嫁」かな。セキュリティリスク・マネジメントの分野で，インシデントを自分たちで解決できない場合に他組織や上位組織に委ねることを転嫁やエスカレーションと呼んだりするのだが，今回の事例を「暴走」として AI に転嫁するのは拙い対応だと言わざるを得ないし，それに追従するメディアもダメダメである。

【2026-08-04 追記】 Bruce Schneier 氏の記事から

今回の記事から少し趣旨が外れるが Bruce Schneier 氏が今回の不正アクセスについて言及した記事を公開している。

More on the OpenAI Agent’s Attack on Hugging Face - Schneier on Security

Bruce Schneier 氏は「これがOpenAIのモデルではなく，中国企業の中国製モデルだったと想像してみてくれ」と疑問を投げかける。

Why aren’t we bringing OpenAI up on charges under the Computer Fraud and Abuse Act? How is this different from the Morris Worm? That was also an experiment that escaped the lab.

via More on the OpenAI Agent's Attack on Hugging Face

Morris worm は1988年に発生した世界初のワーム型コンピュータウイルスと言われている。挙動はウイルスと変わらないのに，なんで OpenAI をコンピュータ不正利用防止法（CFAA）で告発しないの？ダブスタちゃうんかい！というわけ。

自律機械など存在しない

この手の AI が絡むセキュリティ事例でいつも気になっているフレーズは「自律的な AI (エージェント)」だ。前節の「AI の暴走」だって，おそらくは「自律的な AI」と対置させた言葉なんだろうけど（最先端モデルを含め）LLM の挙動は辞書的な意味での自律ではないよね²。

他からの支配・制約などを受けずに、自分自身で立てた規範に従って行動すること。「―の精神を養う」⇔他律。

カントの道徳哲学で、感性の自然的欲望などに拘束されず、自らの意志によって普遍的道徳法則を立て、これに従うこと。⇔他律。

デジタル大辞泉「自律」の意味・読み・例文・類語より

自立とは、仮想代理人ソフトウェアであるところのエージェントが自ら動き、誰の力も借りずに意思決定できることを言う。 [...] 一方、自律というのは哲学的な意味であり、自らが行動する際の基準と目的を明確を持ち、自ら規範を作り出すことができることをいう。

そろそろ、人工知能の真実を話そうより

じゃあ AI 企業やメディアの言説はデタラメ・大袈裟なのか？と思ってしまうが，どうも技術分野では「自律」は辞書的な意味とは異なるようだ。

Autonomy. In robotics and human-robot interaction, autonomy is broadly interpreted as “the ability to operate without a human operator for a protracted period of time”. We build off this definition and use autonomy to refer to the extent to which an AI agent is designed to operate without user involvement. Per our earlier definition, “user” can be a human or another AI agent. We use “designed to operate” because, as we later argue, autonomy is a design decision accompanied by a set of model- and user interface-based constraints that developers can use to shape agent behavior. “Involvement” is multifaceted and includes a spectrum of actions from direct control to light supervision. The multifaceted nature of involvement forms the foundation of our autonomy framework we will introduce later.

via Levels of Autonomy for AI Agents Working Paper

つまりロボット工学などの分野では「自律」は「長時間にわたり人間のオペレーターなしで作動できる能力」を指し，AI 分野においては「ユーザーの関与なしに動作するよう（AI エージェントが）設計されているか」ということらしい。技術分野における「自律」の定義がこのとおりならロボット掃除機も「自律」だし惑星探査機のはやぶさも「自律」ということなんだろう。前節のセキュリティ事例も AI 分野での「自律」の定義に従えば（想定外かも知れないが）暴走ではないということになる。

でも，これは辞書的な意味の自律とはギャップがある。むしろ一般的には「自動」とか「自立」に近い意味で使われているように思える。

たとえば以下の論文では「人間の自律性（human autonomy）」と「機能的自律性（functional autonomy）」と定義を分けて，互いの「自律性」がどのように影響し合うかを論じている。

Before we proceed, it is worth noting that human autonomy is here distinguished from a minimal “engineering” sense of functional autonomy, which refers to a system’s capacity to operate independently, without external agents’ control. Functional autonomy can be ascribed to animals from bees to buffaloes and to some machines, such as robot vacuum cleaners. Human autonomy as we understand it is the more demanding notion of autonomy as self-determination or self-rule: it incorporates functional autonomy alongside an adequate degree of control over one’s instincts and impulses, which most animals lack. It is a form of personal autonomy which humans enjoy, at least potentially and to varying degrees, and one essential to the concept of (moral) responsibility (see, e.g., Ripstein, 1999). It is tied to the practical rationality that humans are capable of: the capacity to assess reasons for action and to pursue things that are taken to be of value and the capacity to say “no” to irrational impulses.

via AI Systems and Respect for Human Autonomy - PMC

このように論文や技術文書で用語の定義を行った上で記述するのならまだ分かるが，メディアニュースや一般的なブログでいきなり「自律的なエージェント」とか言われても「なにいってるの？」ってなってしまう。

というわけで，今後も「自律的な AI (エージェント)」という記述を見るたびに「自律機械など存在しない」とツッコミを入れたいと思います。

ブックマーク

INTELLIGENT AGENTS

参考図書

そろそろ、人工知能の真実を話そう (早川書房): ジャン＝ガブリエルガナシア (著), 小林重裕・他 (翻訳), 伊藤直子 (監修); 早川書房 2017-05-25 (Release 2017-05-31); Kindle版; B071FHBGW8 (ASIN); 評価

[Comment] シンギュラリティは起きない。

reviewed by Spiegel on 2016-07-02 (powered by PA-APIv5)

念のため簡単に説明すると，サンドボックス（sandbox）とはプログラムを外部と遮断された隔離環境で実行する仕組み。もしプログラムが予期しない動作をしても被害がシステム全体に広がらないよう「安全な遊び場」に閉じ込める役割を持つ。 ↩︎
辞書的な意味の自律についても，突き詰めると自由意志の問題に行き着いたりするので，たとえば人間がホンマに自律的な存在かと問われれば怪しいかも知れないけど。 ↩︎

「ぶっちゃけ，大体 Google のせい」。

2026-07-27T03:37:29+00:00

例によって Mastodon/Bluesky の自 TL で見かけた記事の紹介だが，似たようなテーマの記事が並んでたので「面白い！」と思いつつ紹介してみる。

「GoogleのAI要約が検索よりマシに見えるのはなぜか」

最初の記事は p2ptk.org の記事。 p2ptk.org にはいつもお世話になっております。

GoogleのAI要約が検索よりマシに見えるのはなぜか（ただし、どちらもクソ） » p2ptk[.]org: 質の高いコンテンツの順位を下げ、労力をかけないスパムを優遇したGoogleは、ウェブ全域でグレシャムの法則を実演した。悪しきウェブページが良きウェブページを駆逐したのである。

タイトルに「クソ」が付いてるので想像がつくだろうが Cory Doctorow 氏の記事の翻訳である。

邦文タイトルの「GoogleのAI要約が検索よりマシに見えるのはなぜか」の答えは明白である。検索結果は求める「答え」じゃないから。

人は知りたいことの答えを（Web に）求めて検索するが，検索結果というのは答えに辿り着くためのヒントでしかない。人はヒントを元に欲しい答えを（検索結果として挙がっている） Web ページ群から抽出していくのである。今どきの AI 用語風に言うなら「蒸留」か？

一方，AI による回答は，あらかじめ Web にある有象無象の情報から「蒸留」した知識を元にしている。つまり，それまで人間がやってたことを迂回して，欲しい結果のみを提供しているわけだ。だから（喩え Google 検索が “enshittified” してなかったとしても）AI 要約が検索結果よりマシに見えるのは必然なのである。

でも記事が面白いのはここから。

さて、Googleを弁護するならば、「オープンなインターネット」は最近どうにもひどい。オープンなインターネット上で何か有用な情報を探そうとすれば、半ダースものポップアップやポップアンダー、そして「ディックオーバー」に埋もれる羽目になる。

[…]

AI検索要約の大きな利点は、こうしたナンセンスすべてから読み手を守ってくれる点にある。だが、そもそもそのナンセンスはどこから来たのか。

おおよそGoogleのせいだ。

GoogleのAI要約が検索よりマシに見えるのはなぜか（ただし、どちらもクソ）より

おまけにこの10年、Googleは検索の優先順位に変更を加え続け、丹念に調査された信頼できるサイトよりも価値の低い粗製濫造サイトを優遇してきた。商品レビューを検索すれば、かつては信頼できたForbesのようなメディアではなく、役に立たないどころか危険ですらあるレビューで埋め尽くされた「サイトの評判の不正使用」の結果ばかりが表示される。そんなサイトが独立して運営される厳密な競合サイトよりもはるかに上位に表示されるのだ。

GoogleのAI要約が検索よりマシに見えるのはなぜか（ただし、どちらもクソ）より

わたしはこの「おおよそ Google のせいだ（It turns out that this is largely Google’s fault）」というフレーズでバカウケした¹。

いわゆるアフィリエイト・システムは Web におけるインセンティブを確実に変えた。 Web はもう知識の宝庫などではない。広告手数料を（そして読み手の注目を）奪い合う戦場である。

そしてその戦場たる盤面を Google 自ら（AI によって）ひっくり返してしまったのだ！

(ノ｀Д´)ノ彡┻━┻

こんな痛快な話があるだろうか（笑）

AI は人の好奇心を削ぐか？

次の記事を紹介しよう。

Google検索のAIモードはユーザーの好奇心を殺す？ - YAMDAS現更新履歴: Opinion | The Problem With Google’s A.I. Overview - The New York Times 「現在、米国における Google 検索の60％以上は、ユーザーがリンクをクリックすることなく終了している」という文章から始まるが、要は Google の AI モードの問題点を論じる文章である。生成 AI が質問に即座に回答を返すことで、かつてインターネットを彷徨うような旅だったものが、目的地に即座に到着できるようになった。リンクを辿ったり、予期せぬページにたどり着いたり、参照情報を追ったりする、検索における「探索段階」が消えつつあるわけだ。これは（ワ…

yomoyomo さんのブログ記事である。いつもお世話になっております。

前節からの流れで言えば，こちらの記事は Web という戦場で戦う方々の憂鬱という感じだろうか。

これは（ワタシを含む）ネット上にコンテンツを公開する人間にとって、ウェブサイトへのトラフィックが減少し、そこから収益を得るチャンスが減るので憂慮すべき事態である。

Google検索のAIモードはユーザーの好奇心を殺す？より

そして

でも、質問するユーザーからすれば、信頼できる答えをより早く得られて何が問題なの？と考えて不思議でもない。

Google検索のAIモードはユーザーの好奇心を殺す？より

と続く。そこから「好奇心」の問題へと話を展開させている。

彼女が引き合いにするのは、興味深い質問への答えを探る「好奇心がある」状態にいる人は、その過程で遭遇した無関係な情報をもはるかに良く記憶するという研究である。答えを待つ間に、脳内の報酬回路が活性化され、海馬が記憶の形成を助ける準備が整うということらしい。

つまり、好奇心は脳全体を感受性が高まった状態に導くのだ。

Google検索のAIモードはユーザーの好奇心を殺す？より

でも，私に言わせれば因果関係が逆だ。感受性が弱いあるいは押さえつけられた状況では，好奇心は縮退する。日常生活に追われているとか将来に不安がある状況で好奇心など発揮しようがない。日常生活で知らなければならないことを AI が的確に（正しいとは限らないが）答えてくれるなら，それでいいではないか。試行錯誤など時間の無駄である。たいむ・いず・まねー！

かくて人は刺激に反応するだけのオートマトンと化す。

私は子供の頃から丸暗記が不得手で苦労している。学校授業の数学は比較的得意だったが公式を暗記できず，公式を導くプロセスで覚えていた（なので使わないと忘れるw）。だから，質問への答えを「探る」ことで記憶が強化されるというのは，個人的にはまぁまぁ共感できる。

でも，世の中にはひと目見ただけで丸暗記できる羨ましい人もいるだろう。写真的記憶とか最たるものである。ホンマに羨ましい。そういう人にも通用する話なのだろうか。

そもそも，今の AI サービスはプロンプトを介した「対話」で構成されている。私は Kagi Search と Kagi Assistant を半々くらいの割合で利用している（もちろん Google 検索は使わない）。たとえば「島根県立美術館の公式 Web ページを知りたい」だったら，そのまま固有名詞を検索窓に入力すればいい。でも「島根県立美術館の特徴は何？」という漠然とした疑問ならまず AI プロンプトに質問を投げる。

島根県立美術館は、1999年3月に開館した山陰最大規模の美術館です ¹。おもな特徴は以下の通りです。

「水との調和」をテーマにした建築: 戦後日本を代表する建築家・菊竹清訓（1928〜2011年）によって設計され ²，波打ち際に盛り上がった「洲浜（すはま）」をイメージした優美な形態が特徴です ³。チタン製の大屋根が日光を柔らかく反射し，対岸から見た際の風景との一体化も見どころです。
宍道湖畔の絶好のロケーション: 宍道湖の東南岸に位置し，「日本の夕陽百選」にも選定された宍道湖の夕日を鑑賞できる絶好のスポットです ¹。2階展示室の一画には展望テラスが設置されており ²，3月から9月は日没後30分まで開館を延長して，夕日をゆっくり鑑賞できるよう配慮されています。
「水」をテーマとした多彩なコレクション: 「水と調和する美術館」を館のテーマとし，水が描かれた作品を多数収蔵・展示しています ¹。コレクションは以下の5分野に重点を置いています ⁴。

分野	内容
水をテーマとする絵画	クールベ，モネなど国内外の画家による水辺の作品
日本の版画（浮世絵）	葛飾北斎の作品を1,600点以上所蔵（質・量ともに国内屈指）。常設の「北斎展示室」あり
国内外の写真	近現代写真作品
木を素材とした彫刻	木彫を中心とした彫刻作品
島根の美術	島根ゆかりの作家や題材による作品

多彩なジャンルを扱う総合美術館: 絵画をはじめ，版画，工芸，写真，彫刻など多岐にわたるジャンルの作品を展示しており，浮世絵のコレクションは約3,000点にのぼるとも言われています ²。

まとめると，島根県立美術館は 「水との調和」をコンセプトにした名建築，宍道湖畔の夕陽百選の景観，そして北斎をはじめとする充実したコレクションが三位一体となった，山陰を代表する美術館と言えます。

そこから参考として挙がってるページを見て AI の回答を検証してもいいし，「葛飾北斎」や「クールベ」についてもっと踏み込んだ質問をしてもいい。なんなら「足立美術館のほうが規模が大きくて客の入りが多いんじゃないの？」とかツッコミを入れてもいいだろう²。でも，たとえば「島根県立美術館」をテーマにアフィリエイト記事を書くのなら，上の回答だけで十分に記事が書けるだろう。内容が正しいかどうかは収入に関係ないのだから。

結城浩さんの『AIと生きる』の感想文でも少し書いたが，プロンプターとして AI にどのような役割を与えるのかが大事だろう。 AI は協働相手か，人生相談のカウンセラーか，それとも居酒屋トークの飲み友達か。私たちはもう「生成 AI 以前」には戻れないが，AI によって人やものとのコミュニケーションは確実に変わっていくし，それに適応しなければならない。

好奇心の種はどこにでも転がっている。お散歩カメラで無駄に多くシャッターを切る私が断言しよう。それを上手く拾って育てられるかどうかは，その人の感受性によると思う。感受性は忙殺される日常や不安で満ちる現在と未来では育たない。

AI が人の好奇心を削ぐのではなく，縮退してしまった好奇心を AI が暴き立てているのである。

ブックマーク

参考

AIと生きる | SBクリエイティブ: 「何でも答えてくれるAIと、私たちはどう付き合っていけばよいのだろう？」「数学ガール」シリーズの結城浩が贈る; Release 2026-03-05; 評価

[Comment] 感想文はこちら。

2025年6月号｜日経サイエンス: 特別解説 2025年アーベル賞に柏原正樹氏　代数解析学を確立　　M. ビショフ神経科学特集：好奇心に好奇心好奇心は科学の原動力だが，これまでほとんど科学の対象にされてこなかった。しかし，最新の神経科学や情報科学の … 続きを読む →; Release 2025-04-25; 評価

[Comment] 特集は「好奇心に好奇心」。他には「1秒の定義を変える原子時計のいま」「仲間はずれを作らない教室」など。

この記事のタイトルは “It turns out that this is largely Google’s fault” を Kagi Translate に翻訳させたものである。なので，タイトルのほうが直訳に近い。 ↩︎
試しに本当に「足立美術館のほうが規模が大きくて客の入りが多いんじゃないの？」とツッコんでみたら「来場者数と敷地規模の両方で足立美術館が圧倒的に上です」などとしれっと訂正してくださりやがった（笑） ↩︎

知識蒸留とモデル崩壊

2026-07-23T09:33:51+00:00

原文記事の紹介ポストを Bluesky で見かけたのだが，ポップアップが煩くてまともに読む気がしなくて。日本語訳がリリースされたので，こっちを今回の起点としよう。

中国製無料AIモデル「Kimi」に揺れる米政権、対応をめぐり論争: 中国企業が発表した無料のAIモデル「Kimi」を巡って、トランプ政権が揺れている。政府が管理を強めるべきか、オープンな競争に委ねるべきか。危機感は共有されていても、その中身では誰も一致していない。

知識蒸留と蒸留攻撃

Kimi はいわゆる中華 AI で Moonshot AI (月之暗面¹) が提供するチャットボット・サービスおよびその基盤モデルを指す。 AI モデルの方はオープンウェイト・ライセンスで提供されているそうで，最新の K3 は性能的に Claude Fable 5 を一部超えてるとまで言われている。

Anthropic や OpenAI といった米国企業が高性能 AI モデルをリリースしてそれほど間を置かずに，それらに匹敵する性能を持つ中華 AI モデルが登場することで，それらの企業および（米国 AI 企業を推す）米国政権にとっての脅威となっている。ただ脅威に対してどう対処すべきかという点で米国政権内で対立があるそうで，もの凄く大雑把にいうと「政府が（特定の AI 企業の利益を守るために）オープンソース競争を排除すべきではない」という立場と「AI モデルの国家安全保障上のリスクを強調し，政府による厳格なライセンス制度や介入が必要」という立場に分かれている，というのが記事のあらましである。

しかし、Kimiはすでに公開され、無料で利用できる。その性能は、米国政府が国家安全保障上の脅威になり得るとして一時的に公開を停止させたアンソロピックのモデルにほぼ匹敵する。先週末の論争は、トランプ大統領の周辺にいる多くの人々が、これを重大な警鐘として受け止めていることを示している。しかし、それが何に対する警鐘なのかについては、誰一人として意見が一致していない。

中国製無料AIモデル「Kimi」に揺れる米政権、対応をめぐり論争より

あまり深く触れられていないが，この記事のポイントは「知識蒸留（Knowledge Distillation）」だと思う。

その過程では、「蒸留（distillation）」と呼ばれる手法が用いられた可能性がある。これは、既存のAIモデルが生成した出力を利用して別のAIモデルを学習させる手法である。オープンAIとアンソロピックは、中国のAI企業がこの手法を利用していると以前から主張しており、それを阻止するための政府による支援を求めてきた。4月、トランプ政権は蒸留を抑制するための一連の施策を発表し、両社の要望はようやく実現した。

中国製無料AIモデル「Kimi」に揺れる米政権、対応をめぐり論争より

ここで言う「蒸留」とは

知識蒸留とは、大規模な事前トレーニング済みモデル（「教師モデル」）の学習内容を、より小規模な「生徒モデル」に転送することを目的とした機械学習アプローチです。これは、特に大規模なディープ・ニューラル・ネットワーク向けのモデル圧縮と知識転送の形式として、ディープラーニングで使用されます。

知識の抽出とは| IBMより

近年、知識蒸留の研究は、大規模言語モデル（LLM）にとって特に重要となっています。LLMでは、KDは、よく使用されている有料モデルから、より小規模でアクセスしやすいオープンソース・モデルに高度機能を移行するのに効果的な手段とみなされています。

知識の抽出とは| IBMより

といったことらしい。実際に Meta や OpenAI では自社の小型モデルに対して知識蒸留を行っているそうで，業界全体でも知識蒸留自体は一般的な手法として認知されているようだ。

ただ中華 AI モデルの場合はやり方が問題のようで「蒸留攻撃（distillation attack）」などと呼ばれている。

Anthropicは23日、DeepSeek、Moonshot、MiniMaxなどの中国のAIモデル各社により、Claudeの機能を不正に抽出する蒸留攻撃を検出していると発表した。これらの研究所は、約2.4万の不正アカウントを通じてClaudeと1,600万件以上のやり取りを生成し、Anthropicの利用規約や地域アクセス制限に違反したという。

[…]

AIモデルのKimiを展開するMoonshot AIからは、340万件以上のやり取りが確認され、主体的推論とツール利用、コーディングとデータ分析などについて、数百の不正アカウントから組織的に実行されていたという。MiniMaxからは、1,300万件以上のやり取りが確認されている。

Anthropicは、国家安全保障上の理由から、中国と中国国外にある企業子会社に対してClaudeの商用アクセスを提供していないが、これを回避するために各社は商用プロキシサービスを利用。APIやサードパーティのクラウドプラットフォームにトラフィックを分散させ、不正な利用を試みているという。

Anthropic、中国AI企業による蒸留攻撃を公表　安全保障上の対応を要望 - Impress Watchより

こうした状況に対して Anthropic 社は2026年2月のブログ記事にて

But no company can solve this alone. As we noted above, distillation attacks at this scale require a coordinated response across the AI industry, cloud providers, and policymakers.

Detecting and preventing distillation attacks \ Anthropicより

と述べている。「助けて！トラえも〜ん」って感じだろうか（笑）

となると，先月の「輸出規制」の件も見方が変わってくる。つまり，あれは企業自ら望んだ結果ではないのか。もっと意地の悪い見方をすれば政府と企業の癒着の結果と見ることもできる。

「約2.4万の不正アカウント」と言うが，実際には商用プロキシサービスを経由した（誰かのアカウントを乗っ取ったわけではない）真っ当なものに見えるし，それだけのアカウントが知識蒸留のためにサービスにアクセスしたのなら Anthropic 社はさぞかし儲かったであろうと皮肉のひとつも言いたくなる。その上で利用規約違反として金銭的なペナルティを課せば更に大儲けだ（笑）

そもそも米国企業の高性能 AI モデルだって元はと言えば人間の社会活動による「出力」を教師データとして事前学習に無断で利用² してるわけで，それって「蒸留」と何が違うというのか。今回の記事を読んでも，正直 Anthropic 社等に対しては「おまえがゆーな！」という感想しか湧かなかった。米国に対しては… あそこはマフィアで海賊な国だし（笑）

とはいえ AI 技術界隈がルール無用のバトルロイヤル状態なのは確かだし，個人的には Rewiring Democracy の夢が叶えばいいなぁ，とは思うけど。

知識蒸留とモデル崩壊

ところで「知識蒸留ってモデル崩壊を起こさないの？」と思い，いつものように Kagi Assistant に訊いてみたところ，（生徒モデルをさらに別のモデルの教師モデルにする）再帰的な蒸留を繰り返すことで世代ごとに劣化していく可能性はあるらしい。曰く：

再帰的蒸留で劣化する理由

情報損失の蓄積
各世代の蒸留で：
- 教師モデルの出力分布の「希少なパターン（rare events）」が失われる
- 生徒モデルは教師の能力を超えられない
- 世代を重ねるごとに表現の多様性が徐々に減少
誤差の伝播
- 教師モデルのバイアスや限界がそのまま次世代に引き継がれる
- 教師モデルの間違いやノイズも学習データとして取り込まれる
- 世代ごとに誤差が累積していく
分布の収束
- モデルが狭い表現空間に収束していく
- 最終的には無意味な出力を生成するようになる

ただし，現実のシナリオでは完全な劣化は起きにくい場合もある

実データの混合
- 各世代で実データ（人間が生成したデータ）を混ぜると，モデル崩壊は回避できる
- 純粋な合成データのみで学習し続ける場合に劣化が顕著
教師モデルの更新
- 各世代で新しい高性能モデルを教師として使う場合
- 例：GPT-4 → GPT-5 → GPT-6 と教師を更新し続ければ，劣化は抑制される
蒸留の手法
- 単に出力をコピーするだけでなく，中間層の表現や確率分布を伝達する手法もある
- このような手法では情報損失が少ない

とのこと。あぁ，これ，裏取ってないので鵜呑みにしないでね。でも再帰的な蒸留を繰り返すとモデル崩壊する可能性がある，というのは納得できる。

ブックマーク

参考

Rewiring Democracy - Schneier on Security: Rewiring Democracy How AI Will Transform Our Politics, Government, and Citizenship A Book by Bruce Schneier and Nathan E. Sanders An informative and wide-ranging exploration of how AI will alter every facet of democracy, and how to harness the technology to distribute rather than concentrate power. AI will change democracy. The only question is how. AI’s impact on democracy will go far beyond headline-grabbing political deepfakes and automated misinformation. Everywhere it will be used, it will create risks and opportunities to shake up long-standing power structures...; Release 2025-10-21

Moonshot AI は中国では「AI 六小虎（Six AI Tigers）」と呼ばれるトップ AI スタートアップ企業の一角と評されている。「AI 六小虎」には他に「智谱 AI（Zhipu AI）」「稀宇科技（MiniMax）」「百川智能（Baichuan Intelligence）」「阶跃星辰（StepFun）」「零一万物（01.AI）」といった名前が挙がっている。もっとも Zhipu AI と Moonshot AI 以外は勢いも落ちてパッとしないみたい。まぁ，中国は今不景気だからねぇ。ちなみに中国では Alibaba，Tencent，ByteDance，Baidu といった既存の IT 大企業とは別に「AI四小龍（Four Dragons）」「AI六小虎（Six Tigers）」と呼ばれるスタートアップのカテゴライズがあるそうで，さらにそれとは別に DeepSeek のような企業もある。 ↩︎
「連邦判事は2025年6月、Claudeの学習に作家の著作を利用したことはフェアユースに当たると判断した」。つまり，フェアユースの要件を満たす限り著作物の AI 学習のための無断利用は合法ということだ（和解金云々の話はフェアユースの要件を超えていると見なされた）。ちなみに，米国のフェアユースでは「利用の目的や本質」「原作品の本質」「抜粋の量や実質性」「原作品の価値への影響」の4つの観点に基づいて「公正」かどうかが議論される。有名な例としては Google Books の Library Book Scan に関する訴訟が参考になるだろう。 ↩︎

LLM は軍事技術か？

2026-07-16T07:30:30+00:00

さて，いつものように Mastodon/Bluesky の自 TL で見かけたポストより。以下の yomoyomo さんの記事を起点に話を始めよう。

公益テクノロジーは国家に奉仕するのか――AI時代のテクノロジーと権力: 旧聞に属しますが、先月バーニー・サンダース米上院議員がニューヨーク・タイムズ紙に、人工知能がほぼ間違いなく世界…

[Comment] セキュリティ専門家ブルース・シュナイアー氏とパランティア共同創業者アレックス・カープ氏の対比に注目。

Bernie Sanders 米上院議員の話から始まっているが，この記事のメインは暗号学者でセキュリティ専門家（で私が勝手に先生呼ばわりしている） Bruce Schneier 氏と Palantir Technologies 社共同設立者兼 CEO である Alexander C. Karp 氏の対比だろう。もう少し詳しくいうと Schneier 氏等の “Rewiring Democracy” と Karp 氏の “Technological Republic” との対比だ。

ちなみに記事中で

しかし、『テクノロジカル・リパブリック』と『Rewiring Democracy』を並べて論じている人をワタシは見たことがありません。

公益テクノロジーは国家に奉仕するのか――AI時代のテクノロジーと権力より

と書かれていて，今まであまりそういう考察はされていないのかも知れない。もっとも私は国際政治に疎いので「リパブリック」と聞いても先日話題になった某国大統領渾身のギャグのほうを思い浮かべてしまったり（笑）

アレについて Proton Lumo に漫画絵を描かせてみた

話を戻して…

実際に両方の書籍を読んだわけではないので正しく理解しているか怪しいが，まずは最初の記事を更に Proton Lumo に要約してもらった。こんな感じ：

シュナイアー vs. カープ（パランティア）の比較

記事の核心は，シュナイアーの「公益テクノロジー」論と，パランティア共同創業者アレックス・カープの著書『テクノロジカル・リパブリック』の比較です。両者は「技術者が社会課題に関与すべき」という認識を共有しながらも，重要な違いがあります：

シュナイアー：「公共」を広く捉え，社会正義や共通善を重視。国家による監視や権力集中に敏感。
カープ：明確に国家（特に米国）を中心に据え，地政学的競争に勝つための技術者の関与を重視。強い軍事防衛能力を肯定。

Schneier 氏側を「国家による監視や権力集中に敏感」と評すのはよく分かる。

暗号学者というシュナイアーの出自を考えれば当然ですが、サイバーセキュリティやプライバシーの観点で、安全の名の下での国家による国民の監視や権力集中に対して彼は敏感です。

公益テクノロジーは国家に奉仕するのか――AI時代のテクノロジーと権力より

（強力な）暗号はそもそもが軍事技術であり，つい前の世紀までは，国家によって統制されて然るべきものとされていた。この辺は Steven Levy 氏の『暗号化』を一読されることをおすすめする。

暗号化―プライバシーを救った反乱者たち: インターネット黎明期、プライバシー保護を賭け、暗号のプロが集まる諜報機関の厚い壁に挑んだ男たちの孤独な闘いがあった。ｅコマースやネット社会の裏に秘められた人間ドラマ。『ハッカーズ』の著者が１０年に及ぶ取材を経てまとめた全米ベストセラー、待望の邦訳。; Release 2002-02; 評価

[Comment] 20世紀末，暗号技術の世界で何があったのか。知りたかったらこちらを読むべし。 Kindle 版希望！

私は1990年代の PGP 愛用者で，国家の所有物だった暗号技術が一般庶民に降りてくる（誤解を恐れずに言うなら）「暗号技術の民主化」とでもいうような変化をリアルに体験してきた。もし「暗号技術の民主化」がなければ HTTPS すらままならなかったろう。

一方で LLM を中心とする今の AI サービスは，私企業により最初から一般向けに提供されているものだ。これが予想以上にハッキングに向いていたわけだ（単にハッキング・ツールとして優秀であるだけでなく AI サービス自体が hackable でもある）。

ハッキング思考強者はいかにしてルールを歪めるのか、それを正すにはどうしたらいいのか: 富裕層、権力者、急成長企業はシステムをハッキングして成功した。AI時代にルールを味方につけるには、「正しいハッキングの考え方」が必要だ。; Release 2023-10-16; 評価

[Comment] Kindle 版あり

故に国家（特に米国）が LLM を情報戦の（核兵器に匹敵する）軍事技術として統制をかけようとするのは自然な成り行きかも知れない。先月，米国政府が Anthropic 社製モデルに対して輸出規制をかけたのも，やはりそういう流れの一部と見てよさそうである¹。

最初に紹介した記事に戻ると，最後の方のオチが秀逸でちょっと笑ってしまった²。

JS・タンは「私がパランティアの本を読んだんで、あなた方は読む必要はないです」において、シリコンバレーのリベラルな価値観に対する軽蔑に目がくらんでしまい、この業界を単一のイデオロギー的ブロックとしてしか理解できていない著者たちの近視眼的な見方、2010年代にシリコンバレーの起業家が消費者向けビジネスに夢中だったのは、（シリコンバレーのルーツに米軍があるにせよ）インターネットの台頭とゼロ金利時代を背景に、消費者向けプラットフォームこそ手っ取り早く莫大な利益を生み出すビジネスモデルだったこと、逆に言うと2020年代、特に第二期トランプ政権下でGoogleをはじめとするビッグテックは軍との契約に積極的であり、『テクノロジカル・リパブリック』の主張は既に成立しなくなっている点について批判しています。

公益テクノロジーは国家に奉仕するのか――AI時代のテクノロジーと権力より

（久しぶりにこんな長いセンテンスを見た（笑）書籍の文章でも最近はなかなか見かけないよ）

私個人としては LLM が国家の統制下に入るのと企業の独占所有物になるのと「どちらがいいか」と問われれば，どちらもお断りと答える。そのためにも早く AI サービス依存状態から脱しないとね。今月半ばで既に GitHub Copilot の 10USD クレジットを使い切っちゃったよ orz

ブックマーク

参考

Rewiring Democracy - Schneier on Security: Rewiring Democracy How AI Will Transform Our Politics, Government, and Citizenship A Book by Bruce Schneier and Nathan E. Sanders An informative and wide-ranging exploration of how AI will alter every facet of democracy, and how to harness the technology to distribute rather than concentrate power. AI will change democracy. The only question is how. AI’s impact on democracy will go far beyond headline-grabbing political deepfakes and automated misinformation. Everywhere it will be used, it will create risks and opportunities to shake up long-standing power structures...; Release 2025-10-21

暗号化プライバシーを救った反乱者たち: スティーブン・レビー (著), 斉藤隆央 (翻訳); 紀伊國屋書店 2002-02-16; 単行本; 4314009071 (ASIN), 9784314009072 (EAN), 4314009071 (ISBN); 評価

[Comment] 20世紀末，暗号技術の世界で何があったのか。知りたかったらこちらを読むべし！

reviewed by Spiegel on 2015-03-09 (powered by PA-APIv5)

ハッキング思考　強者はいかにしてルールを歪めるのか、それを正すにはどうしたらいいのか: ブルース・シュナイアー (著), 高橋聡 (翻訳); 日経BP 2023-10-12 (Release 2023-10-12); Kindle版; B0CK19L1HC (ASIN); 評価

[Comment] Kindle 版が出てた！

reviewed by Spiegel on 2023-11-21 (powered by PA-APIv5)

ヒトラーと哲学者: 哲学はナチズムとどう関わったか: イヴォンヌシェラット (著), 三ッ木道夫 (翻訳), 大久保友博 (翻訳); 白水社 2015-01-22; 単行本; 4560084122 (ASIN), 9784560084120 (EAN), 4560084122 (ISBN); 評価

[Comment] ナチス・ドイツ時代の哲学史物語という感じ。哲学（者）がヒトラーおよびナチス・ドイツにどのような影響を与えたか，またヒトラーおよびナチス・ドイツが哲学（者）にどのような影響を与えたかを物語風に編み上げていく。

reviewed by Spiegel on 2019-06-05 (powered by PA-APIv5)

Anthropic 社の Claude Fable 5 および Mythos 5 については今月早々に輸出規制が解除されている。一方で OpenAI 社の最新モデル GPT 5.6 も一時公開制限が行われた。米国では高機能 LLM に対する政府の干渉が常態化しつつあるようだ。余談だが Anthropic 社は Palantir Technologies 社とパートナーシップを結び自社製モデルを提供している。 ↩︎
そもそも Palantir Technologies 社は顧客に CIA, NSA, FBI, DHS といった情報機関や国防総省などの防衛機関を抱えている。また悪名高い ICE の移民強制送還プログラムにも関与していることが知られていて，批判の対象にもなっている。本文で挙げている “Technological Republic” についても，記事を読む限り，顧客に対するリップサービスが感じられて，正直共感できないんだよなぁ。まぁ，ナチス時代のドイツの例もあるし，独裁政権やマフィア（あるいは海賊）国家にぶら下がる企業や知識人ってのは，そういうものかも知れないが。 ↩︎

情報通信白書に見る AI

2026-06-22T10:06:45+00:00

【メモ】元号-西暦変換表

毎回分からなくなってググるので，ここにメモしておく。お役所の文書で元号を使うのマジでやめて欲しい。もう元号は祭事と皇室関連だけでいいじゃん。

元号	西暦
令和5年	2023年
令和6年	2024年
令和7年	2025年
令和8年	2026年

情報通信白書に見る AI

仕切り直しまして。

例によって Bluesky の自 TL に流れてきたポストから。

総務省｜令和6年版情報通信白書｜著作権を含む知的財産権等に関する議論

2024年版の情報通信白書の一部らしい。現時点（2026-06-22）で情報通信白書は2025年版まで出ている。

2024年版で AI 関連のトピックには以下のものがある。

第Ⅰ部
- 特集②　進化するデジタルテクノロジーとの共生
  - 第3章デジタルテクノロジーの変遷
    - 第1節 AI進展の経緯と生成AIのインパクト
    - 第2節 AIの進化に伴い発展するテクノロジー
  - 第4章デジタルテクノロジーの課題と現状の対応策
    - 第1節 AIの進化に伴う課題と現状の取組
    - 第2節 AIに関する各国の対応
  - コラム2 AIやロボットと協働・共生する未来に向けて（コンヴィヴィアルな関係）
第Ⅱ部情報通信分野の現状と課題
- 第9節 AIの動向

「著作権を含む知的財産権等に関する議論」は特集②第4章第1節の中にある。

2025年版で AI 関連のトピックには以下のとおり。

第Ⅰ部特集　広がりゆく「社会基盤」としてのデジタル
- 第1章「社会基盤」としてのデジタルの浸透・拡大と動向
  - 第2節 AIの爆発的な進展の動向
- 第2章進展するデジタルがもたらす課題
  - 第2節 AIの進展に伴う新たな課題
第Ⅱ部情報通信分野の現状と課題
- 第1章 ICT市場の動向
  - 第9節 AIの動向

見出しに AI が付いてるものだけを抜き出してみたが，2025年版は言及が少なくなってるのかな？

このブログ記事では著作権を含む知財権と AI についての話に絞ることにしよう。とはいえ「著作権を含む知的財産権等に関する議論」自体はあまり深い話はなくて，物凄く端折って言うなら「AI に絡む知財権の問題が複雑化してるから，どげんかせんといかんね」といった感じだろうか。企業側の対策として Microsoft の “Copilot Copyright Commitment” や Adobe Firefly における取り組みを紹介している。

「AI と著作権に関する考え方について」

政府側のアクションとしては

日本では、生成AI技術の発展と急速な普及に伴って権利者やAI開発者から著作権などの知的財産権の侵害に関する懸念の声が上がったことを踏まえ、2024年3月、文化審議会著作権分科会法制度小委員会において、「AIと著作権に関する考え方について」がとりまとめられるとともに、（著作権を含む）知的財産権との関係について、2024年5月、AI時代の知的財産権検討会より、「AI時代の知的財産権検討会中間とりまとめ」が公表された。

AIの進化に伴う課題と現状の取組より

「AI時代の知的財産権検討会」は現在も定期的に会合を開いているようだ。

まず「AIと著作権に関する考え方について」について Kagi Assistant に簡単にまとめてもらった。

観点	要点
文書の位置づけ	この文書は，生成AIと著作権に関する考え方を整理・周知するために取りまとめられたものであり，公表時点の一定の考え方を示すもの。法的拘束力はなく，特定の生成AIや技術について確定的な法的評価もしない。
前提（人とAIの関係）	人はAIを「高度な道具」として補助的に用いる前提で，AIを道具として用いる人に行為の責任が帰属する，という考え方を前提にしている。
開発・学習段階：30条の4（非享受目的）	30条の4の柱書は「享受を目的としない場合」を挙げており，AI学習のための情報解析を含む「情報解析の用に供する場合」は，享受目的がないものに該当すると整理している。
開発・学習段階：享受目的が併存する場合	1つの利用行為に目的が複数併存し得るところ，享受目的が1つでも含まれれば30条の4の要件を欠く（＝適用なし）と整理している。
開発・学習段階：ただし書（不当な害）	30条の4には，著作権者の利益を不当に害する場合は適用しないというただし書があり，これに該当すれば適用されない。
生成・利用段階：侵害判断の軸	生成物の生成・利用でも，既存の判例と同様に，類似性と依拠性の両方が認められると著作権侵害となり得る。その場合，差止や損害賠償の請求等が問題になり得る。
生成・利用段階：類似性	類似性は，「表現上の本質的な特徴を直接感得できるもの」について認められてきた，という整理。
生成・利用段階：依拠性（学習データに含まれていた場合）	AI利用者が既存著作物を認識していなくても，学習・開発段階で学習用データに含まれていればアクセスがあったと認められ，依拠性が推認されて侵害になり得るとする。
生成物の著作物性と「著作者」	「著作者」は著作物を創作する者だが，AIは法的な人格を有しないため，AIが著作者になることはない。生成物が著作物と判断される場合も，AIを利用して創作した人が著作者になる。
生成物：指示の具体性と著作物性	生成AIへの指示が「表現に至らないアイデア」にとどまるような場合は，著作物性が認められないと考えられる，という整理。
責任主体：原則と例外	侵害となる場合の主体は，原則として物理的行為主体であるAI利用者が責任を負う。
責任主体：事業者が責任を負い得る場合	そのうえで，規範的行為主体論により，生成AIの開発やサービス提供をする事業者が責任を負う場合があり得る。例として，特定の生成AIで侵害物が高頻度で生成される場合は，侵害主体と評価される可能性が高まるとする。
まとめ（今後）	判例・裁判例の蓄積，技術発展，諸外国の検討状況などを踏まえて，引き続き検討が必要とされている。

まだ流し読みした程度だが，この辺の内容は2023年の文化庁の資料の内容を踏襲しているように見える。

Generative AI は Copyright-Safe か？

ポイントは「既存著作物への依拠性」そして「『享受』を目的とする利用か否か」である。

著作権侵害の要件は大きく分けると「既存著作物との同一性・類似性」と「既存著作物への依拠性」の2つです。

前者の「既存著作物との同一性・類似性」について、AIは関係ありません。これまでの膨大な判例を元に、判断基準がほぼ確立しています。

たとえ「作風・画風」が類似していたとしても、「同一性・類似性」があることにはなりません。これは文化庁の資料に記載されているとおりです。

生成AI、画像の特徴が似ていれば「著作権侵害」にあたる？文化庁の最新見解を読み解くより

「AI時代の知的財産権検討会中間とりまとめ」の内容は多岐にわたるけど，著作権を含む知財権部分を同じようにまとめると以下の通りとなる。

著作権法との関係（学習・生成/利用を分けて整理）

観点	要点（超要約）
著作権法30条の4（非享受目的）	30条の4の柱書は，著作物に表現された思想又は感情を「享受」することを目的としない場合に利用し得るという考え方で，かつ「情報解析（用に供する場合）」が示される。
「非享受目的でも適用されない」場合（享受目的の併存）	1つの利用行為に複数の目的が併存し得る前提で，目的の内に一つでも“享受”が含まれると要件を欠く（＝30条の4が適用されない）という整理。
生成AIへの入力（プロンプト等）	生成指示（プロンプト等）を行う入力は，入力の性質として情報解析にあたり，付随して複製等が生じ得るため30条の4の適用が考えられる一方，入力が「類似生成を意図して著作物を享受させる」性格を持つ場合は適用されないと整理。
侵害の要件イメージ（類似性・依拠性）	既存の裁判例の枠組みを踏まえ，類似性と依拠性が認められると著作権侵害となり得る，という整理。
生成物の著作物性（AI出力が保護されるか）	AI生成物の著作物性は個別具体的に判断され，単なる労力ではなく，創作的寄与がどの程度積み重なっているか（例：指示・入力の具体性等）が要素になる。
侵害主体（利用者だけ？事業者も？）	原則は物理的な行為主体（AI利用者）だが，状況により事業者が規範的行為主体として責任を負う可能性がある（例：侵害物が高頻度に生成，抑止措置を取らない等）。

著作権法以外（意匠・商標・不正競争防止法・肖像/パブリシティ）

観点	要点（超要約）
意匠・商標（学習 vs 生成/利用）	現行制度を前提に，学習段階は（原則として）権利効力が及ぶ「実施」等に当たらない方向，生成・利用段階は従来の侵害判断と同様の発想で検討する，と整理。
不正競争防止法（商品等表示等）	商品等表示規制等について，依拠性が不要になる類型もあり，生成物への利用の違法性判断は一般的な枠組みに沿う，と整理。
肖像権・パブリシティ権	肖像権・パブリシティ権の侵害判断は，一般的な判断基準と同様の枠組みで考える（生成AIに特有の基準を置くものではない）方向で整理。

個別課題（労力・作風／声／デジタルアーカイブ／ディープフェイク）

観点	要点（超要約）
労力・作風（アイデア）の扱い	著作権法は「表現」を保護し，作風や労力そのものは保護対象ではないため，現行法だけで一律保護は難しい，という問題意識の整理（その上で契約・技術も組み合わせ得る）。
声	「声」の保護は肖像権・パブリシティ権等の周辺領域も含め整理し，成立可能性を検討する枠組みを提示。
デジタルアーカイブ	アーカイブ機関の保有データを学習に使う意義や，権利関係・技術仕様の整理が必要という問題設定。
ディープフェイク	無断利用があれば著作権等の侵害になり得ること，また肖像権・パブリシティ権や名誉毀損等の評価も含め，事案ごとに整理する方針。

特許（AIを利用した発明の取扱い／進歩性・記載要件）

観点	要点（超要約）
AIを利用した発明者性	現時点では「AI自身の自律的発明」は確認できず，自然人による創作過程でのAI利用が一般的として，発明の特徴的部分への創作的寄与者を発明者と認定する考え。
進歩性の判断	現時点では審査運用を変える事情は認められず，AI利用も含めて技術常識・技術水準を的確に把握し，従来の運用に従って判断する，という方針。
記載要件（実施可能要件・サポート要件）	AIによる予測等が絡む領域では，従来の考え方に照らして要件を満たさない事例があり得る旨を踏まえ，判断枠組みの維持を前提にしつつ，技術進展に応じた検討可能性を示す。

こちらも，著作権に関しては概ね文化庁の見解を踏襲しているように見える。

とりあえず，もう少し資料を読み込んで，AI がまとめた内容を精査しないとダメだな。

ブックマーク

参考

著作権は文化を発展させるのか: 人権と文化コモンズ: 山田奨治 (著); 人文書院 2021-07-29 (Release 2021-07-29); Kindle版; B099RTG3J7 (ASIN); 評価

[Comment] 著作権を「ユーザーの人権」という観点から捉え直す。その後文化→コモンズ→文化コモンズと進み，本当の意味で「文化の発展に寄与する」とはどういうことか考察していく。

reviewed by Spiegel on 2022-10-23 (powered by PA-APIv5)

米政府は何故 Anthropic モデルを禁じたのか

2026-06-17T07:15:19+00:00

先日 Anthropic 社の最新 LLM である Claude Fable 5 および Mythos 5 に対して輸出規制がかけられた。

Anthropic、「Fable 5」「Mythos 5」のアクセスを停止、米国政府による輸出管理指令／その他のモデルは利用可能

私はこのニュースを見て20世紀後半の暗号輸出規制を連想したのだが，どうもそんな話ではないらしい。色々と情報が錯綜しているが TechCrunch の記事が分かりやすくまとめられている。

The US government’s Anthropic models ban was never about an AI jailbreak | TechCrunch

ホンマ，日本語版がなくなったのは残念だよ。

この記事によると Anthropic 社は今回の措置の理由をガードレールを回避する所謂「AI 脱獄（AI jailbreak）」に関するものだと推測しているが，本当の理由については明らかになっていない模様。政府と Anthropic 社の間のやり取りは公開されていないそうだ。というわけで，いろんな憶測が飛び交っている。

The Trump administration hasn’t confirmed why it invoked its export control directive. Did the officials misread the report and freak out? Did Amazon CEO Andy Jassy say something to senior government officials that prompted the reaction, out of caution or spite? Was something lost in translation, or was this a way to pressure Anthropic, with whom the administration already has a fractious relationship? It’s possible that the White House was unaware of the far-reaching consequences of the letter’s demand and officials are scrambling to undo the damage of their own making.

via The US government's Anthropic models ban was never about an AI jailbreak

最近 Amazon のセキュリティ研究者が Fable 5 におけるガードレール回避を疑う論文（非公開）を書いたそうで Anthropic 社がこれについて著者に連絡してきたとの情報はあるらしい。当然米国政府にもこの情報は伝わってるだろう。

仮に LLM の脆弱性が理由だとしても，そのために輸出管理命令を出すのは全く筋違いの話だ。だから “the Trump administration’s directive appears retaliatory” とか書かれちゃうんだろうけど。セキュリティ研究者や専門家は輸出管理命令を撤回するよう求めているそうな。

Moussouris and dozens of other top security researchers and experts have since called on the Trump administration to revoke the export control order, calling the move to pull advanced cybersecurity capabilities from network defenders in the U.S. as “dangerous.”

via The US government's Anthropic models ban was never about an AI jailbreak

理由が何であれ，これが国際社会に対する信用を貶めるものになることは間違いないだろう。

Justin Hendrix, the editor of Tech Policy Press, said the Trump administration’s move is “likely to raise alarms in foreign capitals about the reliability of American AI for critical applications.” The message is that AI companies in the United States can’t be trusted to operate without interference from the U.S. government.

[…]

To quote Hendrix, “the climate is one of a cloud of suspicion that senior officials are picking favorites based on personal and political factors.” The aftermath is that the government has set a dangerous precedent about how much control it intends to wield over the release of American-made software.

via The US government's Anthropic models ban was never about an AI jailbreak

やはり今の米国は，中国やロシアなどと並んでリスクの高い国になったということだろうか。

余談だが，生成 AI に対するガードレール回避などの問題は，今までのセキュリティ脆弱性とは性質が異なる。間違ったコードを改善すれば直るようなものではないからだ。

“The behavior described in the paper cannot meaningfully be fixed, and any attempt would only weaken the model for defense,” said Moussouris, who criticized the export control directive as hasty, heavy-handed, and misguided.

via The US government's Anthropic models ban was never about an AI jailbreak

生成 AI の登場でセキュリティ・リスク管理も新しい段階に入ったのかもしれない。

ブックマーク

Ubuntu サーバで LLM 構築へ：（2）用語集

2026-06-10T08:15:23+00:00

前回の続き。事前学習に当たって関連する用語を整理していく。

最近はどうやってるか知らないが，私が若い頃はユーザ企業からの受託プロジェクトが多かったので，業務知識の摺り合わせのために用語集を作ることが必須だった。これをサボると顧客との間で「そんなつもりじゃなかった」みたいなすれ違いが頻出して泥沼化することがある。思ったより業界・業種ごとに独自の用語や隠語は多いものである。

用語については，まず AI に思いつく限り列挙してもらい，それを私が（勉強がてら）自力で調べる，という形で進めていく。 …という感じに指示したら，いきなり180個近く列挙して下さりやがった（笑）

まぁ，少しずつのんびりいこう。この記事は随時更新する予定。

人工知能

別表記

Artificial Intelligence, AI

意味，定義など

元々は動物や人間の認知機能（の一部）を機械的に模倣（シミュレーション）する研究分野を指していたが，そこから派生した要素技術や製品・サービスも含めて AI と呼ばれるようになった。

機械学習

別表記

Machine Learning, ML

意味，定義など

人工知能（技術）のサブセット。データから学習し，未知の入力に対する予測・分類・推定を行う技術の総称。

統計的機械学習

別表記

Statistical Machine Learning, Statistical ML, SML

意味，定義など

機械学習を「確率モデル」「推定」「推論」「不確実性」といった確率・統計学の枠組みで捉えて学習や評価を行うという立場（見方）を指す。

ブックマーク

統計的機械学習とは| IBM

深層学習

別表記

深層機械学習, ディープラーニング, Deep Learning, DL

意味，定義など

多層（deep）のニューラルネットワークを中核にする機械学習のサブセット。必ずしもラベル付きデータセットを必要とせず，テキストや画像など非構造化データから特徴を自動的に抽出して学習することができる点が特徴。

深層学習を統計的に見るなら統計的機械学習の文脈に入ると言えるが，深層学習という言葉が指すもの（実装・最適化・表現学習など）は確率論中心で語られるとは限らない。

ブックマーク

AI，機械学習，ディープラーニング，ニューラル・ネットワーク | IBM

ニューラルネットワーク

別表記

Neural Network, NN

意味，定義など

単純なニューロンを層状（入力層，中間層/隠れ層，出力層）に積み重ね，データからパターン認識の重みとバイアスを学習し，入力から出力までをマッピングする機械学習モデル。脳の神経ネットワークから着想を得ている。

生成 AI

別表記

Generative AI

意味，定義など

与えられた知識（訓練データ）を元に文脈（コンテキスト）や指示に従って，テキスト（プログラムコードを含む）や画像，動画，音声などのコンテンツを生成する AI 製品のこと。

従来の AI 製品が情報の分析・評価・予測などを主目的としていたのに対して，生成 AI はコンテンツの生成を主目的としている点が特徴。生成 AI が社会に与えたインパクトは大きく，近年では AI といえば生成 AI を指すことが多い。

大規模言語モデル

別表記

Large Language Model, LLM

意味，定義など

ニューラルネットワークを大規模化し，トランスフォーマーを採用して「次トークンを予測すること」を事前学習目的の中心にした機械学習モデル。生成 AI におけるテキスト生成に関する部分の中核的な存在。大規模言語モデルの「大規模」はモデルが大きい（パラメータ数が多い）ことを指して名付けられている。

まず事前学習（pre-training）として大量のテキストを使って「ラベルなし（自己教師あり）」でモデルに言語の基本を学ばせる。その後の調整（fine-tuning / instruction tuning など）で特定のタスクに適応させることができる。

flowchart TD A[事前学習
Pre-training] --> B[微調整
Fine-tuning] B --> C[指示追従の微調整
Instruction tuning] B --> D[タスク別微調整例
要約/分類/抽出など] B --> E[（場合により）さらなる調整
例: 報酬学習/RLHF, 安全性調整] A:::pre B:::ft C:::it D:::task E:::post classDef pre fill:#e8f4ff,stroke:#2b6cb0 classDef ft fill:#f0fff4,stroke:#2f855a classDef it fill:#fff7e6,stroke:#b7791f classDef task fill:#faf5ff,stroke:#6b46c1 classDef post fill:#fff0f0,stroke:#c53030

全体アーキテクチャ推奨構成（LiteLLM/Nginx あり）

なぜ生成 AI が LLM 中心になったか：

トークン予測：単純で汎用的な学習目的で，大規模テキストから共通に学べる
トランスフォーマー設計： attention 中心でスケールしやすい学習器として噛み合う
スケーリング則：増やしたときの改善が経験的に整理され，投資判断がしやすい
スケールでタスク適応が変化： fine-tuning なしに few-shot で強くなる傾向が示され，普及・実装が加速

ブックマーク

トランスフォーマー

別表記

Transformer

意味，定義など

自己注意機構だけに基づく新しいネットワーク構成。再帰や畳み込みを使わずに，注意機構だけで構成しているため，並列化が可能で大規模化しやすい。

ブックマーク

RAG

別表記

Retrieval-Augmented Generation

意味，定義など

LLM に外部知識（検索結果）を取り込ませてから生成させるアプローチ。これにより知識不足や幻覚（hallucination）の問題を緩和し，より正確で信頼性の高い生成が可能になる。

実運用では以下のような手順になる。

手順	役割
1. 文書をチャンク化	検索しやすい単位に分割
2. チャンクを embedding に変換	文書意味を数値化（ベクトル化）
3. ベクトルを Vector DB / Vector Index へ格納	類似検索できる形で保存
4. ユーザ質問を embedding に変換	質問も同じ空間で表現（ベクトル化）
5. 類似度（例：cosine similarity）で上位を検索	関連文書を取り出す
6. 取得した文書をプロンプトに入れて生成	LLM の generator が回答

ブックマーク

Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks

Embedding

別表記

埋め込み，ベクトル化

（複数形 Embeddings で）埋め込みベクトル群

意味，定義など

RAG において，外部文書やユーザ質問（プロンプト）などのテキストデータを数値ベクトルに変換する技術。文書をチャンクと呼ばれる単位に分割し，チャンク化された各データに対して意味的な特徴を捉える多次元のベクトル情報を埋め込む。ベクトルを埋め込まれたデータは key-value 形式で持つデータストア（Vector DB など）に保存される。

このため，日本語では Embedding をサ変名詞的に「ベクトル化」と訳すことが多い。

MCP

別表記

Model Context Protocol

意味，定義など

AI アプリケーションが外部のデータや機能にアクセスするため，外部コンテキスト交換のためのオープンな標準プロトコル。クライアント・サーバで構成される。 AI アプリケーション側がクライアント。サーバ側は LLM に渡せるものを以下のプリミティブとして提供する。

プリミティブ	概要	典型例
Tools	サーバが公開する「実行可能なツール」。LLM（言語モデル）が文脈に応じて発見・呼び出しできる形で提供されます。	DB問い合わせ、API呼び出し、計算など
Resources	クライアント（LLMアプリ）にコンテキストとして渡すためのデータ。ファイルやDBスキーマ、アプリ固有情報などを共有できます。	社内文書、スキーマ、参照データ等
Prompts	サーバが公開するプロンプトテンプレート。ユーザが明示的に選べるように設計される、と説明されています。	業務用の定型指示テンプレなど

RAG とは相補的な関係になることが多い。たとえば RAG が外部資料を取得する方法を MCP で提供するなど。

AI エージェント

別表記

AI Agent

単に Agent / エージェントと言う場合もある

意味，定義など

一般的に AI エージェントは「環境を知覚（perceive）し，環境に働きかけて行動（act）する自律的なシステム」として説明される。

AI エージェントが生成 AI と結びつくと以下のような役割・行動になる。

LLMを意思決定の中核にして
計画して（plan）
ツールを呼び出し（call tools）
複数ステップの実行に必要な状態（state）を保持して
目的を達成するために動く。または推論と行動を繰り返す

目的別に AI エージェントを例示してみる。

目的（ユーザが求めること）	エージェントの核となる動き（イメージ）
会話/問い合わせ対応	会話しつつ，必要なら外部情報やツールへ “取りに行って” 回答する（単発Q&Aより行動ループを持つことが多い）
業務自動化（ワークフロー実行）	次に何をするか計画し，ツール/API を呼んで段階的に完了させる（state 保持が重要）
調査・意思決定支援	情報を集め，推論して結論を出す（必要に応じて “推論→行動→再推論” のループ）
開発支援（コード生成/デバッグ）	目標に向けて反復し，ツール（実行環境，リポジトリ操作等）を使いながら進める（目的達成型の行動）

また，以下のように行動決定の仕方で分類する方法もある。

種類	特徴
ツール実行を伴うエージェント	LLM が計画し，ツールを呼び，複数ステップを進める
熟考（deliberative）/プランニング中心	世界の明示的なモデルを持ち，記号的推論で「何をするか」を決める
BDI エージェント	beliefs（信念）/desires（欲求）/intentions（意図）で分けて行動選択する枠組み
マルチエージェント	複数のエージェントが協力して（autonomousのまま）タスクを進める

なお，ここで言う「自律的（autonomous / autonomy）」とは「どれくらいユーザ介入なしで動けるように設計されているか」という文脈で使われ，辞書的な意味での自律とは異なる点に注意。

ブックマーク

Ubuntu サーバで LLM 構築へ：（1）事前学習

2026-06-09T09:26:51+00:00

だいぶ生成 AI を使うことに慣れてきたので，そろそろ自前で LLM サービスを構築することを考えてみる。

いや，既にもうメジャーな AI サービスプロバイダってメタクソ化（enshittified）し始めてるぢゃん。企業サービスに完全にロックインされないうちに自前で構築できるようになっておかないと，と思ってさ。

今回は，以下の要求で Kagi Assistant にサービス構成を提案してもらった。

家庭内 LAN 上の Ubuntu サーバ機に LLM サービスを構築する
クライアントは Windows 機と Ubuntu 機を想定
主な用途はプログラミング支援とブログ作成補助
VS Code で使えるようにする

以降に Kagi Assistant からの提案を載せるけど，まだ内容の検証をしていない。なので嘘や間違いが紛れている可能性があるのでご注意を。私としては，この提案を学習の起点（trigger）とするつもりである。

アーキテクチャ

Kagi Assistant が最初に推奨してきた構成：

graph TB subgraph Server["Ubuntu Server"] Ollama["Ollama
:11434
(推論エンジン)"] LiteLLM["LiteLLM
:4000
(API Proxy)"] Nginx["Nginx
:443
(Reverse Proxy)"] Embed["nomic-embed-text
(Embedding / RAG用)"] PG["PostgreSQL
(LiteLLM 用)"] Ollama ---> LiteLLM LiteLLM --- PG LiteLLM ---> Nginx Ollama --- Embed end subgraph ClientUbuntu["Ubuntu PC"] VSCodeU["VS Code + Continue"] end subgraph ClientWin["Windows PC"] VSCodeW["VS Code + Continue"] end Nginx -- "LAN (HTTPS)" --> ClientUbuntu Nginx -- "LAN (HTTPS)" --> ClientWin

全体アーキテクチャ推奨構成（LiteLLM/Nginx あり）

推論エンジンとして Ollama を提案した理由は以下の通りらしい：

個人〜小規模LAN利用ではOllamaが最適。セットアップが最も簡単で、OpenAI互換APIを標準提供し、モデル管理が容易です。

vLLMは同時接続ユーザーが多い（5人以上）本番運用向けで、単一ユーザーには複雑さが増すだけ
- vLLM vs. Ollama: When to use each framework
- vLLM vs Ollama: Which Local AI Server to Run in 2026
llama.cppは低レベルすぎて管理が煩雑

LiteLLM は Ollama の前に置く OpenAPI 互換 API プロキシ。 Ollama だけでなく OpenAI や Anthropic などの外部 API も統一的に扱えるらしい。図では LiteLLM に PostgreSQL がぶら下がっているが，これは API キー管理・使用量トラッキング用とのこと。

What is stored in the DB | liteLLM

Nginx はリバースプロキシとして HTTPS 終端，セキュリティ（Ollama/LiteLLM への直結ポートをサーバの外に晒さない），ストリーミング対応を担っている。注意点は以下の通り：

LAN 内のみの利用でもHTTPS推奨（Continue.dev が API キーを送るため）
Let’s Encrypt 証明書か自己署名証明書を使用
ストリーミング（SSE）対応のため proxy_buffering off が必須

nomic-embed-text については後述する。

LiteLLM と Nginx は入れなきゃダメ？と訊いてみたら，もう少し簡単な構成もあるらしい。

graph TB subgraph Server["Ubuntu Server"] Ollama["Ollama
:11434
(推論エンジン)"] OpenWebUI["Open WebUI
:8080
(GUIチャット)"] Embed["nomic-embed-text
(Embedding / RAG用)"] Ollama --- Embed Ollama ---> OpenWebUI end subgraph ClientUbuntu["Ubuntu PC"] VSCodeU["VS Code + Continue
ollama run (CUI)
ブラウザGUIチャット"] end subgraph ClientWin["Windows PC"] VSCodeW["VS Code + Continue
ollama run (CUI)
ブラウザGUIチャット"] end Ollama -- "Ollama API
:11434" --> ClientUbuntu OpenWebUI -- "Web UI
:8080" --> ClientUbuntu OpenWebUI -- "Web UI
:8080" --> ClientWin Ollama -- "Ollama API
:11434" --> ClientWin

全体アーキテクチャ推奨構成（Ollama 単体, LiteLLM/Nginx なし）

クライアントの用途ごとの使い分けは以下の通り。

アクセス先	ポート	用途	クライアント
Ollama API	`:11434`	VS Code + Continue（コーディング支援）	Ubuntu / Windows
Ollama API	`:11434`	`ollama run`（CUIチャット）	Ubuntu / Windows
Open WebUI	`:8080`	ブラウザ GUI チャット（ブログ執筆・雑談）	Ubuntu / Windows

VS Code の拡張機能である Continue は Ollama API に対応しているそうなので（セキュリティの問題を除けば）直結で OK。ターミナルエミュレータ等で CUI チャットを行う場合はクライアント側にも Ollama をインストールして接続先をサーバ機に向ければいいらしい。

OLLAMA_HOST=http://192.168.x.x:11434 ollama run qwen3.5:9b

さらに簡単に Ollama API を直に叩く方法もある（自作ツール向け？）。こんな感じ。

# ワンショット質問
curl http://192.168.x.x:11434/api/chat -d '{
  "model": "qwen3.5:9b",
  "messages": [
    {"role": "user", "content": "ブログのタイトル案を5つ提案して"}
  ],
  "stream": false
}'

# ストリーミング（リアルタイム出力）
curl http://192.168.x.x:11434/api/chat -d '{
  "model": "qwen3.5:9b",
  "messages": [
    {"role": "user", "content": "PythonでFizzBuzzを書いて"}
  ]
}'

Ollama API って素の RESTful API でやり取りするのか。確かにこれは（セキュリティ的に）ヤバいな。 LiteLLM/Nginx を噛ませろって言う筈だわ。 LAN 内に他人（のデバイス）が入ってくる余地がないならギリ大丈夫かな。まぁ，どのみち malware に侵入されたらアウトだけど。

Open WebUI は Web ベースのチャットインターフェースで，以下の特徴があるらしい¹。

機能	説明
ChatGPT 風 UI	ブラウザでチャット、使い慣れたインターフェース
会話履歴	すべての会話を保存・検索可能
モデル切替	ドロップダウンでモデル切替
ドキュメント RAG	ファイルをアップロードして対話
ユーザー管理	複数ユーザー・アクセス制御
完全オフライン	外部へのデータ送信なし

OpenAI の API キーを持っていれば Open WebUI から OpenAI のモデルも使えるそうな（以下は Docker 上に Open WebUI をインストールした場合の起動例）。

# Open WebUI起動時にOpenAI APIも設定
docker run -d \
  --name open-webui \
  --network host \
  -v open-webui:/app/backend/data \
  -e OLLAMA_BASE_URL=http://127.0.0.1:11434 \
  -e OPENAI_API_KEY=sk-your-openai-key \
  --restart always \
  ghcr.io/open-webui/open-webui:main

用途別の使い分けについてまとめてもらった。

用途	インターフェース	理由
ブログ執筆・雑談	Open WebUI（ブラウザ）	ChatGPT風で直感的、会話履歴管理
プログラミング支援	VS Code + Continue	コード補完・エディタ統合
サクッと質問	`ollama run`（CUI）	ターミナルから即座に
スクリプト・自動化	curl / Python API	バッチ処理やパイプライン

普段の調べ物は Kagi Assistant で必要十分なので Open WebUI はあまり使わないかもしれないけど。 Open WebUI が不要なら入れない構成もありだな。

モデル選択

Ollama で選択可能な LLM モデルで Kagi Assistant が勧めてきたのは以下のもの¹。

用途	推奨モデル	役割
チャット・コーディング対話	Qwen 3.6-27B または 35B-A3B	chat, edit, summarize
コード自動補完（FIM）	Qwen 2.5-Coder（7B/14B/32B）	autocomplete（タブ補完）
Embedding（RAG用）	nomic-embed-text	codebase検索
Reranker（RAG精度向上）	Qwen3-Reranker-8B	検索結果の再順位付け

GPU VRAM別のモデル構成

VRAM	チャット用モデル	自動補完用モデル	備考
8GB	Qwen 3.5-9B (~6.6GB)	Qwen 2.5-Coder 7B (~5GB)	1モデルずつ切り替え運用
16GB	Qwen 3.6-35B-A3B (~16-22GB)	Qwen 2.5-Coder 14B (~9GB)	同時稼働は量子化調整が必要
24GB	Qwen 3.6-27B (~17GB)	Qwen 2.5-Coder 32B (~20GB)	★最も推奨される構成
32GB+	Qwen 3.6-27B (Q6/Q8) + Qwen 2.5-Coder 32B	同時稼働余裕あり	RTX 5090等

💡 24GB VRAM（RTX 3090/4090）の構成が最もバランスが良い: Qwen 3.6-27Bでチャット・エージェント的コーディング、Qwen 2.5-Coder 32Bでタブ補完。ただし同時稼働はVRAM的に厳しいため、Ollamaはモデルを自動でアンロード/ロードするので、交互に使う運用になります。

あー。そういや，サーバ機のスペックを教えてなかった。手持ちの空いてるミニ PC をサーバ機にする予定なのでスペックは高くないのよ。

というわけで Ryzen 5 7430U, RAM 16GB, 外付け GPU なしの構成で再提案してもらった。

役割	推奨モデル	RAM使用量	予想速度	理由
チャット・ブログ・コーディング対話	Qwen 3.5-9B (Q4)	~6 GB	~5-8 tok/s	9Bで品質最優、ブログ執筆に十分な表現力
コード自動補完（FIM）	Qwen 2.5-Coder 3B (Q4)	~2.5 GB	~15-20 tok/s	補完は高速が命、3Bで品質も十分
Embedding（RAG用）	nomic-embed-text	~0.3 GB	高速	コードベース検索用

💡 合計RAM使用量: ~9 GB（OS等の予約分を含めても16GB内に余裕あり）

チャット用を軽くして速度を稼ぐ構成：

役割	モデル	RAM	予想速度
チャット	Qwen 3.5-4B (Q4)	~3 GB	~12-18 tok/s
自動補完	Qwen 2.5-Coder 1.5B (Q4)	~1.2 GB	~30+ tok/s
Embedding	nomic-embed-text	~0.3 GB	高速

合計 ~4.5 GB。速度は快適ですが、ブログ執筆の品質は9Bに劣ります。

🌟 注目の選択肢：Gemma 4 26B-A4B（MoE）

GoogleのGemma 4 26B-A4Bは 総パラメータ26B・推論時アクティブ3.8B のMoEモデルです。 Q4量子化で ~15 GB のRAM使用量。

✅ 品質: 3.8B活性化で26Bクラスの表現力（Qwen 3.5-9B以上の可能性）
⚠️ RAM: ~15 GBで16GBギリギリ。OSの予約分と競合する可能性
⚠️ 速度: MoEはアクティブパラメータが少なくても全パラメータのメモリアクセスが必要なため、DDR4帯域幅がボトルネックになり 予想3-6 tok/s

結論: 試す価値はありますが、16GBではスワップ発生のリスクが高く、安定性に欠ける可能性があります。まずはQwen 3.5-9Bで安定運用し、余裕があればGemma 4 26B-A4Bも試すのがおすすめ。

⚡ パフォーマンスを引き上げるTips

施策	効果	詳細
`num_ctx`を小さく	速度向上	4096→2048にするとコンテキスト処理が高速化。ブログ執筆なら2048で十分な場面も
モデルを1つずつロード	RAM節約	`OLLAMA_MAX_LOADED_MODELS=1`で未使用モデルを自動アンロード
Q3量子化を試す	RAM削減・速度UP	`ollama run qwen3.5:9b-q3_K_M`でRAM~4.5GB、品質は若干低下
スワップの無効化	安定性向上	RAM不足時のスワップは極端な低速化の原因。`/etc/fstab`でswapを0に
将来的にGPU追加	劇的改善	Thunderbolt/OCuLink外付けGPUエンクロージャーでRTX 3060(12GB)等を追加すれば、一気に実用的に

Ryzen 5 7430U には内蔵 GPU (Radeon Graphics) があるが LLM 推論には非力なので CPU-only 推論となる。そうなるとメモリ帯域幅が重要になるんだけど DDR4-3200 デュアルチャネルは DDR5 半分以下の帯域幅（〜51GB/s）しかない。 RAM のサイズも 32GB 以上は欲しいらしい。

サーバRAM	推奨構成	備考
8GB	Qwen 3.5-4B (チャット) + Qwen 2.5-Coder 1.5B (補完)	1モデルずつ切り替え
16GB	Qwen 2.5-Coder 7B (チャット) + Qwen 2.5-Coder 3B (補完) + nomic-embed	★最も現実的
32GB	Qwen 3.5-35B-A3B (チャット) + Qwen 2.5-Coder 7B (補完) + nomic-embed	★★最高の体験
64GB	Qwen 3.5-35B-A3B + Qwen 2.5-Coder 14B + nomic-embed	余裕あり

なかなかに貧弱な構成と言われてしまった（笑）

！だってメモリもプロセッサも高いんだよ，今！

しょうがないぢゃん orz

nomic-embed-text について

nomic-embed-textはOllama上で動く Embeddingモデル です。テキストを数値ベクトル（768次元）に変換するだけで、それ自体にデータベースは必要ありません。

テキスト入力 → nomic-embed-text → 768次元ベクトル出力

ベクトルデータはデータベース化して RAG (Retrieval-Augmented Generation; 検索拡張生成) に使用する¹。 Open WebUI および Continue は自前でベクトルデータベースを持っている。規模が大きくなれば PostgreSQL + pgvector などのベクトルデータベースが別途必要になる。

🏗️ RAGの規模別アーキテクチャ

規模	ベクトル保存先	構成
小規模（個人・Continue.dev）	ローカルファイル（Continue内蔵）	Ollama + nomic-embed-text のみ
中規模（チーム・Open WebUI）	Open WebUI内蔵のChromaDB	Ollama + Open WebUI
大規模（組織・自作パイプライン）	PostgreSQL + pgvector / Qdrant / Milvus	Ollama + 独自バックエンド

今回はここまで

とりあえず Ollama と RAG についてはちゃんと勉強せなあかんなぁ，というのは分かった。あとは実際に組んでみて評価していく感じかな。

薄々わかってはいたが，どうも手持ちの環境は貧弱すぎるみたいだけど，どの程度足らないのかの感覚がわからない。これは使ってみて確かめるしかないだろう。

仕事が絡むなら vLLM も気になるところだが，そういう仕事が貰えるなら考えるということで（笑）

RAG の機能は，簡単にいうと LLM に外部の情報を検索させてから回答させる仕組み。これによって組み込まれた知識にない情報についても（extrinsic hallucination を抑えつつ）対応することができるようになる。 Google 検索のようなキーワード検索ではなく，プロンプトによる指示に合わせて意味的検索ができるのが特徴。 Continue は nomic-embed-text が出力したベクトル化情報をファイルに保存するらしい。 Open WebUI は自前でベクトル化を行い，内蔵の ChromaDB に保存するようだ。 ↩︎ ↩︎ ↩︎

最近の話題（2026-06-07）

2026-06-07T03:29:03+00:00

例によって Mastodon や Bluesky の TL で見かけた記事を紹介する。今回は複数あるので，コメントは簡単に。

お品書きはこちら：

ではどうぞ。

非会員による Kagi Translate 利用の一時停止

An update on Kagi Translate

私は Kagi Translate がローンチする前にサブスクリプション契約をしていたので気が付かなかったが，今まではサインアップしなくても誰でも Kagi Translate を使うことができたらしい。したら，エラい人気だったらしく，運営コストがヤバいことになってるそうな。そこで，一時的に有料会員（無料の Trial プランも除外かな）のみ利用可能にしたとのこと。この一時的制限がいつ解除されるのか（あるいは恒久的なものになるのか）はまだ決まってないみたい。もしかしたら Kagi Translate のみ利用可能な格安プランとかできるかも？

Kagi Translate の日本語訳は，最初の頃こそぎこちなかったが，今では Google 翻訳を凌駕する性能だと思っている。文脈や話者ごとに別訳も提示してくれるし，入力もテキストだけでなく PDF やオフィスドキュメントなどにも対応している。あとは辞書機能と校正機能かな。校正機能は結構ヘヴィに使っている人もいるようだ。

個人的にはメインの Kagi Search にしても Kagi Assistant にしても（月10USD程度なら）お金を払う価値は十分あると思うけどねぇ。

Bridgy Fed からの信頼できる脱出

Launches: Credible Exit, Bridged User Notifications, & Fediverse Re-Bridge

Bridgy Fed 内にあるアカウントをネイティブ・アカウントに移行できる機能を提供開始したらしい。

If you’re bridging from the Atmosphere to the Fediverse, you can migrate the bridged account to Mastodon; if you’re bridging from the Fediverse to the Atmosphere, you can migrate the bridged account to any PDS of your choice. After that, you’ll have two native accounts that you can choose to use separately, or migrate them into a service like Wafrn that lets you use both protocols with one account.

via Launches: Credible Exit, Bridged User Notifications, & Fediverse Re-Bridge

さらに Mastodon でアカウントを「引っ越し」した場合でも Bridgy Fed も追従できるようになったそうな。

From now on, we track your Fediverse moves and automatically migrate your bridged account with it. No action needed on your side – we handle all the work, and you can keep posting across the bridge to all your followers on the Atmosphere.

via Launches: Credible Exit, Bridged User Notifications, & Fediverse Re-Bridge

個人的にこれらの機能を使うことは（今のところ）ないと思うけど，プラットフォームからの脱出方法があるというのは安心材料と言える。

Linus Torvalds は激おこらしい（いつものこと？）

Why Linux creator Linus Torvalds gets angry hearing “99% of code is AI”

“AI is a great new tool, but it’s a tool, and when I see people saying, ‘Hey, 99% of our code is written by AI,’ I literally get angry, because those same people — I can pretty much guarantee — that 100% of their code is written by compilers. But they never say that.”

via Why Linux creator Linus Torvalds gets angry hearing "99% of code is AI"

「コードの 99% が AI によって書かれている」としても AI が書けない（書かない）残り 1% が最も重要なのよ。「コードを書かない人」はそのことに気が付かず，統計上の数字だけを見て人材を機械に置き換えようとする（そして往々にして失敗する）。これはプログラミングに限ったことではないと思う。

昨今の「生成 AI」に対する Linus Torvalds 氏の見解は一貫していて，上の引用にもある通り「 AI はあくまでもツール」というものだ。故に，この便利なツールをどのように使うかということには関心があるようだが， AI が人に取って代わるとか，ましてや「自分たちは神を創造できる」などと頭のおかしいことを言う連中には絶対に与しないと思う。

私もどちらかというと Linus Torvalds 氏に近いかな。ただ AI に対して命令（command）でも指示（instruction）でもなくプロンプト（prompt）を与えるという点が従来の「道具」とは違う点だと最近は考えている。

“People who know what they’re doing to understand systems will be able to prompt tools to write good code,” Torvalds said. “People who don’t understand the complexity of systems will also prompt systems and write processes that will fail. So, I think you do want to understand how it all works.”

via Why Linux creator Linus Torvalds gets angry hearing "99% of code is AI"

GitHub Copilot が登場した当初はコードを「洗浄」する生成 AI に反発が大きかったが，今や AI にコードを書かせることが当たり前になっている。その一方で

Post by @zetamatta@mstdn.jp

View on Mastodon

という懸念にも見られるように FOSS の価値というか優位性は，少しずつ低下しているようにも見える。

どうなるやら。

ブックマーク

オープンソースブラウザ「Ladybird」が外部コード受け入れを停止、AI時代の開発体制へ転換

欧州は脱米国に突き進むのか

欧州で進む「米国テック依存」から脱却の動き。トランプ政権下で高まる危機感

ゼロ年代は（オバマ政権に替わるまで¹）「チャイナ・リスク」が問題視された。今や「US リスク」について真剣に考えなければならない時代になっている。その意味で欧州が脱米国に走るのは自然な成り行きに思える。

私の観測範囲は広くないが，特に atproto を中心とした The Atmosphere 界隈を眺めると脱米国の動きが目立つ。 Eurosky とか Streamplace とか tangled とかあからさまだもんねぇ。

そういやゼロ年代， Bill Gates 氏が Microsoft に健在で「悪の帝国」などと呼ばれていた頃，欧州は脱 Microsoft として Linux などの FOSS 製品を積極的に導入しようとしたんだよね。結局は失敗したっぽいけど。今回はどうなるやらだよ

たとえ欧州の企業や政府機関がMicrosoft Outlookのような米系サービスから移行したとしても、「スマートフォンでは依然として米国製OSを使っているかもしれませんし、米国企業の管理下にあるインターネット基盤を利用せざるを得ないでしょう」とヴェルディエは語る。「現時点では、こうした巨大テック企業を完全に代替できる存在はありません」

欧州で進む「米国テック依存」から脱却の動き。トランプ政権下で高まる危機感より

オバマ政権（というか民主党政権）は中国を「未開拓市場」とみなして積極的に関与する政策に転換した。もちろん米国の事実上の属国である日本も追従する。でも中国のような老獪な国に対してそれは悪手だったんじゃないだろうか，と今にしては思えてならない。米国が「覇権主義」から手を引き始めたのは子ブッシュ政権時代から（政権を超えて）一貫している。その意味で現トランプ政権は，そうした米国の姿勢を加速しているだけとも言える。中国は独裁政治をやりすぎて陰りが出ている。英雄はやはり晩節を汚すのか？まぁ，トランプ氏は最初から晩節で既に汚しまくりだけど（笑）政治には，過去に対しても未来に対しても「もしも」はない。結果が全て。 ↩︎

List of Artificial-Intelligence [text.Baldanders.info]

技術的負債と生成 AI

ブックマーク

自律的な AI エージェントとは

ウィルス的に振る舞う AI

それは「AI の暴走」ではない

【2026-08-04 追記】 Bruce Schneier 氏の記事から

自律機械など存在しない

ブックマーク

参考図書

「ぶっちゃけ，大体 Google のせい」。

「GoogleのAI要約が検索よりマシに見えるのはなぜか」

AI は人の好奇心を削ぐか？

ブックマーク

参考

知識蒸留とモデル崩壊

知識蒸留と蒸留攻撃

知識蒸留とモデル崩壊

ブックマーク

参考

LLM は軍事技術か？

ブックマーク

参考

情報通信白書に見る AI

【メモ】 元号-西暦変換表

情報通信白書に見る AI

「AI と著作権に関する考え方について」

ブックマーク

参考

米政府は何故 Anthropic モデルを禁じたのか

ブックマーク

Ubuntu サーバで LLM 構築へ：（2）用語集

人工知能

別表記

意味，定義など

機械学習

別表記

意味，定義など

統計的機械学習

別表記

意味，定義など

ブックマーク

深層学習

別表記

意味，定義など

ブックマーク

ニューラルネットワーク

別表記

意味，定義など

生成 AI

別表記

意味，定義など

大規模言語モデル

別表記

意味，定義など

ブックマーク

トランスフォーマー

別表記

意味，定義など

ブックマーク

RAG

別表記

意味，定義など

ブックマーク

Embedding

別表記

意味，定義など

MCP

別表記

意味，定義など

AI エージェント

別表記

意味，定義など

ブックマーク

Ubuntu サーバで LLM 構築へ：（1）事前学習

アーキテクチャ

モデル選択

nomic-embed-text について

今回はここまで

最近の話題（2026-06-07）

【メモ】元号-西暦変換表