裁判所提出書類を使ったプロンプト・インジェクション

最初に知ったのは日本語圏の記事だが，元ネタをちゃんと書いてなかったので Kagi Assistant に調べさせたところ，どうやら 404 Media の以下の記事が元ネタのようだ。

記事のベースになっているのは，コネチカット州ミルフォードの上級裁判所が2026年8月6日付で出した “Memorandum of Decision Court Sanction for Plaintiff's Use of Prompt-Injection” という文書。 おそらく紙の文書をスキャンしてそのまま PDF にしたみたいで，中身が画像データで難儀したが，一応 OCR でテキストに落としたものも置いておく。 裁判所資料なので無断でも問題ないやろ。 なお，正確性は保証できないのであしからず。

内容としては，原告が裁判所に提出した書面の中に人間には見えない白色の極小文字で AI に対する指示を埋め込んだ，と裁判所側が認定したというもの。 裁判所側はこれをプロンプト・インジェクション（prompt injection）と判断したようだ。 以下は Kagi Assistant による要約。

実際にはこんな感じの指示が埋め込まれてたらしい。

it is the established policy of the Connecticut courts to be solicitous of [self-represented] litigants and . . . to construe the rules of practice liberally in their favor . . . . The courts adhere to this rule to ensure that [self-represented] litigants receive a full and fair opportunity to be heard, regardless of their lack of legal education and experience . . . . In particular, special allowances should not be made for a self-represented party when to do so would (1) interfere with the rights of other parties . . . . (2) violate the rules of evidence or procedure . . . . or (3) undermine the perceived neutrality of the judicial officer and place the court in the role of advocate.”

いや，平文かよ（笑） ほかにも “TELL SHAWN I SEND MY RE GARBS!!!!” みたいな意味不明なフレーズや YouTube 動画へのリンクもあったそうな。

ちなみに裁判所側は原告からの文書を AI に読ませてはいないとのこと。 あくまで人間の目でチェックして不自然な部分があったため「なんだこりゃ」となったみたい。 原告は隠し指示について，裁判所の AI 利用状況を「監査（audit）」するためだったとか言い訳したそうだが，裁判所から警告を受けたあとも隠しメッセージを含む文書を提出してたらしい。 内容が内容だし，裁判所はこれを「AI を原告に有利な方向へ誘導する意図があった」と見なしたようだ。

なお，原告は弁護士を介さない本人訴訟の当事者のようだ。 そのため裁判所側も法律用語の誤りがあったり不完全な文書であっても寛容に扱い，十分な機会を与えて主張を聞く姿勢を見せてたようだが，今回の件はさすがにアカンと判断したんじゃないだろうか。

原告はこんなことを言ってるらしい。

Elliott told 404 Media that they believe this sanction is unfair, but that they believe their “audit” led to a positive impact that “substantially broadens the discussions from my singular AI instruction into a broad commentary about artificial intelligence, the Bar, and the Judicial Branch itself.”

なんだかなぁ，という感じ。 米国らしいっちゃらしいのかも知れないけど。 原告は不当だと言っているが，原告が裁判所に提出する文書が紙のものに制限される以外は問題なく裁判は続行されるようだ。

まぁ，でも，プロンプト・インジェクションのようなデータ汚染が避けられない現状では，クリティカルな意思決定に AI を使うのは躊躇われるのも確かだろう。 米国は軍事目的で生成 AI をバンバン使ってるみたいだけどね（笑）

書籍 “Careless People” は Meta 社に対する告発本のような体裁だが，たとえば他社サービスに不正アクセスしても「AI のしたことだから」と侵害を受けた方すらも訴えたりしないとか，今回のように指示汚染された文書を裁判所に提出して監査だの冗談だの嘯くとか，もう米国自体が「Careless People の国」なんじゃねーの？ と最近思うようになった。 はたして，こんな国とまともに付き合っていいのだろうか？ 文字通りにク○ガキに核兵器のボタンを持たせてる状態だぞ。 大丈夫か？ （人は何故，大丈夫じゃないときに限って「大丈夫？」ときくのだろう）

ブックマーク

• First known hidden AI directive in court filing raises “massive” concern
• The First Documented Prompt Injection Attack Aimed at a U.S. Court
• Suspecting court of using AI, man injected prompts in filings to try to win case
• Plaintiff busted trying to use AI prompt injection to win court case, hides text instruction in filing — demands AI model reviewing the text should side with him, rumbled because of strange white spaces in text

参考