Non-Human Person としての AI — 「人間と人間でないものを分かつ一線」より

yomoyomo による魂を削る渾身の記事を元ネタに小咄をひとつ。

• 人間と人間でないものを分かつ一線、そして「エンパシー」について – WirelessWire News

これで連想したのは11年前に書いた記事：

• non-human person の「人権」

簡単に紹介すると2014年末に「アルゼンチンの裁判所でオランウータンを『人間ではない人（non-human person）』であると認める判決を下した」という話を発端にして人外の「異質の知性」についてグダグダと戯れ言を書いたもの¹。

当時の WIRED.jp の記事がまだ残ってるな。 ありがたや 🙇

アルゼンチンの控訴裁判所は12月19日（現地時間）、ブエノスアイレス動物園が所有するサンドラについて、誤って自由を奪われている「人間ではない人」（non-human person：personは「法人」にもに使われる言葉）であるとする判決を下した。

ただし、ドイツの動物園で生まれ、野生のオランウータンならまだ母親と一緒に生活している幼いころにあたる20年前にアルゼンチンに送られたサンドラには、完全な自由が与えられることはない。一生を捕らわれの身で過ごしてきたサンドラが、野生の状態で生きていける可能性は低いからだ。

代わりに、もし動物園側が、閉廷日を除く10日以内に判決に対する異議を申し立てなければ、サンドラはブラジルにある自然保護区に送られることになる。

この話には続きがあって，アメリカでもチンパンジーを non-human person と見なすよう求める訴訟があるが，これは最新の判決で否決されている。

NhRPの主張は、チンパンジーにも権利があるというものだ。チンパンジーは人間にこれほどよく似ているのだから、完全な人権とまではいかなくても、少なくともいくつかの基本的な権利を認めるべきだという主張だ。

しかし、12月4日（米国時間）に下された最新の判決は、原告側の敗訴となった。ニューヨーク州の最高裁判所は、知性や感情をもっているとはいえ、チンパンジーは権利をもつ者に期待される社会的義務を果たすことができないと結論付けたのだ。

要するに「それ」が「人（person）」であると認めるためには「人の社会」に包摂し得る権利と義務を付与する存在に価するか，という点が重要というわけだ。 人の歴史を振り返れば，たとえ生物学的には同じ「人間」の間でさえ「人の社会」に包摂し得る権利と義務を付与する存在に値せずとされた例はいくらでもある。

法的・政治的な話に踏み込むつもりはないが non-human person を巡る議論には2つの方向性があると思う。 ひとつはヒト以外の地球上の動植物を non-human person と見なしうるのか，という方向。 もうひとつはヒト以外の「異質の知性」をどうとらえるか，という方向である。 「人間と人間でないものを分かつ一線」というのは，まさに「異質の知性」をどうとらえるかという話だろう。

サンドラは non-human person なのに自由が奪われているという。 でもそれは実は逆なんじゃないのか。 ヒトの尺度で見たときにサンドラは「自由が奪われている」ように見えるだけなんじゃないのか。

「自由」というのはヒトの社会システムに於いてはじめて文脈が成立する。 「ヒトのシステムはヒトの「自由」を奪う」という前提があるからこそヒトは「自由」を希求する。

とすれば，サンドラをはじめとする「異質の知性」を non-human person と見なしてヒトのシステムに包摂しようとするのは，動物虐待と同じくらい，ヒトの傲慢なんじゃないのか。

今の人工知能は「自律機械²」ではない。 というか，この世に「自律機械」はまだ存在していない。 質問に対してどれだけウィットに富んだ知性的な回答を返したところで，それは予めそのように作られ与えられた「機能（function）」から逸脱しているわけではなく，そのやり取りを以って「これで決まりだろ。君には確かに意識がある！」と結論付けるには違和感がある。 LLM に意識があるというのなら，室内を徘徊するロボット掃除機にだって意識があることになる。 本当に？

そもそも（最初に挙げた yomoyomo さんの記事にもあるが）意識というのはあまりに主観的で，私としてはそれの有無を議論することに意義があるのかすら疑問がある。 先日書いた「AI とドーナツの穴」で「命は心は時間軸上に連続して存在するものなのか？」とか言っちゃったしな。 「意識は特定の生物学的基質ではなく情報処理である」のなら意識は離散的な存在か。

それが人であろうとなかろうと「他者」の意識の有無を測れないのであれば，やはり「自律性」で測るしかない。 「エンパシー（empathy）」とかは他者ひいては社会との関係で獲得していくもので，まさに人の自律性の最たるものだ。

問題は，機械にもそれを求めるのか？ ということだ。 それはやはり「動物虐待と同じくらい，ヒトの傲慢」なんじゃないのか？ 機械が（人には測れない）独自の「自律性」を有したとき，そこに人類社会は必要なのだろうか？ そういったことを頭の隅に置いて「人間と人間でないものを分かつ一線、そして「エンパシー」について」の後半を読むと面白いかもしれない。

というわけで，今期アニメ「アポカリプスホテル」は必見である（笑）

参考図書