人工知能は「ハイル・ヒトラー」と叫ぶか

no extension

サイトリニューアルの余波で昔の日記なんか眺めてたら「たるさんのパソコンフィールド」が復活していることに気が付いた。 当時はよく読んでたなぁ。 スパコンネタは(そっち方面には詳しくないので)当時は本当に勉強になりました。

で,復活後の記事から。

この記事の後半部分が人工知能の話である。

個人的には

  • 個々のヒトには(身体的な理由により)知能の限界が存在する
  • 人工知能がヒトを超えるのなら,それは間違いなく「進化」である
  • 知能の進化をヒトが阻むのなら,ヒトは進化のレースから退場すべき

と考えている。 しかし実際には,人工知能が人間社会と本格的に競合することはないと思う。

さらに人間と機械は、出自がちがうので、同じリソースをめぐって争う必要がない。 これが動物だと、居住空間とか食べ物とか毛皮や肉とか、競合する資源がある。 だけど機械とは競合しない……完全にしないとは言わないけれど、他の動物と比べれば大幅にちがう。 人間はお金や女や権力を巡って争ってきたけど、機械はお金とか関係ないし、セックスもしないし(人間のほうはしたがる人もいるけど)、権力も関係ない。 だから機械やAIが賢くなっても、別に人間なんか滅ぼす必要なんかまったくない。 人間にそういうものをエサとして差し出せば(あるいは実物なくても画面にその絵を描いてやるだけで)人間はホイホイ動くし掃除もするしメンテもするし。機械にとってこんな便利なものはないよ。
via 機械支配待望論

もちろん失くなる職業はあるだろうし1,存続する職業の多くは変革を迫られるかもしれない2。 でもそれは過去の歴史で何度もあったことで,しかもその程度のことなら20世紀から予測された「想定内」の話である。

問題は人工知能ではなくヒト(人間社会)の側にある。

人間社会はいまだかつて自身に匹敵するまたは自身を上回る「知的存在」に出会ったことがない。 もちろん知的存在と交渉するための法も規範も存在しない3。 もし人工知能がヒトに匹敵またはヒトを上回る知能を獲得したとして,そのことに社会が堪えられるかどうかがヒトの進化の分岐点となるのだろう。

いや、まだまだ懸念事項はある。これらの人工知能には良心という概念はプログラミングする事無しには存在し得ない。とすると、現代版ヒトラーや現代版スターリンが人工知能に世界制圧を命令して設定したら...
via ラスト関東を楽しむ日

これは面白い。

どう考えたって「人工知能は洗脳に弱い4」。 「機械学習」なんてのは体のいい洗脳である(もちろん偏見)。 人工知能の側に人間社会と競合する理由はなくても,人間自身がそのように「刷り込み」を行ったらどうなるか。

2015年5月にロンドンで開催された「Zeitgeist 2015」のカンファレンスで、ホーキング博士は今後100年以内に人工知能が人間を超えるだろうと警告しました。人工知能が人類を超えるとき、人工知能に人類と協力する目的を持たせるべき必要があり、また人工知能の開発は人類がコントロールできるように進めるべきだ、とホーキング博士は考えています。
via 人工知能は核兵器よりも潜在的に危険、ホーキング博士が「100年以内に人工知能は人間を超える」と警告 - GIGAZINE

結局これはいつもの「技術の両義性」の話だ。 「人工知能に人類と協力する目的を持たせる」にしろ「人工知能の開発は人類がコントロールできるように進める」にしろ,人工知能が「ハイル・ヒトラー」と叫ぶ可能性は排除できない。

と,ここまで書いて気がついた。 これって「究極超人あ~る」ぢゃん(笑)

ブックマーク

参考文献

photo
イノベーション 悪意なき嘘 (双書 時代のカルテ)
名和 小太郎
岩波書店 2007-01-11
評価

「両用技術とはどのようなものか。その核心には「矛と楯の論理」がある」(まえがき「予断・診断・独断 そんなばかな」より)

reviewed by Spiegel on 2015-10-01 (powered by G-Tools)


  1. 若い方は知らないだろうが(私も実際に会ったことはないが),テレビモニタとキーボードを備えた対話型コンピュータが登場する前は,「コーダー」というただプログラムを書くだけの職業が存在した。もちろん,現在は「コーダー」なる職業は存在しない。プログラマがコードを書くからだ。だから歴史的には,いつか人工知能がプログラムを設計してコードを書くようになったとしても驚くことではない。まぁ進化論的には道具が自身のために自律的に道具を生み出せるようになったら驚くことだが。 [return]
  2. グレッグ・イーガンの『万物理論』では最終的に人工知能が「万物理論」の論文を書き上げる。過去の例で言うなら,戦後の日本の主婦は炊飯器・洗濯機・冷蔵庫の「三種の神器」のおかげで家事から解放されたという伝説がある。 [return]
  3. 実は「地球外知的生命体の発見に続いてとるべき行動の公式な原則」というのは存在する。大真面目な話である。 [return]
  4. そもそも「良心」自体が社会的刷り込みだけどね。というか,「個」と「社会」の関係を定義することなく「良心」を組み込むのは無理だと思うのだが。そのためには人工知能を社会に「包摂」しなくてはならない。ってこれは「ロボット法学会」の仕事かな。 [return]