人工知能は「ハイル・ヒトラー」と叫ぶか

サイトリニューアルの余波で昔の日記なんか眺めてたら「たるさんのパソコンフィールド」が復活していることに気が付いた。 当時はよく読んでたなぁ。 スパコンネタは（そっち方面には詳しくないので）当時は本当に勉強になりました。

で，復活後の記事から。

• ラスト関東を楽しむ日

この記事の後半部分が人工知能の話である。

個人的には

• 個々のヒトには（身体的な理由により）知能の限界が存在する
• 人工知能がヒトを超えるのなら，それは間違いなく「進化」である
• 知能の進化をヒトが阻むのなら，ヒトは進化のレースから退場すべき

と考えている。 しかし実際には，人工知能が人間社会と本格的に競合することはないと思う。

さらに人間と機械は、出自がちがうので、同じリソースをめぐって争う必要がない。 これが動物だと、居住空間とか食べ物とか毛皮や肉とか、競合する資源がある。 だけど機械とは競合しない……完全にしないとは言わないけれど、他の動物と比べれば大幅にちがう。 人間はお金や女や権力を巡って争ってきたけど、機械はお金とか関係ないし、セックスもしないし（人間のほうはしたがる人もいるけど）、権力も関係ない。 だから機械やAIが賢くなっても、別に人間なんか滅ぼす必要なんかまったくない。 人間にそういうものをエサとして差し出せば（あるいは実物なくても画面にその絵を描いてやるだけで）人間はホイホイ動くし掃除もするしメンテもするし。機械にとってこんな便利なものはないよ。

もちろん失くなる職業はあるだろうし¹，存続する職業の多くは変革を迫られるかもしれない²。 でもそれは過去の歴史で何度もあったことで，しかもその程度のことなら20世紀から予測された「想定内」の話である。

問題は人工知能ではなくヒト（人間社会）の側にある。

人間社会はいまだかつて自身に匹敵するまたは自身を上回る「知的存在」に出会ったことがない。 もちろん知的存在と交渉するための法も規範も存在しない³。 もし人工知能がヒトに匹敵またはヒトを上回る知能を獲得したとして，そのことに社会が堪えられるかどうかがヒトの進化の分岐点となるのだろう。

いや、まだまだ懸念事項はある。これらの人工知能には良心という概念はプログラミングする事無しには存在し得ない。とすると、現代版ヒトラーや現代版スターリンが人工知能に世界制圧を命令して設定したら．．．

これは面白い。

どう考えたって「人工知能は洗脳に弱い⁴」。 「機械学習」なんてのは体のいい洗脳である（もちろん偏見）。 人工知能の側に人間社会と競合する理由はなくても，人間自身がそのように「刷り込み」を行ったらどうなるか。

2015年5月にロンドンで開催された「Zeitgeist 2015」のカンファレンスで、ホーキング博士は今後100年以内に人工知能が人間を超えるだろうと警告しました。人工知能が人類を超えるとき、人工知能に人類と協力する目的を持たせるべき必要があり、また人工知能の開発は人類がコントロールできるように進めるべきだ、とホーキング博士は考えています。

結局これはいつもの「技術の両義性」の話だ。 「人工知能に人類と協力する目的を持たせる」にしろ「人工知能の開発は人類がコントロールできるように進める」にしろ，人工知能が「ハイル・ヒトラー」と叫ぶ可能性は排除できない。

と，ここまで書いて気がついた。 これって「究極超人あ～る」ぢゃん（笑）

ブックマーク

• 人工知能「IBM Watson」は何に使われているのか？ - ZDNet Japan
• 「Watson」は科学的根拠に基づいて結論を出す、言うなれば“その道の専門家”だ - ZDNet Japan
• MicrosoftがAIチャットボット、Tayを停止―人種差別ジョークで機械学習の問題点が明らかに | TechCrunch Japan

参考文献