人工知能とロボット工学三原則

By | 2016年3月30日

ミステリーの道具としての三原則

アシモフが作品の中で提唱した「ロボット工学三原則(wikipedia)」はSFにあまり興味がない人にもよく知られています。これはロボットが人間に危害を与えないように行動を制限する仕組みで、実用的な仕組みと思われがちです。

第一条
ロボットは人間に危害を加えてはならない。また、その危険を看過することによって、人間に危害を及ぼしてはならない。
第二条
ロボットは人間にあたえられた命令に服従しなければならない。ただし、あたえられた命令が、第一条に反する場合は、この限りでない。
第三条
ロボットは、前掲第一条および第二条に反するおそれのないかぎり、自己をまもらなければならない。

しかし小説を読むと穴だらけで、あまり機能していません。この原則のせいでバグったロボットがたくさんでてきます(でないとミステリー小説としてのネタにならないというのもありますが)。
なので個人的にはロボット工学三原則はミステリーの道具または問題定義の道具と考えています。

人間の定義

アシモフのロボットシリーズはたくさん読んだのですが、昔のことなので記憶が曖昧。印象に残っている物語のあらすじ(以下の引用部分)があるのですが、Googleで調べてもタイトルがわかりません。アシモフの短編集の中にあったと思うのですが…。とりあえずポイントは「人間以外は攻撃対象」そして「人間と証明するのは難しい」ということだった気がします。

どこかの惑星探査において、主人公がが何らかのトラブルでベースキャンプに帰投できず死亡扱い?となる。主人公がクルーのリスト?から削除される。しかし実際は生きていてベースキャンプに戻ってくる。しかし警備ロボットに威嚇され敷地内に入れてもらえない。原因はクルーリストから外れたので人間と認識されていないため。人間と見なされないため敷地内に入ると殺しに掛かってくる!。「じゃぁ俺は何だ」「宇宙人が人間に化けているのでしょ?」みたいな会話。なんらかの「とんち」で無事ベースキャンプに入れる。

どうやってロボットを説得したかも覚えていないのですよね…。何というタイトルなんだろう…。

人工知能の登場

短編集で「ロボット工学三原則」がからむ作品では、単純な作業ロボットしか登場しなかった気がします。とはいえ高度な知能をもったロボットも登場するのですが、その場合は三原則がテーマではなく「人間とは?」のような哲学的なテーマがメインになることが多かった気がします。映画化されたアンドリューNDR114(原題:Bicentennial Man)のように。

人工知能とロボット工学三原則

アシモフの晩年の長編作品では人工知能がロボット工学三原則を修正します。以下のように第零条が追加され、第一条が修正されました。これによって、人工知能は人間に危害を与えることも(ある程度)可能となりました。

第零条
ロボットは人類に危害を加えてはならない。また、その危険を看過することによって、人類に危害を及ぼしてはならない。
第一条
ロボットは人間に危害を加えてはならない。また、その危険を看過することによって、人間に危害を及ぼしてはならない。ただし、第零条に反する場合は、この限りでない
※第二条と第三条は変更無し

しかし「本当に人類に危害があるかどうか?」を判断するのは難しく、人工知能の1体は人間に危害(記憶削除)を与えた後に「それが本当に人類のためか?」に確信が持てず機能停止してしまいます。このあたりはロボットシリーズの最終作「ロボットと帝国(wikipedia)」で語られています。

残りの1体は、それ(人類のためか?)を定量的に判断するために「ファウンデーションシリーズ」のキーとなる「心理歴史学(wikipedia)」を研究している人間をフォローしていくことになります。ここでアシモフの2つの世界(ロボットシリーズとファウンデーションシリーズ)が見事に融合したのです。

昔の私はアシモフについて、格別好きというわけではありませんでした。しかし後期ファウンデーションシリーズやロボットシリーズ最終作で、前述のようにロボットシリーズとファウンデーションシリーズが(後付けなのに)矛盾無く融合したことによって、もっとも好きなSF作家となりました。以下の作品は後期ファウンデーションシリーズ(1982〜)で、前期ファウンデーションシリーズ(1953年完結)から30年も後に執筆されました。ロボットシリーズ最終作は1985年
というかAmazonに中古しかないのだけど…。それほど古い作品ではないのに…。

その他

アシモフの作品では、高度な人工知能が「どのように誕生」したか記述されることはなかったと思う。漫画なら「雷の直撃を受けたことがきっかけで」とか記述があるものなのに。

アシモフではないけれど有名な「月は無慈悲な夜の女王(wikipedia)」で月の独立を助けた人工知能も、なぜ知性を獲得したかの描写はなかった。それを説明するのは蛇足なのだろうか?


コメントを残す

メールアドレスが公開されることはありません。 * が付いている欄は必須項目です

Time limit is exhausted. Please reload the CAPTCHA.