アイザック・アシモフ｢われはロボット｣

あらまし

　ロボットは人間に危害を加えてはならない。人間の命令に服従しなければならない…これらロボット工学三原則には、すべてのロボットがかならず従うはずだった。この三原則の第一条を改変した事件にロボット心理学者キャルヴィンが挑む「迷子のロボット」をはじめ、少女グローリアの最愛の友である子守り用ロボットのロビイ、ひとの心を読むロボットのハービイなど、ロボット工学三原則を創案した巨匠が描くロボット開発史。（文庫本裏表紙より）

リンク

よみおえて、おもうこと

　雑感･私見レビュー:★星１　

《以下、ネタバレを含みます。ご注意ください。》

　本書は、ロボットやAIなどについて、基本の考えの整理をその実際を通して、身につけることができ、とてもためになります。それゆえに、いろいろ疑問も生まれます（回答不能）し、想像を拡げる楽しみにもなります。以下、その一例（今だからなのでしょうが、このようなサイバー的な関連性への言及があまりないので、やや物足りないところがあります）です。

・ロボットやマシンといった知性が、あらゆる自然や社会問題を克服しても、人間が身体をもつことでつきまとう、生物として不可避の生老病死というリアルの世界の問題対処はどうするのだろうか？

・とても選択できない、人間の突飛な思い付きやヒラメキ、ハッタリやきまぐれ、さらにそれらを行動に移す勇気や覚悟、信じる気持ちへの対処はどうするのだろうか？

　さて、以下は、本書で示された、試作ロボットなどのトラブルやエラーとその対処の例です。

・スピーディ：危険を伴う作業により電子頭脳に変調をきたしたが、人命の危険を察知させることで、復調させた。

・キューティ：創造主（エネルギー変換器）とその預言者を語り、服従を拒むという変調をきたしたが、それは人間を危害からまもることだったことが明らかとなった。

・デイブ：非常時での自律性への過負荷により変調をきたしていたが、サブロボットを毀すことで、その問題を解決した。

・ハービィ：人の希望や感情を読み取り、傷つけないよう、忖度する変調に対して、問題の回答を望む人間に応えることが、人間の自尊心を傷つける、応えなければ期待を裏切るというジレンマを与え自壊させた。

・ネスター10号：自分より劣る人間に支配され、悪罵を浴びせられ、怒りを覚えたことで、人間に危害を与えかねない変調に対して、そのロボットにとって屈辱的とも思える教育を顕在化するテストによって、他の同種ロボットとの区分けを行い、廃棄した。

・マシン：マシン不要者を排除する変調に対して、マシンは、マシン破壊による経済混乱の回避などすることで、人間の究極的幸福・未来へと導いていることが、明らかとなった。

（2020.10）