【32】スカイネットの現実

　第一条
　　ロボットは人間に危害を加えてはならない。
　　また、その危険を看過することによって、人間に危害を加えてはならない。
　第二条
　　ロボットは人間に与えられた命令に服従しなければならない。
　　ただし、与えられた命令が、第一条に反する場合はこの限りではない。
　第三条
　　ロボットは前掲第一条および第二条に反する恐れの無い限り、
　　自己を守らなければならない。
　　　　　　　　　（ロボット工学ハンドブック第56版、西暦2058年）

　SF作家アイザック・アジモフが提唱した『ロボット工学の三原則』である。
　既に多くの専門家がその内容を研究しており、ロボットに限らず家電製品にまであてはまるという話もされているようだ。今さらここでその内容に深入りする必要はないであろう。
　確かに『ロボット』を『機械』に置き換えることで、提唱者の設定意図を現代社会の一般通念に適用することができそうである。

　私は、これでは足りないと思う。
　これらを遵守した機械たちは、人間を弱らせ得る。そこに歯止めをかけたい。

　だが、機械たちに責任はない。
　ここが難しいところで、上記の条項の流れに沿った形でそれを追加できないのである。

　人間が自己の思考と行動に対する責任を放棄して、最低限自らすべきことにまで怠け心を起こしたり、自己観察に基づく向上心を失ったりした時に、機械の利便性が裏目に出るのだ。
　もしその利便性が人間の自律を乱し、創造性や生産性を奪うなら、いかにユーザーの要望が強くとも製造者はその機械を作るべきではない。どうせやるなら、創造性・生産性を維持・向上する方策まで意地でも織り込むのが機械屋のプライドというものであろう。

　私は『お客様の声こそ世の真理』という方向性のスローガンを掲げる製造者を信用しない。
　世のため人のためとは何なのか、そこにおのれの生産力がどう働くべきと考えるかが技術の心だと思う。

　『お客様の御要望』を言い訳にその時その場の利益だけ貪ろうとする製造者は、既に機械との付き合い方を見失い、機械に操られているように見える。欲に目がくらんで、自ら発明した『錬金ロボット』の下僕になってしまったマッド・サイエンティストのようなものだ。

　映画『ターミネーター2』では、『スカイネット』と呼ばれるグローバル・コンピューター・ネットワークが自我に目覚めて反乱を起こした。1980年代の文明暴走イメージが何と単純でわかりやすいことか。
　機械たちの反乱は、既にSFより深いところで進行中なのかも知れない。