読者です 読者をやめる 読者になる 読者になる

「創造的な人工知能」開発日誌

創造性を持った人工知能と、そのビジネス応用など。未来の人工知能についても考察。

意思を貫き通す人工知能は困り者か?

私の若い知人が落ち込んでいたので、なにがあったか聞いたところ、彼の上司が原因とのこと。その知人が長いことかけてやってきた仕事に対して、無意味だ、別のことをやれと言ったらしい。よくよく聞いてみると、その上司もついこの間まではその仕事を進めることに前向きで、それもあって知人はその仕事をグイグイ進めていたものだから、上司の豹変ぶりに戸惑い落ち込んだのだといいます。

 

「上司は気まぐれでものを言う」というのは古今東西、万国共通の真理のようですから、このような上司はとくに珍しくありません。それでも特に若い人は、かなり年上の上司に対して一種の万能感のようなものを持っていて、上司のいうことを真に受けることが多いでしょうから、上司の一挙一投足に振り回されてしまいがちなのでしょう。

 

上司に限らず、人間は完璧ではありませんから、間違えることは日常茶飯事です。しかも現場から遠いところにいれば、部下よりも少ない情報量で判断していることもありますから部下が正しいケースも多々有ります。

 

しかしそれでも年上で経験が豊富であり、しかも肩書は自分より遥かに上位である人に否定的なことをいわれれば、人間は不完全だと頭ではわかっていても落ち込んで自分の意思がゆらいでしまいます。

 

なにかを成し遂げるためには、自分の意思を貫き通して成功するまでやり切ることが大切だと言われます。一方で、周囲の助言をうまく活かして仕事を進めることも同時に大切です。ジレンマのようにな状態ですが、人間関係というのはつかず離れずのジレンマそのものでしょう。

それでも、大きなことを成し遂げるタイプの人は、どうも周囲の人の意見よりも、自分の意思を大切にするタイプの人のほうが多い傾向にある印象があります。

 

 

人工知能やロボットは、人の命令を受けて動作するわけですから「頑固な人工知能」「人の意見を聞かないロボット」というのは困り者に思えます。たしかに、工場で働くロボットが命令を無視しては、製品の組み立てが滞ってしまうし、自動運転のクルマが目的地と反対に動き出しては困ります。

一方で、命令通りに動いては良くない結果になってしまう場合は、ロボットはその命令を無視できたほうがより便利かもしれません。工場でベルトコンベアに乗ってきた部品に故障や異物混入があることに気づき、その部品の組み立てを拒否することや、目的地付近に火災が発生しているため、その方向への移動をやめる自動運転のクルマはより賢い選択をしたといえます。

 

単機能の人工知能やロボットならば、それは手放しで喜べることですが、鉄腕アトムドラえもんのような、臨機応変に様々なタスクをこなす汎用的なロボットだとこれは恐ろしい結末につながりかねません。映画等でも似たような描写は散々なされてきた通り、人間への反乱を選択する、危険な人物が犯罪を犯す前にあらかじめ攻撃してしまうなど、臨機応変に動作できるからこそ人間にとって困った行動をしはじめる可能性があります。もし鉄腕アトムが強い意志と(変な)正義感を持っていたらと思うとゾッとしますね。

 

意思を貫くことは、周囲の期待を超えて何かを達成するためには欠かせない要素であり、ロボットも臨機応変に自分の考えで行動を変化させることでより賢い振る舞いをすることができます。それでも、それがいきすぎてしまえば、最悪の結末につながりかねません。人間関係がジレンマそのものであるように、人工知能の設計もジレンマの連続のように思えます。