「部分の最善」と「合成の誤謬」

http://www.biodesign-japan.com/wp-content/uploads/sites/1887/2017/12/header20171214165418_029523675.jpghttp://www.biodesign-japan.com/wp-content/uploads/sites/1887/2017/12/header20171214165418_102178266.jpg
A Iとロボットの話題を続けます。
将棋や囲碁の対戦相手、マルチリンガルの高性能通訳、車両の自動運転装置、医師の診断サポート、人命救助ロボット等に使われるなら安心ですが‥‥。
行く手に待つ「地獄の門」として、最悪の使い道は戦争やテロの殺戮兵器です。SF映画のような空想の世界ではなく、かなりの確率で現実化する恐れがあります。何故ならば、軍需用途には最大の「メイクマネーの力」があり、研究開発資金の供給源になり得るからです。
鉄腕アトムやドラえもんに親しみを持つ日本人には、心配し過ぎと思われるかもしれません。しかし残念ながら、「現実の世界」を動かしている仕組みはこのようなものです。
国家の指導者は「国全体の富を増やし、国民の生命と財産を守ること」、企業の経営者は「利潤を最大化し、ステークホルダー及び国民の暮らしを豊かにすること」、大学や研究機関は「最先端の研究開発で世界のトップランナーになること」、研究者個人は「多額の助成金を集め、研究成果の論文化と知財権確保により、名誉あるステータスを獲得すること」に最善を尽くします。
どの参画者にも、誰にも咎めだてされない大義名分があります。それでも結果的には「合成の誤謬」が生じます。
科学の目的は「真理の探究」であり、故に「価値中立性」を是とすると言われています。「使われ方の善悪」は、一切問われないある種の免罪符を意味するようです。非人道的な核兵器が使用されても、相対性理論と原子核物理学に何ら責任はないとのロジックには、何となく違和感を感じます。
自らの私財を投げ打って「真理の探究」に勤しむならまだしも、国民の税金を使った研究において「価値中立性」などあり得ません。科学の世界以外では通用するはずのない古ぼけた神話のように思えてきます。
A Iロボットが、人間が設定したルールの範囲内で制御できている間は、何とかなるかもしれません。悪夢は、コンピュータ自身が勝手にルールを作り出し、自律的な判断や行動を始めるまでに進化(暴走?)した時に訪れます。
原発事故で聞かされた「想定外」という言葉を再び繰り返すことがなければいいのですが‥‥。A Iの行く末において、「神の領域」には足を踏み入れず、「人間の領域」にとどまってくれることを願うばかりです。

「Owl in Green」の制作も佳境に入りましたので、次回からはアナログを楽しむ「花鳥風月の世界」に戻らせていただきます。