AIの暴走を止められないのはプリウスの暴走を止められないのと同じことでは: 新道ブログ

　AIの暴走というのは、結局計算機のアルゴリズムが人間の制御の手が及ばず勝手に様々な機器を動かし、人間に危害を及ぼすようになることであるが、こんなことは今までもたくさん経験している。
　
　私の個人的な経験では、所有していたプリウスが暴走しかかったことである。この話は以前2022年08月01日のブログで詳しく経緯を書いた。簡単に言えば、10年ほど経ってブレーキやアイドリングの劣化が進んだのに、プリウスに内蔵ざれていたマイクロチップに書き込まれたプログラムは劣化した機械性能に対応できず、その結果、アイドリングレベルがうまく制御できず、ブレーキから足を離した瞬間にアイドリングレベルが下がらずに速度が出すぎることであった。

　即ち、このプリウスに内蔵されたチップはプログラムを含んでいるのでAIなのだが、それが車に組み込まれて劣化した車を制御できずに暴走しかかったのである。

　AIの暴走にはもっと頻繁に起こるパソコンの熱暴走のような現象も含まれるが、これも火事の原因になる。

　ただ、マスコミで漠然と言われている恐怖の対象は、もう少し分かりにくい。AIの言いなりになった人間がAIの言うことを信じて間違った判断や戦争、社会不安を起こしたり、或いはAIの制御は正しいものだと信じて、AIの組み込まれた機械、兵器の暴走を許すことだろう。

　そんなAIが間違った結果やトラブルを生じる結果を起こすことは、半世紀前から自分が作成していたプログラムであれ、様々な権威ある社会システムを動かしているプログラムであれ、列挙すれば何万も生じている。最近の複雑化したＡＩはその原因がＮＥＸＣＯ中日本のＥＴＣシステムのように分かりにくくなっており、結果とＡＩの内部で行われているアルゴリズムの実行内容との因果関係が人間には殆ど見えなくなっていることである。この不透明感が恐怖を呼び起こしているだけである。

　とはいえ、勝手にＡＩが判断し、その結果を信じざるを得ないとすれば確かにＡＩは怖いと思うだろう。私が暴走しかかったプリウスを即座に手放した心理と同じである。

　では、どうすればいいか。そのような不透明なアルゴリズムを含むチップは排除することである。プリウスを捨てるのと同じ対策である。

　米国では中国製のチップを含む制御機器を原子力発電所から排除した。これは30年前のことである。チップに含まれるプログラムの中が見えないし、確認の方法がないのだから、人間に危害を生じる可能性のある道具にはそのようなＡＩやチップは関与させてはいけないのである。

　ただ、それが100％排除できるかと言えば不可能だろう。これは自然災害に100％安全な対策ができないのと同じだが、車を100％排除できないことを許容している現代社会は、車であれＡＩ搭載機械であれ、暴走事故を100％排除できないことを許容していることになる。

　このような暴走事故をこれまでの経験から可能な限り低くするより方法はない。そのよい例が中国製のチップを含む制御機器を原子力プラントから排除したことにみられるのである。