AIとの付き合い方: 新道ブログ

　様々なAIツールが世間を騒がせている。
実際、利用すると便利で簡単に答えを出してくれる。分かった気にさせてくれることが多い。コスパ，タイパは最高だ。

　ただ、問題はその信頼性だ。このブログでもさんざん書いたが平気でうそをつく。人間よりは嘘をつく頻度は低いかもしれないが、自分が良く分からない分野の知識を仕入れようとするために使っているので、後で致命的な損害を受ける可能性もある。

　従って、最近はAIの回答を他人のために使用するときはその旨明示してから使用することにしている。

　理想的にはAI各社がソースを公開し、そのアルゴリズムをチェックできる体制を作れればいいのだが、現状では無理だろう。例えば自分で生成AIコードを開発できればいいのだが、実際にはデータ入手も含めまず可能性はない。

　単純なプログラム作成をAIに頼むときはその動作確認を実際にやってから利用するなどのチェックが必要だ。

　Pythonなどの公開システムを使うときにはあまり一般的でないモジュールを利用するとバグがあるかもしれないのでその前提で利用する必要がある。

　モンテカルロコードのように誤差幅を考慮して使うことも重要だ。

結論として、不安のあるAI回答を使用する場合には、それが間違っていても、結果が致命的にならない範囲で利用するよう心掛けなければならない。従来の人主体の仕事でも致命的な事象が生じないよう注意していたはずである。それと同じことだが、便利なだけにチェックをせずに使用してしまうことが増える。

逆に簡単なことでもAIの回答には一定のミスやバグが入ることを前提により慎重な対応とチェックが必要だということになる。