AI の危険度

今朝の日経にAIに関する”規制”の記事あり、読みましたか？

これを読む限り、真の危険性について理解が進んでいないことが分かります。

AIが一度走り出すと（そのようなプログラムがあると）、”ヒト”が緊急停止ボタンを先に押さない限り、または、電源を抜かない限り誰もその暴走を止めることが出来ません。仮に「暴走するようなプログラムを採用しては駄目」と規定しても、誰がそれをチェックして、安全なプログラムに変更できるのでしょうか？モラルしか頼りになりません。私はAIの開発を否定しているのではありません。先ず、AIを制御する（暴走しない）方法を開発し、それが確実に機能することを確認してから、全てのAI搭載機器にその機能を必ず付与することを条件に開発を認めるべきだと考えています。許認可という役所の発想では絶対にダメです。

2016.12.31

dosankojj