AI の危険度

今朝の日経にAIに関する”規制”の記事あり、読みましたか？

これを読む限り、真の危険性について理解が進んでいないことが分かります。

AIが一度走り出すと（そのようなプログラムがあると）、”ヒト”が緊急停止ボタンを先に押さない限り、または、電源を抜かない限り誰もその暴走を止めることが出来ません。仮に「暴走するようなプログラムを採用しては駄目」と規定しても、誰がそれをチェックして、安全なプログラムに変更できるのでしょうか？モラルしか頼りになりません。私はAIの開発を否定しているのではありません。先ず、AIを制御する（暴走しない）方法を開発し、それが確実に機能することを確認してから、全てのAI搭載機器にその機能を必ず付与することを条件に開発を認めるべきだと考えています。許認可という役所の発想では絶対にダメです。

2016.12.31

dosankojj

AI って人を駄目にするのでは？

毎日、嫌になるほどAIの記事が多いが、本当にAIが人類をどれだけ豊かにしてくれるか疑問に思っています。何も考えない、調査能力、運動能力、知識を組み合わせる能力等が次第になくなり、遂には”考える葦”でなくなることが心配です。ＣＰＵが発達したために計算が出来なくなり、数字という本質（例：有効数字の考え方）を知らないで数字を振り回す人間が多くなっているのと同じ現象が出てくるでしょうね。

次回からもう少し詳しく議論していきます。

2016.12.30

DosankoJJ