AIにビビりすぎる必要はないみたい 〜Don't fear superintelligent AI〜
今回はこのTED talkについて話してみようと思います。
医療とはあまり関係ないですけど…
あまん氏(buddhobhagavan)のツイートをみた去年くらいの僕は、恐怖に駆られて片っ端から本を読み漁りました。
そのツイートはこちらです。
https://twitter.com/buddhobhagavan/status/785484999579406336
"機械知能研究所MIRIのネイトソアーズ他 「何度計算しても人間を凌駕した人工知能から人類を救える可能性は5%程度」 「人間を物質の集合体として見なすはずで彼らにとって有用な存在に作り替えようとするのが合理的」 「最終的に人間はAIから裏庭のバクテリア程度の興味しか持たれなくなる」"あまん (@buddhobhagavan)
色々な本を読んで、多くの話を聞いた中でこのTED talkが一番心に残ったので紹介させていただきます。
同じ悩みを持つ方の一助になったら嬉しいです。
人工知能には「強い」ものと「弱い」ものがあります。
「強い」AIは、鉄腕アトムのように色々な作業を行うことができ、僕たちのように思考できる知性のことです。
一方、「弱い」AIは、汎用性が低く、Alpha Goのように一つの用途にしか使えない知性のことを言います。
今回、tweetやTED talkで話されていることは「強い」AIが人間を支配する危険性についてです。
正直に行って、医用人工知能が出て仕事なくなる可能性は十分にありますし、強いAIについても時間の問題です。
それを悲観的に捉えるか楽観的に捉えるかが一番重要だと僕は思っています。
Nick Bostromを初めとして、Elon Musk、先日亡くなったStephen Hawkingら著名な方が警鐘を鳴らす声が大きく、不安になる人は本当に多いと思います。
僕もその一人でした。
彼らに対しての反対意見がこのTED talkです。
Grady Booch氏の主張を少しまとめると、
我々は人工知能に何かものを教える時には知識だけでなく、価値観(Grand truth)も教育している。だから、AIは信頼にたる存在になりえる。
そもそもAIの管理できる範囲は非常に狭く、HALのように人間の生死を左右するほどのことはできない。
AIより違法団体の悪質な使用に注意すべきだ。
ぐらいになります。
AIの実行能力がないことを"Superknowing is different than superdoing"と彼は仰っていますが、この言葉が一番心に残りました。
やらなあかん！！となる言葉です。
知識は比較的手軽に入手できる今、AIに駆逐される人間とそうでない人間を分けるのは
行動力
じゃないでしょうか？？
じゃあ、GW期間も頑張っていきましょう！！
