頭脳が賢くなくても物理的には十分に脅威になる

前の記事で取り上げた「数学者→専業主婦→AI研究者」。私が研究で伝えたい“違和感”という文章から引用します。

AIは万能ではない （中略）

いずれは人類の知能を抜き、私たちはコンピューターに支配される。シンギュラリティや現在の仕事を失うことを本気で論じる人が目立つようになりました。

これは違和感ではなく数学者としての意見ですが、「そんな時代は来ない」と断言します。AIの仕組みを正しく理解していない人の幻想に過ぎません。

AIは万能かどうか？シンギュラリティはやってくるのか？などについて、私はわかりません。

しかしAIが賢くないからといって人類の脅威とならないわけではありません。

流行りのニューラルネットワークに基づいた機械学習を用いずとも、無差別に人類を物理的に攻撃するようなAIを搭載したロボットを作ることは、現段階でも難しいことではありません。

失敗しないAIを作ることは難しい

Google（現在はWaymo）が自動運転に取り組んでいることをアナウンスしてから8年が経過しました。

UberやTesla、そして従来の自動車会社も同様のプロジェクトに取り組んでいますが、まだ実用化には至っていません。

Googleの自動運転チームのオフィスは私の以前のご近所さんだったので、毎日のように彼らの自動運転車を見ていましたが、外から社内をのぞく限りそれなりにうまく動いているようでした。

それでも実用化に至らないのは、自動車の事故は命に関わるため失敗ができないからです。

1年365日のうち364日はうまく動いていても、1日は失敗するというシステムでは使えません。

また絶対に失敗しないシステムを作ることはできません。

常にうまく動いているように見えるものは失敗の確率がとても低いだけです。

東日本大震災の福島第一原子力発電所事故の例のように、失敗の確率を下げるためにはあらゆる事態を想定しなければなりませんが、あらゆる事態を網羅するのはとても大変なことです。

失敗をいとわないAIは恐ろしい

別の例として、特定の害獣だけを駆除するAIを考えてみようと思います。

こちらも開発がとても難しいと思います。自動運転と同様に失敗が出来ないからです。

ターゲット以外の他の動物や人間に、間違えて危害を加えるようなことがあれば、そのAIは実用に堪えません。

それでは失敗をいとわずに人間を攻撃するAIであったらどうでしょうか？

風で揺れる木々や他の動物を人間と誤認しようが気にしない。

動いていると認識しているものにむけて、無差別に攻撃をしかけるAI搭載のロボットを開発するのはそんなに難しいように思えません。

何かそこにいるということを認知するくらいならば、従来の統計的なアプローチでも簡単にできます。

電力を補給するステーションの場所をあらかじめAIに教えておけば、半永久的に動き続けるようなシステムを考えることすら可能でしょう。

少なくとも秋葉原通り魔事件に匹敵するようなことを行うAIを作ることは難しくないと私は考えています。

たとえシンギュラリティが来なくても、たとえ人間よりも賢くなくても、AIは既に人類の脅威となりえるレベルに達しています。

銃や刃物のように悪用されず、人類を助けることだけにAIが使用されることを願っています。

以下はイーロン・マスクの言葉です。

Until people see robots going down the street killing people, they don’t know how to react because it seems so ethereal. AI is a rare case where I think we need to be proactive in regulation instead of reactive. Because I think by the time we are reactive in AI regulation, it’s too late.

注意：本記事では、AIの定義をwikipediaの”any device that perceives its environment and takes actions that maximize its chance of success at some goal”に由っています。

↑記事をシェアしてください！読んでいただきありがとうございました。