はじめに

本書は4章からなり、最初の2章は『AI』について、後半の2章は『教科書が読めない子どもたちの読解力』について、著者の考えが述べられています。

この投稿は主に最初の2章の『AI』パートのみの書評です。

人間を超えるAIは現れないと考える理由

この本のAIに関する主題を簡単にまとめると、

1. AI、すなわちコンピュータは計算機なので何かをやらせるには、そのことが数式で表現できなくてはならない。
2. しかし意味を理解することをはじめ、人間の知的活動のすべては数式で表現できていないので、人間を超えるようなAIは現れない。

となります。

項目1に関してはその通りだと思います。

しかし項目2についてはわかりません。

以下は本書からの関連部分の引用です。

AIはコンピューターであり、コンピューターは計算機であり、計算機は計算しかできない。

AIがコンピューター上で実現されるソフトウェアである限り、人間の知的活動のすべてが数式で表現できなければ、AIが人間に取って代わることはありません。

コンピューターができるのは四則演算だけという詭弁

本書は以下のように述べます。

コンピューターは計算機ですから、できることは計算だけです。計算するということは、認識や事象を数式に置き換えるということです。つまり、「真の意味でのAI」が人間と同等の知能を得るには、私たちの脳が、意識無意識を問わず認識していることをすべて計算可能な数式に置き換えることができる、ということを意味します。

そして、著者は人間の知的活動のすべては数式で表現できていないので、人間を超えるようなAIは現れないと、項目2の結論に導くことを試みます。

問題なのはその過程で、『数式で表現』という部分が『四則演算で表現』と、論点がすり替えられていくことです。

以下のように繰り返し本書のいたるところでそのことが強調されます。

基本的にコンピューターがしているのは計算です。もっと正直に言えば四則演算です。言い換えると、人工知能の目標とは、人間の知的活動を四則演算で表現するか、表現できていると私たち人間が感じる程度に近づけることなのです。

コンピューターができるのは基本的には四則演算だけです。

コンピューターは計算機なのです。計算機ですから、できることは基本的には四則演算だけです。

AIには、意味を理解できる仕組みが入っているわけではなくて、あくまでも、「あたかも意味を理解しているようなふり」をしているのです。しかも、使っているのは足し算と掛け算だけです。

AI（コンピューター）が計算機であるということは、AIには計算できないこと、基本的には、足し算と掛け算の式に翻訳できないことは処理できないことを意味します。

AIは計算機ですから、数式、つまり数学の言葉に置き換えることのできないことは計算できません。

このように『数式で表現』と『四則演算で表現』を、意図的か無意識か、混同して扱います。

ここで少しコンピュータに詳しい方でしたら、疑問を抱くはずです。

コンピュータは電気が通っていない状態を０、通っている状態を１とみなします。

そして０か１で表現された２つの入力を得て、それに応じて０か１を出力するのがコンピュータが行うもっとも基礎的な計算です。

この計算は論理演算と呼ばれます。（詳しい説明はこちら）

コンピュータの行う四則演算は論理演算の応用の一つにすぎません[ref]四則演算を論理演算の組み合わせで実現できたことが、コンピュータの歴史における革新的なイノベーションです。興味のある方はこちらを見てみてください。足し算や掛け算が論理演算の複雑な組み合わせで実現されていることがわかると思います。割り算はさらに足し算と掛け算の組み合わせで実現されています。[/ref]。

つまり四則演算はコンピュータのもっとも基礎的な計算ではなく、コンピューターができるのは基本的には四則演算だけではないのです。

先ほどの本書からの引用を繰り返します。

コンピューターは計算機ですから、できることは計算だけです。計算するということは、認識や事象を数式に置き換えるということです。つまり、「真の意味でのAI」が人間と同等の知能を得るには、私たちの脳が、意識無意識を問わず認識していることをすべて計算可能な数式に置き換えることができる、ということを意味します。

脳が意識無意識を問わず認識していることをすべて計算可能な『数式に置き換える』＝『四則演算に置き換える』であれば、本書の主張は正しいかもしれません。

しかし『数式に置き換える』＝『論理演算に置き換える』であったらどうでしょうか？

脳のシステムと計算機の原理は同じと考える

ここまで計算とは四則演算と繰り返し主張を続けてきながら、本書のAIパートは最終的に脳のシステムは0と1だけの世界である論理演算と原理は同じと認めることで結ばれます。

脳科学が随分前に明らかにしたように、脳のシステムはある種の電気回路であることは間違いなさそうです。電気回路であるということは、onかoffか、つまり0と1だけの世界に還元できることを意味します。基本的な原理は計算機と同じかもしれません。それが、「真の意味でのAI」や「シンギュラリティの到来」を期待させている一面はあると思います。けれども、原理は同じでも、脳がどのような方法で、私たちが認識していることを「0、1」の世界に還元しているのか。それを解明して数式に翻訳することができないかぎり、「真の意味でのAI」が登場したりシンギュラリティが到来したりすることはないのです。

脳の仕組みを解明して数式に翻訳することができるのかどうかはわかりません。

しかしその試みのうち、いまのところ最も成功しているように見えるのが、まさに現代のAIの象徴であるディープラーニングです。

ディープラーニングの基礎となるニューラルネットワークの根幹は、複数の0か0以外の入力を受け取り、それに応じて0か0以外の値を出力するという計算です。

論理演算の計算ととても似ていることがわかると思います。

ディープラーニングによって実現されたAIの能力

ディープラーニングの基礎となるニューラルネットワークは、脳のシステムを模倣して生み出されましたが、脳のシステムと同じとは言えません。

しかし白黒映画の自動着色に見るように、ディープラーニングはどうやら人間の脳のように、意味や文脈を考慮に入れたかのように振る舞います[ref]こちらは、著者の新井紀子教授の対談で知った雷撃隊出動という映画です。戦中に撮影されたものなので元は白黒なのですが、自然に着色されています。こちらのオリジナルの白黒バージョンに比べると、着色のおかげでとても身近に感じられます。[/ref]。

白黒の映像では、明るい色はすべて白、暗い色はすべて黒といったようにフィルムに記録されているので、その映像にうつっている物の意味や文脈を考慮しないと自然な着色はできません。

本書では、AIは意味を理解できず、読解力と常識がないため英語の試験問題を解くことは難しいと主張し、それが本書後半2章の、AIに負けないために子供たちの読解力をあげるプロジェクトを始めたことの根拠の一つとなっています。

本書では以下のように述べられています。

解答の精度を上げるため、英語チームがとった戦略は記憶させる例文を増やすことでした。常識を教え込むのはハードルが高すぎたからです。

英語チームが東ロボくんに学習させた英文は、最終的には150億文に上りました。

それでも、英会話完成のたかだか四択問題の正答率すら画期的に向上させることはできませんでした。英語チームはディープラーニングの活用に貪欲でした。しかし、英会話完成のみならず、論旨要約など試したすべての問題において、全力を尽くした英語チームがディープラーニングの限界を目撃した瞬間でした。

しかしこれはあくまでも「ロボットは東大に入れるか」プロジェクトリーダーである著者の判断であり、現場の研究者の判断は違ったようです。

先日このプロジェクト内から、ディープラーニングを用いて英語の成績が東大合格者と遜色ないレベルに向上したというニュースがありました。

映像の認識や読解力だけにとどまらず、AIの能力は多くの分野で人間の能力を既に上回っているだけでなく、そこにとどまらずに日々とてつもない速さでまだ向上し続けています。

少しずつ脳のシステムを数式で記述できることに近づいている可能性すらあるかもしれません。

少なくとも確実に一つだけ言えるのは、ディープラーニングを用いたAIの能力の向上はまだ壁にぶつかってはいないということです。

---

↑記事をシェアしてください！読んでいただきありがとうございました。