人工知能はやがて、人間が手出しできないほど自己進化を遂げ、やがて人類を滅ぼす可能性がある。人工知能が人間を超えると言われている「2045年問題」などについて言及しながら、現在のAI研究のリスクについて紹介している一冊。


■AIが人間を超えると後戻りできなくなる
いま現在、科学者たちは、次々に高度でパワーのある人工知能（AI）を作ろうとしている。彼らはあと10年少しで人間レベルの知能に到達させたいと考えている。AIを追求する科学者にとっては、コンピュータや処理プロセスのパワーがどんどん強力になっている事が追い風となっている。近い内に、何らかのグループか個人が人間レベルのAI「AGI（人工汎用知能）」を作り出すだろう。それから間もなくして、誰かが人間より賢いAI「ASI（人工超知能）」を作り出すだろう。すると突然、1つ1つが人間の数百倍や数千倍賢い、1000個や1万個もの人工超知能が、さらに優れた人工超知能を作るにはどうしたらいいかという問題に必死で取り組んでいる事に気付かされる。

超知能が実現すると進歩のルールが変わってしまう。超知能自体が発明を生み出して、技術進歩のペースを決める事になる。もはや人類が変化を推し進める事はなくなり、後戻りする事もできなくなる。

人間レベルの人工汎用知能（AGI）が実現すれば、それは予測不可能で危険な代物になりうるが、短期的に見れば、おそらく壊滅的に危険とまではいかないだろう。AGIが自身のコピーを複数作ったり、チームを組んで脱出を企てたりしても、賢い人間の集団より危険な振る舞いを起こす可能性はないだろう。AGIがはらむ本当の危険性は、AIが急速に繰り返し自己進化していく事で、自ら人工汎用知能から人工超知能へ進化するというシナリオだ。これを一般的に「知能爆発」と呼んでいる。

自己を意識して自己進化するシステムは、自身を進化させる事で、目標をよりよく達成して脆弱性を最低限に抑えようとする。単に少しだけ進化させようとするのではなく、自身の認知能力、特に知能の向上に寄与する認知能力のあらゆる側面を、大幅に進化させ続けようとする。そうして、人間より賢い知能、即ち超知能を目指す。うまくプログラミングしておかないと、我々は超知能マシンから様々な脅威にさらされる事になる。

AI研究で問題なのは、AI開発の道筋にありとあらゆる危険が存在している事を理解している人が、あまりにも少ない事である。

著者 ジェイムズ・バラット

テレビプロデューサー National Geographic、Discovery、PBSなどにさまざまなテーマのドキュメンタリー番組を提供している。 2000年、レイ・カーツワイルやアーサー・Ｃ・クラークに取材して以来、人工知能とその危険性に注目し、取材を重ねてきた。 2014年末、『タイム』誌が選ぶＡＩによる人類滅亡を論じる重要な識者５人に、スティーブン・ホーキングやイーロン・マスクとともに選ばれた。