人工知能の発展の先には何があるのか。技術的特異点は、真剣に議論すべき段階まで来ているとし、その将来のリスクや可能性についてを説く一冊。


■技術的特異点
近年の技術の加速的進歩により、人類の歴史がある「特異点」に近づいているという説は、SFの領域から真剣な議論の段階に移ってきている。人類史においての特異点とは、我々が今日理解しているような人類のあり方が終わりを告げるほどの劇的変化が、技術の指数関数的進歩によってもたらされる事を指す。

このような技術的特異点は、人工知能とニューロテクノロジーの2つの関連し合う分野のいずれか、または双方の著しい進歩によって加速される。今日、人間の知性は事実上固定されており、この固定化が技術進歩の規模と速度を制限している。しかし、人工知能とニューロテクノロジーがその目標を果たせば、この状態は変わるだろう。知性が、テクノロジーの生産者を意味する以上にテクノロジーの産物ともなれば、予測しがたい爆発的な結果をもたらしうるフィードバックサイクルが生まれる。なぜなら、生産されるものが生産を行う知性そのものであれば、知性は自らの改善にとりかかれるからだ。そこからまもなく、特異点仮説に従えば、一般的な人間は、人工知能機械や認知能力を拡張された生物的知性に追い越され、もはや追随する事もできなくなり、進化する知性のループから脱落する事になる。

はたして特異点仮説は真面目に捉えるべき事なのか。真面目な議論の1つはレイ・カーツワイルが「収穫加速法則」と呼ぶものに基づくものだ。ある技術が改良される速度がその技術の質に比例すれば、その技術は「収穫加速法則」に当てはまるというものである。ある技術が高ければ高いほど、その質が向上する速度がさらに速まり、指数関数的な改善が生み出されるという。

この現象の例の1つに、1つのチップに埋め込まれるトランジスタの数が約18ヶ月ごとに倍増するという「ムーアの法則」がある。半導体産業は何十年間にもわたってこのムーアの法則に従ってきた。

今のところ、人工のものでも人間のものでも、知能そのものは収穫加速法則の対象であり、そこから技術的特異点に到達するまでにはほんの少しの思い切りがあれば充分だろう。この可能性自体は今日、純粋に実用的に、厳密に合理的に議論されるに値する。なぜなら、技術的特異点が本当に起こるのであれば、人類にとってその結果は地殻変動に相当するほど計り知れないものとなるだろうからだ。

著者 マレー・シャナハン

インペリアル・カレッジ・ロンドン教授 認知ロボット工学専門。著作はAI、ロボット工学、論理学、計算神経科学、心の哲学にまで及ぶ。現在の主な関心は脳の接続性、神経力学、比較認知、認知と意識との関係など。 BBCラジオ4、ラジオ5、チャンネル4(テレビ)や科学イベントに出演、『ニュー・サイエンティスト』などの雑誌にも登場している。