超知能AIが出現する様々なシナリオやリスクを紹介している一冊。人類がこの先、超知能AIを開発するにあたって、解決しなければならない安全性や哲学、倫理的問題など、多岐にわたる論点を提示しています。


■生命の3つの段階
生命は、情報（ソフトウェア）によってその振る舞いとハードウェアの設計図が決定される、自己複製する情報処理システムととらえることができる。生命の進化は以下の3つの段階に分けることができる。

①LIFE1.0：細菌のように生きている内はハードウェアもソフトウェアも設計しなおせないが、何世代もの進化の過程で変化していくことができる生命

②LIFE2.0：人間のように、ハードウェアは進化に任せるしかないが、自らのソフトウェアは設計（学習）できる生命

③LIFE3.0：自らのハードウェアも設計できる生命。進化上の制約から解放されて運命を自ら決めることができる。地球上にまだ存在しないが、多くのAI研究者は、今世紀中にこの段階に到達する生命が登場すると見込んでいる。

LIFE3.0は何をもたらすか。この疑問は激しい論争の的になっており、世界を代表するAI研究者たちの見解は、楽観から深刻な不安に至るまで、互いに激しく食い違っている。

我々人類は地球上の他の生物よりも賢かったおかげで地球を支配するようになったのだから、最終的に我々も同じく超知能に賢さで追い抜かれて支配されることは十分にありうる。

但し、将来何が起こって何が起こらないのかに関してはほとんど出掛がりがなく、起こりうるシナリオにはとてつもない幅がある。人類が人間レベルのAGIを作るのに成功したら何が起こるのかはわからない。

著者 マックス・テグマーク

マサチューセッツ工科大学 教授 理論物理学者。宇宙論の研究者だったが、超知能AI による人類絶滅の危険性に注目し、近年はAI研究に軸足を移している。 2014 年に、AI の安全な研究を推進するための非営利団体「生命の未来研究所(Future of Life Institute, FLI)」を共同で設立。2017 年に発表された「アシロマAI 原則」の取りまとめを同団体が先導した。 著書に『数学的な宇宙――究極の実在の姿を求めて』があり、数学的存在そのものが宇宙であるとする斬新な「数学的宇宙仮説」を論じて脚光を浴びた。 理論物理学者としては、スローン・デジタル・スカイ・サーベイ(SDSS)との銀河団に関するコラボレーションが、「サイエンス」誌の「ブレークスルー・オブ・ザ・イヤー2003」を受賞している。