“知の巨人” ハラリ氏、フェイクや陰謀論はびこる背景に言及「真実は本当に希少なもの」
世界的ベストセラー『サピエンス全史』著者で歴史学者のユヴァル・ノア・ハラリ氏が新刊『NEXUS 情報の人類史』上下巻（河出書房新社）の刊行を記念し、3月16日、慶應大学で来日特別イベント「AI時代の人間の尊厳 新たな『NEXUS』を展望する」に登壇した。聞き手は伊藤公平慶應義塾塾長。
同大学の図書館（メディアセンター）に推薦書として『21 Lessons 21世紀の人類のための21の思考』（河出書房新社）を置いたという伊藤塾長は「同書で世界的な脅威として核戦争、バイオテクノロジーや情報テクノロジー（IT）の暴走を取り上げ、『NEXUS』では情報ネットワークとAIをテーマに掲げているが」と切り出した。
ハラリ氏は「AIと核兵器の脅威を比べると、核戦争にはプラスの側面が一切なく、今日の世界においてロシアは国際秩序の最大のタブーを犯しているが、核兵器や核戦争はポジティブな面がまったくないので皆が反対している。AIの問題はもっと複雑で、膨大なプラスの側面があるうえに、その脅威が何かを理解するのは難しい。これは私たちにとって今までにない脅威になりうる危険性がある」と指摘する。
「AIはこれまで人類が作ってきたテクノロジーで初めてのエージェント（行為主体）だ。例えば核はツールで、原爆になるか原子力発電所になるかは人間が決めることができる。ところが、AIは私たちが介入しなくても意思決定できる。兵器としても使われるが、人間が指示しなくても自分でどこを攻撃するか決めることができる。私たちは何千年にもわたって惑星を支配してきて、私たちと競争するものは何一つなかった。今、地球の歴史上初めてほんの数年で人間を超える知性が生まれるかもしれない」
さらに「発明家のレイ・カーツワイル氏は、2029年にすべての分野でAGI（汎用人工知能）が可能になるだろうと予測した。AGIが幅広く普及するためにはすべての規制をどうするか、その合意をどう形成していくのか。グローバルな合意を形成するのは大変で、AI開発のリスクをどう管理するかは難しい問題だ」と言及。
「私たちは何千年も他の人間と共に生活してきて、お互いが力を求めることを制御することもできるが、これまでに経験したことがないものがASI（人工超知能＝人間の知能を超えるレベルの人工知能）だ。どういう仕掛けを自ら編み出すか分からない、何百万ものASIがお互いにやりとりし、膨大な移民のように世界をコントロールするようになる。AIという異質な波が怒涛のように押し寄せ、国や文化を変えてしまう、これは多くの人々をもっと恐怖に駆り立てても不思議ではない」と問いかけた。