『サピエンス全史』ハラリ氏、AI時代に警鐘「アルゴリズムは責任を負わない」6年ぶり新刊

　6年ぶりの新刊となる同書にハラリ氏は「本を書くのには時間がかかります（笑）。前作『21 Lessons』（2018）を書き終えてすぐに執筆し始めたが、4人の研究者によるチームで、リサーチとファクトチェックをして結局5年かかった」と笑う。

「『NEXUS』は情報ネットワークの歴史についての本で、長期的に見た情報の歴史の中でAI革命について論じている。しかしAIの発展があまりにも速く、急速に状況が変わっていて、時間が経てば経つほど変わっていく。本が出版される頃には情報が古くなってしまうので、一番最新のことは書かないようにした。本書の多くは2010年代の事例を扱っていて、短い期間ではあるが視点を持ち、歴史という観点からこの事象はどういう意味を持つのかを見ることができるだろう」

　AIやアルゴリズムが台頭した先、民主主義はどうなるのかという問いに「民主主義をひと言で表すなら会話だと言える」といい「人類の歴史の中で初めて、人間ではないのに人間になりすますものが登場した。数年前まで、オンラインで誰かと話したら確実に “これは人間だ” と分かったが、今はそういうわけにいかないくらい判別が難しい。円陣を組んだ会話の主体がチャットボットやアルゴリズムだったら？　おそらく民主主義は崩壊するだろう。なぜなら、人間同士の会話こそが民主主義の根幹にあるからだ」とハラリ氏。

　そして「民主主義を守るにはまずフェイクニュースを禁止する、つまり人間の偽造（フェイクヒューマン）を禁止することだ。AIが話をする時には必ず “自分はAIだ” と名乗ること。これはメディアで起きていることにも関係して、オンラインでたくさんの人が注目しているニュースがある。多くの人が興味を持っているならとクリックするが、もしかしたら出所は人間ではなく、ボットがプーチンや北朝鮮の代わりに作り上げたものかもしれない。

　だからユーザーがこれは人間なのかボットなのかを知らなければならない。民主主義の政府は今日、明日にでも法律を作るべきだ。表現や言論の自由を侵していると言われるかもしれないが、ボットやアルゴリズムにそんな権利はないのだから」と警鐘を鳴らす。

　そんな中で人間同士が信頼を構築するには「このような変動の激しい、何でもありの時代の中ではバランスを見つけなければいけない」として「誰かが既存のルールを侵している、あるいは合意を破っていると証明できない限り、基本的には疑わしきは罰せずという考えでいくべきだと思う。他の人との関係のうえで、いくつか異なる解釈が生まれるかもしれないけど、なるべくいい解釈をしようということ。ある現象を見た時にどちらから見るか、どういう解釈をするかという選択肢があって、盲目的に信じる必要はないけれどできるだけ信頼する方向でいてください」と提言。

　さらに、メディアに対しても「これまですべての新聞やテレビ局において、一面の見出しは何にするのか、テレビの第一報は何にするのか人間が決めていた。しかし、TikTokやXのアカウントを開いてスクロールすれば、どんどんニュースフィードが流れてくるが、それらはすべてアルゴリズムが決めている。アルゴリズムがどのコンテンツを優先的に表示し、それをどう決めているのか私たちにはよく分からない。これは私たちが直面している大きな課題で、民主主義やどんな社会にとっても非常に危険なことだ。

　こんなにも大きな力をアルゴリズムに与えてしまうのに、彼らは責任を負わないし、透明性も持ち合わせていない。FacebookやYouTubeが陰謀論をまき散らしたとして、一体誰が責任を取るのだろうか。これは人間ではなくアルゴリズムの問題で、アルゴリズムの表現の自由を守り、何でも好きなことを言ってもいいと？」などと言及した。