ここ数年で最も驚いた出来事について書く。筆者がまったく信じていないビジョンを信じている知人に相次いで会ったことだ。

　2017年の末、30年近い付き合いの経営者と会食した。数年ぶりに会ったため話が弾み、禁酒中を宣言していたにも関わらず相当飲んでしまい、気持ち良くなっていた時、いきなり質問された。

　「谷島さん、シンギュラリティについてどう思いますか。人工知能が進化して世界が一変するという、あの話です」

　調子に乗って楽しく話していたこともあって即答した。

　「サイエンスフィクションとして楽しんでいる人に文句は言いませんが、本気でそう主張する人がいて困惑します」

　彼は頷き、数秒おいてゆっくりと言った。

　「色々な人に聞いていますが私の周囲には谷島さんと同意見の人が多い。でも私はその日が来ると信じています」

　勿論冗談ですよ、と言って笑うのではないかと相手の様子をうかがうと真顔である。しまったと思ったが後の祭りで話を続けようがない。

　「その件を議論すると長くなるでしょうし、ひょっとすると喧嘩になりそうですから次回やりましょう」

　冗談めかした言い方でお茶を濁し、会食を終え、再会を期して別れた。

尊敬する人がシンギュラリティを信じていた

　その人は東証1部上場企業の取締役を経て、米国企業のCEO（最高経営責任者）を務め、現在は自分で作った日本企業の責任者をしている。もともとIT（情報技術）企業に入社した人でテクノロジーに強く、マネジメントもできる。

　失礼な物言いになるが、ちゃんとした人である。修羅場を何度もくぐってきており、騙されない人でもある。それにも関わらずシンギュラリティの到来を固く信じていた。素面に戻るほどと書くと嘘になるが、酔いがある程度覚めるくらい驚いた。

　冒頭の繰り返しになるが、筆者の考えを述べておく。いわゆる「シンギュラリティ（特異点）」の話は出来があまり良くないSF（サイエンスフィクション）であり、錬金術や永久機関の話に近い。

　これも前述の通り、SFを楽しむのは結構である。錬金術や永久機関の試行錯誤を経て科学や技術は進歩してきたとすれば、シンギュラリティを目指したり考えたりする活動から有意義な何かが出てくることは考えられる。

　とはいえ本気で力説されると「永久機関がいよいよできる」と喜んでいる人を見るようで、尊敬している人の場合どう応じたらよいものか困ってしまう。

シンギュラリティは幻

　とにかく驚いたので、あれこれ考え、ITの専門誌日経コンピュータの2018年1月4日号（新年号）に『シンギュラリティは幻、発案の一助にはなる』という記事を書いた。

　関連記事：『シンギュラリティは幻、発案の一助にはなる』

　記事の冒頭に付けた要約を再掲する。

• 「シンギュラリティ」はビジョン（幻）である。
• AI（人工知能）が人間を超える日は来ない。
• 新しいことを考えるきっかけにはなる。

　食事をご一緒した経営者のことが頭にあり、錬金術や永久機関とは書きにくくビジョンと呼んでみた。実現しなくてもビジョンには意義がある。それは何かと考えた末、新たな構想（アイデア）を得る一助になるかもしれないと思い、そう書いた。

　実は日経コンピュータ誌にはもっと前に『人工知能は仕事を奪える　だが人間を超えられない』という一文を書いていた（2016年5月12日号に掲載）。

　関連記事：『人工知能は仕事を奪える　だが人間を超えられない』

　機械学習など使えるAIは使えるところに使っていけばよい。コンピュータの利用と同様に人員を削減できる領域はある。ただ、だからといってAIが人間を超越する日は来ない、という内容であった。

　だが、尊敬する経営者の発言に驚かされたので再度、ほぼ同じ主旨の記事を書いた。

「強いAI」は錬金術

　驚きは続く。日本を代表するIT企業であるはずの富士通で主席エバンジェリストを務める中山五輪男氏がAIとシンギュラリティについて語った講演録を今年になって見た。

　関連記事：『AIとシンギュラリティ』

　中山氏は「私たち人類はこれまで経験したことがないような最大のパラダイムシフトを経験することになる（中略）それを人々は『シンギュラリティ』と呼びます」と切り出し、「様々な要素が重なりあって、このようなシンギュラリティは実現されると考えられますが、その中で最も重要な役割を担うのがAI」と続け、富士通が支援したAI事例を紹介していた。

　「AIのことなら富士通にお任せください」という話の枕に過ぎないと言えばそれまでだが来場者はどう受けとめたのだろう。「シンギュラリティというのはなかなか凄い」と思った人はいたのだろうか。

　驚きはまだまだ続く。今年3月、別の経営者と会食した。これまた数年ぶりにお目にかかったので近況をうかがうと、ここ2年ほどAI関連の洋書や英語の論文を読みあさり、本を書く準備をしているという。

　なにやら胸騒ぎがしたので今回はあまり飲まないようにし、慎重に話を進めた。こちらの主張は明かさず、「AIについて色々な意見がありますよね」と水を向けるやり方で会話を続けた。すると「自分で自分を改良でき、万事に対応できるように成長していく汎用AIが将来実現される」と彼が期待していることが分かった。

　この方は大学でコンピュータサイエンスを学んだエンジニアであり、米国のMBA（経営学修士）をとり、複数の外資系IT企業の日本法人責任者を歴任してこられた経営者でもある。また失礼な物言いになるが、頭脳明晰、英語堪能、ちゃんとした人である。

　彼が話題に出した汎用AIは「強いAI」とも呼ばれる。筆者の理解では強いAIも錬金術や永久機関と同じで実現できない。実現できると主張する人が時折出てくる点も錬金術や永久機関に似ている。

　富士通はさておき、筆者が敬意を払っている経営者、しかも理系の人が2人もシンギュラリティや強いAIの実現へ期待を表明した。間違っているのは自分ではないかと再考してみたが考えは変わらない。永久機関と同じで不可能は可能にならない。

　なぜ、彼らはシンギュラリティを信じたり、期待したりするのだろうか。

　以下ではシンギュラリティの定義を確認し、実現できない理由を述べ、その上で本稿の題名に付けた『“シンギュラリティ信奉者”の翻意が難しい訳』を考えてみたい。

特異点とは「強いAIと人間の合体時期」

　定義については日経コンピュータ1月4日号の拙文の記述を以下に転載する。

強いAIは実現できない

　情報学を長年研究してきた西垣通東京大学名誉教授の著書『ビッグデータと人工知能　可能性と罠を見極める』（中公新書）によると、AIが人間を超越するというビジョンをシンギュラリティと最初に呼んだのはカーツワイル氏ではない。ただし西垣氏も「今ではカーツワイルの未来予測図のほうが圧倒的な影響力をもっている」と書いているから、カーツワイル氏の定義で話を進めてかまわないだろう。

　次に強いAIを実現できない理由を書いてみたい。日経コンピュータに2度目の記事を書くとき、知り合いの大ベテランエンジニアに相談した。

　「強いAIが実現できると言う人がまた出てきているのですが、有り得ないということをどう書いたら納得してもらえるでしょうか」

　「甘利先生が近著で心を持つロボットやシンギュラリティの類を信じないと書いていました。そこから引用されたらいかがですか。脳やAIをずっと研究してこられた大御所の発言ですから昨今のへなちょこ論者とは比較にならないでしょう」

　虎の威を借る作戦というわけだ。そこで日経コンピュータに次のように書いた。

　これだけでは分かりにくいかもしれない。要するにAIはどこまで行っても機械であり、生命体である人間のように考え、振る舞えない、ということだ。

AIは機械、人間のようには考えられない

　すべての人間には死という終わりが来る。誰しもいつかは死ぬにもかかわらず、他人を救うためにあえて自分の死を早める自己犠牲の心やそれを讃える心がある一方、他人を押しのけても自分だけは長生きしたい、場合によっては他人を支配したいという利己心の両方がある。

　寿命と矛盾する心という限界の中で人間は色々なことを考え、行動し、成功と失敗を繰り返し、クオリアを感じる。この中で何かを創造したり、壊したりする。

　AIに死はなくクオリアもないから善人にも悪人にもならない。世の中に役立つ何かを自ら生み出そうとはしないし、独裁者にもなれない。生きて創造しようという心がない以上、「人間のもつ設計技術能力を獲得」して機械である自分を発展させていくことはできない。

　補足のために細かい指摘をしておく。甘利氏がいうシンギュラリティとカーツワイル氏のそれには違いがある。甘利氏は同書の中に「人工知能が自分で新しい技術開発をしてその産業化を行えば、あとは加速度がついて技術が爆発的に進展し、人間はいらなくなるという。この時期が2045年という予測」があると触れ、「私はこのシナリオを信じない」と書いている。

　カーツワイル氏は「非生物的知能と合体」した人間は「人間性を捨てるわけではない」としているから人間不要と言っているわけではない。ではAIによって進化するのは知能だけで、その知能を使う目的を設定したり、矛盾の中から直観で何かを生み出したりする、人間性に関わるところは人間が将来とも担うという主張なのか。そうであるならAIは知能で人間を追い抜くだけで、人間を超えるという話ではなくなる。

　だが、カーツワイル氏は『ポストヒューマン誕生』の中で「人間の頭や体の中で起こっている全てを必要な限り詳細に模倣し、それらのプロセスを他の基体で具体化し、そしてもちろん、それを大幅に拡張していったら、意識をもつ状態になる」と述べている。意識や心を持つのであれば人間における人間性に相当するものをAIが持つことになるが甘利氏や筆者はその「シナリオを信じない」。

シンギュラリティは「人が犬を噛む話」

　尊敬する2人の経営者に会い、以上の理屈を力説し、甘利氏の本と「非生物である機械は意識を持てない」という同様の主張でシンギュラリティを否定している専門家の本をまとめて渡したらどうなるか。

　例えば前出の西垣氏は「真の汎用人工知能には意味解釈の機能がもとめられる」が意味解釈とは「相手の心の内容」を「意図や文化的価値観をもとに推定する」ことであり、それは「人間社会における多様な言語的なコミュニケーションの繰り返しを通じて動的に形成されていく」からAIには不可能と説明する。

　AI研究の若手リーダーである松尾豊東京大学大学院准教授は『人工知能は人間を超えるか』（角川EPUB選書）の中で「人間＝知能＋生命」とし、「知能をつくることができたとしても生命をつくることは非常に難しい」、「自らを維持し、複製できるような生命ができて初めて、自らを保存したいという欲求、自らの複製を増やしたいという欲求が出てくる」と述べ、「生命の話を抜きにして、人工知能が勝手に意思を持ち始めるかもと危惧するのは滑稽」と断じている。

　それでも2人の経営者は翻意しないような気がする。2人以外のシンギュラリティ信奉者の方も同じだろう。その理由を次に書く。

　まず、長年記者を務めてきた筆者にとって書きにくいことだが報道の問題がある。昨年末以来、新聞や雑誌、Webでシンギュラリティという言葉を見かけると読むようにしているが両論併記の記事が多い。永久機関だと切って捨てた報道はまず見かけない。

　著名なAI研究者が「強いAIは作れない」といった主旨の発言をして、それを報じているにもかかわらず、記事の後半で「シンギュラリティが来るという説もある」などと追記される。

　犬が人を噛んでもニュースにならないが人が犬を噛めばニュースになる。AIが人を超えるなら面白いと思って、しかるべき研究者に取材してみるが一笑に付されてしまう。それでは記事にならないから「人が犬を噛む時代が来ると主張している人もいる」と併記することになる。

　2人の経営者が日本の報道をどこまで信用しているのか、恐ろしくて聞いたことはないが「たびたび報じられている以上、シンギュラリティが来る可能性はある」と思っているかもしれない。

　英語が堪能な2人に英The Economistの見解を紹介してはどうか。2012年に出版された『2050年の世界 英『エコノミスト』誌は予測する』（文藝春秋）の中で同誌はカーツワイル氏の主張を紹介しつつ、その後で「技術はめったに人間の思い描いたとおりに進化しない」と述べ、「情報に関して人類が打ち立てた武勲に有頂天になる前に、人類の情報処理および記憶技術は自然そのものとは比べものにならないほどお粗末だということは憶えておかなければならない」と締めくくっている。

　5年後の2017年に出版された『2050年の技術 英『エコノミスト』誌は予測する』（文藝春秋）において同誌は英オクスフォード大学のルチアーノ・フロリディ教授（情報哲学および情報倫理学）に寄稿を依頼した。フロリディ教授は「コンピュータの計算に限界があることを示す有名な研究結果はやまほどある」とし、たとえ量子コンピュータを持ってきたとしても「何が計算の対象になりうるかという同じ限界に制約される」から「意識や知性や意図を持った存在が生まれてくることは今後もありえない」と述べている。

「人間に限界なし」と信じる人達

　筆者はThe Economistに賛成だが、同誌の見方を転記していて、これでも2人の経営者は考えを変えないと思えてきた。シンギュラリティを信じる、根本的な理由があるからだ。

　カーツワイル氏の『ポスト・ヒューマン誕生』を読んで感じるのは強烈なヒューマニズムである。カーツワイル氏は人間の知能と理性に強く期待している。

　同書の中でカーツワイル氏はシンギュラリティを批判する識者に対し、次のように述べていた。

　「きみとわたしの間では、人間の本質の捉え方が根本的に違っているんだね。わたしにとって、人間であるということは、限界があるということではない（中略）限界を超えることこそ、人間の本質なんだ」

　機械は機械、人間にはなれない、とカーツワイル氏にどれほど指摘しても氏の信念は揺るがない。人間に限界はない、だから人間を超える機械を作り出せる、そしてその機械と合体することで人間は限界を超え続ける、と答えるだろう。

　筆者はカーツワイル氏と「人間の本質の捉え方が根本的に違っている」。人間には限界がある。前述の死や利己心である。超えられない限界があっても超えようと努力するから、創造もあり、失敗もする。それが人間の本質だと思う。

　なにやら偉そうに書いてしまったが上記も先達の受け売りである。また虎の威を借りると、かのピーター・ドラッカー氏は理性が万能だとする人間観を強く批判していた。

　困ったことになった。近々、2人の経営者と対決、いや対面しようと思っているのだが、にこやかに、次のように言われたらどうしたものか。

　「谷島さん、色々あっても人間は進歩してきたじゃないですか。これからも限界を超えていきますよ」

　「それは間違っています」と言わないといけないが、果たして言えるだろうか。