[toc]
概要
結論：2030年代から世界はSFになる
※本記事の主張は個人的な感覚が多分に含まれておりますので、その前提を理解した上で読み進めていただければ幸いです。
結論から言うと、
- 高い可能性で2020年代後半(2026年頃)から「指示待ち人間レベル」もしくは猫レベルの人工知能（一般化知能、Generalized Intelligence）が台頭
- 社会実装が急速に進み、2035年までに社会のあらゆる側面を変革
- そこそこの可能性で汎用人工知能や超知能が20年以内に実現
- 世界はSF（Science Fiction）になる
上記のことが具体的な年代ベースで最新のAI技術の発展から外挿したレポートやオンライン予測サイト、専門家向けアンケート等から、イメージできるのではないかと考えています。
多くの人は2022年現在の世界を、AIとか言っているけどちょっと画像認識/生成できたり、片言で変な雑談したりするだけでしょ。まだまだデジタル化さえちぐはぐの状態で世界はSFになるって何を言っているんだ、と思われるかもしれません。
しかし、今後2026年頃から2030年代にかけて急速にAI技術が発展して、社会のあらゆる領域を変革することは様々な推計からほぼ確実に起こり、例えて言うなら戦後まもないインターネットもない世界から令和の時代にほんの10年で変わるかのような変化が起こると思われます。
ここでいう「世界はSFになる」は、例えば一人一台AIアシスタントがいる、汎用ロボットが街中もしくは店舗や工場などでうろうろしている、攻殻機動隊のタチコマのようなパーソナルロボットが存在する、といった汎用的でかつ実用的なAIが社会に普及している状態を比喩しています。SFといってもテーマが無数にあるため、その中でもAIによって様々な領域が自動化されている社会を想像していただければ幸いです。
本記事ではそれがどんなイメージで起きるのか、そしていつ起きて、なぜ起きると言えるのかを解説していきたいと思います。
方針：具体的に未来を想像
本記載では以下の構成を取らせていただきます。
- 今後10年以内に主に一般化知能によって起こる未来をイメージ
→まずは動画などでAIによって実現するだろう未来に対するイメージを紹介させていただきます。 - その後、各種AI（一般化知能、汎用人工知能、超知能）実現時期の根拠となるレポート、アンケート、オンライン予測サイトを紹介させていただきます。
- 最後に社会的影響の議論を経済、政治両面から紹介させていただきます。
日本では先端技術に関する未来を具体的な年代ベースで外挿する試みはあまり詳細に見られない気がしますが、そのような推定は日本の外では数多くあるので、それらをまとめて紹介し、個人的な感覚も付け加えさせていただきます。
しかしながら厳密には、未来は予測不可能です。これを大前提として、それでも現状わかっていることから何が起こり得るかをある程度確率的な幅を持って想像することはできると思われます。
本記載では現状のAI技術を解説するのではなく、また、未来に起こり得ることの想像を広げるのでもなく（どちらもめちゃくちゃ大事なことです）、主に昨今加速しているAI技術を焦点に妥当そうな推論を重ねながら、未来を「具体的な年代ベース」で想像することを試みます。
未来を具体的な年代ベースに想像≒予測する、というのは20世紀的な未来学を思わせるかもしれませんし、四方から批判的に見られるのは当然ですが、そもそもそういったAIに関する未来予測的な情報が日本に少ない気がしているので、こんなことが今色々な場所で考えられているという風に共有したいというモチベーションもあります。
そのため、未来に関して断言はしませんし、原理的にできませんが、「個人的な感覚では様々な情報を鑑みてAI技術やその応用はこの時期にこうなると思う」という話を織り込みます。
個人的な性格としてはそこそこ技術に対して楽観的な方だと自負しておりますが、最低限の仮説と推論を重ねて考えていきたいと思います。
結論として、以下AIの段階的進化を年代別にまとめさせていただきます。
根拠は後述させていただきます。
- ①ANI（狭いAI）～2025年まで
- ②GI（一般化知能）、指示待ち人間または猫レベルの知能 2026-2030年頃実現
- ③AGI（汎用人工知能） 2035-2040年頃実現
- ④ASI （超知能) 2038~2045年頃実現
- ここで、狭いAIはある特定のタスクをこなすAI。
- 一般化知能は狭いAIよりもそこそこの汎用性と実用性を持ったAI（Stability AI CIO Daniel Jeffries氏の造語だと思われる。能動性はない指示待ち人間レベルまたは猫レベルの知能：The Coming Age of Generalized AI In this article I break down the most cutting edge, practical medium.com ）
- 汎用人工知能は平均的な人間の実行できるほとんどあらゆるタスクを行えて、世界に対する探究心や好奇心や能動性も持つ知能。
- 超知能は実質的にすべての分野（科学的創造力・全般的な知識・社会技能を含む）において、その分野でもっとも優れている人間の頭脳よりもはるかに賢い知能となります。
（※上記AIの各々の言葉の定義は他にもあるかと思いますが、ざっくりとした話と受け取ってください。）
個人的には様々な情報を加味して一般化知能まではほぼ確実に実現されると考えています。
また、汎用人工知能と超知能に関しては20~30年以内(2040~2050年まで)に実現される可能性がオンライン予測サイトやレポートを読むとそこそこあるといった温度感で、個人的には15~20年以内(2035~2040年)に実現されると考えています。
（※汎用人工知能実現から超知能までの移行は数十年スパンではなく、数年スパンで起こる可能性がそこそこ高いとされています。そのため両者の実現時期は数年のズレとなります。理由は超知能の章で述べます。）
未来のAI技術イメージ
ここからは具体的に主にほぼ実現されるだろう一般化知能が実現された場合、社会が2030年代どんな風に変わるのかをイメージしていきたいと思います。以下の順番で説明していきます。
- ソフトウェアのUIが自然言語に
- ロボットが汎用性・実用性を持つ
- コーディングAI
- メタバースAIの進化
- 自動運転車の話
- 科学技術をAIが加速
- 未来イメージまとめ
ソフトウェアのUIが自然言語に
RunwayのCEOが
「自然言語が全てのソフトウェアに基本的なインターフェースとなることは、GUIの終わりを意味するかもしれない」
と言っているように、自然言語処理とマルチモーダルAIが進化することでソフトウェアと直接対話しながら様々な作業を行うようになっていくでしょう。
おそらく、一般化知能が出始める2026年以降に社会的にもそれが普及し始め、実感するはずです。
既に以下のような検索を自然言語処理で解析して妥当なウェブページを表示するAIも出始めています。
また、将来のWebインターフェースは下記のようになっていくかもしれません。自然言語でしりたい情報をインタラクティブにわかりやすくWEBの視覚的構造を変えて教えてくれるAIのイメージ映像です。
今のWebインターフェースは静的で、杓子定規な見せ方しかできませんが、2020年代後半から個別にカスタムして情報を表示してくれるようになるでしょう。WEBページに留まらず書籍、映画、ゲームなどあらゆるメディアでリアルタイムにAIとインタラクションするようになると思われます。
またあらゆる店舗、デパートの受付業務は下記のような自然言語処理と視覚と聴覚をマルチモーダルに組み合わせたAIに2026年から順次置き換わっていくことが想像できます。私見では2026年から10年程度経った2035年には相当普及しているのではないでしょうか。まさにSF的な光景です。
そして下記のように人間と見分けがつかない（キャラクターでもいい）パーソナルアシスタントと様々な雑談をしたり、一緒に旅行に行って楽しんだり、秘書的に人間のタスクをこなしてくれるようになるでしょう。おおよそこれも2020年代後半から2030年代前半には普及しつつあると推定します。
下記AIが人間の仕事を補助してくれるイメージ映像です。これも2020年代後半から普及していくでしょう。
ロボットが汎用性・実用性を持つ
ロボットへのAI技術応用の進化が2026年頃には以下のようなボストンダイナミクスの柔軟な動きを様々な環境に応じてでできるようになっていると思われます。この動画は環境が整備されたところでおそらくなんどもトライアンドエラーして撮った動画だと思われますが、このレベルのパフォーマンスを安定して出せるようになり始めているのではないでしょうか。またある程度自然言語も理解して簡単なタスクならこなせるようになっていると思われます。
そう考えると、Teslaが2021年に開発を宣言した人型ロボットのOptimusもAIの進展が今後進むことを考えるといい時期に開発をスタートできていると感じています。
実際ゴールドマンサックスは2035年までに積極的な予想（Blue skyシナリオ）だとヒューマノイドロボットの市場は2021年時点のEV市場規模と同じ1540億ドル規模になる推定を出しています。
上記推定が積極的なことを考慮しても、2026年頃からTeslaから販売されるかはわかりませんが、人型ロボットが汎用性と実用性を持ち始めれば、順次社会に浸透していき、2035年までには様々な場面(産業向け、個人向けにも販売されるでしょう)で一般の方も見かける頻度が高くなっているのではないかと考えます。
また、以下の動画（CGか何かだと思われます）のように必然的に人型ロボットは軍事技術にも応用され始めるでしょう。今はまだ誰も実感がないと思われますが、2020年代後半頃からこのような人型軍事ロボットが世界的に使われ始める可能性があると思われます。私は軍事学には詳しくないため、どのように利用され規制されていくのかはわかりませんが、技術的には十分可能になっていくでしょう。倫理的、社会的な問題になることは大いに想像できます。
産業用途でイメージしやすそうな動画が下記となります。自在に工場やキッチンで動き回り、自然言語を理解する汎用ロボットアームは2020年代半ばには実用化され社会に急速に普及するのではないでしょうか。まさに攻殻機動隊の世界観ですね。
もう少しかわいい事例ですと、以下のようなパーソナルロボットも子供用のおもちゃやアシスタントとして家庭もしくは接客業で更に実用的になり、2020年代後半から普及し始めるのではないかと感じています。
以下のようにゲームセンターや卓球選手の育成でもロボットが活躍する時代に10年以内になるでしょう。
また場合によってはこのように人間の顔をリアルに再現したロボットが接客業を行うようになっていくと思われます。これも2020年代後半から普及していくと考えています。個人的な直観では2040年頃には対面しても普通の人間と区別が解剖しない限り全くわからない超リアルな人型ロボットが出現している気がしています（材料化学、ソフトロボティクスの進歩）。
コーディングAI
Metaculus（一般化知能の章でこのサイトについては説明します）の以下の予測では「1万行を超えるコーディングを誤りなく行う能力が2030年以前にAIにあるか」という質問で、50%の確信度で「yes」にふられています。少し余裕を見ても2035年までには要件定義さえちゃんとすればほとんどどんなコーディングも規模によらずに生成してくれるAIが存在し、リリースされている可能性が高いと考えています。
https://www.metaculus.com/questions/11188/ai-as-a-competent-programmer-before-2030/
また、以下既にOpenAIのコード生成AIのCodexのデモでは自然言語である問題のシミュレーションをお願いしたところ、AI自身が自然言語で説明しつつコードを生成、間違えたら何を間違えたか言及し修正し、自力で問題を解いています。AIにありがちななぜそのコードを生成したのかわからないという問題も自然言語で相互作用しながら生成できるので解決できる可能性が見えていると感じられます。
上記現状の状況とMetaculus予測から、おおよそ規模にもよりますが、小規模(数十行)なプログラミングは2025年、中規模（数百行~千行）なプログラミングは2030年、大規模（数万行）なプログラムは2035年（汎用人工知能実現予測時期あたり）にはほぼ確実に要件さえ与えれば実行可能になっているのではないかと考えています。
根拠は汎用人工知能実現が推定される時期に入りつつある2035年までに、問題を与えられて回答するという形式の課題はほとんど確実にAIが遂行可能になっていくと考えているからです。つまり、そこから逆算して上記プログラムAIの発展度合いを想定しております。
2035年は一般化知能（指示待ち人間レベル）を超えて、要件定義さえも要望を聞き出して行うAIが誕生していくことになるのではないかと考えますが、それ以前のプログラミングAIの発展も著しく、プログラマーは如何にうまく要件を定義するか、AIの作成したプログラムにバグなどはないかのテストをする作業に比重が傾いていくでしょう。
そしておおよそ感覚的には2040年代にはプログラマーという職はなくなっているのではないでしょうか。おそらく要件定義とバグの確認をAIと連携しながら行う仕事が残る気がします。
メタバースAIの進化
メタバースにあまり詳しくないので、言葉の使い方間違えていたら申し訳ありません。今後確実にメタバース、VR,AR,MRなどにAIはバリバリ2020年代半ばから後半に活用されていくでしょう。
以下のように好きな物体をAR上で例えばAIキャラに変えることができるようになるでしょう。
もちろん、以下のようにメタバース上で自然言語処理を用いて好きな空間を任意に作成することも可能になるはずです。
また現実世界はデジタルツイン世界となり、以下のように仮想世界上で現実世界のシミュレーションをするようにもなっていくはずです。これに関しては規模が大きいので２０２０年代後半から徐々に導入され、2035年以降本格化するかもしれません。
自動運転車の話
下記Metaculus予測（2022年11月2日現在）によると自動運転レベル5が商用化されるだろう確率が50%の時期は、2031年となっています。
この予測は一般化知能が2026年頃から研究開発され始めて5年後となっているため、割といい線いっている推定値なのではないかと個人的には思っています。
自動運転はもうオワコンなのか、期待しすぎたかみたいな記事も見かけますが、むしろAIの発展はこれから加速する感覚があり、2031年より案外早まることさえあるかもしれませんが、おおよそ2030年頃社会的にもレベル5で運転させていいよねというようなコンセンサスがある程度とれるレベルのものが売り出される可能性が高いと思っております。
When will these degrees of self-driving car autonomy be developed and commercially available? Metaculus is a community dedicated to generating accurate pre www.metaculus.com
世界的に自動運転タクシーなど商用目的ではすでに限定領域でのレベル4自動運転サービスが開始されているところもあるため、2025年頃までには日本でも自動運転サービスは開始されるでしょう。そして、上記仮定を鑑みると、2030年代に入ると移動場所を限定しないレベル5自動運転タクシーが早々にサービス開始すると思われます。
また市販車でも、現状車を利用する平均的な年数が10年程度だったと思うので、バッファをとって15年としても、2030年に自動運転を買う人が少なくても、2045年には多くの人が買っていると想像できます。そこから15年後の2060年までには社会に存在するほとんどの車は自動運転になっているのではないかと想定できます。
科学技術をAIが加速
下記URLのようにノーベル賞を取ることのできるような研究のできるAIの構築を2050年までに目指すプロジェクトがあるようです。
オムロン、AIをノーベル賞めざす研究者に 論文読み自ら仮説 人間の研究者のように、イノベーションの原動力となる画期的成果を生み出せる人工知能（AI）を開発する動きが広がってきた。オム www.nikkei.com
2027~2030年に論文(テキスト、画像)を学習して新たな仮説を作理、2040年有名科学雑誌に投稿できるレベルで、 2050年にノーベル賞を目標としてるようです。
昨今DeepMindをはじめとした企業の開発したAIがタンパク質の3次元構造を予測したり、数学の行列演算を高速化するアルゴリズムを見つけ出したり、PreferredNetworksのMatlantis（量子シミュレーション高速化)だったりと科学技術そのものを高速化もしくは法則性の発見をするAIが相次いで出ています。
まだ世界中の論文を読んで仮説を立てる段階にはなっていませんが、自然言語処理の能力が上がり、世界モデルのような研究が進歩すれば新たな仮説を2020年代後半に作れるようにはなっていると思います。
また汎用人工知能が実現すればそれをスケールすることで人間には想像もつかない科学的発見を相次いでするようになる可能性も大いにあると考えられます。
それが2040年頃のAGI実現から2050年のノーベル賞という目標ならば、ありえない話ではないし、そこそこもしかしたらいけてしまうのでは？という空気感に時代が進むにつれてなっていきそうです。
また、AIが科学技術そのものを加速させ、また自己言及までできるように2040年代にはなり始める可能性さえあると考えます。
そこから得られるメリットは計り知れませんが、デメリットに傾けば人類存亡リスクどころかこの宇宙全体の生命体の行方を決めてしまう可能性もありえて、今後ますますAIの安全性研究は重要視されていくでしょう。
未来イメージまとめ
以上、主に一般化知能がどのように社会に影響を与えるかイメージできるような資料を見てきました。どれもSFの世界で見るような技術ばかりで、現状の社会の風景を鑑みると信じられない方も多いでしょうし、こうして紹介している私でさえ実感はあまりわきませんが、その全ては10年以内に実現するように思えます（理由は次の章で説明します）。
例え汎用人工知能や超知能の開発が数十年以内にできないとしても、今後10年以内に十分実用的でそこそこ汎用的なAIは社会のあらゆる領域を変革していくでしょう。
次の項目で、以下のようなAIの進化の年表はどのような推定の元に導出されているのか、一般化知能→汎用人工知能→超知能の順に説明していきたいと思います。
①ANI（狭いAI）～2025年まで
②GI（一般化知能）、指示待ち人間または猫レベルの知能 2026-2030年頃実現
③AGI（汎用人工知能） 2035-2040年頃実現
④ASI （超知能) 2038~2045年頃実現
一般化知能（GI）
結論としては一般化知能はおおよそ2026年までに誕生する可能性が非常に高いと思います。以下の順番で説明していきます。
- 最近のAI動向の加速感の紹介
- 一般化知能の定義と実現に必要な技術
- 予測集計サイトMetaculus
- 人間レベルの学習量に2026年到達するとのレポート
- 一般化知能実現推定時期まとめ
最近のAI動向の加速感
まずは一般化知能の話をする前に、あまりAI動向をウォッチしていない方のためにAIの先端状況をまとめます。
まず2012年にHinton教授率いるチームが畳み込みニューラルネットワークAlexNetを用い、画像コンペで2位と大差をつけて優勝した時期から深層学習ブームが始まり、2022年10月で10年となります。
その間に画像認識分類タスクにおいて人間の精度を上回り(2015年頃)、囲碁や将棋で人類トップを打ち負かし(2017年頃)、不完全情報ゲームであるStarCraft 2で世界最強のゲームプレイヤーを打ち破り(2019年)、人間が書いた文章と見分けのつきにくい文章を生成するAIであるGPT-3が誕生しました(2020年)。
2022年においては、７月末に画像生成AIのMidjourneyが公開され、8月にはStableDiffusionがオープンソース化されました。それと同時にgithub上のアクセス数がうなぎ上りになり、数え切れないほどの画像生成AIサービスが誕生しています。
2022年11月現在ではテキスト指示からの画像生成AI（text2img）にとどまらず、img2img（画像の編集）、text2music（音楽生成）、text2motion（人間の動き）、text2 3D（3次元物体生成）、text 2video（映像生成）、text2code、text2text(自然言語処理AI)など見栄えの良い生成AI技術がじゃんじゃん出てきています。
メディアで取り上げられやすいのは上記エンタメ/クリエイティブ色の強い技術となりますが、2022年は他にも様々なAIモデルが発表されています。
例えば、自然言語処理からゲームからロボット操作まであらゆるタスクを一つのニューラルネットワークで行えるマルチモーダルAI GATO（DeepMind）→汎用ロボットに繋がり得る
A Generalist Agent Inspired by progress in large-scale language modelling, we ap www.deepmind.com
行列の演算を高速化するAlphaTensor(DeepMind)→科学技術の加速に繋がる得る
Discovering novel algorithms with AlphaTensor In our paper, published today in Nature, we introduce AlphaTe www.deepmind.com
強化学習そのものをTransformerモデルで学習してしまうAlgorithm distillation（DeepMind）→エージェントの汎用タスク実行に繋がり得る
ロボットに言語と視覚的イメージで操作を指示できるVIMA(NVIDIA)→より柔軟に指示できる汎用ロボットに繋がり得る
VIMA | General Robot Manipulation with Multimodal Prompts vimalabs.github.io
PC上のあらゆる操作を自然言語処理UIで置き換えるACT-1(Adept)→全てのコンピュータが自然言語処理UIになる布石になり得る
ACT-1: Transformer for Actions At Adept, we are building the next frontier of models that ca www.adept.ai
上記のように、あらゆる領域でAIの技術応用が目覚ましい発展を遂げ始めており、すでに前の章で説明したような未来イメージの基礎技術はできつつあるように思えます。
この目覚ましい発展の一因としては、2017年に開発されたTransformerモデルの成熟やAI専用ハードウェアの爆発的な進化、多くのデータでの学習などソフトとハードの進化が目覚ましいことに原因があると思われます。
事実OpenAIのAI分野でどれだけハードとソフトの進化が起こったかを調べた論文によると以下の図のようにハードソフト合わせて一部領域では2012年から7年程度で750万倍の効率化が起こっていたとのことです。
https://openai.com/blog/ai-and-efficiency/
今後この爆発的な傾向(主にハード)が続くかは怪しいですが、今までの爆発的なAIの進化を説明することのできる１つの資料とはなっていると思われます。
個人的には今後ハードの進化は緩やかになる（今までが異常なレベル）が、アルゴリズムの進化で計算効率やデータ効率が上がっていく、もしくは今まで学習してきたAIモデルを圧縮≒蒸留して有効利用しさらに進化していくのではないか、と考えているのでAIの技術革新は今後も続いていくと感じています。
一般化知能（GI）とは
上記のような昨今のAI発展の加速感を受けて、一般化知能と呼ばれる知能は近い将来実現可能だとStability AI CIO Daniel Jeffries氏は考えているようです。
一般化知能（Generalized Intelligence）という言葉が専門用語なのかは不明（Daniel Jeffries氏の造語と思われる）ですが、単一の問題領域、あるいはいくつかの領域で信じられないほどのパフォーマンスを発揮するAI、猫レベルの知能という風に喩えられています。
The Coming Age of Generalized AI In this article I break down the most cutting edge, practical medium.com
個人的な解釈としてはAGIとは異なり、ある意味でそこそこな汎用性と実用性は持っているが能動性や好奇心は本質的に持たないようなAIを一般化知能と呼べる気がしています。
（一般化知能という和訳は私がしましたが、適切かは不明です。他専門用語と被っていたり、日本語的におかしい等ある場合はご指摘ください。）
しかし現状のAIで多く見られるようなシングルタスク（画像認識、囲碁AI等）、ユニモーダル（マルチタスク対応可能だが、自然言語処理のみ対象の大規模言語モデル等）のみを扱う狭いAI(Narrow AI)とは異なり、一般化知能は例えば言語、視覚、聴覚、ロボット操作など複数のモーダルを超えて、様々なタスクをそこそこ実用的にこなせるAIだと考えられます。
少し飛躍も混じりますが、能動性のない指示待ち人間レベル程度の、そこそこの汎用性と実用性を兼ね備えた知能を持つAIを一般化知能のイメージと考えて良いのではないでしょうか。
また上記記事では現状のAIには2つ問題があるといっています。
- 1つは現状のAI、特にGPT3のような自然言語処理AIはパターンで話しているに過ぎないため、それっぽいことは言えるが論理的、常識的な推論ができないということです。
- もう1つは新しいタスクを覚えようとすると昔学んだタスクを忘れてしまうという問題です。
しかし、これらの問題は現状解決の兆しがすでに存在し、今後10年のAIは、今の機械が高層ビルの隣にある初期の泥小屋のように見えるほど、信じられないほどの範囲と能力を持つようになる、（比喩が和訳すると独特）とのことです。
例えばパターンで会話しているに過ぎないという問題は検索ベースもしくはルールベースAI（強化学習利用）で、後者の問題はBi-Level Continual Learning/Progress and Compress approachesで対応可能ということです。
個人的にも現状のAIの論理的推論の欠陥や常識的な推論のなさについては
定義によりますが、ある程度克服されつつあるように感じます。
・論理的思考については思考の連鎖(CoT)や多数決(自己一貫性)や強化学習誘導、微調整や外部知識活用(データベース、プログラム呼び出し、物理シミュレーション等)で改善されるように思えます。
・常識的な推論についてもすでに研究開発が加速し始めているマルチモーダルAI（視覚、聴覚、動作、言語が統合されたAI）によって常識的な推論もできるようになっていくのではないかと思います。また昨今メタ学習の研究も進んでおり、既存の学習モデルを蒸留することで効率的に常識を獲得していく道筋もあるかと思います。
また、伝統的にAIに固有にあるとされていた問題であるシンボルグラウンディング問題(機械や言葉の意味を理解できない)やフレーム問題(現実世界は考慮すべきことが多すぎて機械が動けない)は、以下の記事でも解説されているようにマルチモーダルAI,映像から初歩的な物理を学ぶAI、論理的思考の昨今の改善で事実上解決されていっていると感じます。
https://note.com/it_navi/n/n83a5152ae458#F035E1AC-1315-4A2D-8B8E-39E1FB257DB1
この世界をAIが本質的な意味で理解していないとしても、程度問題ではありますが上記のようにすでに汎用性や常識や論理的思考の解決の兆しが見えているということを考慮して、2026年頃までにはそこそこ汎用的で実用的なAI＝一般化知能がほぼ確実に出てきて、現実問題のレベルでシンボルグラウンディング問題やフレーム問題は解決(理論的には不明ですが)すると感じます。
予測集計サイトMetaculus
Metaculus は2017年頃から始まったオンライン予測プラットフォームです。
集計エンジンは確率密度関数という形で技術の実現予測時期を可視化しています。また成績のいいユーザーの予測を重み付けしたり、みんなと違った予測をすればするほど高い評価を受けたり、予測精度を競って賞金を授与する仕組みもあります。
未来予測（この時期にこのイベントが起こるだろうとピンポイントに期待すること）は本質的には不可能なことではありますが、確率分布を個々人で設定することで、ある程度の幅を持った予測をすることは可能で、ランダムな予測（あてずっぽう）よりは94％の事例で良い推測結果を残しているとのこと。
簡単にいうと、あるテクノロジーの実現時期については楽観的な人もいれば悲観的な人もいるのでそれらの人の情報のバイアスを統計的に重ね合わせて（集合知）、よりもっともらしい現実的な予測時期を推定している模様です。
FAQ Metaculus: mapping the future. www.metaculus.com
上記サイトで弱い汎用的なAIシステム（≒一般化知能）がいつ頃実現するか？という質問には2022年11月3日現在では2028年に50%の確率で実現すると推定されています。
When will the first weakly general AI system be devised, tested, and publicly announced? Metaculus is a community dedicated to generating accurate pre www.metaculus.com
この弱い汎用的なAIシステムの定義にはテキストベースのチューリングテストに合格することやAtariのモンテズマの復讐というゲームを視覚的入力のみで短時間の学習で実行できる能力やSAT試験（日本でいうセンター試験）を画像のみの入力でそこそこの成績を収めることが含まれます。
そしてそれらが「統合された１つのシステムでできて、適宜自分が何をやっているかも説明できること」も弱い汎用的なAIシステムの定義に含まれています。
これは一般化知能の定義にも似ているのではないでしょうか。
また上記弱い汎用的なAIシステム実現時期の推定は一年前(2021/11)までは2047年を50%推定値として予測されていましたが、現在（2022年11月3日）は2028年と20年近くも予測が前倒しになっています。
理由としては、ここ最近の急激な自然言語処理AIや他GATOのようなマルチモーダルAIの進化を受けて実現期待時期が下がってきているのかもしれません。
AI分野で人気なベンチマークは、人のスコアに到達するまでの時間が短くなる傾向がある。言語理解ベンチマーク「GLUE」では9ヶ月で達成され、難しいタスクを集めた「SuperGLUE」は流石に当分は無理だと言われたが1年半で達成され、BIG-benchにいたっては論文が出る前に人の平均スコアに到達してしまった pic.twitter.com/yEUO366gqi— 小猫遊りょう（たかにゃし・りょう） (@jaguring1) July 5, 2022
上記@jaguring1さんのツイートが昨今の自然言語処理の進化を物語っていると思いますが、先月10月末にも汎用言語モデルを1836タスクで微調整（instruction finetuning）されたFlan-PaLMが数学, 物理, 法学、歴史など57ジャンルの4択問題タスク「MMLU」で75.2%を記録し、「2024年の6月時点でMMLUでは75%程度」と一部予想されていたものが、1年半以上も早く到達したようです。
「2024年の6月時点でMMLUでは75%程度」と予想されていたが、1年半以上も早く到達したhttps://t.co/6Sz40oQ1O7— 小猫遊りょう（たかにゃし・りょう） (@jaguring1) October 21, 2022
AIの進展によっては一年でMetaculus予測が20年近く予測が前倒し（2047年から2028年）になることもあるため、弱い汎用的なAIシステムの実現時期も上下はしつつも最終的には数年前倒しに（2026年頃）なるのではないかと個人的には考えています。
2026年には人間レベル知能？
以下私のツイートで紹介させていただきましたが、人間がおよそ30年ですることになる計算量に単純比較で2026年頃には現状のAIモデルが到達する可能性が高いというレポートがあります。
こちらバイオアンカー仮説と呼ばれる脳の学習量とAIモデルの学習量が同じ時に知能面でも同じ程度になるという仮説を用いた結果となっており、相当積極的なAGI実現推定レポートとなっています。
しかし、これが即座に汎用人工知能実現という話にはならないと思いますし、個人的にも5年以内だと流石に現状AGIに繋がる手がかりも模索中の中では難しいのではと考えております。
しかし、一般化知能（GI）の実現時期推定には使える気がしています。
つまり、世界に積極的に関わる能動性はないが、ある程度汎用性と実用性を持つAIの実現時期推定としては参考になる資料だと個人的には感じています。
一般化知能実現推定時期まとめ
まとめると、最近のAI動向の加速感（論理的思考、常識的推論、忘却の改善）から、現時点で一般化知能への根本的な技術的課題はそこまで多くないと考えられます。
また、Metaculus推定結果もおおよそ2028年までには弱い汎用システムが実現すると50%確率で推定しており、AI専門家やアマチュアの間でも近い時期（2030年まで）での実現可能性は相当高いと肌感でみんな感じているのではないかと思います。また、2021年から2022年にかけて、弱い汎用システムの実現時期予測が20年近くも前倒しになったのも考慮するとあと2年程度はまだ前倒しになる可能性はあると感じます。
2026年までには人間の30歳までの学習量に大規模モデルの計算量が追いつき、AGIが実現するのではないかというレポートも加味（流石にAGIはまだだと思うのでそれを一般化知能と読み換える）すると、2026年頃からそこそこ汎用的(視覚、聴覚、動作、言語などマルチモーダルにタスクをこなせる)かつ、実用的（それぞれのタスクがそこそこ人間レベルに近い性能を持つ）なAIである一般化知能がほぼ確実に実現するのではないかと個人的には考えています。
汎用人工知能（AGI）
今まではそこそこの汎用性と実用性を持つ一般化知能の話をしてきましたが、上記AI発展の加速感を受けて真に？人間レベルの知能を持つ汎用人工知能(Artificial General Intelligence)に関する様々な議論が巻き起こっています。汎用人工知能の定義は様々あると思いますが、ここでは人間レベルの汎用性と実用性を持ち、加えて世界に積極的に関わっていくことのできる能動的な知能程度に考えてみたいと思います。
日本だと特定の技術開発年代を推定するという試みはあまり活発には見られませんが、欧米圏では割と行われており、先に紹介した予測集計サイトMetaculusや
Metaculus Mapping the future. www.metaculus.com
様々な科学分野の議論が行われるLessWrong
Welcome to LessWrong! – LessWrong The road to wisdom? Well, it’s plain and simple to express: • www.lesswrong.com
や他AI専門家へのアンケート調査がそれに該当します。
結論としては汎用人工知能実現時期をおおよそ2030年頃と考える積極的な予測から2040年頃と考える中間的な予測、2060年頃と考える少し保守的な推定、今世紀中も難しいと考える人もいます。
個人的には2035~2040年頃に実現するのではないかと考えています。以下のように順に説明します。
- 予測集計サイトMetaculus
- LessWrongレポート
- 積極的なレポート
- 専門家アンケート
- 著名人予測
- 脳参照AI（補足）
- コネクトーム（個人的予想）
- 汎用人工知能推定時期まとめ
予測集計サイトMetaculus
Metaculusの汎用的なAIシステムはいつ開発され公表されるか？というAGI実現時期と対応する質問に対して、25%推定時期は2030年、50%は2041年、75%は2075年頃(2022年11月2日現在)となっています。
この結果は確率の解釈にもよりますが、25％推定時期についていえば、コインを2回投げて表が連続で出るくらいの幸運で早ければ10年以内にAGIが実現してしまうかもしれないという肌感なのかもしれません。
また50％推定時期を見ると、おおよそ2040年頃のAGI実現確率は相当あり得るラインという結果になっているのではないでしょうか。
確かに今世紀中に実現しない確率も20%弱ありますが、ここで重要なのは無視できない大きな確率をAI専門家やアマチュア（おそらく投票している層はAI関連のニュースに興味があり詳しい人が多いと思われます）が今世紀前半にAGIが実現されるという事象に振っているということではないでしょうか。
ブログ投稿サイトLessWrong
また、自然科学、社会科学のトピックについてブログ形式で投稿して議論をするLessWrongというサイトにて、2020年にTAI（社会に大きな影響を与えるような変革的AI≒AGI）実現時期を割と包括的に推定しようとしたレポート（200ページもあります。）が以下となり、TAI実現確率50%を2050年頃と推定しています。
Draft report on AI timelines – LessWrong Hi all, I’ve been working on some AI forecasting research and www.lesswrong.com
後に著者は2022年に実現確率50%時期を2040年と大幅に早めています。
Two-year update on my personal AI timelines – LessWrong I worked on mydraft report on biological anchors for forecast www.lesswrong.com
ざっくり上記レポートの内容をいうと生物学的な人間の脳を参照として、現状のAIモデルが脳の学習量に到達するのはいつ頃か？を考察し、到達した時点においてTAIが実現するという仮定（バイオアンカー仮説）をもとに推定しています。
もう少し詳しくいうと人間の脳の学習量を大きく6つの仮説（ニューラルネットアンカー（短期、中期、長期）、ゲノムアンカー、ライフタイムアンカー、進化アンカー）を考え、それぞれ著者の主観的な確からしさで重ね合わせて、その学習量に到達する時期をハードの進化、アルゴリズムの効率化、企業や国の支出意欲の増加を考慮し、累積分布関数という形で推定している形です。
このうちニューラルネットアンカーでは現状のAIモデル（2020年時点）で脳の計算速度を実現するとしたらどのくらいの学習量が必要かを考えます。学習量の出し方はまず人間の脳の計算速度を多めに見積もり（10^16FLOPS）、そこからその計算速度を出せるニューラルネットワークモデルのパラメータ数の推定をし、パラメータ数からそのパラメータ数程度のニューラルネットワークモデルに必要な学習量（サンプル数）を推定します。そこから１サンプルの学習にかかる時間は数秒程度（短期）なのか、数日程度なのか（中期）、数年程度なのか（長期）で場合分けします。最終的にはニューラルネットの1秒あたりの学習ステップ数(10^16FLOPS)×サンプル数(推定済み)×１サンプルの秒数(短期、中期、長期で場合わけ)で学習量FLOPsが産出されることになります。
※FLOPsは、モデルの計算コストの代理としてよく用いられている指標であり、浮動小数点の乗算・加算演算の数(number of floating-point operations)を示しています。なお、コンピュータの処理速度の指標として用いられるFLOPS(FLoating-point Operations Per Second)とは別の指標です。
Are cost indicators necessarily appropriate? 3 main points ✔️ Discuss the pros and cons of various cost me ai-scholar.tech
ゲノムアンカーはパラメータ数を人間のゲノム情報程度と仮定し、1サンプルの学習にかかる時間を数年スパンとする考え方です。
ライフタイムアンカーはニューラルネットアンカーのように現状のAIモデルの細かい話（推論の速度から考えるとパラメータ数がこれくらいだったら学習量はこれくらいなど）は考えずに、純粋に人間の脳の計算速度に30年程度の人生時間をかけて学習量を算出します。（最も楽観的な仮説）
進化アンカーはこれまで地球上に存在してきた動物全ての脳が計算した学習量を要求します（最も保守的な仮説）
こうして6つの仮説それぞれの学習量に到達する確率を以下のような累積分布関数のような形でグラフ化できます。
6つの仮説全ての平均が黒い線となっており、TAI実現時期は2030年に10%程度、2050年に50%程度、2100年までに80%近くまで上がります。
先ほども言いましたが、後に（2022年）著者は、2030年に15%、2036年に35％、2040年に50%、2050年までに60%と大幅にTAI実現時期を前倒しにした予測を出しています。
Two-year update on my personal AI timelines – LessWrong I worked on mydraft report on biological anchors for forecast www.lesswrong.com
積極的なTAI時期推定レポート
上記はおおよそ積極的でも保守的でもない仮説の紹介でしたが、積極的な仮説も再掲(一般化知能の項目で紹介したもの)しておきます。
LessWrongに投稿された以下のレポートは上記レポートでいうライフタイムアンカー仮説（人間が生まれてから30歳程度までに脳がする計算量にAIモデルが至った時点で人間と同様の知能が芽生えるという仮説）を用いています。
AI Timelines via Cumulative Optimization Power: Less Long, More Short – LessWrong TLDR: We can best predict the future by using simple models w www.lesswrong.com
以下の図のように現状カラスレベルの人工知能がすでに実現していると推定しており、現状の大規模言語モデルの計算量の進歩を外挿すると2032年までにAGIが実現する確率を75%としています。著者は2026年時点でも実現可能性があり得るといっており、相当な速さでAGIが実現してしまう予測になっています。
AIの進展に関する専門家アンケート
様々なAGI実現時期をアンケートした結果はありますが、2022年最新のもので比較的回答者数が多いと思われる結果が以下となります。
2022 Expert Survey on Progress in AI Collected data and analysis from a large survey of machine le aiimpacts.org
2021年に開催された学会NeurIPSまたはICMLで発表した研究者うち738件の回答をもとに分析しており、AGI実現時期の他にも面白い質問があったので掲載します。
- 人間の手を借りない機械が、人間の労働者よりもうまく、かつ安価にあらゆるタスクを達成できる機械をHLMI（Human Levele Machine Intelligence）とした時にHLMIの実現確率が50％になるまでの集計予測時間は2022年から37年、すなわち2059年(今世紀中は難しいと考える人もいる)
- 高度なAIが人類に与える長期的な影響が「極めて悪い（例えば、人類の絶滅）」となる確率5％
- 回答者の中央値は、社会がAIの安全性研究を現在よりも「もっと」優先させるべきと考えている。回答者は、”ずっと少ない”、”少ない”、”ほぼ同じ”、”多い”、”ずっと多い “から選択しました。”もっと “または “ずっと “を選んだ回答者は69％で、2016年の49％から増加
- 回答者の中央値は、知能爆発について述べられた議論が大まかに正しい可能性は「ほぼ互角」だと考えている。回答者の54％が、それが正しい可能性は「ほぼ互角」「ありそう」「非常にありそう」（確率40％以上に相当）と答えており、2016年の回答者の51％と同様であった。また、回答者の中央値は、HLMIの30年以内に機械知能がおそらく（60％）「すべての職業で人間より圧倒的に優れている」と考えており、HLMIの30年以内に機械知能によって世界の技術向上率がおそらく（80％）劇的に（例えば10倍以上）向上するとしています。
HLMI（人間レベルの知能）の実現時期推定結果については、MetaculusやLessWrongのレポート結果よりも保守的な結果（HLMI実現時期の50%推定時期は2060年頃）となっています。
著名人によるAGI実現時期予測
他参考までに著名人のAGIに関する言及も紹介させていただきます。
下記ソースによると、未来学者のレイカーツワイル氏は2029年には、コンピューターがチューリングテストに合格し、人間ができることはすべて人間よりもはるかにうまくできるようになると言及しているようです。
Conversations with Maya: Ray Kurzweil – Society for Science Maya Ajmera, President & CEO of Society for Science & www.societyforscience.org
イーロンマスク氏が2029年までに汎用人工知能 (AGI) が実現していなければ驚きだ、と述べたことが注目を集めています。
2029 feels like a pivotal year. I’d be surprised if we don’t have AGI by then. Hopefully, people on Mars too.— Elon Musk (@elonmusk) May 30, 2022
また、「効果的な利他主義」という教義に基づいて助成を行う研究・助成財団 Open Philanthropy CEOのホールデン・カルノフスキー氏は以下サイトにて、
15 年以内 (2036 年まで) に革新的な AI が登場する可能性が 10% 以上 あると推定しています。40年以内に（2060年までに）約50％の確率でそれが見られます。そして、今世紀（2100年まで）にそれが見られる可能性は約2/3と考えているようです。
AI Timelines: Where the Arguments, and the “Experts,” Stand What the best available forecasting methods say – and why the www.cold-takes.com
脳参照AIの発展（補足）
真に汎用的な人工知能に至るための道筋には脳神経科学の発展が寄与すると個人的にも、また世界的にも現在考えられている一面があると思われます。
以下ツイートで神経科学の人工知能発展のための推進を呼びかけるペーパーが10月に発表されています。この連名には深層学習のゴッドファザーと呼ばれるヤンルンカン氏やヨシュアベンジオ氏なども連なっている模様です。
Massive whitepaper just dropped on why neuroscience progress should continue to drive AI progress: https://t.co/SD59JMZybj Argues for an embodied turing test. Needed: real interdisciplinary people, shared platform(s), fundamental research— KordingLab 🦖 (@KordingLab) October 20, 2022
昨今、脳の統一理論になり得るとしてるカール・フリストン氏により2006年頃提唱された脳の理論である自由エネルギー原理が注目されています。生物の知覚や学習、行動は、自由エネルギーと呼ばれるコスト関数を最小化するように決まるとする理論です。
この理論をAIにも応用しようとする動きがここ最近増えてきてるように思え、早稲田大学の尾形哲也教授が以下講演の後半でYoutubeで話されています。
Active Inference in Robotics and Artificial Agents: Survey and Challenges Active inference is a mathematical framework which originated arxiv.org
他にも脳型人工知能と銘打った新たなアルゴリズムが京都大学や大阪大学などから発表されています。
https://t.co/RhOzBMibVKhttps://t.co/OcM62z1j0H
最近京大とか阪大が脳型人工知能とかゆらぎ学習みたいな低消費電力かつデータ効率のいい新たなアルゴリズムを考案しているみたいだ。
世界的には深層学習に代わる新たなAIアルゴリズム開発ってどうなっているのか気になる。— bioshok(INFJ) (@bioshok3) October 29, 2022
また深層学習のゴッドファザーと呼ばれるジェフリーヒントン氏、ヤンルカン氏、ヨシュアベンジオ氏もそれぞれ次世代のAIのためにアイディアを出しています。
・ヒントン氏はGLOMと呼ばれるアルゴリズムの提案。
How to represent part-whole hierarchies in a neural network This paper does not describe a working system. Instead, it pr arxiv.org
・ヤンルカン氏は自律的な機械知性への道という論文で世界モデルを使用したアルゴリズムを提案。
・ヨシュアベンジオ氏はダニエルカーネマン「ファスト&スロー」における遅い思考＝システム2を実現するためにGFlowNetと呼ばれるアルゴリズムを提案。
GFlowNet Foundations Generative Flow Networks (GFlowNets) have been introduced as arxiv.org
以上のように脳を参照とする人工知能の研究（自由エネルギー原理、脳型人工知能、他世界モデル、GLOM、GFlowNetなど新規アルゴリズム）は始まったばかりですが、現状の人工知能パラダイムを乗り越えるために世界中から今後積極的に投資が行われ、研究開発が進んでいくことになるでしょう。
コネクトーム（個人的予想）
ここからは私が汎用人工知能が2035年から2040年の間に実現するのではないかと考えている直接の根拠として使っている脳のコネクトームの解析がどこまでいつ進むのかという話をさせていただきたいと思います。（もちろん厳密には根拠ではありませんが、汎用人工知能実現時期を考える際に使用した１つの補助線ではあります。）
脳神経科学の発展に関連する話として脳のニューロン間のつながり（コネクトーム）をマッピングする試みが現状ハーバード大学の以下の研究で行われています。5万の細胞(ニューロンだと思われる)の三次元構造をレンダリングしたと下記のURLにあります。
A connectomic study of a petascale fragment of human cerebral cortex We acquired a rapidly preserved human surgical sample from th www.biorxiv.org
またMetaculus予測では10年後までに1000倍のコネクトーム（現在のペタバイトからエクサバイト）がマッピングされ公開されるとの予測が60%程度となっています。
Will a exascale volume of connectome be mapped and revealed to the public by June 2031? Metaculus is a community dedicated to generating accurate pre www.metaculus.com
上記2022年時点で5万ニューロンマッピング完了として10年ごとに1000倍のマッピングが遂行できると仮定した場合、およそ2040年頃には1000億ニューロンのマッピングが完了することとなります。これは人間の脳全体に存在するニューロンの数程度となります
ヒトの脳全体シミュレーションを可能にするアルゴリズム | 理化学研究所 www.riken.jp
また汎用人工知能の実現に人間の脳全体のコネクトームの構造レベルの情報はいらないと個人的には感じているので、人間の脳全体のコネクトーム構造の10%でも解明する時点を汎用人工知能の原理も解明される時点と仮定すると2030年代半ばにはAGIの原理が解明されているかもしれません。
汎用人工知能実現推定時期まとめ
上記今まで見てきた予測推計での呼び方に差異はあれ（AGI,HLMI,TAIなど）おおよそ同じものだと考えると、AGI実現時期の積極的な予測から保守的な予測まで以下のように並べてまとめられます。
- LessWrong積極的な推測レポート→2026年から2032年
- レイカーツワイル氏→2029年
- イーロンマスク氏→2029年
- Metaculus（集合知予測）→2040年頃
- LessWrong包括的レポート→2040年頃(2022年現在著者は2020年時点での2050年頃という予測を早めた)
- 専門家アンケート、ホールデン・カルノフスキー氏→2060年頃
上記結果を踏まえると、積極的な推定だと2030年頃、少し保守的だと2060年頃、中間が2040年頃に実現時期を推定している模様です。
個人的には上記結果を踏まえつつ、若干楽観的に2035年から2040年の間に人間レベルに汎用的で、能動性を持つ（世界に好奇心や疑問を持つ）AIが実現されるのではないかと考えています。
脳参照AI側の考察から、研究されてる自由エネルギー原理、脳型人工知能、脳神経科学などの分野でブレイクスルーが2030年代半ばに起きて（コネクトーム解読の外挿）、数年で実装されれば2035~2040年あたりにAGIは実現するのではないかと個人的な感覚値として持っています。
超知能（ASI）
一般化知能、汎用人工知能の話をしてきましたが、最後は超知能の実現時期推定となります。結論としては超知能は汎用人工知能実現時期に依存しており、もしAGIが2035〜2040年頃開発されれば2038~2045年頃に超知能は実現するでしょう。以下順に説明させていただきます。
- 超知能の定義と知能爆発
- AGIから超知能までのタイムスパン
- AIアライメントと人類存亡リスク（余談）
- 超知能実現推定時期まとめ
超知能の定義と知能爆発
超知能（Artificial Super Intelligence）をオックスフォード大学教授の哲学者ニック・ボストロムは、「実質的にすべての分野（科学的創造力・全般的な知識・社会技能を含む）において、その分野でもっとも優れている人間の頭脳よりもはるかに賢い知性」と定義しています。
How long before superintelligence? Considers some arguments for thinking that superhuman artific nickbostrom.com
最近だとアニメ「Beatless」や「Vivy」、洋画ですと「トランセンデンス」や漫画だと「AIの遺電子」、小説だと円城塔さんの「Self-Reference ENGINE」などで人間や人類をはるかに超える知能を持つ機械知性の姿が描かれています。
超知能なんてSFでしょ？と思われる方は多いと思われますが、もし汎用人工知能が実現した場合、そこから数十年ではなく、もしかしたら数年、想像以上に早い場合は数分で超知能に発展する可能性がニックボストロムによって考察されています。
それは主に人間と比較してデジタルの知能は容易に記憶容量を増やしたり、演算速度を上げることが可能なため、一度人間レベルの知能を作成した場合それをアルゴリズム的に改善しなくても、ハードの拡張とデータ資源の拡張（インターネットの情報を与えるなど）すれば容易に人間の記憶もしくは計算速度を何桁も伸ばすことができてしまうのではないかと考えられているためです。
また、自律的な自己改善が起こって人類がハードウェアの拡張やデータ資源の拡張やソフトウェアの改善などを外部から施さなくても、再帰的に能力を急速に向上させる知能爆発が起こる可能性も考察されています。
（スーパーインテリジェンス 超絶AIと人類の命運 ニックボストロム著 第4章知能爆発の速さ 参照 ）
AGIから超知能までのタイムスパン
以下Metaculus予測によると、2022年11月2日現在においては、AGIが一旦開発されてしまえば14ヶ月ほどで超知能に該当するような知能ができると50%で予測されています。75％にしても82ヶ月で7年程度となります。
After an AGI is created, how many months will it be before the first superintelligence? Metaculus is a community dedicated to generating accurate pre www.metaculus.com
つまり上記Metaculus予測をもとにすると、AGIがもし2040年頃に実現するとしたら、、2041~2047年頃には超知能が開発されている可能性が出てきます。
また以下前に紹介した専門家アンケート結果ではHLMI（人間レベル知能）ができてから30年以内にあらゆる職業の人間を圧倒する知能が出現することに60%程度の確率が振られていて、保守的に見た場合2040+30で2070年までに超知能が存在する確率が高く、HLMI実現時期を専門家アンケート結果の50%予測の2060年頃として相当保守的に見ても2090年までには超知能が実現される可能性があります。
少し個人的に疑問なのは5年未満でAIシステムが研究開発を一桁以上スピードアップする知能爆発の可能性については54％の人が「ほぼ確か、確からしい、半分あり得る」に投票しているため、それを考慮すると、上記のHLMI実現から30年以内に超知能が実現する確率に60%という結果は遅すぎる実現スパン推定なのではないかと思います。
それはさておき、少なくとも半分以上のAI専門家は知能爆発がそこそこあり得ると考えているということは言えるでしょう。
AIアライメントと人類存亡リスク（余談）
少し超知能実現時期推定の話から脱線しますが、AIシステムを設計者の意図した目標や関心に近づけることを目的とする研究をAIアライメントと呼びます。現状AIの性能を向上させるもしくは直近のAIの差別的発言を抑制することや自動運転の安全性を高めるといった研究には大きく投資されていますが、
一方で、高度なAIによる人類存亡リスクを低減するための研究者は以下レポートによると、世界で2022年時点で数百人程度と見積もられており、まだまだ少ない状態にあります。今後AIの安全性リスクを低減する需要は急激に高まっていくと想定されており、毎年10~30%の率で研究者数は増加すると見込まれているそうです（2030年までに1000人になる推定）。
Estimating the Current and Future Number of AI Safety Researchers – LessWrong SUMMARY I estimate that there are about 200 full-time technic www.lesswrong.com
AIが急速に実用的になりつつある昨今、DeepMindやOpenAIといったAI研究機関もAIを人間の意図や倫理的な基準に沿わせるための研究を重要視し始めていると感じます。今年も以下のように両者からAIアライメント問題関係で考察が出されています。
Our approach to alignment research Our approach to aligning AGI is empirical and iterative. We a openai.com
How do we assess the moral capacities of artificial systems? One novel approach applies insights from developmental psychology to the grounded study of morality in AI.
Work by @weidingerlaura, @mgreinecke, and Julia Haas: https://t.co/m9H1Fxd6YC pic.twitter.com/3NIiZB7WSL— DeepMind (@DeepMind) August 24, 2022
このように、AIが実用的になり、汎用人工知能が実現される可能性が高まるにつれて、必然的にAIが人間の意図を無視することで起こる人類への致命的なダメージリスクをどうしたら低減できるかという議論が少しずつですが増えていっているように思えます。
また以下のLessWrongの考察や論文によると超知能が誕生したと仮定した場合に人類に壊滅的な被害が起こる確率をおよそ10%程度と推定しています。
How Do AI Timelines Affect Existential Risk? – LessWrong This report is my MLSS final project. • PDF version here. … www.lesswrong.com
以下AI アライメントについて専門的に議論するサイトでは現状の人間のフィードバックを用いた強化学習のような手法では超知能の人類に対する致命的なダメージのリスクは高まると警鐘を鳴らすレポートが今年出ています。
その背景にあるのは、ニックボストロムの知能と価値観の「直交仮説」にあると思われます。簡単にいうとどんなに賢い知能が存在しても、宇宙をペーパークリップで一杯にするという価値観を持ってしまう可能性があり、その場合人類はダムを建設する際に無視される蟻塚のような扱いになってしまうかもしれません。
（スーパーインテリジェンス 超絶AIと人類の命運 ニックボストロム著 第7、8章）
そのような人類存亡リスクを低減するためにキャリア支援を行う非営利団体も現れています。
世界の喫緊の課題に効果的に取り組むキャリアに転換できるよう、研究とサポートを提供している団体です。
以下参考URLを置いておきます。まだこのAIアライメント分野は研究者が少ないため積極的に若い人を呼び込んでいるのでしょう。AGIの実現可能性から超知能のリスクまで幅広く議論されておりコンテンツとしてとても充実しているので興味がある方はご覧ください。
また下記のサイトでは人類のAIに限らない全般的な存亡リスクが議論されており、哲学者のToby Ordによると下記表のように100年以内に人類が壊滅的な被害を受ける可能性が1/6と相当大きくなっています。そのうち60%がAIによる絶滅リスクとなっています。（単純計算でAIの影響がなければ、6~7%程の存亡リスク、AIの影響は10％程度）
今後汎用人工知能や超知能の実現の可能性が今後10年で高まるにつれて、上記のような超知能や汎用人工知能などによる人類への壊滅的リスクの議論は本格化してくるのではないでしょうか。
超知能実現推定時期まとめ
個人的には汎用人工知能誕生から超知能実現のタイムスパンとしてはMetaculus予測は若干早すぎ（14ヶ月）で専門家アンケートの結果（30年以内）は遅すぎると感じています。
確かにAGIが実現したら間髪入れずに資源を投入することで超知能まで進化してしまうかもしれませんが、人類存亡リスクの確率が10%という大きすぎるリスクを考慮して3~5年程度は時間をかけてじっくり超知能にシフトさせるのではないでしょうか。
また専門家アンケート結果の30年というのは流石に遅すぎると個人的には感じます。
以下その理由です。
人間の脳の計算処理は10^15FLOPS程度と見積もられています。
How Much Computational Power Does It Take to Match the Human Brain? – Open Philanthropy Open Philanthropy is interested in when AI systems will be ab www.openphilanthropy.org
余裕を持って10^16FLOPSとして、スパコンの性能が2040年付近で10^21FLOPSとした場合100万人相当程度の計算処理ができるという単純な計算ができます。その状態で10年以上も超知能が誕生しうるスケールまで資源を拡張しないというのはあまりなさそうという主観的な感覚となります。
（10年で100倍に歴史的にはスパコン性能が向上していますが今後微細化の限界に近づくことを考慮して1000倍としています。現状のスパコンは10^18FLOPS程度なので10^21FLOPSとなります。もしかしたらニューロチップなどの飛躍でもっと桁は上がる可能性はあるかもしれません。）
なので結論としては汎用人工知能が実現する年代に＋３〜10年以内が超知能実現時期推定としては妥当なのではないかと思います。もしかしたらもっと早いかもしれませんし、どこかの組織が数ヶ月で超知能にまでスケールさせてしまう可能性もあり、10年以上のタイムスパンが開く確率よりは数ヶ月や数日といった短期間での進化の方があり得ると思われます。（ニックボストロムも同じように考えているようです）
個人的には2040年にAGIが実現した場合は5年以内、2035年にAGIが実現した場合は10年以内に超知能実現と条件によって変わるのかなと感じています。なぜなら、AI安全性の研究がその5年の間に進み超知能開発推進のモチベーションが高まると思われるからです。
つまり2035~2040年頃を汎用人工知能実現時期とすれば2038~2045年、2060年頃をAGI実現時期としたら2065年頃までには超知能がこの世界に存在する可能性があると思われます。
ただ、汎用人工知能実現のためにすでに計算資源をスパコンレベルで使用していたり、ソフトウェアの改善が一向に進まない場合は長期間(数十年)に渡って超知能のような存在が誕生しない可能性もあり不確実な部分は残ります。
しかし、重要なのは無視できない確率で今世紀の早い時期に超知能が誕生する可能性があることだと思われます。これは今後一般化知能（GI）が社会に浸透し始める段階(2020年代後半から2030年代)で一層社会的に議論するべきテーマになっていくと思われます。
社会的影響
以上一般化知能、汎用人工知能、超知能の順に実現時期の推定をしてきました。次にそれらが実現した場合どのような影響が社会全体に現れるかを考えてみたいと思います。以下の順で説明します。
- ハードウェアの改善
- 経済的影響
- 政治的影響
ハードウェアの改善
ソフトウェアがいくら賢くなったとしても、それが社会に普及するための条件の１つとして手頃なハードウェアにそのAIソフトが載ることを考える必要があると思われます。例えば携帯端末やパソコンやロボットの中でローカルにAIが動くようになれば瞬く間に世界中に広がるでしょう。5G,6G技術もクラウド側から演算を助けてくれるかもしれませんが、ハードウェアの改善は普及を加速させるはずです。
上記動画は原理的に超知能がどこまで賢くなれるのか、その制約条件はなんなのかということを考察している動画で、動画全体も大変興味深い内容になっていますが、54:20あたりから脳の計算処理能力の10^16FLOPS程度の計算能力を2030年頃目処に誰でも携帯端末上に持てるようになるという予測があり、それが起きてしまうのではないかと思うと高橋氏はおっしゃっています。
こちらおそらくニューロモーフィックチップの発展を想定されていると考えると、例えば以下の記事のように、従来のプロセッサの1000倍早く特定のワークロードを行えるとあり、また1万倍高効率ということで消費電力も従来とそこまで変わらずに行えるのではないかと推測できます。
Intel、1億ニューロンを組み込んだ脳型システムを発表 Intelは2020年3月18日（米国時間）、約1億ニューロンの演算能力を備えた新しいニューロモーフィックコンピューティン eetimes.itmedia.co.jp
また現にNVIDIAは10^13-14のAI計算ができる小型AIコンピュータを発売(予定)しています。(約3万円~30万円)
【速報】NVIDIA「Jetson Orin Nano」を発表 従来Nanoの約80倍の高性能 超小型AIコンピュータ Orinファミリーは3機種に – ロボスタ ロボスタ – ロボット情報WEBマガジン【速報】NVIDIA「Jetson Orin Nano」を発表 従来Nanoの約80倍の高性能 超小型AIコンピュータ Orinファミリーは3機種に – ロボスタ シェア 98 ツイート 0 はてブ 42 NVIDIAは「GTC 2022」において、CEOのジェンスン・フアン氏が基調講 robotstart.info
また2022年のiPhoneの最新のAI専用チップは10^13FLOPS程度となっているようです。
Apple A15 – Wikipedia en.wikipedia.org
そのため、控えめに言っても2030年までには10^15FLOPS程度の演算速度を多くの人が個人的に買えるようになるのではないかと推測できます。
ここで人間の脳の計算速度は10^15FLOPS程度と見積もられているため、少し余裕を見て2035年までには多くの人が一人一台そこそこ賢いAIを保有できていると考えるのが自然ではないでしょうか。
経済的影響
今まで見てきたような一般化知能や汎用人工知能が世に出た場合どの程度の経済的効果が期待されるのでしょうか。以下２つ資料を見ていきたいと思います。
まず直近10年のAIの経済的効果を推定しているレポートで
今後AIが2022年から2030年までに創出する経済的価値は1998年から2021年までにインターネットが創出した経済的価値の6倍になるという推定があります。
Productivity Gains Could Propel The AI Software Market To $14 Trillion By 2030 – ARK Invest Original research on investing in disruptive innovation and b ark-invest.com
必ずこうなるというわけではありませんが、マルチモーダルAIが急速に社会のあらゆる側面を塗り替える可能性を考えるとありえない話ではないかもしれません。
次にもう少し長期の数十年スパンで経済的影響を考察したレポートが以下となります。
Could Advanced AI Drive Explosive Economic Growth? – Open Philanthropy This report evaluates the likelihood of ‘explosive growth’, m www.openphilanthropy.org
レポートを要約すると、GWP（世界総生産）成長率の長期トレンドから、以下のようなべき乗則の関係が見出せて、0.03%から0.3%に成長するのに数千年かかったが、0.3%から3%に成長するのに数百年しかかからず、この傾向が続けば3%から30%になるのに数十年しかかからないと外挿できるということです。
上記レポートでは、「今世紀中に爆発的な成長が起こる確率は10％以上である。これは、十分に高度なAIが時間内に開発される確率が30%以上、このレベルのAIが開発されることを条件として爆発的な成長が実際に起こる確率が1/3以上であることが前提となっている。」と結論を出しています。
ここで高度なAIを著者は最高品質の労働者が遠隔でできることがすべてできるAIと定義しているため、AGI以上の技術が開発されることが条件といってよいと思われます。
2040年までにAGIが実現する可能性があることを条件とすると、おおよそ30％の確率で、毎年GWPが30%上昇する可能性があります。
もちろん荒っぽい主観的な確率の割り当ての部分もあるため、参考程度ですが、世界の経済成長率が数パーセントから数十パーセントになる可能性もあることが重要でしょう。
政治的影響
今後、一般化知能を超えて汎用人工知能の開発が行われた場合、どのような政治的影響が出てくるのでしょうか。
先ほども紹介した以下の記事の4章で、戦争の悪化、全体主義、ほか故意的ではないAIの制御不能性など語られています。
他、もう少し現実レベルでは以下記事にあるようにプライバシー侵害、技術的失業、セキュリティリスクの増加なども懸念されているようです。
https://www.openphilanthropy.org/research/potential-risks-from-advanced-artificial-intelligence/
このようなAIシステムが与える社会的悪影響に対する対策(AIガバナンス)が戦略レベルから戦術レベル、そして普及活動まで様々なスケールで行われていて、以下記事では、どの組織が何をしているかがまとまっているので参考になると思います。
以下上記記事で紹介されているAIガバナンスに取り組む組織の一例です。
FHI、GovAI、CSER、DeepMind、OpenAI、GCRI、CSET、Rethink Priorities、LPP
※AI ガバナンスとは、AI システムの開発と展開による社会的成果に影響を与えるローカルおよびグローバルな規範、ポリシー、法律、プロセス、政治、制度 (政府だけではない) をもたらすことを意味するようです。（上記記事参考）
世界が大きく変革される時期
AIの進化と社会への影響を具体的に推定する種々の議論を紹介させていただきましたが、ほぼ確実に訪れるであろう未来は一般化知能レベルのAIが2020年代後半から今後社会のあらゆる領域を変えていくであろうことだと思われます。
それを超えた汎用人工知能や超知能に関しては個人的には2035~2040年頃AGI実現→超知能は2038〜2045年までに出現するのではないかと考えてはいますが、不確実なことが多く断言はできません。
しかし、少なくとも今世紀中には汎用人工知能の実現可能性が高いというのは様々な専門家も含めて感じているではあると思われます。
（もちろん100年後も汎用人工知能なんて無理だと考える方もいらっしゃいます。）
それでも私の感覚が正しく、AGIが2040年頃実現し、超知能が2045年頃実現したとしたら社会は本当に比喩ですらなく、圧倒的にSFのような世界に突入していくことでしょう。全ての社会制度は変わらざるを得ないと思います。
人間とは何かという定義さえサイボーグ化やマインドアップローディング技術で曖昧になると思います。労働は全てなくなるかもしれませんし、あらゆる体験がブレインマシンインターフェースを通じて行えるようになるかもしれません。AIの人権問題も先鋭化していき、意識とは何かという哲学的な問題がクリティカルになっていくでしょう。
そして、多くの人が不老不死にさえなる可能性(現状の延長線だと常識的に考えたら難しいかもしれませんが超知能の科学技術の加速も加味)も捨て切れません。
これは、ここまで語ってきた私でさえ実感をまだ持てていませんが、多くの皆さんが生きている間に体験する可能性のあることだと思います。
多くの人は2022年現在まだFAXも紙もあり、AIどころかデジタル化さえままならない時代であるという認識だと思います。そしてAIに対する認識も多くの人は、ちょっと画像認識できて、片言の言葉をおしゃべり笑できて、最近画像生成AIがすごいけど、まぁそんくらいでしょ。世界は何も変わらないと思う方が大半だと思います。
しかし、今まで議論させていただいた通り、本当にあと4年〜10年くらい、つまり2020年代後半から2030年代にかけて、驚くほど世界は変わり、SFのような世界になっていくと思われます。
DXと言っていた2020年代前半が嘘かのような変わりようで、まさに人類が体験したことのないレベルの社会の急激な変化が訪れることになるのではないかと考えています（例え汎用人工知能ができなくても）。
それは例えていうならスマホもネットもテレビもない100年前の日本から令和の時代にいきなり変わるレベルの変化なのかなと個人的には思っています。
このような急激な変化が良いことなのか悪いことなのかはひとまず置いておき、それがあと10年以内に訪れることをほぼ確信した私はこの事実を多くの人に認識だけでもしていただきたく、また、今後AIの社会的影響やその悪い面への対策などの議論のきっかけとなればと思い、本記事を書かせていただきました。
次の節に本記事を書く際に参考にさせていただいたサイト群をまとめて貼らせていただきます。皆さんもご興味があれば、是非アクセスしてみてください。
長い記事になってしまいましたが、ご拝読いただきありがとうございます。
何か不備やご指摘事項などありましたら以下Twitterまでご連絡いただければ幸いです。
@bioshok3
AIの未来に関係するコンテンツリンク（参考）
以下のサイトの全体とその最後に書いてあるリンクは有用だと思いましたので貼らせていただきます。AI安全性研究に携わるたくさんの組織や概要が書かれていました。
https://80000hours.org/problem-profiles/artificial-intelligence/#neglectedness
他にも以下のサイトは有益でした。
https://aiimpacts.org/
https://www.cold-takes.com/
https://80000hours.org/problem-profiles/artificial-intelligence/#complementary-yet-crucial-roles
https://www.openphilanthropy.org/
https://www.metaculus.com/help/faq/#whatismetaculus
https://www.lesswrong.com/
https://www.alignmentforum.org/
https://www.effectivealtruism.org/
Futurist（フューチャリスト）コミュニティについて
Futurist（フューチャリスト）が集まるコミュニティ。「未来は “待つ” ものではなく “歩む” ものである」を掲げる。都内複数拠点で月1程度で活動。slackやZoomでは日常的に交流。各々がバックキャストするFuturist活動の相互支援やFuturism探求の視察・企画・共有会なども実施。 [ 活動内容の参考は こちら ]
Futurist（フューチャリスト）コミュニティに参加するには？
- 「お問い合わせ」フォームより、ご連絡をお待ちしております。
