目次【開く】
【AGI】未来じゃなくもうそろそろ？サムアルトマンのブログ『３つの考察』要約と全文翻訳【久賀原鷹彦】
『３つの考察』要約
ミッションとAGIの定義
要点AGIが人類全体に利益をもたらすことを目指す。AGIは複雑な問題を人間レベルで解決できるシステムを指し、定義は曖昧。
人間の創造性と進歩
要点人間の道具作りや創造性が進歩を促し、新世代が過去の発見に基づいて新しいツールを開発。
革新の歴史
要点人間の革新は時間と共に繁栄と生活の改善をもたらしてきた。
AGIの可能性
要点AGIは単なる道具でありながら、経済成長や健康、創造性の領域で劇的な変化をもたらす可能性がある。
未来のAI能力
要点10年後には、一人ひとりが現在の最も影響力のある人以上の能力を持つだろう。
AI経済学の観察
要点AIの知能はリソースの対数に等しく、コストは急速に下落し、知能の価値は超指数関数的に増加。
AIエージェントの展望
要点AIエージェントは仮想の同僚となり、ソフトウェアエンジニアリングなどで活躍するが、完全には人間を超えない。
AIの経済的影響
要点AIはトランジスタのように経済に広範囲に影響を与え、多くの商品の価格が下落する一方で、一部の資源は高騰する。
社会への影響
要点短期的には生活は変わらないが、長期的には社会と経済に大きな変化が訪れる。
必要なスキル
要点自主性や適応力が重要で、AGIは個人の影響力を増大させる。
AGIの不均等な影響
要点AGIの影響は産業によって異なり、特に科学の進歩が加速する。
価格と資源の未来
要点商品価格の劇的な下落と高級品や土地の価格上昇が予想される。
政策と社会の適応
要点AGIの社会統合には公共政策が重要で、製品の早期リリースは社会と技術の共進化を促す。
AIの普及と管理
要点AIの広範な利用と個人のエンパワーメントを目指し、安全性と自由のバランスが必要。
AGIの安全性と倫理
要点AGIの安全性は不人気な決定を伴うが、個人のエンパワーメントが重要で、AIの悪用防止が課題。
AGIの利益分配
要点AGIの利益を広く分配することの重要性。技術進歩が全体の福祉を向上させるが、平等性は別途配慮が必要。
労働と資本のバランス
要点資本と労働の力関係の変化に対応するための新たなアイデアが求められる。
未来の知識アクセス
要点2035年には全員が現在の知的能力を超えるアクセスを持つべきで、これにより創造性が解放される。
感謝と注釈
要点原稿レビューへの感謝と、AGIの用語使用についての脚注。
『３つの考察』原文全文翻訳
三つの考察 by サム・アルトマン
私たちのミッションは、AGI（人工知能一般）が人類全体の利益となることを保証することです。
AGI*を示唆するシステムが視野に入ってきており、私たちは今この瞬間を理解することが重要だと考えています。AGIは曖昧に定義される用語ですが、一般的には、多くの分野で人間レベルでますます複雑な問題に対処できるシステムを意味します。
人々は道具を作る者であり、理解し創造するという本質的な衝動を持っており、それが私たち全員にとって世界をより良くする結果につながります。各新世代は前の世代の発見を基に、電気、トランジスタ、コンピュータ、インターネット、そして間もなくAGIといった、ますます能力の高い道具を創造します。
時には一進一退の繰り返しではありますが、人間の革新の着実な進歩は、時間と共に、想像もつかなかったレベルの繁栄と、人々の生活のほぼ全ての側面における改善をもたらしてきました。
ある意味では、AGIは私たちが共同で築き上げている人間の進歩の高層足場の上に位置するただのもう一つの道具です。別の意味では、これは「今回は違う」と言わずにはいられない何かの始まりであり、私たちの前に広がる経済成長は驚異的で、すべての病を治す世界、家族とより多くの時間を楽しむことができる世界、そして私たちの創造的な可能性を完全に実現できる世界を想像することができます。
10年後には、おそらく地球上の全員が、今日の最も影響力のある人物よりも多くを成し遂げる能力を持つようになるでしょう。
AIの開発において急速な進歩が続いています。ここではAIの経済学に関する三つの観察を紹介します：
1. AIモデルの知能は、大まかに言って、それを訓練し運用するために使用されるリソースの対数に等しい。これらのリソースは主に訓練用計算能力、データ、推論計算能力です。任意の金額を投じて連続的かつ予測可能な利益を得ることができるようであり、これを予測するスケーリング法則は、多くの桁にわたって正確です。
2. 特定のAIレベルを使用するコストは、12ヶ月ごとに約10倍低下し、価格が下がると使用量が大幅に増えます。これは2023年初頭のGPT-4から2024年中頃のGPT-4oまでのトークンコストの変化で見ることができます。この期間にトークンごとの価格が約150倍下落しました。ムーアの法則が18ヶ月ごとに2倍という世界を変えたのに対し、これは信じられないほど強力です。
3. 線形的に増加する知能の社会経済的価値は本質的に超指数関数的です。その結果、近い将来に指数関数的に増加する投資が止まる理由は見当たりません。
これら三つの観察が引き続き真実である場合、その社会への影響は大きいものとなるでしょう。
私たちは今、AIエージェントの展開を始めようとしており、これらは最終的には仮想の同僚のような存在になるでしょう。
ソフトウェアエンジニアリングのエージェントというケースを想像してみましょう。これは特に重要と期待されるエージェントです。このエージェントは、最終的に、トップ企業で数年経験のあるソフトウェアエンジニアが数日程度のタスクをこなすことができるようになると想像してください。ただし、最も革新的なアイデアは持たず、多くの人間による監督と方向付けが必要で、特定のことに優れている一方で、他の面では意外に苦手ということもあるでしょう。
それでも、このエージェントを実際的だが比較的ジュニアな仮想同僚として考えてみてください。そして、1,000人分、または100万人のそれを想像してみてください。そして、知識労働の全分野にそうしたエージェントが存在することを想像してみてください。
ある意味では、AIは経済的にはトランジスタのようなものになるかもしれません。つまり、よくスケールする大きな科学的発見で、経済のほぼ全ての隅々に浸透するものです。私たちはトランジスタやトランジスタ会社についてあまり考えませんし、その利益は非常に広く分配されます。しかし、我々はコンピュータ、テレビ、車、おもちゃなどが奇跡を起こすことを期待します。
世界は一気に変わるわけではありません。変化は常にそうです。短期的には生活はほぼ同じように続き、2025年の人々は2024年とほぼ同じように時間を過ごすでしょう。私たちはまだ恋をし、家族を作り、オンラインで喧嘩し、自然の中でハイキングをするでしょう。
しかし、未来は無視できない形で私たちに襲いかかり、長期的には我々の社会や経済に大きな変化をもたらすでしょう。私たちは新しいことを見つけ、新しい方法で互いに役立つようになり、新しい競争の方法を見つけるでしょうが、それらは今日の仕事とはあまり似ていないかもしれません。
自主性、意欲、そして決意は非常に価値があるでしょう。変わり続ける世界をどうナビゲートするかを正しく決めることには大きな価値があり、回復力と適応力は身につけるべき有用なスキルです。AGIは人間の意欲に対する最大のレバーとなり、これまで以上に個々の人々が大きな影響力を持つことを可能にするでしょう、決して少なくなるわけではありません。
AGIの影響は不均等であると予想されます。いくつかの産業はほとんど変わらないかもしれませんが、科学の進歩は今よりもはるかに速くなるでしょう；このAGIの影響は他の全てを超えるかもしれません。
多くの商品の価格は最終的に劇的に下落するでしょう（現在は知識のコストとエネルギーのコストが多くのことを制限しています）、そして、贅沢品や土地のような本質的に制限された資源の価格はさらに劇的に上昇するかもしれません。
技術的に言えば、前方の道は比較的明確に見えます。しかし、AGIを社会にどのように統合すべきかに関する公共政策と集団の意見が非常に重要です；私たちが製品を早期かつ頻繁にリリースする理由の一つは、社会と技術が共進化する時間を与えるためです。
AIは経済と社会の全領域に浸透し、すべてがスマートであることが期待されます。多くの人々は、我々がこれまで持っていた以上に人々が技術をコントロールできるようにする必要があると予想しており、それにはより多くのオープンソース化を含め、安全性と個人のエンパワーメントのバランスを見つけるためのトレードオフが必要であることを受け入れるべきです。
AGIの安全性に関する重大な決定や制限は不人気になるかもしれませんが、AGIの達成に近づくにつれて、方向性として個人のエンパワーメントにより傾くことが重要だと私たちは信じています；他に見える可能性のある道は、AIが全体主義的な政府によって大規模監視や自律性の喪失を通じて自国民を支配するために使用されることです。
AGIの利益が広く分配されることを確保することが重要です。技術進歩の歴史的影響から、我々が気にするほとんどの指標（健康結果、経済的繁栄など）は、平均的には、そして長期的には良くなることを示唆していますが、平等性の増加は技術的に決定されるものではなく、これを正しく行うためには新しいアイデアが必要かもしれません。
特に、資本と労働力の間の力のバランスが簡単に崩れる可能性があり、これには早期の介入が必要になるかもしれません。地球上の全員が大量のAIを使用できるようにするための「計算予算」を与えるという奇妙に聞こえるアイデアにも私たちは開放的ですが、知識のコストを可能な限り低く押し下げることで望ましい効果が得られる多くの方法も見えます。
2035年の誰もが、2025年の全員に相当する知的能力を動員できるようになるべきです；誰もが想像できる方法で無限の天才にアクセスできるべきです。今、多くの才能がその全力を発揮するためのリソースを持っていませんが、それを変えれば、世界の創造的成果は私たち全員にとって大きな利益をもたらすでしょう。
この原稿のレビューに感謝するのは特に、ジョシュ・アキアム、ボアズ・バラク、アレクサンダー・マドリーです。
*ここでAGIという用語を使うことで、私たちは明確に伝えることを目指していますが、マイクロソフトとの関係を定義する定義やプロセスを変更または解釈する意図はありません。私たちは長期的にマイクロソフトとパートナー関係にあることを完全に期待しています。この脚注は馬鹿げているように見えるかもしれませんが、一方で、何か馬鹿げたことを書いてクリックを稼ごうとするジャーナリストがいることを知っているので、ここではその馬鹿げたことへの先手を打っているのです…
