オープンAIの未来：サム・アルマン氏の去り行くことが意味するもの

オープンAIの未来：サム・アルマン氏の去り行くことが意味するもの

• こんにちは皆さん、今日はエキサイティングな一日でした。新鮮な空気を吸い、頭を整理して考えています。一歩引いて、サム・アルマン氏がオープンAIを離れることが人工知能全般（AGI）にとって何を意味するのか考えてみましょう。サム・アルマン氏はマイクロソフトに行くことになりました。彼はまず第一にビジネスマンですが、とてもカリスマ性のあるリーダーで、明確なビジョンを持っています。彼が技術のエキスパートではないと言って、それが重要でないというわけではありません。僕自身、エース・フレームワークやエージェント・スワーム・プロジェクトなど、いくつかのプロジェクトで技術をインスパイアするリーダーとして活動していますが、カリスマ性とビジョンは、労働力を組織し、人々にインスピレーションを与え、より高い目標に到達するための非常に重要なスキルや能力です。それは、なぜキャプテン・ピカードがそんなにインスピレーションを与えるリーダーだったのかということと同じです。彼が引き寄せたクルーの総合技術レベルが彼をリーダーにしたのです。逆もまた然り、これは双方向の道です。サム・アルマン氏について考える際に、良いことも悪いことも醜いこともあります。彼のアプローチやメンタリティについて批判的な意見を述べたこともあります。誰も完璧ではありませんが、より多くの情報が出てくるにつれて、Ilia Suk氏の表現した「単なる重大な計算ミス」という表現が正確な出来事であるように思えます。私が前回の動画を公開してから間もなく、オープンAIの約80%のメンバーが辞任を求める声明を出したと報じられました。サムは戻ってこないので、オープンAIは崩壊するでしょう。彼らは「オープンAIは人々なしには何もできない」と言っていますが、もし80%の人々が去っていくなら、彼らの一部はマイクロソフトに行くか、他の場所に行くでしょう。噂によると、多くの人々が既に応募しているとのことです。もちろん、人材引き抜きは予想されるものです。私はオープンAIは完全に終わり、行き詰まっていると思います。マイクロソフトとオープンAIの契約の仕組みはよくわかりませんが、基本的にはオープンAIが満たせない場合、マイクロソフトが最初に権利を持っていると考えられます。

オープンAIの未来：サム・アルマン氏の去り行くことが意味するもの

AIの未来と大企業の役割

• 資産を購入する拒否、それが事実であれば、結局のところ、サム・オルマンはMicrosoftの傘の下でほとんどのオープンAIを獲得します。これは、彼がインセンティブやそのようなものについて言っていたことに完全に反するものです。お金が話すということはそういうことであり、お金が話すということは、お金に関して言及していることを裏付けているようです。おそらくサムがお金のためにやっているかどうかはわかりませんが、他の人はそうであることは確かです。お金は今日も重要な要素です。これが舞台の上での状況ですが、これがAGIにとってどういう意味を持つのかということです。最近言ったように、AGIにつながる研究の90％以上はオープンソースであり、それはスタンフォードなどの大学、Microsoft Research、そして多くのオープンソースを行うmetaによって行われています。つまり、AGIにつながる研究の大部分は公開されているので、誰もが気にする必要はありません。ただし、大手企業こそがフロンティアモデルを訓練するための資金を持っています。トレーニングコストだけでなく、何百人ものトップ人材、そのうちのいくつかは年間数百万ドルを支払われている人々がフロンティアモデルを構築するためにいます。つまり、研究の90%がオープンソースであるからといって、誰でもそれを行うことができるわけではないということです。過去の実績のある人間だけが実行できる専門知識を持つ人々だけがそれを行うことができるでしょう。才能が向かう先が重要な点です。

AIの未来と大企業の役割

技術の進歩と専門家の価値

• オープンAIが崩壊する可能性が高いように思えます。彼らは四方八方に散らばるだろうというのはほぼ確実なことのようです。その結果、最後の10％の専門知識はAppleやMeta、Google、Microsoft、Nvidiaなどに行き渡ることになります。これらの人々の中には専門家もいますが、世界にはフロンティアモデルの専門家が少ないと言えます。例えば、世界にはフロンティアモデルの専門家が1000人いるかもしれません。もっと少ないかもしれませんが、今から2〜3年前にはそんなに多くの専門家はいませんでした。時間をかけて教育への投資を行い、適切なスキルと適性を持つ人材を見つけ、経験を積ませることで、専門家を増やすことができます。来年の今頃には、今よりもフロンティアモデルの専門家が増えることでしょう。それは一時的な制約であり、依然として大きな制約です。オープンAIが崩壊したからといって、そのような専門家が突然存在しなくなるわけではありません。実際、見られる交流が意味するところは、彼らがさらに貴重な経験を積み、より賢くなる可能性があるということです。彼らはオープンAIの文化を離れ、MicrosoftやGoogle Deep Mind、Meta、Appleなどの他のテック企業で経験を積むことになるでしょう。このような交流は企業だけでなく、専門家自身にとっても良い影響をもたらすでしょう。

技術の進歩と専門家の価値

AIの未来：オープンソースの重要性と専門家の役割

• しかし、実際に進行している専門家たちは、この分野を推進しています。私はかなり自信を持って言えるが、これはAGIにとっても安全にとっても良いことだと思います。OpenAIのIlia SSの下では非常に独占的であり、何度もこれはクローズドソースのままでなければならないと述べていました。彼は、限られた人々でなければならないという独特な考え方を持っていたようですが、私はオープンソースを支持してきました。全てを一挙に公開する必要はないと言っているわけではありませんが、この情報は拡散したいところです。膨大なエネルギーと資金が後押ししており、他のすべての企業も恩恵を受けるでしょう。この意味では、このことは私たち全員に恩恵をもたらすでしょう。私は、多くの人々が巨大な企業に懐疑的であることを理解しており、そこで政府にこれらの企業をよりよく監視できる力を与える新しい社会契約が必要だと考えています。しかし、それはまた別の話題です。ここに救急車のサイレンが聞こえていないことを願っています。高速道路が近くにあるので、少し先では交通がないのですが、消防車が去りました。今は誰も道路を走っていないので、なぜそんなにサイレンを鳴らしていたのかわかりません。まあ、とにかく、原則第一は、AI専門家は十分におり、これらの変更から学ぶことができるということです。異なる安全性の文化、企業文化、利益動機に触れることができることは良いことです。それにより、より優れたAGI専門家が増えるでしょう。異なる競合他社と彼らのオープンソースに対する異なる姿勢の間で、Google DeepMindはFrontierモデルに関する多くのオープンソース情報を公開しており、同様にMetaやMicrosoftも同様です。OpenAIはおそらく、Apple以外では最もオープンソースでない企業でしたが、これが良いことになると思います。今後は、競合他社が互いに切磋琢磨し合い、情報や技術が共有されることで、AIの未来がさらに進化していくことでしょう。

AIの未来：オープンソースの重要性と専門家の役割

次世代AIの民主的アプローチとは？

• 様々なショップ間でのさらなるクロスコラボレーションが必要だと感じています。議論にGoogle DeepMindやMicrosoft Researchの研究者が参加することがありますが、これからはもっとその傾向が強まると思います。強者の結集を図ることの重要性に気付くでしょう。また、元OpenAIメンバーたちはお互いを知っており、今後もつながりを持ち続けるでしょう。秘密保持契約には縛られる部分もありますが、社会的なつながりはシリコンバレーを連携させる手助けとなるでしょう。AGIや超知能への到達は重大な問題であり、一つのクローズドなグループだけで扱うにはあまりにも重大であり、無視することができません。OpenAIの崩壊は、小さなグループひとつではこの問題を処理できないこと、処理すべきでないことを明白に示しています。AIへの民主的な意見は、OpenAIだけでなくすべてのテクノロジーカンパニーや市民、政府との対話でなければなりません。民主的な意見とは、公的な議論を通じて合意形成を図ることを意味します。古代アテネがアゴラで行っていたような、公共の討論が重要なのです。

次世代AIの民主的アプローチとは？

Conclusion:

オープンAIの未来について考察しました。サム・アルマン氏の去り行くことがAGI分野に与える影響について、興味深い視点を紹介しました。

Q & A