OpenAIの大きな恐怖、AGIは2027年にもたらされるが、OpenAIではないのか？

安全な超知能AIの開発に向けた新たな挑戦

• 超知能AIを安全に開発するレースに新たなプレイヤーが現れました。オープンAIの一部の重要なメンバーが不穏な状況下で立ち上げたスタートアップ、Safe Super Intelligence（SSI）という新興企業です。Open AIの中心メンバーであり、Ilia Suaver氏が先月退社後、ほぼすぐにこの新しい事業に参加したことは知られています。

• SSIは、人類に対して背を向けない安全な超知能AIを作り出すことに焦点を当てています。Sagher氏は、Elon Muskの問題の後にTwitterで（今はXと呼ばれています）この発表を行いました。「私たちは、単一の焦点、目標、製品で安全な超知能を追求します。」と語っています。

• Suts氏はAIの世界で大物と共にチームを組んでいます。AppleのAIと検索活動を率いていたDaniel Gross氏や、別の元Open AIエンジニアであるDaniel Levy氏など、AIの専門家がそろったスーパーグループです。彼らは一緒に、カリフォルニアのパロアルトとイスラエルのテルアビブに拠点を置く予定です。

• SutsのOpen AIからの離脱には、かなりドラマティックな出来事が絡んでいます。彼は去年の11月にOpen AIのCEOであるSam Altman氏を排除しようとしたグループの一員でした。実際にクーデターを試みたのです。この一連の出来事はAIコミュニティを大きく騒がせ、Suss氏は後に公に謝罪し、その行為を後悔したと述べました。

• SSIの新しい事業は、AIがより賢く高度になるにつれてもAIが安全であることを確認することに重点を置いています。同社のメッセージは明確で、「経営上のオーバーヘッドや製品サイクルによる逸脱はなく、ビジネスモデルは安全、セキュリティ」と述べています。

安全な超知能AIの開発に向けた新たな挑戦

未来のAI時代：人間を超える知性に向けて

• オープンAIのスーパーアライメントチームの解散から始めると面白いでしょう。このチームは、AIシステムをコントロールし、軌道を外れないように導くことに焦点を当てていました。しかし、スットと同僚のヤン・ライカがチームを去った後、チームは解散しました。

• その後、スットは別のAI企業であるアンソニックに参加しました。2023年のブログポストでは、彼らはスーパーインテリジェントなAIの潜在的な危険性について話し、10年以内に人間を上回る知性を持つAIが現れる可能性を予測しました。人間よりも賢いAI、想像してみてください。

• 現在、SSIのアプローチはAIの能力を可能な限り迅速に進化させながら、安全対策を先んじさせることです。彼らはこの戦略によって技術をスケールアップし、大きな問題に直面することなく進めると信じています。

• SSIは非営利団体として始まったオープンAIとは異なり、ビジネスモデルでも違いがあります。SSIは最初から営利企業として設立されており、資本調達にはそれほど心配していません。AIへの注目が高まっており、チームの印象的な資格により、資金調達に問題はないと述べています。

• 最近明らかになった情報についても触れてみましょう。

未来のAI時代：人間を超える知性に向けて

オープンAIの内部情報と未来展望：驚きの洞察と大胆な予測

• ニューヨークタイムズのHardForkポッドキャストで行われたオープンAIの従業員へのインタビューが話題を集めました。このインタビューでは、Daniel KokoがオープンAIの内部運営について驚くべき洞察を共有しました。

• Koko氏によると、オープンAIと大きなパートナーシップを結んでいるマイクロソフトは、内部安全委員会の承認を待たずにインドでgp4を展開しました。この委員会は、AIの重要な展開が安全で十分に検討されていることを確認するものでしたが、明らかにマイクロソフトはその手順を飛ばしてしまったとのことです。

• このインシデントは、時には大手企業でさえ重要な安全プロトコルを回避することがあることを示しており、かなり警戒すべき点です。また、Koko氏は、サム・オルトマンのAI安全チームの試みの後、オープンAIの文化についても話しました。

• 彼は、安全チームに対して多くの怒りが向けられたと述べ、サム・オルトマンを解雇した理由について古い委員会が正直でなかったと人々が感じたことから、AI安全に焦点を当てる人々にとって非常に敵対的な環境が生まれたと述べています。

• この緊張は、なぜジョン・リークや他の研究者がオープンAIを去る決定を下した要因の一つであった可能性があります。あなたもジョン・リークを覚えていますよね？AIの安全性に重要なSuper Alignmentチームが解散した後、彼はAnthropicに移籍しました。

• 明らかに、急速なAIの開発と安全性の確保とのバランスをどう取るかについて大きな内部紛争があったことがわかります。このバランスを取ることは確かに難しい課題でした。

• そして、このインタビューから出たかなり大胆な予測がありました。Koko氏は、自身を含む多くのオープンAIの従業員が、人工汎用知能（AGI）が2027年には実現すると信じていると述べました。これは数年後に迫った大きな出来事です。

オープンAIの内部情報と未来展望：驚きの洞察と大胆な予測

人類を超える知性の到来：AGIがもたらす未来の可能性

• 人類史上最も革新的な技術の一つである人工知能（AI）。私たちの世界を根本から変える可能性を秘めたAGI（人工一般知性）が近づいているとしたらどうでしょうか。

• 2027年までに実現すると予測されているAGIは、人間以上の知性を持つAIシステムを意味します。この予測が正しい場合、私たちの世界は想像を超える形で変容するかもしれません。

• 他のAI専門家たちも含めた業界の見解からも、2027年にAGIが実現する可能性が高まっています。このような未来が訪れれば、私たちの仕事や生活、そしてグローバルな課題への取り組み方にも巨大な影響をもたらすでしょう。

• しかし、こうした強力なAIシステムの開発および展開には、非常に慎重である必要があります。SSIのような企業がAIの安全性と人類の利益を重視することが重要です。彼らの取り組みが、安全な超知性の創出に貢献することが期待されます。

• 新たな挑戦に立ち向かうイリア・スーツ氏がSSIを設立したことは、AI安全性への強いコミットメントを示しています。彼の新しい企業は、明確なミッションと才能あるチームによって、この分野で大きな進歩を遂げることが予想されます。

• ダニエル・ココのインタビューからも浮かび上がる見解は、AI産業内の複雑さと緊張を示しています。スマートな機械を作ることだけでなく、責任ある倫理的な行動を取ることが重要であり、言うは易し行うは難しです。

• 近い将来は、AIの未来を形作る上で非常に重要な時期となるでしょう。その展開がどのように進展していくか、今後の展開が非常に興味深くなることでしょう。

人類を超える知性の到来：AGIがもたらす未来の可能性

Conclusion:

未来のAI時代に向け、AI安全性への取り組みが急務となっています。SSIの取り組みやOpenAIの内部情報から、AIの発展と安全性の両面に焦点を当て、人類を超える知性の到来を探求しました。

Q & A