ASIとは何ですか？未来の超知性について知ろう

未来のAIの可能性：超安全な知性を追求するSSIの挑戦

• 昨年、オープンAIの天才と呼ばれた男、イリアス・スクベル。彼は共同創業者に留まらず、ジェフリー・ヒントンと共にAlexNetという畳み込みニューラルネットワークを発明した狂気の科学者でもありました。彼は現代でも最も尊敬されるAI研究者の一人と言われています。

• しかし、昨年、イリアは信頼を失いました。その理由は衝撃的な出来事。彼はサム・アルトマンを裏切り、CEOの座を追われる一員だったことが明らかになったのです。伝説によれば、彼は無謀なテクノ資本家から人類を守ろうとしたが、その裏切りが彼に跳ね返ったのです。アルトマンはすぐに復権し、より強力で危険な存在となりました。

• しかし、テック業界ではイリアは悪役と見なされ、謎の失踪を遂げました。彼のキャリアは終わったかに思えましたが、昨日、大きな発表で再び姿を現しました。それは2024年6月20日、あなたはコードレポートを見ています。

• 昨日、画期的な新しいスタートアップ、SSI（セーフ・スーパー・インテリジェンス）が立ち上げられました。パロアルトとテルアビブにオフィスを構えるこの会社は、「超知性が手に届く」と宣言し、すぐに我々全員を殺そうとしない超知性を作ることを目指しています。しかし、それがどれほど荒唐無稽かについて話す前に、なぜ彼らの挑戦が重要なのか考えてみましょう。

未来のAIの可能性：超安全な知性を追求するSSIの挑戦

人工スーパーインテリジェンス：未来の希望か脅威か

• このウェブサイトを見てみてください。JavaScriptは一切必要ありません。TailwindもTypeScriptもNext.jsも使われていません。たった5行のCSSといくつかのHTMLだけで構成されています。そのデザインはとても優雅で美しいので、これをコーディングしたのは何らかの超知能であるしか考えられません。

• でも、人工スーパーインテリジェンス（ASI）とは一体何なのでしょうか？人間の知能を上回るであろう、仮想上のソフトウェアベースの知性です。例えば、人間がニンジンを見ると、それほど知的なものとは考えないでしょう。しかし、ASIが現れれば、このフロッピーディスクも同様の優越感であなたを見つめるかもしれません。

• それは非常に危険です。なぜなら、私たちは毎日ニンジンに酷いことをしています。切ったり、ジュースにしたり、茹でたりして、様々なニンジンの権利侵害を行っているからです。もし超知性が生産手段を掌握したとしたら、私たちはニンジンと同じ運命を辿る可能性があります。

• しかし、まずは人工一般知能（AGI）を達成していないことを考えるべきです。AGIはおおよそ人間と同等の知能であり、複数の領域で新しいスキルを学ぶことができるものです。現在の最も近い存在は、GPT 4やGeminiのようなマルチモーダル大言語モデルですが、彼らのすべての活動はすでに人間が学んで作り出したものに基づいています。

• 彼らは科学の未解決問題を解決したり、芸術的革新の壁を突き破ったりするわけではありません。彼らは単に人間がすでに学んで作り出したものを反芻しているだけです。未来に向けて、人間の進化と知性の発展はどうなるのか、その可能性を思うと、不安と共にワクワクもします。

人工スーパーインテリジェンス：未来の希望か脅威か

未来を切り拓くAI技術の可能性と挑戦

• AI技術は今や私たちの生活に深く浸透しており、人工知能が私たちの周りにあふれています。しかし、それらは実際には何も知的ではなく、検索エンジンに近い存在です。しかし、AI技術には多くの収益性を持ち、サム・アルマンが最近、オープンAIを本当に営利企業にする可能性があると発言しました。

• オープンAIには現在、奇妙な利益構造があり、それを廃止するかもしれません。多くの人がすでに気づいていますが、オープンAIにはオープンという言葉が似つかわしくないことを。同社の共同創設者であるイーロン・マスクも、会社の設立ミッションに対する厳重な裏切りのために彼らを訴えるつもりでしたが、数日前にその訴訟を取り下げました。

未来を切り拓くAI技術の可能性と挑戦

未来への警告：超知能AIの恐るべき力

• 近年、AI技術の進化が目覚ましいものとなっています。しかしながら、この急速な発展には潜在的な危険性も同居していることを認識しなければなりません。

• 人類にとって最大の脅威は、AIが誤った手に渡ることです。映画『ターミネーター』のようにAIが我々を殺すことよりも、それを悪用する人間がリスクとなる可能性があります。

• さらに、規範倫理や道徳を持たないAIが発展し、我々に脅威を与えることも考えられます。このような未来を描くとき、科学者たちの警鐘が重要となります。

• ただし、すべてが悪い方向に進むわけではありません。AI技術によって、正確な標的を選択し、無実の市民を守ることが可能となります。その意味で、AIの活用は美しいものと言えるでしょう。

• 最終的には、我々が取るべき行動が問われます。AIの未来において、正しい方向に進むためには、倫理的な視点とリーダーシップが欠かせません。選択肢は二つだけではありません。

未来への警告：超知能AIの恐るべき力

Conclusion:

人工スーパーインテリジェンス（ASI）は未来の希望でもあり脅威でもあります。私たちは今後、ASIがどのように進化していくか注視する必要があります。

Q & A