当社の理念

AI は社会の多くの側面を大幅に向上させる可能性を秘めています。他の技術と同様に、この技術も人々により大きな能力と主体性をもたらすでしょう。AI を活用して人々が成し得ることの規模は、蒸気機関や電気によって可能だったことのそれをはるかに上回るものです。私たちは、現在では想像しがたいほどに広く繁栄が実現する世界、そして個々の人の可能性、主体性、充足感が著しく高まる世界を描いています。これまで科学小説でしか夢想することができなかった多くのことが現実化するでしょう。それは言うまでもなく、今日の大多数の人々が過ごすことのできる生活よりも、はるかに意味ある生活を送れるようになることを意味します。しかし、そのような結果は保証されたものではありません。未来において権力は、超知能を利用・制御するわずかな企業によって握られるか、あるいは分散的に人々の手によって保持されるかの 2 つのあり方があります。私たちは後者の方が遥かに望ましいと考えており、私たちの目標は汎用人工知能（AGI）をできるだけ多くの人の手に渡すことにあります。現在と同様に、未来もすべて悪いわけではありませんし、すべて良いわけでもありません。しかし、今我々が下す決定が、善の可能性を最大化するのを助けることができるのです。私たちの使命は、AGI が人類全体に恩恵をもたらすことを確保することにあります。私達の仕事を支える原則は以下の通りです：

1. 民主化 私たちは、この技術による権力の少数人への集中という可能性に対して抵抗し続けます。これは、すべての人が AI にアクセスできるようにすることに加えて、AI に関する重要な決定が、単に AI リサプによってではなく、民主的なプロセスを通じて、かつ平等の原則に基づいて行われることを確保することを意味します。

2. 能力強化（エンパワーメント） 私たちは、AI があらゆる人々が目標を達成し、より多くのことを学び、幸福で充足された人生を送り、夢を追うことを可能にし、社会全体がこれからの恩恵を受けると考えています。これを達成するためには、目の前にある莫大な可能性を探求することを人々に許容しなければなりません。そのために製品を開発する必要があります。利用者様は、当社のサービスを通じて、確実により価値のある課題を遂行できるようになる必要があります。世界は多様であり、人々は異なるニーズを抱えています。私たちは利用者に必要な自律性を与え、合理的な範囲内でもっとも多くの自由を与えたいと考えています。当社サービスの使用方法に関して利用者に非常に広い裁量を与えることは望み、AI が全体として巨大な利益をもたらすと強く信じていますが、一方で、弊害を最小限に抑える方法で設計・展開する責任もあります。これには、もちろん壊滅的な危害を防ぐことだけでなく、局所的な危害を軽減したり、社会に対する腐食性の影響を回避したりすることを含みます。不確実性面前において警戒心の持った立場をとることが必要となり、より多くの証拠が得られるにつれて制約を緩和していく必要があります。

3. 普遍的繁栄 私たちは、誰もが優れた人生を送れるような未来を願っています。誰でも使いやすい AI システムと膨大な計算リソースを全ての人の手に渡すことで、人々は価値を生み出す新たな方法を発見し、科学の新たな発見などをとおして社会全体の生活の質を劇的に向上させることができる我们相信しています。繁栄が十分に実現され、広く共有されるためには、①政府側は当面の価値創造に参加できるような新しい経済モデルを検討する必要があると信じますし、②膨大な AI インフラを構築し、AI インフラのコストを大幅に削減するための新技術を開発する必要があります。私たちが行っている多くのもはや奇妙に見えたりすること—収益が比較的小さいにもかかわらず膨大な計算リソースを購入したり、コスト削減や使いやすさの向上を目指して垂直統合を行ったり、世界中にデータセンターを建設する推進など—are は、普遍的繁栄という未来への根本的な信念によって駆動されています。

4. レジリエンス AI は新たなリスクをもたらすため、私たちは他社、エコシステム、政府、そして社会と協力してそれらに対処します。当財団の資源を大幅に活用し、この取り組みを支援していきます。どの AI リサプも単独で良好な未来を保証することはできません。明らかな例として、新たな病原体を作成することを容易にする極めて能力の高いモデルが存在する可能性があり、その対策には病原体非特定（pathogen-agnostic）のアプローチを用いた社会全体での対応が必要です。別の例として、モデルのサイバーセキュリティ能力が増すにつれて、オープンソースソフトウェアやインフラストラクチャを迅速に保護し、同時にすべての人がより安全なソフトウェアを作成できるように支援するためにモデルをトレーニングする必要があります。これは我々が長年堅持してきた反復導入戦略の拡張であり、社会は AI の能力レベルごとに臨み、それらを理解し、統合し、共に最良の進路を見出す必要があると考えています。これは真空の中で行われるものではありません。社会と技術は共進化し、それは時間を要します。私たちはこれが唯一の安全戦略であることを意味しているわけではありません。また、安全なシステムを構築しつつ、技術的なアライメントについて絶えず重要な取り組みを続けていかなければなりません。我々は、本格的なアライメント、安全性、あるいは社会的課題を十分に解決した後に次のステップに進むことを確保するために、政府や国際機関、他の AGI 努力と協力する時期があることを期待しています。

5. 適応力 私たちは引き続き、非常に予測不能な未来の課題に対応するには、学んだに応じて自らの立場を更新し準備することしかないと信じています。また、OpenAI が数年前よりも世界規模ではるかに大きな勢力になっていることを認めており、私たちの運用原則が変化する際の時期、方法、理由について透明性を保ち続けます。具体的には、普遍的繁栄が今後も極めて重要であることについて非常に確信がありますが、将来においてある程度のカップリングを犠牲にしてレジリエンスを高める必要がある時期が来ることも想像できます。AI 開発は多くの驚きをたらしており、まださらに多くの驚きが待ち受けています。技術が進歩するにつれて、その創発的行動は予測しづらくなります。不確実性を受け入れ、能力の向上に注意を払い、システムを反復的に導入し、世界との相互作用から学ぶことで対応します。GPT-2 の重み（パラメータ）を公開することに神経质っていたのはそれほど長くもなく、その社会的影響について確信が持てなかったからです。明らかに今振り返ってみればそれは過剰な心配だったかもしれませんが、それが反復導入という戦略の発見につながり、我々が知見を得た最も重要なものの一つとなっています。

技術が不断に向上するにつれて、私たちは極めて影響力のある段階へ進んでいきます。私達に対するあらゆる決定への批判は当然であり、私たちが行うことの重みからして、巨額な検討を許されるべきものです。すべてを正しくできるわけではありませんが、迅速に学び、軌道修正していきます。未来を過去よりも良しにすることには尽力を尽くすことに固く commitment をしています。そのような重要な任務を担えることを幸いです。