2026/04/11 8:05
モロトフカクテル事件へのサム・オルトマンの対応
RSS: https://news.ycombinator.com/rss
要約▶
Japanese Translation:
概要:
著者は、人工知能の急速な拡大が広範で民主的な対応—政策改革・公共参画・共有ガバナンス—を要求すると主張し、権力集中を防ぎ安全性を確保する必要性を訴えている。彼は、自宅に対して午前3時45分に投げ込まれたモロトーヴカクテルが跳ね返り怪我なく済んだ個人的な脅威や、10年間にわたるOpenAIでの在職期間を語り、その間エロン・マスクからの一方的支配に抵抗し、内部取締役会の争いを乗り越えてきたと述べている。また、家族写真を投稿したことが将来の攻撃を抑止し、画像と言葉の力を示す意図であったとも共有している。著者はAIを「人間能力を拡張する最も強力なツール」と位置付け、基本的に需要に上限がないとし、多くの超知能に関する信念が不確実であるため適応性を求めている。将来を見据えると、AGIが実現すればその影響は不可逆的になり、「力の輪」ダイナミクスが生まれると予測し、それを広範な共有と民主的監督によって緩和する必要があると主張している。彼は業界に対し、速度が遅くても民主的プロセス内で働き、権力集中を防ぎ、レトリック駆動の衝突を減らし、公共議論を落ち着かせ、最終的には新たな脅威から社会を守るよう促している。
変更点の説明:
- モロトーヴ事件の正確な時間（午前3時45分）を追加。
- 家族写真を投稿した詳細を含める。
- AIを「人間能力を拡張する最も強力なツール」と明示的に引用。
- 業界シフトについての推測結果を削除し、要点で直接述べられた内容に焦点を当てた。
本文
ここに私の家族の写真があります。何よりも彼らを愛しています。
画像には力があるものです。通常はプライベートを大切にしますが、今回は「モロトフカクテル」を投げる次の人を思い止めてもらいたいという願いで共有します。
昨夜午前3時45分に最初の人がそれを行いました。幸いにも家には当たって外れ、誰も怪我はありませんでした。
言葉にも力があります。数日前、私について炎上記事が出ました。昨日ある人から、「AIへの不安が高まる中でそれが来た」と聞き、危険性を増したと言われました。私は軽く流しました。
今夜も目覚めて怒りに燃え、言葉と物語の力を過小評価していたことを思い知らされています。このような時こそ、いくつかの点について話すべきだと思います。
1. 私が信じること
- 誰もが繁栄できるように働き、全ての人をエンパワーメントし、科学技術を推進することは私の道徳的義務です。
- AIは、人類の能力と可能性を拡大する最強のツールになるでしょう。 このツールへの需要はほぼ無制限で、人々はそれを使って驚くべき事柄を成し遂げるでしょう。世界は大量のAIを必要としており、それを実現する方法を見つけなければなりません。
- すべてが順調に進むわけではありません。 AIへの恐れと不安は正当であり、我々は長い間で最大の社会変革—もしかすると初めて—を目撃しています。安全性を確実にする必要があります――モデルの整合だけでなく、新たな脅威に耐えうる社会全体の応答です。経済的移行をスムーズにし、より良い未来へ導く新しい政策も含まれます。
- AIは民主化されねばならず、権力が集中してはなりません。 未来の支配はすべての人とその機関に属します。AIは個々をエンパワーし、私たちは将来と新しいルールについて集団で意思決定する必要があります。少数のAIラボが最も重要な決定を下すべきだとは思いません。
- 適応性が不可欠です。 我々は急速に学んでいます。ある信念は正しく、別のものは誤りであり、技術と社会が進化するにつれて心構えを変える必要があります。スーパーインテリジェンスはまだ誰も完全には理解していませんが、その影響は計り知れないでしょう。
2. 個人的な反省
OpenAIの初期10年にわたる仕事を振り返り、私は多くの成果を誇りに思うと同時に失敗も認識しています：
- エロンがOpenAIを一方的に支配しようとした要求に対して線を引き、会社を継続できる狭い道を歩んだことを誇りに思います。
- 対立を避けたために生じた痛み—私自身とOpenAIの両方に—特に取締役会で起こった混乱は後悔しています。
- OpenAIが激しく、混沌としている中で犯した多くのミスも認めます。私は欠点を抱えつつも毎年改善し、我々の使命に忠実であり続けるよう努めています。
OpenAIは今や大規模なプラットフォームであり、起業初期のスクラップスタートアップではありません。より予測可能に運営すべきです。混沌を抱えているにも関わらず、私は「強力なAIを構築し、インフラ資金を確保し、製品会社を創造し、安全で堅牢なサービスを規模で提供する」という使命を果たしていることに非常に誇りを持っています。実際、多くの企業が掲げる壮大な主張とは対照的に世界を変えました。
3. 業界への思考
近年から得た教訓は「AGIを見ると、もう見ないようにはできない」というものです。それは「権力の輪」を作り、極端な行動を促します。唯一の解決策として私は広範な技術共有と、単一主体がその輪を握らないことに注目しています。
- 個人のエンパワーメント と民主的制度を維持しつつ支配力を保つことが鍵です。
- 法律や規範は変わりますが、私たちは民主プロセス内で働かなければなりません――混沌として遅くても構いません。すべての権力を握らずに声とステークホルダーになるべきです。
- 業界への批判は高リスクという正当な懸念から生まれます。我々は善意の議論を歓迎し、反技術感情に共感します。テクノロジーがすべての人にとって良いとは限りません。しかし全体として私は進歩が未来を計り知れないほど良くできると信じています――あなた方の家族も私の家族も。
この議論に参加しつつ、言葉と戦術をデエスカレートさせ、文字通り・比喩的にも家庭内での爆発を減らすよう努めましょう。