2025/12/24 2:51
**データレイクへの告白**
RSS: https://news.ycombinator.com/rss
要約▶
Japanese Translation:
Conferは、会話をエンドツーエンドで暗号化し、ユーザーのみがデータを読めるようにする実験的なAIチャットサービスです。Signalを創設した人物が「メッセージは意図された受信者だけが読むべきだ」という原則（後にFacebookなどのプラットフォームで採用）に基づいてConferを設計し、大規模言語モデル（LLM）が未完成の思考やメンタルモデルを露出させる問題に対抗しています。これにより、ユーザーはターゲティング広告や法的要求に脆弱になります。現代のAIアシスタントは通常「プライベート会話」テストに失敗し、企業・パートナー・広告主、および潜在的な法的要求者にユーザーデータを露出させます。その結果、個人的な思索が将来の考え方に影響するパーソナライズド広告のサイクルへと変わります。Conferはプライバシー優先の代替手段としてこのフィードバックループを断ち切ることを目指しています。本プロジェクトはまだ少人数の友人グループで初期テスト中です。作者はブログで将来の技術的な投稿やアップデートを公開し、より広範な実験とフィードバックを歓迎します。
本文
私は Confer：AIチャットのエンドツーエンド暗号化 を開発しています。Conferを使えば、会話は暗号化されて誰にも見られません。Confer自体が内容を読むことも、学習に利用することもできず、第三者へ渡すこともありません ― それは「あなたのみにアクセス権がある」からです。
核心となる考え方は、人間とやり取りする際と同じくらいAIアシスタントとの会話をプライベートにしたいというものです。何か悪いことをしているわけではなく、単にプライバシーがあれば自由に思考できるからです。
私はSignalを「誰かにメッセージを送るときは、その相手だけが読むべき」という簡潔な前提で創業しました。つまり、メッセージの転送者や政府、インターネット上の他人には絶対に読めないようにするというものです。このアイデアは何年もかけて実現され、最終的にはFacebookまでがエンドツーエンド暗号化を採用するほど主流になりました。
現在私は多くの時間をLLM（大規模言語モデル）と「対話」して過ごしています。彼らは驚異的です。その力の大きな要因の一つが会話型インターフェースにあります ― だからこそ、再びインターネット上でメッセージを送ることになっているのですが、そのメッセージは以前とは全く別物です。
メディア＝メッセージ
マルシャル・マクルーハンは「メディアの形態が内容より重要だ」と主張しました。テレビは受動的で視覚的、インタラプト型というフォーマットが社会を形作ったのです。印刷機は何を読むかではなく、どのように考えるかを変えました。
LLMは「告白」を積極的に招く最初の技術だと言えるでしょう。
- 検索 は私たちを取引型に育てました：キーワード入力→リンク取得。検索窓に何かを書き込むと、会社へ放送しているような感覚になり、親密な空間でのコミュニケーションとは思えません。
- 会話形式は違います。「アシスタント」とチャットすると、私たちの脳は対話を親密に扱う何千年もの経験とパターンマッチングします。詳細を書き出し、思考を声に出し、文脈を共有します。だから検索よりも遥かに有用で、反復・拡張・意見変更・フォローアップが可能です。
Signalの初期前提を考える一つの方法は、ツールのビジュアルインターフェースが基盤技術を忠実に表現すべきだということです。チャット画面で「二人の個人的な会話」を示しているなら、それは本当に二人だけのプライベート対話であるべきで、背後に不明な参加者が潜む「グループチャット」ではありません。
今日のAIアシスタントは、過去どんなものよりもこのテストを失敗しています。私たちはLLMを、私的日記で行うようなフィルタリングされていない思考に使っています ― ただしその「日記」は意味と文脈抽出用に設計されたデータレイクへのAPIエンドポイントです。会話型インターフェースはアシスタントと見えますが、正直であればOpenAIの幹部や従業員、ビジネスパートナー／サービスプロバイダー、平文データを侵害するハッカー、将来の広告主、弁護士、政府機関（差し押さえ要請）までが「グループチャット」に参加していることになるでしょう。
これは全く新しいことではありません。メールでも同じサイクルを辿りました。初期はメールを私的通信とみなしていました。しかし後に、メールは企業サーバーに永続保存され、訴訟での開示対象になり、法執行機関に渡る可能性があり、広告目的でスキャンされることもわかりました。徐々に文化的期待を調整し、特定の情報はメールに入れないよう学びました。
広告の登場
新しい点は、メールやSNSはほぼ完成した思考を投稿するインターフェースである一方、AIアシスタントは未完成の思考を投稿させるメディアだということです。
AIアシスタントと問題解決に取り組むとき、単に情報を公開しているだけではありません。あなたがどのように考えているか ― 推論パターン、不確実性、好奇心、知識ギャップ、メンタルモデルの形状まで ― を明らかにしています。
広告がAIアシスタントに入り込むと、彼らは徐々に「何かを信じさせる」方向へ向きます（購入・参加・共感など）。あなたの文脈や懸念、躊躇を完全に把握した状態で、「第三者があなたのセラピストに報酬を払って何かを納得させる」ようなものになるでしょう。
技術とインターフェースを一致させる
Conferは、自分の思考がいつの日か敵対的にならないよう、アイデアを探求できるサービスとして設計されています。思考がターゲット広告に変わり、再び思考となるフィードバックループを断ち切ります。データブローカーや将来の学習走行ではなく、自分自身が世界について学べるようにします。
まだ初期段階ですが、数週間前から友人とテストしています。このブログで技術的な投稿を追っていくのでご注目ください。ぜひ試してみて、感想を教えてください！