← 2026-07-12 の一覧へ戻るホーム
イロウによる分散AI計算のためのメッシュ LLM

2026/07/12 7:38

イロウによる分散AI計算のためのメッシュ LLM

RSS: https://news.ycombinator.com/rss

元のHacker News記事へ ↗
要約▶

Japanese Translation:

概要：

Mesh LLM は、既存の GPU およびメモリを何台ものマシンから集約し、中央サーバーを必要としない軽量なインフラストラクチャとして統合することで、チームが人工知能を利用する方法を根本的に変革します。これは、OpenAI 互換 API（デフォルトアドレス：

localhost:9337/v1
）としてこの統合されたコンピューティングリソースを公開し、組織が高価でブラックボックス化しているクラウドプロバイダーへの依存を排除しながら、モデルの更新、データルーティング、および下位のハードウェアに対する完全な制御を維持できるようにします。これによりコストを増加させることはありません。

アーキテクチャは、MCP、HTTP、インференスストリーム、およびメッシュイベントを通じて暴露されるマニフェストベースのプラグインシステムにより拡張可能であり、ノートパソコンサイズから 235B パラメータの巨人までをカバーする 40 以上のモデルをサポートします。235B パラメータなど的大規模な mixture-of-experts モデルについては、Mesh LLM は内部名称「Skippy」を持つ「Split mode」を採用しており、モデルレイヤーを順次ステージに分割し、ピアツーピアルーティングを用いて活性化を適度なマシンのパイプラインを通って流します。

ネットワーク管理は、iroh エンドポイントメッシュによって行われ、ここで各ノード（サーバーまたはクライアント）は公開鍵を使用して独自のアイデンティティとして機能し、中央コーディネーターの必要性はありません。接続は認証されており、iroh リレーによる NAT 通過可能な QUIC セッションが支援され、地域をまたいでヒールパンチ/リレーフォールバック機構が備わっています。プロトコルには、ゴシップ、ルーティング、HTTP 用の

mesh-llm/1
、所有者コントロールプレーンのための
mesh-llm-control/1
、低遅延に敏感な活性化輸送のための
skippy-stage/2
という 3 つの特別な QUIC ALPN が使用されます。メイン接続内では、すべてのトラフィックは先頭のバイトでデマルックスされた双方向の QUIC ストリームとなり、特定のタイプ（
GOSSIP
、
TUNNEL_HTTP
、
ROUTE_REQUEST
、
PEER_DOWN
、
PLUGIN_CHANNEL
など）に分類されます。

ソフトウェアは非常に軽量であり、インストールには約 18 MB を必要とします。公開メッシュへの参加やベンダーロックインのないプライベートデプロイメントの完全な構成が可能です。将来の計画には、iroh の Swift SDK で構築された専用モバイルアプリが含まれており、これは台頭しつつあるエージェント通信プロトコル（ACP）をサポートし、他のクライアントがメッシュにシームレスに接続できるようにします。セキュリティ、バージョン互換性、および信頼に関する判断は、カスタムゴシップレイヤーを介して内部で管理され、スケーリングやネットワーク構成に関わらず自律性を確保しています。

本文

Mesh LLM: データセンター依存からの脱却と完全な制御

LLM の運用をイメージすると、多くの人がデータセンターや課金制の API 接口、そして増大する請求書を連想します。プロンプトを「黒い箱」に送り込み、モデルの更新やプライバシーポリシーについて一切コントロールできない現状は、多くのチームにとって良くなかった取引となっています。

Mesh LLM は、既存のリソースを統合し、完全な制御性とコスト削減を実現する新たなアプローチです。

従来の課題：高価で外部依存のアプローチ

現在流行している大規模モデルには以下の問題があります。

  • モノリス構造: UI や API キーを通じてアクセスし、処理をプロバイダーに委ねています。
  • 制御性の欠如: モデル更新時期、メモリ配置方法、ハードウェア環境についてユーザーはコントロールできません。
  • コスト増大: 利用量に応じて請求額が増加し、「より多くの料金を支払う」だけの選択肢しかありません。

多くの企業やサービスは、以下の機能を求めています。

  • 高い制御性と汎用性の高さを備えた組み込み可能性。
  • コスト削減。
  • 既存 GPU の活用: オフィスや棚にすでに置かれている GPU を、単一システムとして統合する手段がありませんでした。

Mesh LLM の解決策：分散型アーキテクチャ

Mesh LLM は、大規模な GPU 購入なしで高性能モデルを実行します。

柔軟なリソース共有

  • 集約化: 既に所有している GPU とメモリプールを集約します。
  • スケーラビリティ: 希望に応じて任意数のマシンを追加可能（単一ノードから開始し、必要時以降に拡張）。
  • 自動最適化: メッシュが自動的に以下の判断を行います。
    • どのマシンでモデルを実行すべきか。
    • 同僚ノードへのルーティング先。
    • モデルを複数のマシン間に分割して実行するか（パイプライン方式）。

サービスモード

内部では、Mesh LLM は iroh エンドポイントを構成するメッシュ全体に計算能力を分散させます。リクエストの処理には以下の 3 つの方法があります。

  • ローカル処理: 現マシンの GPU を使用して実行します。
  • ピアへルーティング: モデルが既にロードされたピアノードへ転送します。
  • パイプラインによる分割: 単一マシンでは扱えない超大規模モデルを、複数のマシン間で分担して実行します。

OpenAI クライアントとの互換性
OpenAI クライアントを 

http://localhost:9337/v1
に切り替えるだけですべての複雑さは隠され、処理場所を意識せずにご利用いただけます。

技術的構成：Skippy モードと iroh エンドポイント

超大規模モデルの実行（Skippy）

超大規模モデルについては、内部で**「Skippy」**と呼ばれる分割モードを採用しています。

  • 層ごとの分割: モデルは層の範囲に基づいてステージに分割されます（例：ノード A に 0〜15 層、ノード B に 16〜31 層）。
  • パイプライン実行: 各ステージ間でアクティベーションデータを順次伝送します。
  • 透明性: OpenAI クライアントにはこの複雑さは感知せず、引き続き 
    localhost
    に対してのみ通信します。

中央サーバーなしのピアツーピア接続

  • iroh エンドポイント: すべてのノードは iroh エンドポイントを起動し、これがノードのアイデンティティと唯一の接続表面となります。
  • 認証済み QUIC 接続: iroh は以下の処理を自動的に行います。
    • ホールパンチング
    • NAT トラバース
    • リレーフォールバック処理
  • 安定性の確保: 異なるリージョンに iroh リレーを 2 つ配置し、直接到達できないノードでも代替経路を利用可能です。

プロトコル仕様（QUIC の ALPN）

メイン接続 

mesh-llm/1
内では、すべてのトラフィックが双方向の QUIC ストリームとして処理され、最初の 1 バイトがストリーム種別を識別するタグとして機能します。

バイト値ストリーム種別説明
0x01
GOSSIPピアからのアナンス（モデル情報、GPU 状況、能力など）
0x04
TUNNEL_HTTPピアへの推論リクエストのホスト転送
0x05
ROUTE_REQUEST「どのようなモデルをホストしていますか？」の問い合わせ
0x06
PEER_DOWN無効化されたピアに関する通知
0x07
PEER_LEAVINGグレースフルシャットダウンの告知
0x08
PLUGIN_CHANNELプラグイン RPC 通信
0x0e
DIRECT_PATH_REQUESTNAT トラバース用の直接アドレス共有リクエスト

この仕組みにより、**「ピアへルーティング」や「パイプライン次のステージへの送信」**は、「localhost での通信」と同一の操作となり、ネットワーク設計の負担が大幅に軽減されます。

コミュニティと拡張性

  • プラグインシステム:
    • モジュール型で拡張可能です。
    • プラグインはマニフェストを通じて機能の宣言を行い、ランタイムがそれを開始・ルーティングします。
    • MCP、HTTP、推論、メッシュイベントなど多様な能力を公開できます。
  • 対応モデル:
    • カタログには40 以上のモデルが用意されています。
    • ラップトップで動作する 5 億パラメータ級モデルから、2350 億パラメータのミクスター・オブ・エキスパート型超大規模モデルまで網羅しています。

スタートする方法

ユーザーは以下の 2 つの選択肢があります。

  1. パブリックメッシュ参加: 軽量ソフトウェア（約 18 MB）をインストールし、既存メッシュに参加します。
  2. プライベートデプロイメント: 独自に設定を行います。
  • 表示方法: システムは標準的な OpenAI クライアントに対して 
    localhost:9337/v1
    として提示されます。
  • モバイル対応: iroh の Swift SDK を利用したアプリ開発が進んでいます。
  • 将来の計画: ACP（Agent Communication Protocol）への対応や、他のクライアントへの参加受付を予定しています。

理念

「ピアツーピアの増加」「クローズドサーバーの減少」「ロックインからの解放」

コードを見学したい場合は Mesh LLM ウェブサイト を参照してください。

同じ日のほかのニュース

一覧に戻る →

2026/07/12 6:58

ゼロから設計されたオープンソースの携帯型ゲーム機「RISCBoy」

## Japanese Translation: RISCBoy は、RISC-V 互換 CPU とラスタグラフィックスパイプラインを从头設計されたオープンソースの携帯用ゲームコンソールです。その主要な成果は、合成可能な Verilog 2005 で記述され、完全に検証されたプロセッサ設計であり、Lattice iCE40-HX8k（7680 ロジック要素を使用、LUT4 ベース）などの特定 FPGA ハードウェアをターゲットとしています。プロジェクトは RV32IMC インスピーションセットに厳密に従い、M モード制御レジスタ、例外処理、ベクトored 外部割り込み向けの準拠拡張機能といった本質的な機能を実装することで、アーキテクチャ準拠の他、riscv-formal サイスイツを使用して厳格な形式的検証も実施しています。完全なソースコードは `git clone --recursive https://github.com/Wren6991/RISCBoy.git` で入手可能で、サブモジュールが必要な場合は手動での更新が必要です。開発には RV32IMC ツールチェーン（`./configure --with-arch=rv32imc` で構築）と Xilinx ISIM 14.x（Linux 専用）によるシミュレーション、そして `scripts/` フォルダ内の makefile を使用します。合成にはオープンソースのツールチェーンが使用され、Yosys が合成、nextpnr が配置・配線、Project Icestorm がビットストリーム生成を担当し、Lattice HX8k 評価ボード（`HX8k-EVN.mk`）や実験的な ECP5 サポート（`ECP5-EVN.mk`）などのターゲットをサポートしています。`hdl` ディレクトリにはバスファブ、グラフィックスユニット、hazard5 プロセッサコアの Verilog ソースが含まれており、`test` ディレクトリには Verilog テストベンチとソフトウェアケースを含む回帰テストが格納されています。現在、量産は iTead の 4 レイヤープロトタイピングサービスを活用し、10 ユニットを $65 で提供する Rev A PCB から開始されており、これらツールの合成と配線に使用されています。新たな Rev B PCB がゲートウェアの成熟に合わせて待機しています。この進化は、高レベルのソフトウェア開発と低レベルのハードウェアアーキテクチャを橋渡しする完全にカスタマイズ可能なプラットフォームを求める愛好家やエンジニアにとって意義のあるステップであり、現代のオープンソースコンピューティングエコシステムへの具体的な一瞥を提供しています。

2026/07/12 8:54

オデッセイ Linux

## Japanese Translation: 提供されたテキストには、本物のニュース記事、議論、または物語は含まれておらず、そのため、そのプレースホルダー的な性質を超えて主要メッセージを抽出することは不可能です。概して、コンテンツは「$ code」などの一般的なラベルを含む構造的テンプレートとして機能しだけであり、これは具体的な技術詳細のない抽象的なプログラミング概念を表しています。「$ constitution」や「$ governance」といった用語も、ここでは定義された法的・政治的文脈を欠いています。実際の出来事、意見、または事実主张を記述する文がないため、資料は歴史的背景、具体的な日付、または製品名を確立できていません。したがって、将来の動向に関する前向きな声明、予測、またはタイムラインも含まれていません。特定のユーザー、企業、産業を特定していないため、このコンテンツによって誰が影響を受ける可能性があるかを判断することはできません。記述言語が欠如していることは、いまだに核心的情報が表明されていないことを示しています。一言で言えば、文書は静的であり、読者が全体概要または潜在的な影響を理解しようとするとアクション可能な知見、データ、あるいは意味ある主題事項を全く含んでいません。 ## Text to translate The original summary is concise, accurate, and logically consistent with the provided key points. It clearly communicates that the document is a structural template devoid of substantive information. No improvements are necessary. ## Summary The provided text offers no substantive news story, argument, or narrative, making it impossible to derive a main message beyond its placeholder nature. Essentially, the content functions only as a structural template containing generic labels like "$ code," which represents abstract programming concepts without specific technical details, and terms such as "$ constitution" or "$ governance" that lack defined legal or political contexts here. Because there are no sentences describing actual events, opinions, or factual claims, the material fails to establish any historical background, specific dates, or product names. Consequently, the text contains no forward-looking statements, predictions, or timelines regarding future developments. Without identifying specific users, companies, or industries, it is impossible to determine who might be impacted by this content. The absence of descriptive language confirms that no core information has been articulated yet. In short, the document remains static and devoid of actionable intelligence, data, or any meaningful subject matter for a reader seeking to grasp an overall gist or potential consequences.

2026/07/12 7:48

後退の門からあなたを送り出してから続く細則：競合禁止条項が広がりつつある

## 日本語訳： 競業避止条項は当初の意図よりも経済に甚大な害を与えつつあり、その影響は以前から想定されていたものをはるかに超えている。もともと上級エグゼクティブらの商標秘匿を守るために設けられたこれらの合意は、現在では 15 か国の OECD 諸国の民間部門労働者のうち 5 つに 1 または 3 つを縛っており、新しいデータによると、これには *OECD Employment Outlook 2026* に基づく 3 万 7000 人以上の労働者への調査が含まれており、カナダではほぼ 30% 、スウェーデンでは最大 41% が影響を受けている。これらの条項の意図とは裏返る形で、これらはしばしば低スキル労働者、特に中等教育卒程度以下でありかつ最低 10% の賃金層に属する労働者を捕らえ込み、機密情報へのアクセスもなく補償もないままの「フォーマルな文言」として機能している。 カバーされた労働者の約半数が報酬を受け取らず、裁判所による合理性評価において重要な要因となり、また多くの条項は法律上の制限を越え、単一の国全体ではなくローカルマーケットのみを対象とすべきでありながら全土にわたっているにもかかわらず、核心的問題はそれらの存在そのものにある。たとえ裁判官がそれらを無効にしても、これらの過剰に広範な契約は「寒蝉効果」を生み出し、職業転換やイノベーションを妨げる傾向がある。これは、雇用流動性の統計によって示されており、従業員の 5% が職を変えられず、3% が企業を設立できないことが明らかとなっている。これらの条項の蔓延は、教育水準の低い労働者の賃金成長の鈍化、起業率の低下、そして生産性の減少と直接相関しており（普及度が 10 パーセントポイント増加すると、生産性が 1.9% 減少するという関連が見られる）。 この問題への対処には単に新しい法律の制定だけでなく、米国における連邦禁止法案案が放棄されたように見えている。むしろ、独占当局による積極的な監督が必要であり、これによりノーパオチング協定などの関連慣行にも取り組むとともに、明確で平易な契約書と労働者に権利を与えるためのアクセス可能な公的助言を提供し、労働市場の流動性を回復させるべきである。

イロウによる分散AI計算のためのメッシュ LLM | そっか～ニュース