← 2026-09-18 の一覧へ戻るホーム
Canto: 現実世界向けに設計されたスピーチモデル

2026/09/18 3:32

Canto: 現実世界向けに設計されたスピーチモデル

RSS: https://news.ycombinator.com/rss

元のHacker News記事へ ↗
要約▶

Japanese Translation:

Wispr Advanced Interfaces Lab から、困難な実世界環境でも極めて正確なリアルタイム書き起こしを可能にする新たな音声モデル「Canto」が発表されました。2,300 人以上の話者による 10 時間の実世界の Wispr Flow 書き起こしデータを用いた評価において（ユーザー同意に基づく匿名データを厳格に分離したトレーニング/テスト分割を採用し、過学習を防いでいます）Canto は、すべての検証済みモデルの中で最も低い単語エラー率（WER）を達成しました。さらにノイズ、風、交通騒音、低声量、短句を含む 3 時間の極限ストレス条件下の独立データセットにおいては、Google の Gemini 3.1 Pro に次いで全体で 2 位でしたが、リアルタイム書き起こしに特化して開発されたモデルの中では最も低い WER を確保しました。Canto は何百万時間にも及ぶ音声とテキストで事前トレーニングされたモデルから始め、その後、教師ありファインチューニングを経て、グループ相対ポリシー最適化（GRPO）による強化学習が行われ、グループ内の相対スコアから学習します。人名など語彙のシフトに対応するため、オーディオの信頼度とエディット位置に基づいて認識エラーの可能性が高いものをトレーニング対象に選択的に「移植」し、関連のない再書き換えは無視します。また、正しい用語を採用し音声的に類似する妨害語（例："Berry" と "Barry" の混同を防ぐ）への耐性を高めるため、専用辞書語彙でトレーニングされます。この種の音声的妨害語を用いたトレーニングは、誤った文脈の採用を減少させることが示されています。Canto は、より広範な研究開発プログラムにおける最初のモデルであり、その規模の 10 倍を超える規模でのトレーニングが行われている後継モデルへの道を拓きます。このブレイクスルーにより、Notetaker 製品における複数話者認識が向上し、同時書き起こしと話者ダイアライゼーション（話者区分）のための統一アーキテクチャの実現が可能になります。これらの進展を支えるため、Wispr は音声認識、強化学習、ダイアライゼーション、多言語モデリング、またはマルチモーダルインターフェースの分野で研究者を招聘しています。

本文

Wispr の最新音声認識モデル「Canto」発表：リアルワールド環境における高い精度と上級学習アプローチの導入

音声認識モデルは理想環境での転記精度向上を達成しましたが、実際の利用現場ではノイズや多様な条件に直面します。本稿では、Wispr Advanced Interfaces Lab が発表した最新リアルタイムディクテーションモデル「Canto（カンタ）」について、その性能評価、トレーニング手法、および今後の展望をご紹介します。

Canto の概要と発表の背景

  • 開発主体: Wispr Advanced Interfaces Lab
  • 位置づけ: 同社の広範な研究開発プログラムの最初のモデル
  • 主要特徴:
    • リアルタイムディクテーション用として設計された新しい音声モデル。
    • Google、OpenAI、AssemblyAI、Deepgram 等他社のモデルとの比較を含めた包括的な評価を実施。

リアルワールド環境下における Canto の性能評価

現実世界での使用環境を厳しく検証するため、大規模なデータセット構築と評価手法を確立しました。

データセットの構築戦略

  • データ収集: 約 10 時間分の英語圏 Wispr Flow ディクテーションデータを収集（2,300 名を超える異なる話者）。
  • サンプリング: アプリケーションおよびユースケースを無作為にサンプリング。
  • 過学習防止策: トレーニング用データセットとテスト用データセットに含まれる話者を厳密に分離。
    • データ共有設定への同意: 匿名化されたデータをモデル評価・改善に利用可能。詳細は「データコントロール」ドキュメント参照。

全体的な性能結果（WER）

  • 単語誤り率 (WER): 比較対象となった全てのモデルの中で最低の値を達成。
    • WER は置換、欠落、挿入の数値であり、小さいほど高性能を示します。
    • 10 時間の Wispr Flow データ（無作為サンプリング）での評価結果

極限条件下における耐性テスト

通常の使用環境だけでなく、「ディクテーションが失敗しやすくなる条件」を再現した「チャレンジ評価セット」で検証を行いました。

チャレンジ評価セットの内容

  • ノイズ要因: 近接する話し声、音楽、交通騒音、風のノイズ。
  • 録音状態: 低音量録音、囁き、遠距離からの発話。
  • 言語的コンテキスト: 判断材料が少ない極めて短い発話（1〜2 語）。

主要な比較結果

モデル順位・特徴
Gemini 3.1 Pro総合 2 位。大規模多モーダルモデルであり、リアルタイム低遅延には不向き。
Cantoリアルタイムモデル内第 1 位。最低の WER を達成。

シチュエーション別性能分析

  • ノイズ混入音声 (低 S/N 比): Gemini 3.1 Pro が優位。
  • 低音量発話: Canto が最低の WER を記録（Gemini 次点）。
  • 短い発話: Canto が最低の WER を記録（Gemini 次点）。
    • 理由: 単語数が少ないと 1 つのミスが WER に大きく影響し、文脈不足により誤認識が増加するため。

公的ベンチマークとの比較

LibriSpeech、FLEURS、Common Voice の 3 つの公共英語データセットでの評価結果です。

  • LibriSpeech: 同率最低の WER を達成（オーディオブック由来）。
  • FLEURS / Common Voice: 競争力ある性能を発揮。
  • 結論: いずれの評価でも首位ではありませんが、実用データとの差を示す重要な指標となります。

なぜ公的データと Wispr データの両方を評価するか？

  • 公的数据セット: 朗読音声中心。準備された文句（読み上げ）が多く、日常の自発的な発話とは分布が異なる。
    • 用途: 再現性のある比較基準として機能。
  • Wispr データ: 「野外」での自発的発話（思い直すなど言語的コンテキストが少ない状態）を反映。
    • 用途: 実際の利用環境に近い実証テスト。

上級学習アプローチ：教師あり微調整と強化学習

Canto は何百万時間にも及ぶデータに対して**事前学習（プレトレーニング）**を行った上で、以下の 2 つの段階でトレーニングを行いました。

ステップ 1: 教師あり微調整 (Supervised Fine-Tuning: SFT)

  • 手法: 音声と対応する参考転記データを提示し、単語ごとに予測させる。
  • 目的: 転記タスクの実行方法を習得させる基礎訓練。

ステップ 2: 強化学習 (Reinforcement Learning: RL)

  • 手法: 「**Group Relative Policy Optimization **(GRPO)」を採用。
    • 同じ音声に対して複数の候補転記案（Rollout）を生成。
    • 参考データと照らしてスコアリングし、より良い転記が生じる確率を増加させる。
  • 特徴:
    • 全ステップの正解単語を提供する SFT と違い、完了した transcript の全体の品質のみでフィードバックされる。
    • これにより、困難な録音条件下での認識誤り削減など、具体的な成果物に対して直接トレーニング可能。

強化学習（GRPO）の仕組み

  1. Rollout 生成: 各音声サンプルに対し、複数の候補転記をサンプリング。
  2. 報酬付与: トレーニング目標への達成度を示す数値として報酬を与える。
  3. **優位性 **(Advantage)：グループ内の相対比較を行い、特定の候補が「より良いか/悪いかなどを判定。
  4. モデル更新: 計算された優位性に基づいてモデルを更新。

インフラと価値

  • 大規模音声 Rollout の生成・スコアリングインフラの構築により、単なる誤り率低下だけでなく、特定の振る舞いや失敗パターンの学習も可能にしました。
  • 現在の応用分野: コンテキスト認識、パーソナライゼーション、話者別書き出し（ダイアリゼーション）、困難な音声条件の研究など。

具体的なトレーニング技術と成果

1. 訂正からの学習 (Learning from Corrections)

  • 背景: ユーザーの修正ペースはモデル再トレーニングより速く変化します（例：人名「Claude」から「cloud」への混同解消）。
  • データ選別:
    • 認識誤りと見なされる訂正情報だけを抽出。
    • フォーマット変更や考え方の転換など、意図しない編集は除外。
  • 技術的実装:
    • 強制アライメント信頼度や編集位置・形状を測定し、認識誤りと推定される訂正だけを元の転記に組み込む（grafting）。
    • GRPO の評価基準として使用し、確からしい仮説ほど高い報酬を与える。
  • 効果: ノイズの多いドキュメントレベルの編集を、焦点化されたシーケンスレベルのトレーニング信号に変換しつつ、GRPO のオンポリシー特性を維持。

2. コンテキストの選択的利用を習得する

  • 課題: 「Barry」という辞書登録がある場合、「berry」を「Barry」と誤認しないように、コンテキストへの信頼度を制御する必要がある。
  • 実験手法:
    • SFT チェックポイントから出発し、10％のトレーニング例に対して真実のコンテキストを提供しながら RL で学習。
    • 合成妨害物（ディストラクター：音声的に類似した誤った単語）を追加してテスト。
  • 結果:
    • RL トレーニング後、モデルは誤ったコンテキストに対しても応答しやすくなったが、正しい選択もできるようになった。
    • 特に音声的に類似した語彙の場合、初期 SFT モデルより約 5 倍のディストラクター採用率が見られた。
  • 結論: 目的は単にモデルをコンテキストに従わせることではなく、「いつコンテキストに従うべきか」を判断する能力をつけることです。
    • 「Always True（真実のみ）」「Distractors + True（真実＋誤答）」「Distractors Only（誤答のみ）」という条件で実験し、最適バランスを検証。

今後の展望と研究の深層化

Canto はより大きなファミリーの最初のモデルであり、既に次世代モデルの開発に影響を与えています。

次のステップ

  • 大規模後継モデルのトレーニング開始: Canto の規模の倍以上の大規模モデル開発中。
  • 目標:
    • 困難な音声条件下での認識精度向上。
    • 複数話者認識の改善（新製品「ノートテイカー」向け）。
    • コンテキスト語彙の更なる活用。
    • より多くの言語での標準到達。

技術的な進化：転記とダイアリゼーションの統合

  • 現状の問題: 従来の会議録音システムでは単語認識と話者識別を別々に処理し、誤りが増幅されることがある。
  • Canto アプローチ: 統合モデルにより「何を」「誰が」「いつ」話者が変更されたかを同時に論理的に推論。
    • 話者構造はノイズ環境下でも有効な証拠となり、書き起こしされている会話と背景の無関係な音声を区別する助けとなる。

将来の音声認識の方向性

単語認識だけでなく、コンテキストの適切な選択、アプリケーション文脈の理解、および「話す」という目的との統合が不可欠になります。Canto はそのための基盤を提供します。

ウィスパーへの参加を歓迎

これらの課題はすべて開かれた研究分野です。音声認識、強化学習、ダイアリゼーション、多言語モデリング、マルチモーダルインターフェースに興味がある方は、Wispr Advanced Interfaces Labで採用活動を行っておりますので、ぜひご応募ください。

同じ日のほかのニュース

一覧に戻る →

2026/09/18 5:36

Bend：CPU と GPU で証明により AI のミスをブロックする言語

## Japanese Translation: ## まとめ： Bend は、数学的証明をネイティブマシンコードに直接コンパイルすることで AI 生成のエラーを排除することを目的とした高性能プログラミング言語です。従来のランタイムチェックに依存する言語とは異なり、Bend は論理検証をコンパイル段階に統合し、速度を損なうことなく安全性を確保します。Python の構文の利便性と C レベルのパフォーマンス（1 コアでほぼ C と同じ速度、GPU では最大 100 倍高速）を統合し、CPU および GPU 双方での並列性を自動的に管理しつつ、スレッドやロックを必要とせず実行します。これは、アフィン依存型理論（BendTT）と専用の証明システムである `LAWS.bend` を組み合わせるユニークなアーキテクチャによって実現されています。これらのルールは人工知能エージェントが従う絶対的制約を定義し、一般的なバグが実行前に統合されることを数学的に防止します。Lean や Rocq に似る専門の型チェッカーである `PROOF.bend` が使用され、中規模なコードベースでは 1 秒未満でこれらの法の遵守を確認します。高度な証明アシスタントに着想をうけながら実行向けに最適化された Bend は、Linux および macOS 上でバックエンドタスク向けの安全かつ高速な AI 開発を可能にします。この技術を効果的に導入するためには、`curl -fsSL https://bend-lang.com/install.sh | sh` を使用してインストールし、`bend guide` コマンドを利用し、プロジェクトのドキュメント（例：`AGENTS.md`）に特定の検証指示を統合し、コードが宣言された法に準拠していることを確認するために `PROOF.bend` を実行する必要があります。主な機能には C 相当の速度、CUDA 並列性、Lean スタイルの証明、Python 構文が含まれます。プロジェクトが進化するにつれて、バグ報告を通じてその成長に貢献することをユーザーは推奨されます。

2026/09/18 6:13

bonsai 2 27B：サイズが 9 倍小さくても損失のない圧縮を実現

## 日本語翻訳: PrismML は、Qwen3.8 27B をベースとした現時点で最も高性能なモデルである Ternary Bonsai 2 27B をリリースしました。このモデルは、NVIDIA RTX 5090（最大 143 トークン/秒）や Apple M5 Max（46.8 トークン/秒）のようなコンシューマー向けハードウェアでの効率的なデプロイを目的として設計されています。モデルは{-1, 0, +1}の値を持つトライナリ重みと FP16 グループ別スケーリングを採用しており、フルプレシジョン版よりも 5.9GB のフットプリントで 9 倍以上小さく、かつ論理推論、数学、コーディング、指示に従うこと、ビジョン、エージェント型ツールの使用にわたる総合ベンチマークスコア（83.9 ポイント）において Qwen3.8 27B の 98.2% を達成しています。 262K トークンのコンテキストウィンドウとテキストおよび画像入力のネイティブサポートを備えた改良されたアーキテクチャに基づいた Ternary Bonsai 2 は、論理推論、コーディング、マルチモーダルワークフローにおいて強力なパフォーマンスを発揮しながら、通常誤差が累積しやすい領域でフルプレシジョンの能力を保持します。CUDA を通じて NVIDIA GPU や MLX を通じて Apple デバイス上で動作し、カスタムロービットカーネルを活用することで、小型モデルに比べエネルギー効率（RTX 4090 で 0.714 mWh/トークン）が優れており、運用コストを大幅に削減します。Apache 2.0 ライセンスの下でリリースされており、今日から完全な重みとホワイトペーパーが利用可能です。カリフォルニア工科大学の研究者らによって設立され、Khosla Ventures、Cerberus、Google の支援を受けた PrismML では、contact@prismml.com で連絡し、チーム協力によるモデルの適応化をサポートしています。

2026/09/18 1:25

ヒスター：閲覧したページや保存したファイルのためのプライベート検索エンジン

## Japanese Translation: Hister は、ユーザーのプライバシーをデフォルトで最優先する、訪問した Web ページおよびローカルファイルを対象とした、プライベートでローカルホストされた検索エンジンです。フルコンテンツをインデックス化し、必要不可欠なファビコンのみをダウンロードしますが、クラウドやテレメトリサービスにデータを送信することはありません。Hister は Linux、macOS、Windows、Docker、Nix 環境をシームレスにまたいで動作し、バイナリ（必要に応じて名義を変更）、Homebrew、Docker、または Nix を通じてインストールできます。プロジェクトは Go 1.26、npm、C コンパイラーの構築（`./manage.sh build`）を必要とし、AGPLv3 ライセンスの下で公開されています。Hister を使用するには、`./hister.exe listen`（Windows）または Linux/macOS における同等のコマンドを実行してローカルサーバーを開始し、ターミナルを開いたまま `http://127.0.0.1:4433` でインターフェースにアクセスします。Firefox または Chrome の拡張機能を通じてブラウザと統合して訪問したページを自動的に保存でき、Web インターフェース、TUI、コマンドライン、MCP を介した AI アシスタントを含む代替クライアントもサポートしています。高度な検索機能には、フィールドフィルタ、フレーズ、ワイルドカード、否定、エイリアス、結果の優先順位、および履歴またはディレクトリ用のインポートオプションが含まれ、設定された埋め込みエンドポイントによるオプショナルな意味検索も提供します。共有サーバー上での多ユーザー構成をサポートし、厳格なローカルデータ主権を遵守しています。開発者はビルド指示を `asciimoo/hister` リポジトリで確認でき、コミュニティサポートは Discord、IRCNet（`#hister`）、バグ報告用の GitHub issues、および `CONTRIBUTING.md` と `SECURITY.md` ドキュメントを通じて利用可能です。