SIMD：高度な最適化技術ではなく、誰でも知っておくべき基本構造

SIMD（Single Instruction, Multiple Data）は複雑に聞こえることが多いですが、多くのエンジニアが「学習コストが高い」や「特殊分野の最適化」として誤解しています。これは間違いです。基礎を理解すれば、SIMD コードを書くのは通常のスカラ（非ベクター）ループと同じくらい簡単になります。そうならない場合があるのは、当面 SIMD を使用すべきではないという明確なサインです。

本書では例として Zig 言語を使用していますが、これはどのプログラミング言語にも適用できる一般的な概念です。各言語のサポートは異なりますが、将来的にはより多くの言語がこの汎用的なアプローチを採用することを願っています。また、この記事は完全に人手によって執筆されています。

---

背景：SIMD とは何か？

SIMD は、CPU が並列に複数のデータを一度に処理する技術です。1 バイトずつ比較する代わりに、1 つの命令で4、8、あるいはそれ以上のバイトを同時に比較できます。

シンプルなループから SIMD への変換

以下のループは SIMD を活用する余地があります：

for (byte in bytes) { /* ... */ }
for (character in string) { /* ... */ }
for (value in array) { /* ... */ }

SIMD を活用すると、以下のように変換されます：

for (8 byte chunk in bytes) { /* ... */ }

これにより、並列処理を活用した局所的な速度向上が実現され、データ処理速度は 4 倍、8 倍、あるいはそれ以上になります。

適用の条件

• 必要な条件: 定期的に十分な量のデータを処理することです。
• メリットなしの場合: 数バイトや数十バイト程度のデータに対してのみループを実行している場合。
• 劇的な効果が出る場合: 数百、数千、数百万バイトという規模でループを行う場合。

simdutf

や

simdjson

プロジェクトは複雑な技術を使用していますが、高度なアルゴリズムを書く必要はありません。SIMD から恩恵を受けたい一般的なケースは、はるかにシンプルです。

---

一般的な形状（The Common Shape）

「1 回の処理で N 個の値を扱う」という SIMD コードのパターンは、以下の 5 つのステップ をたどります：

1. 定数の广播（Broadcast）と初期化
   • 必要な定数をベクター幅と同じサイズにコピー。
   • ベクター累加器を初期化する（必要であれば）。
2. ベクター単位でのループ処理
   • 入力をベクター幅のチャンクごとに読み込み、1 つずつループ処理します。
3. SIMD 操作の実行
   • すべてのレーン（Lane）にまたがって演算を行います（比較や算術計算など）。
4. 結果の集約（Reduce）
   • ベクターの結果を必要に応じて単一の値にまとめ（集約）、格納します。
5. スカラーテールでの完了
   • ベクターには収まらない余り部分だけを、通常のスカラーループで処理します。

このプロセスを繰り返すと、自然とすべての

for

ループがこの 5 つのステップに分解できます。基礎を理解すれば、SIMD コードを書くのは感覚的になり、直感的に理解できるようになります。

---

実例：Ghostty のコード解析

ここでは、ターミナルアプリケーションで印刷可能な走査線の終わりを発見するためのスカラーループと SIMD 版の実装を見てみましょう。

スカラーループ（元のコード）

一度に 1 つのコードポイントを処理します。一行で記述できます：

while (end < cps.len and cps[end] > 0xF) end += 1;

SIMD ベクター実装

CPU 固有のイントリンシックを使用せず、一般的なベクター実装です。

if (simd.lanes(u32)) |lanes| {
    const V = @Vector(lanes, u32);
    const threshold: V = @splat(0xF);
    while (end + lanes <= cps.len) : (end += lanes) {
        const values: V = cps[end..][0..lanes].*;
        const greater_than_threshold = values > threshold;
        
        if (@reduce(.And, greater_than_threshold)) continue; // 全レーンで条件を満たすなら次のチャンクへ
        
        const mask: std.meta.Int(.unsigned, lanes) = @bitCast(greater_than_threshold);
        end += @ctz(~mask); // 最初の false の位置を特定して進める
        break;
    }
}

// テール処理：ベクターで収まらない残り部分
while (end < cps.len and cps[end] > 0xF) end += 1;

パフォーマンス向上効果

この実装により、Throughput（処理能力）は以下のように向上します：

• ARM NEON（Apple Silicon など含む）: 最大 4 倍
• AVX2（多くの現代 x86 CPU）: 8 倍
• AVX-512（一部の Intel CPU と AMD Zen 4 以降）: 16 倍

実際の測定では、エンドツーエンドの処理で約 5 倍 の高速化が得られました。SIMD コード周辺での他の処理により理想の倍率まではいきませんが、それでも大きな改善です。

以下に、このコードを「一般的な形状」の 5 つのステップに分解して解説します。

ステップ 1：定数の广播（Broadcast Constants）

if (simd.lanes(u32)) |lanes| {
    const V = @Vector(lanes, u32);
    const threshold: V = @splat(0xF);

• simd.lanes(u32)

  : ターゲット CPU が一度に処理できる値の数（レーン）を返します。ARM で 4、AVX2 で 8、AVX-512 で 16 を返します。サポートがない場合は

  null

  を返し、スカラモードで動作します。

• @Vector

  : ベクター型を作成します（例：

  lanes=8

  の場合、8 つの

  u32

  が 1 つの値になる）。

• @splat(0xF)

  : 定数

  0xF

  をすべてのレーンにコピーします。

  { 0xF, 0xF, 0xF, 0xF, 0xF, 0xF, 0xF, 0xF }
  

ステップ 2：ベクターごとに 1 回ずつループ処理

while (end + lanes <= cps.len) : (end += lanes) {
    const values: V = cps[end..][0..lanes].*;

• 入力をベクター幅のチャンクごとに読み込みます。

• end += lanes

  でインデックスをまとめて進めます（例：8 つずつ）。
• 完全なベクターが必要な場合は重要です。残り数が不足している場合は、このループに進入せず「スカラーテール」（ステップ 5）で処理します。

ステップ 3：SIMD 操作の実行

const greater_than_threshold = values > threshold;

• >

  オペレーターは、すべてのレーンを並列に比較します。8 レーンあれば、スカラ比較を 8 回実行することになりますが、これは 1 つの CPU インストラクション で完了します。
• 結果はブール値を持つベクターになります：

  values:                 { A, B, C, J, D, E, F, G } (hex)
  threshold:              {   F,  F,  F,  F,  F,  F,  F,  F }
  greater_than_threshold: { true, true, true, false, true, true, true, true }
  

ステップ 4：ベクター結果の集約（Reduce）

スカラループは「条件を満たさない最初の値の場所」を知る必要があります。

1. 全レーンチェック:

   if (@reduce(.And, greater_than_threshold)) continue;
   

   全てのレーンが条件を満たせば次のチャンクへ続行します。

2. 失敗位置の特定: いずれかのレーンで条件が満たされなかった場合（

   false

   ）：

   const mask: std.meta.Int(.unsigned, lanes) = @bitCast(greater_than_threshold);
   end += @ctz(~mask);
   break;
   

   • @bitCast

     : ブールベクターをビットマスク（

     1

     は条件あり、

     0

     は条件なし）に変換。

   • ~mask

     : 反転させ、条件に満たない部分だけが

     1

     となるようにする。

   • @ctz(~mask)

     : 末尾のゼロビットの数を数える。最初の

     1

     までのゼロ数が「失敗したレーンのインデックス」です。

ステップ 5：スカラーテールでの完了

while (end < cps.len and cps[end] > 0xF) end += 1;

• ベクター処理の余り部分（例：8 レーンで 3 つだけ残っている場合）を、通常のスカラループで処理します。
• このコードは

  simd.lanes

  が

  null

  （SIMD サポートなし CPU）の場合も動作し、フォールバックとして機能します。

---

総括：一般的な形状の理解

実装を上記のステップにマッピングすると以下のようになります：

• @splat

  : 定数を广播

• while

  ループ: ベクター幅分の値をロード

• values > threshold

  : 並列比較

• @reduce

  ,

  @bitCast

  ,

  @ctz

  : 結果の集約・失敗位置特定
• スカラループ: テール処理・フォールバック

ステップ 4（集約処理）は少し複雑に見えますが、全体としての形状は直感的です。

for (byte in bytes)

という構図を見るたびに、「これはマッピングすべき一般的な形状」と認識してください。

---

コンパイラはこの処理を自動で行えない理由？

実は、コンパイラは単純なループを自動的にベクター化できることもあります。しかし、以下の理由から手動での SIMD 実装が推奨されます：

• 性能の限界: 自動ベクター化は最適化の機会を見逃す傾向があり、必ずしも最も高性能ではありません。
• 予測可能性: 「このループを 5 倍高速化させる」ことを目的とした場合、ベクター化は明示的かつ予測可能であるべきです。
• 安定性: コード変更やコンパイラアップデートで、意図せずスカラモードに戻ってしまわないよう制御したい場合があります。

---

誰もが SIMD を知るべきです

開発者は以下の能力を備えるべきです：

1. 機会の認識: SIMD という技術が存在することを理解する。
2. 恐怖心のない活用: 「SIMD を恐れる必要はない」という意識を持つ。
3. パターン化: 大量の連続データを処理するループ（走査、比較など）を見つけたら、「ベクター幅のチャンクごとに処理できるはずだ」と想像できるようになる。

言語のサポートが充実していれば、アセンブリや CPU 固有の命令を知らなくても、簡単なコード変更でパフォーマンス向上を得ることができます。SIMD は特別な技術ではなく、基礎的なアルゴリズム思考の一部として理解すべきです。