
2026/08/14 2:49
古い Web はどこへ?657,607 のリンクを追跡して解明
RSS: https://news.ycombinator.com/rss
要約▶
Japanese Translation:
提供されたサマリーは核心的な物語を十分に捉えているが、「Key Points」リストに見られる損失の規模や生存または完全な破綻に関する具体的な事例という粒度の詳細な証拠が欠けている。以下に、その不足しているデータポイントを統合しながら明瞭さを維持する改良版を示す:
サマリー:
AI 搭載ツールが 2014 年の閉鎖から 0.mk アーカイブを蘇らせることに成功したが、重要なテストが行われ、復元されたリンクの過半数(76% 超)が壊れたり到達不能であったりすることを示しており、これはデジタル歴史における大きな損失を示している。2009 年に情熱的なプロジェクトとして始まったこのサイトは、2014 年までに 657,958 つのリンクをホストしていたが、スパムと回復不可能な収益のため閉鎖された。17 年後、AI の自動化によりその蘇生が可能になり、チームは 657,607 レコードを復元し、2015 年以前のすべてのリンクに対して厳格な生存テストを実施した。結果は明確だった:51.24% がネットワーク層で失敗(DNS エラー、タイムアウト、TLS の問題)、25.44% は HTTP エラーを返し、そして23.32% が正常に読み込まれたのみである。ユニークな先送り先を分析すると、URL としてアクセス可能なのはたった**21.3%**であり、ドメインレベルでは、クリープ可能なホスト名のほぼ 74% が読み込み結果を与えなかった。アーカイブには現在、A1 Television や地方新聞のような不興のサイトの「墓地」に加え、Facebook の CDN(835 つのリンクされた URL が失敗)、Megaupload といった現代的な破綻も含まれている。最近の出来事、例えば Google が goo.gl を 2025 年に閉鎖したことは、数千つの短縮リンクのチェーンを壊すことで問題をさらに悪化させた。アーカイブの大部分は失われたものの、「宝石」が回収された;これには約 96,000 クリックを受けた不滅のリンクと記録的な長さの URL が含まれている。結局のところ、このプロジェクトは元のサーバーが完好な状態か安定したポリシーがない限り、高度な技術でも容易にインターネットの過去を保存することはできず、貴重な歴史的アートの検証がますます困難になると示している。
本文
「0.mk」データベースの復活と耐性試験レポート
プロジェクト概要
2009 年から 2014 年に生成された「0.mk」の歴史的データ(合計 657,958 件のリンク)を復元し、現在のウェブ環境における存続状況を検証するプロジェクトです。
- 対象期間: 2009 年〜2014 年
- データベース規模: 657,958 件のレコード
- 復元件数: 2015 年以前に作成されたリンク 657,607 件
- 検証日付: 2026 年 8 月時点
- 調査対象地域: ムクドニア(Macedonia)を中心としたローカルなオンラインコミュニティ
リンクの生成状況と変化
2009 年から 2014 年までのリンク生成数と、2026 年の再ローンチ時の状態を示します。
- 2009 年: 3,668 件
- 2010 年: 20,283 件
- 2011 年: 103,053 件(※急増)
- 2012 年: 23,148 件
- 2013 年: 224,931 件
- 2014 年: 282,524 件
- 2026 年(再ローンチ): 404 件
データの特殊性と注意点
上記数字は**「生レコード数」**であり、ユーザー数ではありません。以下の点に注意が必要です。
- バッチ生成の影響:
- 2011 年の急増には、単一アカウントによる 83,398 件のバッチが含まれています。
- 2013 年レコードの 97.8% と 2014 年レコードの 99.9% は、復元されたユーザーアカウントに紐付いていません。
- 再ローンチの意味: 「緑色の帯」は 2026 年の再ローンチを示しており、過去のリンク数がこの時点でのアクセス数を表すわけではありません。
耐性試験(The survival test)の結果
復元したリンク 657,607 件中、不成立・内部リソース・認証が必要なものを除いた、クリープ可能な歴史的リンク 655,178 件に対する検証結果です。
レスポンス分布
- 接続不能: 51.24%(DNS 解析失敗、タイムアウト、TLS 問題等)
- HTTP エラー: 25.44%(4xx や 5xx 系列の返却)
- 正常に読み込まれた: 23.32%(2xx や 3xx レスポンス)
「読み込まれた」の真実
「23.3%が読み込めた」 という数字は、コンテンツの実際の保存状況を実際よりも過大評価しています。以下のような状態もカウントされています。
- ログインを要求する壁にぶつかった場合
- 広告ばかりで埋め尽くされたパークド・ドメインの場合
- 「このコンテンツは利用できません」と表示されている場合
「ページが動作していること」 と 「元のコンテンツが残っていること」 は別問題です。
URL の重複とホストの耐性
一意な URL への集約
複数の短縮リンクが同じ先先に指し示すケースがあります。重複を除いた分析結果は以下の通りです。
- 重複レコード数: 162,826 件
- 一意な URL 数: 494,781 個
- クリープ可能だった一意な URL: 492,620 個
- 正常に読み込まれた割合: 21.3%
結論: 重複レコードを除いても、依然として約 79% のリンクは読み込めませんでした。
ステータスコードの分析
- ネットワークレイヤー失敗(再試行後も不確実): 55.0%
- HTTP エラー返却: 23.7%
- 最も一般的なエラーコード:
(該当 URL:76,403 個)404 Not Found - ブロック系エラー:
,403 Forbidden
合計 29,663 個429 Too Many Requests
「403」や「429」というステータスは、サイト側が自動リクエストを拒絶していることを意味するため、「読み込めなかった」と表現するのが事実です。
URL レベル vs ホスト レベル
| 年 | 完全なクリープにおいて「読み込みなし」の URL のシェア(%) | 完全なクリープにおいて「読み込みなし」のホストのシェア(%) |
|---|---|---|
| 2009 | 64.58% | 61.53% |
| 2010 | 60.39% | 60.36% |
| 2011 | 92.53% | 61.74% |
| 2012 | 59.43% | 62.46% |
| 2013 | 75.06% | 75.24% |
| 2014 | 78.16% | 75.45% |
注:URL レベルは一意なパスを個別カウント、ホストレベルはホスト名を一度きりカウントしています。
データの解釈
- 2011 年の異常値: 単一アカウントによるバッチ生成(
への 83,398 件のリンク)が、URL レベルで見ると「読み込み不能率」を急上昇させています。一方、ホストレベルではこの一つのホスト全体でカウントするため、失敗率は他の年とほぼ同等(約 61-62%)に抑えられています。pelaphptutorials.com - 中央集権サービスの耐性: YouTube, Wikipedia, Google などの大規模サービスは良好に存続しています。逆に、個人ブログ、フォーラム、ローカルニュースサイトなど小規模なウェブは利用不能なケースが多くなっています。
著名なホストへのアクセス結果(墓場への散歩)
データベースは 2010 年代のインターネットに関する博物館のような状態です。主なホストごとの状況は以下の通りです。
- Facebook の写真用 CDN (
): 読み込みなし(835 リンク)fbcdn.net - Google Code: 多くの URL がアーカイブへリダイレクトされている(803 リンク)
- PureVolume: サービス自体は消滅したが、ドメインは応答する(796 リンク)。一意な URL のうち 633/653 がページを返す。
- Rapidshare: URL の読み込みなし(139 リンク)
- Megaupload: URL の読み込みなし(71 リンク)
- Picasa Web Albums: URL の読み込みなし(69 リンク)
重要な視点: 「HTTP レスポンスがある」ことと「コンテンツが保存されている」ことは異なります。
ローカルなマケドニアの記録
「0.mk」はムクドニア初の URL 短縮サービスであり、このデータは存在しない国やサービスの痕跡も含んでいます。
- 廃業したメディアへのリンク:
- A1 Television(2011 年廃業)
- 新聞「Utrinski Vesnik」「Dnevnik」「Vest」(2017 年休刊)
- アーカイブ外のローカルニュース: 現在、Internet Archive 以外の場所では読み取れないリンクが数百件存在します。短縮リンクは、元のニュースルームよりも長く生き延びた例があります。
歴史的な「宝石」たち(The gems)
他人のブックマークが残したデータの中には、以下のような興味深い記録が存在します。
-
史上最初の短縮リンク (2009 年 7 月 14 日 3:52)
- マニフェストや立ち上げ記事ではなく、ある人の WordPress ブログにある CSS スタイルシートでした。
- クリック数:2 回。二度ともなされず、「帝国は謙虚に始まります」。
-
二日目:
0.mk/localhost
を指していました。http://127.0.0.1/- クリック数:2 回。訪問者を自分自身のマシンへ送り出しました。「最も孤独な目的地への、最も短い URL」。
-
最も短いリンクが最も長いドメインを指す
: クリック数 10,415 回。0.mk/1- 先は
(サービスも消滅)。thelonglistofthelongeststuffatthelongestdomainnameatlonglast.com - 「四文字が六十三文字に十七年間を指し続けています」。
-
史上最長の短縮された URL
- 2012 年の CodePen リンク。文字数:38,753。
- クエリストリングには
が繰り返し、誰かが我々の限界を試していました。TRYING_THE_MAXIMUM_URL
-
リンクの腐食を二重にしたもの
- 我々のリンクの 4,478 件 が、他の短縮サービス (
,bit.ly
,TinyURL
) を指しています。goo.gl - Google が
を停止したため、これらは「中間環節が欠落した連鎖」になっています。指向先はもう解決しません。goo.gl
- 我々のリンクの 4,478 件 が、他の短縮サービス (
-
そして不滅のもの:
0.mk/7- 作成日:2009 年 7 月 15 日。
- 先:
google.com - クリック数:95,999 回超。十七年間、再ローンチ後も引き続き指し示されています。
なぜ「0.mk」は蘇ったのか
2014 年時点で収益がコストを賄えず、スパムフィルタリングや悪用対策のためサービスを終了しました。しかし、人工知能(AI) の進化により状況が変わりました。
- AI による自動化: 開発、スパム検出、悪用レビュー、サポート、監視などのタスクを AI が担当しています。
- 現実的な復元: これまでの財政的制約がなくなり、プロジェクトの復元が可能になりました。
- インフラ: 復元されたリンクたちは、世界中 300 を超える都市 に分布するエッジマシンから稼働しています。
検証方法(How we checked)
以下の手順で全ての検証を行いました。
- 対象範囲: 2015 年 1 月 1 日以前の日時を持つ全復元リンク
- リダイレクト追跡: 最大 5 回 のリダイレクトをフォロー
- 再接続処理: 接続失敗については、第二のネットワークから再試行
- 判定基準:
/2xx
: 「読み込まれた」3xx
/4xx
: HTTP エラーとして別途報告5xx
- セキュリティ対策: ローカルアドレスや不安全的なアドレスへの接触は一切行いません