コンピューティングの歴史には、繰り返し現れるパターンがあります。それは「特化型への転換」です。ワークロードが多様で変化し続けるときしているとき（通常は、ワークフローのライフサイクルの初期段階）、人々は柔軟性に対価を払います。次にどのようなプログラムが必要になるか分からないため、作業は汎用システムに任せます。ほとんどの分野では、この方法がうまく機能します。
しかし、ワークロードが大規模になり、その形も安定してくると、処理を特化させることで経済性を高められます。ワークロードの特性に合わせたハードウェア、すなわち専用チップや、そのチップを中心に構築した専用システムへ移行できるようになります。単一の作業に特化して設計されたマシンは、あらゆる作業に対応しなければならないマシンより、その作業を高速かつ低コストで処理できます。
コンピューティングの歴史では、こうした転換が繰り返されてきました。グラフィックス処理はCPUから、新たな種類のアクセラレーターであるGPU（グラフィックス・プロセッシング・ユニット）へと移行しました。ネットワークでも同じ変化が起きています。インターネットを毎日流れる数兆個のパケットは、とうの昔にCPUを経由しなくなり、Broadcomに代表される企業が開発した専用スイッチチップを通るようになっています。
つまり、ワークロードの重要性が高まり、その形が安定するほど、その特性に合わせたハードウェアを開発するほうが合理になります。
そして今、私たちは生涯で最も重要になるかもしれないワークロード、AI推論の分野で、この移行を目の当たりにしています。
推論の需要が急増
AIコンピューティングと聞けば、誰もが学習を思い浮かべます。ここ数年、学習が劇的な話題（そして投資先）の中心でした。しかし、会計上、学習は設備投資（CAPEX）にあたります。映画スタジオが映画の制作費を投じるように、モデルごとに初期費用がかかります。莫大な費用になることも多いものの、償却可能な固定費です。
一方で、推論は運営コスト（OPEX）であり、利用量に応じて変動します。ChatGPTに質問するたび、APIを呼び出すたび、エージェントにコードを書いてもらうたびに、モデル提供企業にはコストが発生します。トークンを1つ生成するごとに、モデルがメモリから重み（数百ギガバイトに及ぶパラメータ）を読み出し、行列演算を行って、トークンを生成します。そして次のトークンを出力するため、同じ処理を繰り返します。トークン1つごとに、チップの処理時間と電力というコストが発生するのです。推論は、AIの売上原価（COGS）です。
モデルを大規模に展開する企業では、ここ数年、推論の需要もコストも急増しています。2026年5月、Googleは自社製品全体で月間3,200兆トークンを処理していると発表しました。これは2年前の処理量の約300倍です。月間アクティブユーザーが約10億人に達し、コーディングプラットフォームのCodexが急成長しているOpenAIでも、Claude Codeで大成功を収めているAnthropicでも、同じ変化が起きています。両社のプラットフォームを基盤とする企業については言うまでもありません。AI推論は、コンピューターが担うワークロードとして史上最大級になりつつあり、今後もさらに拡大していくでしょう。
現在、こうした需要のほぼすべてを担っているのがGPUです。理由は単純で、GPUは柔軟性に優れているからです。あらゆる高負荷ワークロードに対応できるGPUの柔軟性があったからこそ、AIの時代が実現しました。どのアーキテクチャーが主流になるのか見通せない段階では、さまざまな処理を実行できるプロセッサが最適な選択肢でした。
しかし、ワークロードの特性とマシンの設計を照らし合わせると、両者のミスマッチは無視できません。トークン生成の負荷を左右するのは、演算よりメモリです。トークンを1つ生成するたびに、チップはモデルの総合的な重みに加え、コンテキストウィンドウ内の情報をすべて保持しながら増え続けるキャッシュも読み出さなければなりません。読み出した各バイトに対して行うのは、ごくわずかな単純演算だけです。
この問題への一般的な対処法が「バッチ処理」です。多数のユーザーからのリクエストをまとめて処理することで、メモリから重みを読み出すコストを、1つのトークンではなく数十から数百のトークンに分散できます。バッチ処理は有効ですが、万能ではありません。スループットが向上する一方でレイテンシが増大し、個々の推論ワークロードが遅くなります。短いサイクルを繰り返すコーディングエージェントや、長いコンテキストを扱う推論など、需要が急増しているワークロードでは、このトレードオフを受け入れる余地がありません。顧客は、処理を速く終えることを求めているのです。
要するに、GPUはあらゆる処理に対応するよう設計されていますが、推論の規模が増大し、推論特有の処理要件も明確になったことで、専用ハードウェアが求められています。膨大な計算能力と電力を必要とするAIでは、この傾向が特に顕著です。今、データセンターの制約となっているのは、資金よりも電力です。汎用チップが、推論ワークロードには不要な柔軟性のために消費する電力は、トークンの生成には使われません。推論で真に重要なのは、1ワット当たりのトークン数です。
ここ数年、多額の資金を投じてきた企業は、このことをおおむね理解するようになりました。ニューラルネットワークでこの転換が始まったのは2010年代初頭でした。GoogleがTPU（テンソル・プロセッシング・ユニット）とそれを支える専用インターコネクト、ポッド、冷却設備などのインフラ全般を開発した頃でした。Amazon、Meta、Microsoftなどのハイパースケーラーがそれに続き、今ではOpenAIなどの最先端のAIラボも追随しています。これは不思議なことではありません。コンピューティングで昔から見られるパターンが、再現しているのです。ワークロードの規模が拡大し、処理内容も定まると、専用ハードウェアが開発されるようになります。AI推論のように安定した巨大市場で勝ち抜くのは、トランジスタからデータセンター全体までを総合的に設計し、この新たな処理需要に対応できる規模でマシンを生産できる企業です。
Etchedの賭け
CursorやClaude Code、Codexが登場する数年前、そしてChatGPTが登場する数ヵ月前の2022年、ギャビン・ウベルティ、ロバート・ワチェン、クリス・チューの3人はハーバード大学を中退して賭けに出ました。新しいチップ、基板、インターコネクト、ラックを含む推論システム全体をゼロから開発するという、当時は無謀とも思える挑戦でした。
3人の主張は明快でした。推論はAI分野で最大の市場になる。そして、この市場は汎用GPUでは支えきれない、という考えです。ハイパースケーラーは、すでにその可能性に気づいていましたが、各社のカスタムチップはそれぞれのワークロードに特化したものでした。TPUをレンタルすることはできても、購入して自社のデータセンターのラックに設置したり、それを基盤に事業を構築したりすることはできません。チップ開発チームを持たないAIラボ、推論クラウド、ソブリンAIプログラム、インフラを自社で構築する大企業など、ハイパースケーラー以外のあらゆる組織にも、推論専用チップへの大きな需要がありました。3人は、まさにそのチップを開発しようと考えたのです。
当初は常識に逆らう大胆な賭けとして始まった取り組みはいまや、この時代を左右する課題に挑む、勝算のある賭けへと成熟しました。
この数年、EtchedはNVIDIA、GoogleのTPU部門、Broadcom、Apple、SK hynix、TSMCから、400人を超えるエンジニアを採用してきました。その多くはチップ設計ではなく、生産業務（サプライチェーン、ラックの組み立て、バーンイン、物流など）に携わっています。供給が逼迫している市場で不足しているのは、高速なチップを設計する能力だけではありません。正常に動作する完成品を数千台単位で出荷する能力も必要です。ギャビン、ロバート、クリスの3人がよく口にするように、「生産こそが製品の要」なのです。
Etchedの製品の根幹にあるのは、2つのアイデアです。1つ目は「低電圧推論」です。演算ブロックを一般的なAIチップの約半分の電圧で作動させ、同じ電力枠で実用的な計算能力を数倍に高めます。つまり、真に重要な指標である1ワット当たりのトークン数を増やすのです。2つ目は「クラスター規模のメモリ」です。超低レイテンシのインターコネクトで複数チップのメモリをプールし、デコード時にはラック全体を1台の巨大なマシンのように動作させます。どちらの技術も、チップ単体の設計では実現できません。メモリから給電、冷却まで、システム全体の技術革新が求められます。これらは、特化型設計を進める際にボトルネックになると予想される領域です。そして、この市場では、1ワット当たりのトークン数が何倍にもなれば収益の拡大に直結します。
Etchedの最初の製品の洗練された設計にも感心しましたが、さらに驚かされたのは、その開発スピードです。最初の量産チップはTSMCのN4Pプロセスでテープアウトし、初回の試作で動作しました。業界用語でいう「ファーストパスシリコン」、大手企業でもまれな成果です。同社のオフィス内にある2メガワットのラボを訪れた私たちは、チームが困難を乗り越え、前例のない短期間で成果を上げた話を何度も耳にしました。ベンダーの問題を解決するために世界中を飛び回り、全社で昼夜のシフトを組んで、2ヵ月足らずでチップを立ち上げたのです（業界では通常6～9ヵ月かかります）。
その結果、最初のラックは今夏、顧客に出荷されます。10メガワットの拠点も立ち上がりつつあり、顧客はすでにEtchedのハードウェア上で、リモートからワークロードを実行しています。創業当初の構想とは異なり、Etchedが開発したのはTransformer専用のマシンではありません。数兆個のパラメータを持つMoEや状態空間モデル、長いコンテキストを扱うエージェントなど、極めて要求の厳しいワークロードに対応するフルスタックの推論システムです。
この点について、歴史が示す現実は厳しいものです。最も重要なワークロード向けには、その処理を高速化する専用ハードウェアが開発されます。しかし、それを量産可能なマシンとして構築できる企業はごくわずかです。優れたアーキテクチャーとデモ用のラックだけでは事足りません。激しい競争の中で、世界で最も要求の厳しい顧客が求めるスピードと品質を実現し、大量に出荷する必要があります。生産が製品の要となり、マシンが競争上の強みとなった今、私たちはEtchedを支援できることを心から嬉しく思っています。
