AI

Subquadratic、Transformer限界突破を独立評価で示す

米スタートアップSubquadraticが開発した新LLM「SubQ」が、TransformerのAttentionボトルネックを解決したと主張。独立評価機関Appenによるテスト結果がその可能性を示している。

7分で読める SINGULISM 編集チームが確認・編集

Subquadratic、Transformer限界突破を独立評価で示す
Photo by Omar:. Lopez-Rincon on Unsplash

米マイアミ拠点のAIスタートアップSubquadraticは、大規模言語モデル(LLM)の性能を長年にわたり制約してきた数学的ボトルネックを解決したと主張する。同社が開発した新モデル「SubQ」は、従来のTransformerアーキテクチャが抱えるAttention機構の計算複雑性問題に新たな解法をもたらすという。先月のステルスモード解除時には詳細な証拠が乏しく懐疑的な見方が広がったが、独立評価機関Appenによる第三者テストの結果が公開され、主張の一部を裏付ける形となった。

Transformerの限界とSubQの主張

Transformerアーキテクチャは2017年の登場以来、LLMの基盤として広く採用されてきた。しかしAttention機構の計算量は入力トークン数nに対してO(n²)で増加するため、コンテキスト長が拡大するにつれて処理速度の低下と消費エネルギーの急増が避けられない。このスケーラビリティ問題は、長期文書の解析や大規模コードベースの処理といったデータ集約型タスクにおいて顕著な障壁となっている。

Subquadraticの主張は、このO(n²)の制約を実用的な範囲で打破した点にある。同社によればSubQは、既存の最良モデルと同等以上の性能を維持しながら、最大12倍の同時処理テキスト量を実現する。具体的には、数百の文書やコードベース全体を一度に分析できるとされる。さらに処理速度の向上、コスト削減、消費電力の低減も同時に達成するという。これらの特性は、クラウド推論コストの高騰に悩む企業にとって極めて魅力的な提案だ。

Subquadraticの最高技術責任者(CTO)Alex Whedon氏は「健全な懐疑を予想していた」と述べ、当初の情報開示が不十分だったことを認めている。「振り返れば、発表と同時に第三者ベンチマークを公開していれば、懐疑の多くは未然に防げた。今後は検証済みの結果のみを公開する」と語る。

独立評価が示した可能性

Subquadraticは第三者評価機関であるAppenに対し、SubQの性能評価を依頼した。Appenの生成AI研究ディレクターJeanine Sinanan-Singh氏は「結果を見て興奮した。SubQのアーキテクチャが正当性を持つことを確認できた」と述べる。同氏は「モデルの速度と非効率性は業界全体の課題だが、衝撃的な結果は自社で語るよりも第三者機関が示す方が信頼できる」と評価の意義を強調した。

Appenのテスト結果は、SubQが主要なLLMベンチマークにおいて、Google DeepMind、OpenAI、Anthropicの最良モデルとコーディング性能などで同等以上のスコアを記録したことを示している。ただしSinanan-Singh氏は「SubQは既存のトップモデルをすべてのタスクで置き換えるものではない」とも指摘する。特定のタスクにおいて劇的な速度向上とコスト削減をもたらすという位置づけだ。

Subquadraticの共同創業者兼CEOであるJustin Dangel氏は「新たな効率性の時代を切り開きたい」と述べ、「数年後には誰もTransformerでモデルを構築しなくなる」との長期ビジョンを明かしている。同社は今後も検証済みの結果を段階的に公開するとしている。

業界の反応と今後の課題

Subquadraticの発表に対し、AIエンジニアDan McAteer氏はX(旧Twitter)で「SubQはTransformer以来の最大のブレークスルーか、あるいはAI版Theranosだ」と辛辣な評価を下した。この二極化した見方は、同社の主張がまだ広く検証されていない現状を反映している。

SubQは現在、一般利用可能な状態にはなく、外部の研究者や開発者が独自に試すことはできない。Subquadraticは今後、より詳細な技術文書の公開やAPI提供を計画しているとされるが、具体的なスケジュールは未公表だ。

技術的な観点からは、Subquadraticがどのような数学的アプローチでO(n²)の制約を克服したのか、アルゴリズムの詳細が依然として不明である点が最大の疑問符となる。同社が特許や営業秘密を理由に詳細を開示しない場合、学術的な検証や再現性の確認は困難を極める。

編集部の見解

短期的影響として、Subquadraticの独立評価結果はLLM業界に新たな競争軸をもたらす可能性がある。Transformer以外のアーキテクチャへの関心が高まり、GoogleやOpenAIなど既存大手も代替手法の研究を加速させると予想される。特にクラウド推論コストの削減が急務であるプロダクション環境では、SubQの実用化がエンジニアリング上の選択肢を広げるだろう。3〜6カ月以内に同社がAPI提供に踏み切れば、特定のデータ集約型タスクで実証実験が始まると見る。 長期的視点では、SubQが真にTransformerの支配を終わらせるかどうかは、スケーラビリティと汎用性にかかっている。現時点では特定タスクでの優位性が示されたにすぎず、多様なタスクを統合した基盤モデルとしての実力は未検証だ。1〜3年のスパンで、Subquadraticが大規模な学習済みモデルとしての競争力を証明できなければ、同社の主張はニッチな高速化手法の一つとして位置づけられる可能性が高い。業界構造を変えるには、クローズドなアプローチではなくオープンなエコシステムへの参加が不可欠だろう。

参考

よくある質問

SubQはいつから利用可能になるのか
現時点でSubquadraticは一般公開のスケジュールを明らかにしていない。同社は今後、より詳細な技術情報の公開とAPI提供を計画しているが、具体的な時期は未公表である。早期アクセスプログラムなども現時点では発表されていない。
SubQは本当にTransformerを置き換えるのか
現段階では、SubQがすべてのタスクでTransformerより優れているとは断言できない。Appenの評価では特定のタスク(コーディングなど)で同等以上の性能を示したが、汎用的な基盤モデルとしての優位性は未確認である。数年後にTransformerが完全に置き換わるという同社CEOの主張は長期的ビジョンであり、実現にはさらなる検証が必要だ。
SubQの技術的詳細はなぜ公開されないのか
Subquadraticは特許や営業秘密を理由にアルゴリズムの詳細を開示していない。しかしWhedonCTOは今後、検証済みの第三者テスト結果を段階的に公開すると述べており、学術的なピアレビューや再現実験が行われる可能性はある。現時点では、透明性の欠如が最大の批判点となっている。 ## 参考 - [A startup claims it broke through a bottleneck that’s holding back LLMs](https://www.technologyreview.com/2026/06/19/1139313/a-startup-claims-it-broke-through-a-bottleneck-thats-holding-back-llms/) — MIT Technology Review, 2026-06-19公開
出典: MIT Technology Review AI

コメント

← トップへ戻る