検索結果: 注意機構
LLMの根本的制約を突破か——スタートアップ「Subquadratic」が挑む注意機構の革新とその日本市場への波及

LLMの根本的制約を突破か——スタートアップ「Subquadratic」が挑む注意機構の革新とその日本市場への波及

MITテクノロジーレビューが報じたところによると、スタートアップ「Subquadratic」は、大規模言語モデル(LLM)の性能向上を阻んできた計算コストのボトルネック、すなわちTransformerアーキテクチャにおける注意機構(Attention Mechanism)の二次計算複雑性(Quadratic Complexity)を突破したと主張している。