カリフォルニア工科大学（Caltech）発のスタートアップ「PrismML」が、1ビットアーキテクチャを採用した大規模言語モデル「Bonasi 8B」をApache 2.0ライセンスで公開しました。従来の8Bパラメータモデルと比較してモデルサイズを14分の1、エネルギー消費を5分の1に削減しながら、推論精度を同等水準に保つことに成功しています。重みのパラメータ値を-1または+1の2値に制限するという大胆な設計が、この極限的な圧縮を実現しています。
Caltech教授Babak Hassibiが率いる研究チームによるこのアプローチは、2値化したパラメータ（-1/+1）で複雑な言語モデルを動作させる数理的根拠を追求したものです。r/LocalLLaMAでは技術的詳細の解析が進み、重み制約の数学的基盤についての議論が活発に展開されています。Hacker Newsでは、クラウドへの依存から脱却できるという観点から、プライバシーとデータ主権への注目が集まっており、エンタープライズ展開におけるコスト削減効果の具体的な試算コメントが多数投稿されています。
X（旧Twitter）では「エッジデバイス（スマートフォンや組み込みデバイス）での本格的なAI実行が現実になる」という期待が広がり、スマートフォンやラップトップでのローカルAI動作デモ動画が多数シェアされました。現在、エッジAIの普及を阻む最大のボトルネックはモデルサイズとエネルギー消費であり、Bonasi 8Bはその両方に対して劇的な改善を示しています。
クラウドAIサービスに依存しないローカル推論の需要は、プライバシー規制の厳しい医療・法律・金融分野を中心に急増しています。Bonasi 8Bのような超軽量モデルが実用精度を維持できるのであれば、オンデバイスAIの普及が一気に加速する可能性があります。Apache 2.0での公開により、コミュニティによる改良と特化型ファインチューニングが広がれば、さらなる実用化が期待できます。