記事の内容を音声で聞きたい方はこちら↓
スマートフォンAIの主戦場が、いよいよクラウドから端末そのものへと移り変わる。iPhone 17 Proのローカル環境で270億パラメータの巨大AIが動く、そんなSFのような現実がすぐそこに迫ってきた。米スタートアップのPrismMLが発表した「Bonsai 27B」は、わずか3.9GBという驚異的な軽さでオンデバイスAIの常識を覆した。
ベースとなったのは、本来なら54GBもの巨大なシステムメモリを要求するアリババの「Qwen3.6 27B」だ。PrismMLはニューラルネットワークの重みを1〜2ビットにまで極限圧縮する手法で、スマホの限られたリソースへの最適化を成功させた。驚くべきは、サイズを10分の1以下に削り落としながらも、元の性能の90%を維持している点にある。数学やプログラミングといった論理処理において、実質的な劣化を見せていない。
すでにアップルもこの技術の検証に動いており、速度や電力消費のテストを開始している。現時点の実験データでは、iPhone 17 Pro Maxで毎秒11トークンを紡ぎ出し、フル充電から6万7000トークンの処理をこなす。5分以上の連続駆動でチップが発熱し性能制限がかかる点や、画像認識やツール連携の精度不足といった課題はあるものの、個人データを一切外に出さない完全ローカル駆動のメリットは絶大だ。
現在は開発者向けの検証段階であり、一般層が手軽に扱えるアプリの形にはなっていない。しかし、プライバシーと即応性を両立させるこの超圧縮アプローチは、今後のスマホ向けシリコンの進化やOSの設計思想を大きく揺るがすはずだ。Apple Intelligenceの次なる一手を見極める上でも、この技術がもたらすインパクトは極めて大きい。
Source:PrismML
ポチップ
