我是 flutter_gemma 的创建者和维护者——这是一个用于在移动设备上本地运行 LLM 的 Flutter 插件。我越是使用设备端 AI，就越发确信：未来属于本地代理，或者至少是混合代理。
与AI服务器“抢食”内存产能的同时，手机自身对内存的需求也在急剧膨胀。CounterPoint Research发布报告称，2025年12月全球智能手机平均内存（DRAM）为8.4GB，创历史新高。在高端手机市场（售价超600美元），平均内存容量更是达到了约11GB。为了满足高强度多任务处理和端侧大语言模型（LLM）的本地运行需求，12GB内存正在迅速成为高端智能手机的基础标准配置。
，更多细节参见51吃瓜
ALiBi slope=log(10) for base-10 weighting, sparse embed, gated ReLU FFN, float64
Pakistan and India