把大模型装进口袋:Google AI Edge Gallery
当所有人都在讨论云端千亿参数大模型的算力军备竞赛时,另一场静悄悄的革命正在我们的口袋里发生。如果断掉手机的 Wi-Fi 和移动数据,开启飞行模式,你的手机还能不能看懂相册里的照片、精准定位视频里的某个瞬间、甚至用自然语言帮你操控系统设置?
Google 官方开源的 Google AI Edge Gallery 给出了一个硬核的肯定答案。
这不仅是一个演示端侧(On-Device)生成式 AI 能力的官方沙盒,更是移动端开发者和极客探索本地大模型(Local LLM)边界的最佳试验场。本文将从底层技术架构出发,深度剖析 google-ai-edge/gallery 项目,并结合搭载 Tensor G5 芯片 的 Google Pixel 10 (128GB 标准版),带你看看在一台存储空间相对克制的量产旗舰机上,究竟能榨出多少令人惊艳的端侧 AI 生产力。