Apple Intelligence:设备端AI的终局之战?

WWDC发布Apple Intelligence那天,我在加州咖啡馆写代码,旁边几个程序员看到演示时发出惊叹声。 表层:隐私优先的设备端革命 苹果把AI直接整合到iOS、iPadOS和macOS,主打设备端处理——数据不上传云端,隐私更安全。作为用了十年苹果的人,我知道它的生态闭环有多强:Apple Intelligence能在不同设备间无缝切换,这是谷歌微软做不到的。用iPhone 15 Pro测试了几个功能,确实比以前快,但复杂多模态任务还是会卡顿。 深层:中美设备端AI的路径博弈 中美路径截然不同:苹果是"设备端优先+云端协同",华为是"全栈自研+硬件软件一体化"。上周跟芯片设计师聊天,他说苹果神经引擎已迭代到第五代,算力提升10倍,但跑GPT-4级别模型还是吃力。华为的昇腾芯片则是从底层自研,走的是另一条路。 终局:设备端AI的融合未来 设备端AI的终局是什么?是每台设备有自己的AI大脑,还是云端大脑的延伸?我觉得是两者结合。苹果没说透的是,复杂任务还是需要云端协同——这才是真实的技术妥协。 隐私和性能,永远是AI的两难。苹果选择了先保隐私,再拼性能。 设备端AI的终极战场,不在参数表上,而在用户感知到的流畅度和安全感之间。

ZHANG.z" | June 15, 2024 | 2 min | Shanghai

Meta Llama 3开源:AI的普惠革命还是商业陷阱?

Meta发布Llama 3那天,我第一时间下载了8B版本测试。不得不说,效果超出预期——某些任务甚至超过GPT-3.5。 表层:大模型的端侧革命 作为开发者,我太懂开源的力量了。以前玩大模型,要么花大价钱买API,要么要有超算。现在普通服务器甚至高端PC就能跑Llama 3。微软也凑热闹,开源了Phi-3-mini,3.8B参数连手机都能装。AI正在从云端被拉到端侧。 深层:中美开源的路径差异 中美玩法截然不同:中国是"开源+生态",比如百度文心一言开放API让开发者做应用;美国是"纯粹开源",直接放模型权重。上周跟做企业服务的朋友聊,他说客户都在问私有大模型部署,不想把数据放云端。Llama 3正好满足需求。 终局:开源的双刃剑 但开源也有风险。上周看到有人用Llama 3生成诈骗短信模板,要是被坏人利用,后果不堪设想。AI普惠革命来了,但革命的代价是什么? 开源让AI不再是巨头专属,普通人也能玩得起。但权力下放的同时,责任也在分散。 技术普惠从来不是免费午餐,它考验的是整个社会的技术素养和道德底线。

ZHANG.z" | April 10, 2024 | 2 min | Shanghai