Posts

2025年，OpenAI投入500亿美元研究AI安全，中国在自动驾驶领域大规模落地。所有人都在讨论"谁的技术更强"，但我意识到真正的分水岭是：美国在"防范AGI风险"，中国在"加速AGI落地"。当美国专家说"我们需要更安全的边界"时，中国已经在用AGI让工厂效率提升30%。这不是技术差距，这是价值观的错位——一个强调"安全第一"，一个强调"速度第一"。但问题是：在AGI面前，安全与速度，真的能分开吗？ 从路径看：中美AI的路径分歧 美国的思路是"安全边界优先"。《AI安全法案》投入500亿美元用于AI安全研究，OpenAI的对齐研究和Google的AI安全团队成为行业标杆。他们在技术突破的同时，更注重防范AGI的潜在风险。这是典型的"安全驱动"思维：先确保安全，再加速发展。 中国的策略则是"发展速度优先"。《新一代人工智能发展规划2.0》设定2030年成为AI强国的目标，在自动驾驶、智能制造等领域大规模应用，技术落地速度全球领先。这是典型的"速度驱动"思维：先加速发展，再控制风险。 关键洞察：这不是技术差距，是价值观的错位。美国强调"安全第一"，中国强调"速度第一"。 从价值观看：价值观的本质差异 这种差异背后是价值观的不同逻辑。 美国更强调个体权利和风险防范。他们认为AGI可能威胁人类，所以必须先建立安全边界，再考虑应用。这种思路能最大程度保护个体权利，但可能错失发展机遇。 中国更注重集体利益和发展效率。他们认为技术发展无法停止，关键是在发展中控制风险。这种思路能快速推动技术进步，但可能忽视潜在风险。 最近参加AGI研讨会，中美专家都认为，技术发展无法停止，关键是如何在发展中控制风险。但双方对"风险"的定义不同：美国更担心"技术失控"，中国更担心"发展落后"。 关键洞察：在AGI面前，安全与速度不能分开。我们需要在发展中控制风险，在风险中加速发展。 看未来：平衡发展的未来 2026年，我判断全球AI发展会进入"平衡期"。美国会适当加快发展速度（比如在自动驾驶领域加大投入），中国会更加关注安全和伦理（比如成立AI安全委员会）。 技术加速主义者不应该只关注速度，更应该关注技术的方向。 但方向本身不会自动出现，需要在发展中不断调整。 AI的未来，应该是既快速发展又安全可控，既创新突破又造福人类。但更重要的是：让安全成为速度的保障，让速度成为安全的动力。 2026年，我期待看到美国的速度，也期待看到中国的安全。

本文解读的是Tom Brown等人于2020年发表的划时代论文《Language Models are Few-Shot Learners》，该论文提出了GPT-3模型，以1750亿参数的前所未有规模，首次展示了大语言模型的上下文学习（In-context Learning）和涌现能力（Emergent Abilities）。GPT-3证明了一个惊人的事实：足够大的语言模型无需更新参数，仅通过在输入中提供少量示例，就能执行从未见过的任务——这一发现彻底改变了AI的发展轨迹，直接催生了ChatGPT的诞生。 从零样本到少样本的飞跃 问题一：零样本学习的局限 GPT-2展示了零样本学习的可能性，但性能仍然有限： 任务 零样本GPT-2 微调SOTA 差距 CoQA 55 F1 82 F1 -27 翻译（法英） 11.5 BLEU 45.6 BLEU -34 摘要 21.6 ROUGE 44.2 ROUGE -23 零样本学习虽然证明了概念，但实用性不足。 问题二：微调的代价 传统微调方法虽然有效，但存在显著问题： 数据需求：每个任务需要数千到数十万标注样本 过拟合风险：在小数据集上容易过拟合 分布偏移：微调数据与测试数据分布不一致 计算成本：大模型微调需要大量计算资源 灵活性差：每个任务需要单独模型 问题三：人类学习的启示 人类可以从极少量示例中学习新任务： “看一个例子：‘狗’的复数是’dogs’。那’猫’的复数是什么？” 人类不需要数千个训练样本，仅需要任务描述和少量示例就能泛化。GPT-3的目标是：让机器具备类似的学习能力。 GPT-3的核心创新 前所未有的规模 GPT-3将规模推向极致： 参数 GPT-2 GPT-3 Small GPT-3 Medium GPT-3 Large GPT-3 XL GPT-3 175B 层数 48 12 24 24 32 96 隐藏维度 1600 768 1024 1536 2048 12288 注意力头数 25 12 16 16 24 96 参数量 1.5B 125M 350M 760M 1.3B 175B 最大的GPT-3模型参数量达到1750亿，是GPT-2的100倍以上。 ...

【2025加密市场10大风云人物】 他是去中心化世界的"中心化帝国建造者"——Peter Thiel，从PayPal联合创始人到硅谷顶级投资人，他用"从0到1"的垄断思维，在加密世界构建了一个基于基础设施控制的庞大帝国。 说起Peter Thiel，大家都在聊他的《从0到1》和PayPal黑帮的传奇故事，但2025年的他，正在用实际行动证明：在这个看似去中心化的领域，真正的权力来自于控制底层协议，而非表面的去中心化。 基础设施投资：垄断思维的加密实践 2025年7月，Thiel旗下公司收购BitMine Immersion Technologies 9.1%股份，成为这家以太坊金库公司的最大投资者。这一动作完美体现了他的"从0到1"哲学：拒绝投资去中心化应用、GameFi和NFT等热门领域，转而聚焦Layer2扩展方案、合规基础设施、衍生品协议和稳定币网络。这个策略的核心就是：把底层基础设施攥在手里，就能拿到行业的"隐形垄断权"。 金融帝国：从交易到舆论的全方位布局 Thiel的加密帝国布局是全方位的：Bullish在纽交所成功上市，市值突破130亿美元；支持创建专门服务加密公司的Erebor Bank；通过CoinDesk控制行业舆论话语权；领投DeFi永续DEX Lighter使其成为15亿美元估值的独角兽。这些看似分散的布局，其实共同搭起了一个覆盖交易、银行、媒体、技术的完整加密金融生态系统。 审慎观点：权力洞察者的冷静判断 2025年末，Thiel对比特币前景表达了审慎观点，认为在被BlackRock等机构和政府"收编"后，比特币上涨空间被压缩，但波动性仍高。这种冷静判断来自于他对权力本质的深刻洞察：当去中心化技术被中心化机构大规模采用时，其原有属性必然发生改变，投资者需要重新评估其价值逻辑。 在加密世界，最聪明的投资者不是追逐热点的人，而是那些看清权力流向的人。Peter Thiel的加密帝国告诉我们：去中心化的技术，最终可能会通向一个更加中心化的权力结构——这或许就是创新的终极悖论。 「10个人-2025年的加密市场重要人物志」系列 本系列聚焦2025年加密市场的关键人物，通过他们的布局与决策，解读加密行业从边缘到主流的转变逻辑。 特朗普：政治权威成为加密价值的新锚点 Michael Saylor：企业财库革命的真正先驱 Tom Lee：华尔街与加密世界的关键桥梁 赵长鹏：币安Alpha 2.0的权力转型 Vitalik Buterin：去中心化理想与机构化现实的平衡者 金正恩：国家级加密财政的极端实践 马斯克：加密市场"强人时代"的符号 孙宇晨：加密世界的"规则玩家" Brian Armstrong：加密世界的"合规基础设施建筑师" Peter Thiel：去中心化世界的"中心化帝国建造者"

【2025加密市场10大风云人物】 他是加密世界的"合规基础设施建筑师"——Brian Armstrong，从硅谷程序员到Coinbase创始人，他用15年时间证明：在这个充满不确定性的领域，合规不是创新的阻碍，而是大规模采用的基石。 说起Brian Armstrong，大家都在聊Coinbase的上市和估值，但2025年的他，正在用实际行动构建加密世界最庞大的合规基础设施帝国，这才是真正影响行业未来的关键。 基础设施霸权：以太坊网络的"隐形支柱" 2025年3月，Coinbase发布的验证者报告显示，公司运行12万个验证者节点，质押384万枚ETH，占全网质押以太坊的11.42%，成为以太坊网络最大的单一节点运营方。这个地位的意义在于，Armstrong握有加密世界第二大网络的关键基础设施，为以太坊的去中心化理想提供了中心化的稳定支撑。 合规战略：监管与创新的平衡大师 Armstrong的合规战略体现在多个层面：年初支持建立美国国家比特币战略储备，5月拒绝支付黑客2000万美元赎金并设立"缉凶悬赏基金"，11月将公司注册地迁至加密友好的德克萨斯州。这些决策让人们看到了他对"合规红利"的透彻理解——在监管框架里做事，不仅能赢得机构信任，还能在竞争中建立长期优势。 企业级布局：从交易所到金融基础设施 2025年，Armstrong将Coinbase定位从交易所升级为"全球加密金融基础设施提供商"：29亿美元收购Deribit打造衍生品平台，推出Coinbase Business等企业级产品，强调USDC在企业支付中的"真实痛点"解决能力。这种战略升级，将Coinbase从单纯的交易平台转变为连接传统金融与加密世界的桥梁。 在加密世界的混乱与创新中，Brian Armstrong证明了：真正的长期价值，来自于构建既能拥抱监管，又能推动基础设施进步的可持续生态——这才是加密行业走向主流的必由之路。 「10个人-2025年的加密市场重要人物志」系列 本系列聚焦2025年加密市场的关键人物，通过他们的布局与决策，解读加密行业从边缘到主流的转变逻辑。 特朗普：政治权威成为加密价值的新锚点 Michael Saylor：企业财库革命的真正先驱 Tom Lee：华尔街与加密世界的关键桥梁 赵长鹏：币安Alpha 2.0的权力转型 Vitalik Buterin：去中心化理想与机构化现实的平衡者 金正恩：国家级加密财政的极端实践 马斯克：加密市场"强人时代"的符号 孙宇晨：加密世界的"规则玩家" Brian Armstrong：加密世界的"合规基础设施建筑师" Peter Thiel：去中心化世界的"中心化帝国建造者"

本文解读的是Jared Kaplan、Sam McCandlish、Tom Henighan、Tom B. Brown、Benjamin Chess、Rewon Child、Scott Gray、Alec Radford、Jeffrey Wu和Dario Amodei于2020年发表的里程碑论文《Scaling Laws for Neural Language Models》，该论文发现了神经语言模型的缩放定律（Scaling Laws），揭示了模型规模、数据规模、计算量与模型性能之间的幂律关系。这一发现不仅为大模型的发展提供了理论指导，更为理解"规模即智能"提供了科学依据，是当今大模型时代的理论基础。 “规模是性能的关键。"——这是缩放定律论文的核心发现。通过系统性的实验，论文发现模型性能（损失）与模型规模、数据规模、计算量之间存在清晰的幂律关系。这意味着，只要增加模型规模、数据规模或计算量，模型性能就会可预测地提升。这一发现为大模型的发展指明了方向。 缩放定律的核心发现是幂律关系：模型损失 $L$ 与模型参数 $N$、数据规模 $D$、计算量 $C$ 之间存在幂律关系： $$ L(N, D) = \left(\frac{N_c}{N}\right)^{\alpha_N} + \left(\frac{D_c}{D}\right)^{\alpha_D} + L_\infty $$ 其中 $\alpha_N$、$\alpha_D$ 是幂律指数，$L_\infty$ 是无限规模下的极限损失。 这一发现的意义深远：它证明了"规模即智能"的科学性，为大模型的发展提供了可预测的路径。理解缩放定律，就是理解大模型时代的底层规律。 本文将从问题根源、核心机制、解决方案、实践评估四个维度深度解读缩放定律，包含完整的数学推导、实验分析和理论探讨，并在文末提供阅读研究论文的时间线计划。 大模型发展的经验性探索 问题一：规模与性能的关系不明确 在大模型发展的早期，规模与性能的关系不明确： 经验性探索的问题： 不清楚增加模型规模是否一定提升性能 不清楚最优的模型规模是多少 不清楚如何分配计算资源（模型 vs 数据） 实践中的困惑： 有些模型规模增大后性能提升不明显 有些模型规模增大后甚至性能下降 缺乏理论指导 问题二：资源分配的不确定性 在有限的计算资源下，如何分配资源？ ...