ARCHIVE
正文、图片和 Markdown 均已本地保存，不包含回复区。
Thank you to our wonderful sponsors @WorkOS and @DeveloperXM for supporting the podcast: 🏆 @WorkOS — Make your app Enterprise Ready, with SSO, SCIM, RBAC, and more: workos.com/lenny 9 🏆 @DeveloperXM — Engineering intelligence for the AI era getdx.com/?utm_source=le… BE Also available on: • Spotify open.spotify.com/episode/5QT3Co… js • Apple podcasts.apple.com/us/podcast/ins… mL
"To make them is not to understand them." Emmanuel Ameisen ( @mlpowered ) has spent the last 3 years doing interpretability research at @AnthropicAI , looking inside LLMs like Claude to figure out what they're actually doing. As he puts it, models are "grown," not built. We discuss: 🔸 His discovery that models plan many tokens ahead 🔸 Why anthropomorphizing AI can actually be the right approach 🔸 What the "J-space" reveals about how models think 🔸 How interpretability connects to AI alignment and safety Listen no youtu.be/JHo-aiePjoM fpkab
全马跑过许多场，每一场各路大神总以过来人的姿态叮嘱我：前半程 20 公里一定要悠着跑，留足体力，后半程才有体能储备去冲刺。🤣🤣 但真正跑过几次就会明白，这简直是个世纪骗局。真跑到 35 公里的时候，别说储备体能，人直接麻了。能勉强维持个跑姿就算神中神，上半身根本摆不动臂，双腿沉得像灌了铅，只要能硬顶着往前挪、没当场开摆走路，就已经是倾尽了洪荒之力。 可神奇的是，一到最后 100 米冲刺，体能仿佛又瞬间回血了。只要双腿没抽筋，直接在全场老哥的见证下极限冲线。回到酒店，捧着沉甸甸的完赛奖牌，晒朋友圈说：全程没有走过一步，真为自己骄傲！ 然后下一场我也叮嘱同行跑友，前半程要…… 🔗 View on Twitter
Stripe 首席设计官 @lil_dill 分享：如何用 AI 规模化扩展意图、品质与艺术性 ？ Youtube 视频： youtube.com/watch?v=GLvFTM… # 三个警戒信号 1. LLM 天然趋向均值。大模型擅长给出“最可能的答案”，即过去流行过什么、什么有效过，但不擅长给出属于你的品牌、你的用户语境的原创解。她展示了一个毫无个性的网站让全场猜不出是卖软件还是卖韩式烤肉，证实 AI 产出的默认就是这种“无性格”的东西。 2. “完成感”的诱惑。AI 让东西极快地显得“完工”了。她用微波炉冷冻卷饼自嘲：90 秒从饥饿到午餐，明知道难吃却因为速度而妥协。同理，敲一句话就得到一个有圆角、有阴影的界面，“看起来精致”不等于“真的解决问题、真的有差异化”。 3. 工作变得可抛弃。产出太容易，责任感和长期思维（谁来维护？）容易被丢在一边。 三者叠加的结果就是“僵尸 UI”：单调、空洞、无人真正在意。而我们一半的清醒时间都盯着屏幕，用户想要的是被认真对待的软件，哪怕小到日历标签页里显示正确日期这样的细节。 # Dill 给出的四条实战建议 一、必须有自己的观点 没有观点，AI 会替你给一个，而那个答案大概率是通用的、向后看的。在建造权分散、人人都给产品做贡献的时代，团队必须先对齐“我们是谁、用户在乎什么”。 她举了 Stripe 内部的一次设计评审。一位同事问：AI 做的东西，质量标准应该是什么？这个问题的答案很简单：用户不在乎东西怎么做的，只在乎它好不好，所以标准只看最终产出。那次评审最终产出了 17 条改进点，比如霜感再调一点、边缘再柔一点、气泡再小一点。"Pepsi bubbling" 从此在 Stripe 成为极致打磨的代动词。目标并非完美，而是比用户能感知到的再深一层，那份匠心用户终会感受到。 观点如何培养？练觉察力。留意用户真正的需要，而非嘴上说的；留意生活中什么是好、什么是平庸；从艺术与科学中汲取参照，逐步建立自己的品味和标准。 二、把标准编码进机器 现实是设计师不会出现在每一次决策现场。界面在没有设计师的房间里被生成，Agent 半夜自动修问题，生成式 UI 实时拼装。所以设计系统的对象已经变了：过去是界面，现在是系统本身。 她用古腾堡作比。古腾堡做了 290 个字符变体，包括不同字宽、连字和缩写，目的是让机器排版达到手工排版的品质，两端对齐时不出现难看的白空。旧设计系统扩展的是一致性，新系统要扩展的是意图。 Stripe 的实践也走过弯路。最初用 MCP 让 AI 读设计文档，效果很差，同一条 prompt 三个人会得到三个结果。后来迭代为构建在设计系统之上的 CLI：它在开发者工作的地方运行，在恰当时机注入文档以避免 context rot；提供的内容从原子组件升级为完整模板和流程，让系统知道产品应该是什么样子、如何组装。 但她同时引用了 Christopher Alexander 的话作为提醒：“一个系统可以满足所有规则，却仍然是死的。”这一条只是及格线。 三、拒绝把“做完”当“做好” 过去的质量过滤内建于流程：20 个想法只能立项 1 个，一路修剪打磨。现在一周能建 20 个想法，好处是可以跳过理论会议直接看真东西，但过滤被推迟到了建造之后，而那正是最难说“不”的时刻。 于是“编辑者”的角色变得空前重要。谁在端到端地审视产品是否为一个完整的整体？团队必须戒掉“建完就等于做完、做完就等于做好”的惯性。 编辑的核心方法是像用户一样亲身体验：它真的解决问题吗？符合用户的思维方式吗？放进完整用户旅程后还连贯吗？很多东西单独看都不错，拼在一起就显得割裂。编辑者要为每一个决定、每一个像素负责。 她引用 Nabil Khureshi 论艺术的文章：伟大的艺术在于意想不到的细节和贯穿始终的深层主题，这恰恰是 AI 的短板。AI 垃圾最冒犯人的地方，就是那种“细节无所谓”的感觉。杯子是绿的，但换成蓝的也无所谓，这种态度用户一眼就能看出来。 案例来自本场大会的开场动画。设计师 Stefan 用 AI 从 3D 场景模型开始迭代，第一版挺酷，但像素级审视总觉得不对劲。他反复做了 56 版，才得到真正有生命力的成品。她的关键洞察是：没有 AI，他可能根本不会尝试这么复杂的场景和这么多视角；AI 扩大了可能性空间，但一次成活是幻觉，把关的仍然是人的眼力。 四、释放创造力与艺术性 这是她个人最喜欢的一条。AI 可以批量制造单调，但它也是史上最强的创意催化剂。当人人都能建造，差异化更难也更重要。 今天的界面范式，聊天框、图表、命令行，绝非交互设计的终点。应该去发明新界面、新美学。最佳实践还没被写出来，而我们现在有了写它的工具，就像多点触控催生了全新的交互，合成器催生了全新的声音。 Stripe 用 AI 放大创意团队。新书《Built to Grow》的封面由人类大理石纹艺术家做出惊艳底稿，再用 AI 精调颜色与线条，本质上是把人类的好判断规模化。 让 AI 成为更强的创意伙伴有三个做法：改进输入，在 prompt 里带上品牌信念、审美标准和素材源，而不只是“给我做个烤肉店网站”；施压输出，别陷入卷饼困境，永远再推一步；用对抗性 Agent 帮忙挑刺。 真正的难点在文化。跟着 cookie-cutter 走安全舒适，找到独特且改进现状的东西难得多。领导者应该给团队留探索空间，保护那些怪东西（protect the strange）。AI 降低了创造的成本，省下的预算应该花在做出真正特别的东西上。如果只用 AI 把已有的事情做得更快，就错过了最有意思的部分。AI 能抬高地板，但天花板要靠人去撑。 Katie Dill @lil_dill If we only use AI to make the things that we already make, just faster, then we're definitely missing out on the most interesting part. From my talk at @lennysan ’s Summit, here are four ideas for raising the ceiling, not just the floor: - Have a point of view [5:38] - Encode your standards into the machine [9:07] - Don't confuse done with good [12:21] - Unleash creativity and artistry [16:19] Full talk here: youtu.be/GLvFTMtw4Jk?si… 🔗 View Quoted Tweet
斯坦福大学 CS336: Language Modeling from Scratch 第 10 讲「Inference」，在前后两讲 Scaling Laws 和 Scaling Laws II 之间， @percyliang 教授用一条完整的数学主线串起从架构、算法到系统的全部优化手段，把 “训练完的模型，如何又快又准地生成响应？” 讲得非常清楚！ Youtube 视频： youtu.be/EfM546A79aM?si… 讲义： cs336.stanford.edu 讲义采用 CS336 特色的“可执行讲义”形式，所有公式都是符号计算（sympy）逐步推导并断言验证的。整讲的逻辑顺序是：自回归 → 无法沿序列并行 → 算术强度低 → memory-bound → 一切优化 = 减少每步搬运的字节数，围绕这个链路展开。 1. 架构层（有损）：GQA/MLA/CLA 降维、局部注意力截断、量化、剪枝蒸馏；全部服务于“把 KV cache 和参数压小，且用评测证明没伤准确率”； 2. 算法层（无损）：投机采样，用“验证快于生成”的不对称性换取精确的免费加速； 3. 系统层：连续批处理、分页、前缀共享、写时复制；操作系统经典思想向 GPU 服务的迁移； 4. 张力贯穿始终：延迟 vs 吞吐（批大小）、速度 vs 准确率（每一项有损技术）、新颖性 vs 可信度（GQA 与 MLA 论文结论的相互打脸）。 Percy 在结尾留下的展望是最本讲有分量的判断：KV cache 本身就是 Transformer 对推理不友好的结构性根源；一个从第一天起就为推理设计的架构（SSM、线性注意力、扩散式非自回归生成）可能是这一领域最大的改进空间。 meng shao @shao__meng Stanford、CMU 和 MIT 三所顶级大学的 5 门 AI 课程之外，再分享两门更偏理论和基础的课程。 CS336: Language Modeling from Scratch Stanford AI 课程链的顶点实现课，由 Percy Liang 与 Tatsu Hashimoto 联合执教，从零亲手构建一个完整的语言模型。 CS221: Artificial Intelligence: Principles and Techniques Stanford AI 的本科主干入门课，由 Percy Liang 执教，用统一的数学框架（学习、搜索、MDP、博弈、贝叶斯网络、逻辑）把整个经典 AI 领域走一遍。 这两门课程都来自 Stanford 大学，讲师都有 @percyliang ( @stanfordnlp 教授， @togethercompute 联合创始人）。 CS336 课程地址 cs336.stanford.edu youtube.com/playlist?list=… CS221 课程地址 stanford-cs221.github.io/autumn2025/ youtube.com/playlist?list=… 🔗 View Quoted Tweet
Obsidian 的 CEO kepano 写了一个 Mermaid 渲染库 Pele，同样的 Mermaid 语法 输出变成可换主题的 SVG ，但是性能和大小都有绝对优势： pele.run gzip 后 230 kB vs Mermaid.js 的 1.6 MB 大约小 6 倍 渲染官方说最多快 500 倍 换肤是改 CSS 变量，不用重新渲染 浏览器和 node 都能跑 之后Obsidian 会用它默认渲染图，还在用 Mermaid.js 可以去试试看 kepano @kepano This is Pele, my new rendering library for diagrams and charts, compatible with the latest Mermaid syntax. - 100-500× faster than mermaid.js - 6× smaller bundle - No dependencies - Easy to theme - Responsive to device width In pursuit of making Obsidian insanely fast and cohesively designed, I always found the Mermaid library to be too big, too slow, and too hard to theme. Pele will be the new renderer in the next version of Obsidian, but you can start using it now. Pele [ˈpɛlɛ] is named after the goddess of volcanoes and fire. It's open source under the MIT license. Try the playground! 🔗 View on Twitter 🔗 View Quoted Tweet
Who appointed Anthropic to be god? Holly ⏸️ Elmore @ilex_ulmus At @AnthropicAI this is like a koan to them and they love making a big show of grappling with it. Of course what they’ve already decided to actually do is try to take over the world as fast as they can regardless. 🔗 View Quoted Tweet
⚠️ PSA: “AI assistants may fall prey to prompt injection attacks” ⚠️ jeffrey lee funk @jeffreyleefunk Agentic AI requires us to trust our emails and other messages and we really shouldn't. There is too much hidden content and AI models can’t tell the difference between text it’s supposed to read and instructions it’s supposed to follow. futurism.com/artificial-int… 🔗 View Quoted Tweet
昨天我老婆问我 App Store 怎么付费，看了一下才知道她要给儿子买一个打字 App，收费 128 块。。 这。。小孩和女人钱这么好赚？？ 我说等我半个小时，打开 Codex，把打字游戏的需求输入进去，一个 Goal 跑起来，20 分钟就做好部署到 ChatGPT Sites 了。花了几分钟看了一遍，还不错，顺手再加了一个实时拍摄人像，让头像作为游戏主角的功能，30 分钟准时交活儿。 效果怎么样呢？我第一版做了 36 关，儿子一连玩了 18 关 😁😁😁，我边看他玩，边看有什么问题，边让 Codex 改，顺便增加了几十关，和无限模式。。 以后儿子再有什么想玩但花钱的游戏和应用，自己做就行了，大家感兴趣可以看 …doudou.groovy-river-7567.chatgpt.site Rnb
does anyone have handy the actual data on AI’s effect on GDP over the last four years? also: is Dario innumerate, unaware of prior data; or just hustling his IPO and full of shit? Kalshi @Kalshi BREAKING: Anthropic says "AI could push US GDP to $44 trillion by 2030" 70% chance of IPO this year 🔗 View Quoted Tweet
since several people are responding by lying and attacking my credibility without actual data, i thought i would leave this, based on actual data, here. Gary Marcus @GaryMarcus The biggest, most persistent lie here on X is that I am always wrong. I literally get attacked like (sample) below multiple times a day—but never with any concrete data. At most these accounts (some may be bots) point to one or two predictions that were wrong. And, you know what, some actually were, including one about the timing of the genAI bubble, another, though still arguable, about math) out of the hundreds I have made. Whereas @aipredictionx actually did the analysis – and found me to be the “the most accurate big name we track: 11 resolved AI predictions, 11 scored correct, including the million dollar bet that AI would not be smarter than any single human by the end of 2025” Either people like the guy below are lying about me, or they are really bad at data analysis. (Or both.) Ask yourself why so many people are motivated to lie about me. 🔗 View Quoted Tweet
The biggest, most persistent lie here on X is that I am always wrong. I literally get attacked like (sample) below multiple times a day—but never with any concrete data. At most these accounts (some may be bots) point to one or two predictions that were wrong. And, you know what, some actually were, including one about the timing of the genAI bubble, another, though still arguable, about math) out of the hundreds I have made. Whereas @aipredictionx actually did the analysis – and found me to be the “the most accurate big name we track: 11 resolved AI predictions, 11 scored correct, including the million dollar bet that AI would not be smarter than any single human by the end of 2025” Either people like the guy below are lying about me, or they are really bad at data analysis. (Or both.) Ask yourself why so many people are motivated to lie about me.
Google Research 最新开源了 Harness²：递归式智能体 Harness 优化框架 Harness² 解决的两个开放世界难题 1. 测试时遇到的是没见过的任务，没有 ground-truth 验证器。在线改 harness 时你不知道答案对不对，无法用“分数涨了没有”来指导编辑。 2. 递归自我改进（RSI）通常是任务特化的，换个任务就失效，无法泛化积累。 开源地址： github.com/google-researc… # 核心机制：两层递归 第一层：任务级递归，Propose–Probe–Compose（对比式改进环） · Propose（提案）：先跑一次当前 harness 的参考执行。注意，这次执行揭示的是“harness 如何表现”，而不是“交付物是否正确”。基于任务、参考轨迹和历史，提出两个候选 harness：一个针对跨领域通用的代理性缺陷（规划、工具使用、上下文管理、委派），一个针对当前领域的知识、流程和约束。每个候选都是可直接执行的文件级编辑。 · Probe（探针）：两个候选在同一任务、同等的模型和环境条件下执行，与参考执行对比得到行为对比；编辑是否缓解了目标缺陷、毫无变化、还是造成回归。论文明确说这些对比只“为后续组合提供信息，而非验证任务正确性”。 · Compose（组合）：读取参考执行、两个候选、它们的 diff 和全部执行证据，有选择地构建后继 harness：合并被证据支持的修改、修订冲突、采纳其一、或保持原样。每个决策必须绑定一个具体观察，而不是假想的分数增益。 这一步是整个工作的关键创新：在没有标准答案的情况下，用“同任务下的 A/B 行为对比”替代分数反馈来指导编辑，绕开了开放世界没有验证器的死结。 第二层：harnessing 级递归，持续改进的 improvement harness 每个任务结束后，框架对完整的改进记录做反思，把被采纳的 harness 和有证据支持的教训写入一个按领域组织的持久库。要点有三： · 教训只有在执行对比支持时才保留——单次选出了好输出不等于可迁移； · 库里存的是可执行的组件文件而非散文式摘要，配一份 EXPERIENCE.md 记录适用场景和证据； · 下一个任务仍从公共基础 harness 出发（执行 harness 不继承），但 Propose/Probe/Compose 由更新后的库引导；即“改进 harness 本身”也在被改进，这就是标题里 Harness² 的双重含义。 两种扩展模式：parallel（同时探测 k 组候选，k 个独立组合会话）和 sequential（k 步链式精炼，逐步携带累积证据），两种模式从 k=1 到 5 均单调提升。 八个可编辑组件 - 按作用分组 · 上下文构建：系统提示词、护栏、记忆，每次调用都生效 · 工具接口：工具指引、Skills，Skills 按需加载不占成本 · 编排：subagents，唯一会增加推理上下文的组件 · 脚本：新确定性能力，执行而非推理 · 插件：TypeScript 中间件，“在工具环内强制一种行为，而非指令它” 主要结果（k=1 单步，编辑器为 Claude Opus 4.8） WorkBuddy-Bench · Gemini 3.5 Flash：+5.1 (OpenCode) · GLM-5：+11.5 (OpenCode，64.2→75.7) JobBench · Gemini 3.5 Flash：+4.5 (OpenCode) · GLM-5：+3.6 (OpenCode) LAB 部分通过率 · Gemini 3.5 Flash：+4.0 (Codex) · GLM-5：+11.8 (OpenCode，59.6→71.4) 更值得注意的发现： · 越弱的执行模型获益越大，且 GLM-5 换上改进后的 harness 反超了 Gemini 的基础分数，“换 harness”在某些场景下顶得上“换模型”； · 改进后的 harness 跨模型迁移（为 Gemini 精炼的 harness 给 GLM-5 在 Code 子集带来 +17.3），也胜过 Claude Code、Codex 的固定生产 harness 4.6–5.8 分； · 执行器和编辑器用同一个模型也能涨（GLM-5 自编辑在 LAB 上 +13.7），说明不依赖更强的“老师”模型； · 库的消融：去掉 library 在 WorkBuddy-Bench 上损失 3.1 分，验证了 harnessing 级递归的价值；库还能跨基准迁移（JobBench 的库迁移到 WorkBuddy-Bench 仍有 +0.6~+2.9）。 Shubham Saboo @Saboo_Shubham_ Recursive Agent Harness from Google Research. 100% Opensource. 🔗 View Quoted Tweet
THIS! If you aren’t listening to @HeidyKhlaaf you are the mark. Dr Heidy Khlaaf (هايدي خلاف) @HeidyKhlaaf We warned about this exact scenario last year: That AI companies will situate themselves as the arbiters of life or death, taking over the arbitration of risk determinations and subverting democratic processes. All through the co-option of safety engineering terminology. 🔗 View Quoted Tweet