AI Builders 每日摘要 · 2026-11-07

Thibault Sottiaux、Thariq、Amjad Masad、Guillermo Rauch、Aaron Levie、Garry Tan 和 Claude 今天分享了代码形式化验证、agent 长期任务、沙箱安全、企业上下文检索、AI 竞争与金融任务 benchmark 等话题。播客部分聚焦 Jev Creator 对 decision models、benchmark 疲劳、软件可靠性和 AI agent 风险边界的判断。

X / TWITTER

OpenAI Codex 与 ChatGPT 工程师 Thibault Sottiaux

Thibault Sottiaux 认为，数千万行代码的形式化证明已经不再荒谬，设计新系统时应认真考虑这条路线。他同时指出，人类过去并不擅长编写安全基础设施，最终目标是让基础设施和软件变得高度安全，但到达那里前还会经历一段动荡期。

来源：https://x.com/thsottiaux/status/2118569441860723112

来源：https://x.com/thsottiaux/status/2118569235953893573

前 Anthropic Claude Code 工程师 Thariq

Thariq 分享了一个适合 Instinct 等 agent 的 location-based reminder：让 agent 记录上次洗衣时间，超过五天后，在工作日回家 30 分钟提醒，并持续追问直到用户确认或延期。这个例子展示了 agent 的价值如何从一次性问答延伸到带有时间、地点和后续状态的长期任务。

来源：https://x.com/trq212/status/2118399561324699655

Replit CEO Amjad Masad

Amjad Masad 称 Replit 是面向协作的 AI coding system，并介绍其定制 Kernel 的新 sandbox 设计：面对大量 Linux zero-day 漏洞，Replit 声称可以避免其中 96%。这把 AI 编程产品的竞争点从代码生成能力延伸到多用户协作和运行环境隔离。

来源：https://x.com/amasad/status/2118506378440400951

来源：https://x.com/amasad/status/2118503241390665776

Vercel CEO Guillermo Rauch

Guillermo Rauch 把 agent 的 killer app 概括为“随时间替你做事”：Muse 和 Instinct 会在夜间整理记忆、早晨提醒用户，并在数天后主动跟进。Vercel Schedules 可以在运行时定义、独立于 Sandbox 扩缩，并按需调用 compute；他还表示 Grok 和 Cursor 现在可以通过 Vercel 完成构建、部署和扩展。

来源：https://x.com/rauchg/status/2118440831355068671

来源：https://x.com/rauchg/status/2118464177211940997

Box CEO Aaron Levie

Aaron Levie 预计，企业里与数据和系统协作的 agent 数量最终会达到今天员工数量的 100 倍；关键瓶颈是 agent 能否取得做决策、研究和执行任务所需的上下文。由于企业约 90% 的数据是非结构化内容，Box 正与 NVIDIA 合作，把 lexical search 和 semantic search 结合起来做 context retrieval，并遵守权限、访问控制和数据治理。

来源：https://x.com/levie/status/2118498574497665316

Y Combinator 总裁兼 CEO Garry Tan

Garry Tan 分享了一个面向 PE/IB 工作的 long-horizon benchmark，并认为解决高端金融任务是通往 AGI 的一条路径。他还主张打破大型科技公司的分发壁垒，让更多 Little Tech 创业公司参与竞争，从而让 AI 带来的生产力收益更广泛地扩散。

来源：https://x.com/garrytan/status/2118527182092071179

来源：https://x.com/garrytan/status/2118557763156733984

Claude

Claude 宣布在美国逐步推出 Personal Finance beta，用户可以连接指定账户，用日常语言查询余额和交易记录；访问是只读的，Claude 不能转移、管理或投资资金。该功能面向 Pro、Max 和 Ultra 计划，且没有广告或 sponsored recommendations。

来源：https://x.com/claudeai/status/2118403114890137895

来源：https://x.com/claudeai/status/2118403117779988744

PODCASTS

Unsupervised Learning：Ep 97: Jev Creator on Decision Models, Benchmark Fatigue & Why the Labs Missed It

核心观点： AI 产品的长期价值取决于能否把模型放进可靠、可逆、能控制副作用的软件系统，而不是单纯追逐 benchmark 分数。

Jev Creator 认为，LLM 的下一步不应只是向人输出更漂亮的字符串，而应成为由软件调用的 machine-native cognitive core。开发者比模型提供方更清楚下游需要什么样的 reliability profile，因此模型应该暴露更多可调参数，让使用场景与模型能力共同演化。他反对把不同模型固定成一组僵化的“适用场景”，更希望 AI 像 SQL 一样可靠、可替换、provider agnostic。

他对 coding agent 的判断也很克制：平均生产力提升可能只有 20% 到 40%，但在副作用容易隔离、可回滚的任务里，收益可能接近“无限”；数学和代码之所以适合 agent，正是因为验证、git 和人工审查提供了护栏。相比之下，许多知识工作缺少同等的可逆性和追踪能力。正如他所说：“最重要的问题是，你可以把哪些决定交给 agent 信任？”

他还提醒，行业已经很快出现 benchmark fatigue，模型发布的分数不等于真实可用性。与其被 FOMO 驱动全面部署，不如理解技术边界，在可控风险的决策上逐步扩大 agent 的权限。

播客链接：https://www.youtube.com/@RedpointAI

Generated through the Follow Builders skill: https://github.com/zarazhangrui/follow-builders