← 参考列表
X
How to Be Good at Research
背景
Vivek (@itsreallyvivek) 在 X 上发表的一篇长文,系统论述"如何成为好的研究者"。文章开篇就点出核心问题:大部分研究者没有接受过真正的研究训练——他们被安排到一个工位上、拿到一个别人选好的问题、被要求产出"新颖"的东西。于是大多数人从能看到的表面(论文、帖子、公告)反向工程这份工作,最终学到的是"如何看起来像研究者"而非"如何成为研究者"。
Vivek 认为研究能力是一组可刻意训练的小技能的叠加,并从七个维度展开论述:自己选问题、升级输入、写下一切、缩短循环、盯着输出、有目的地漫游、找到你的同类。文章受 Richard Hamming、John Schulman、Andrej Karpathy、Paul Graham、Claude Shannon 等人影响很深,核心信条是:知识和生产力像利息一样复利——每天微小的优势在几年后会产出看起来像运气的职业生涯。
关键引述
The trouble with an absorbed problem is that you hold the conclusion without the reasoning.
—— 被动吸收问题的危险:你只带走了结论,没有带走推理过程
A goal you genuinely care about will drag you into territory no survey paper covers.
—— 选一个你真正想实现的目标倒推实验,它自然会制造原创性
Shared reading lists produce shared ideas.
—— 共享阅读列表 = 共享想法——你的信息输入决定了你的结论独特性
The page finds gaps your head papers over.
—— 动笔写下来才能发现头脑中自动忽略的漏洞
Research speed is mostly the speed at which you discover you're wrong.
—— 研究速度 = 发现自己错误的速度,工具链是一级研究活动
A descending loss curve is not analysis, it's reassurance.
—— 下降的 loss 曲线不是分析,只是安慰——真正的信息在失败案例的日志里
Being wrong on the timeline is far cheaper than being wrong in print.
—— 在时间线上犯错远比在论文里犯错便宜:公开抛出半成品想法
七个维度
- 自己选问题(Pick Your Own Problems) — 引用 Hamming 的经典质问:什么是重要的问题?你为什么不做?引用 John Schulman 的二分法:读文献找改进 vs. 选一个真心想要的结果倒推实验。品味(taste)是肌肉——预测每个实验的结果,然后校验,重复几百次。
- 升级输入(Upgrade Your Inputs) — 共享阅读列表产生共享想法。旧材料被严重低估——MoE 回溯到 1991、LSTM 到 1997、backprop 到 1986。读原文而非总结帖,附录埋着真相,limitations 部分往往是最诚实的一段。
- 写下一切(Write Everything Down) — Paul Graham:想法在落笔前都"感觉完整"。费曼:第一个不能骗的人是自己。达尔文:任何反证立刻记下,因为你的记忆会优先删除不便的证据。公开写作是不可伪造的思考样本。
- 缩短循环(Tighten the Loop) — 引用 Alec Radford:不是天才一击,而是量——更多实验、更快抛弃错误。研究速度 = 发现自己错误的速度。一键启动实验、一键出图、可复现配置。Karpathy 的方法:先过拟合一个 batch,30 秒解决一半 bug。
- 盯着输出(Stare at the Outputs) — Karpathy:写代码前先花几小时看原始数据。大多数 ML bug 住在数据里,静默失败。Andrew Ng:抽一百个失败样本,读它们,分类,攻最大的一堆。
- 有目的地漫游(Wander on Purpose) — 第一个子领域只是时间上的偶然。在 interpretability、evals、RL、systems 里都花时间后再决定住哪里。每个想法先跑最小可行版本,让大部分早点死。认真调 baseline,消除到你知道哪个组件真正贡献了结果。
- 找到你的同类(Find Your People) — Hamming:关着门的同事产出更多,开着门的同事做的工作更重要。慷慨复利——复现结果、发布工具、用平实的语言解释难的东西。那个在你做之前告诉你想法很烂的合作者比算力还值钱。
与上下文 Lab 的关系
这篇文章讨论的研究方法论与上下文 Lab 的 Contex Layer 方向有多个共振点。Vivek 反复强调"缩短循环"——让实验、验证、学习的反馈回路尽可能短——这正是 Context Layer 设计中的一个核心工程原则:让 Agent 的决策和纠错循环足够快,减少从感知到行动的延迟。
文章对"输入质量"的强调("共享阅读列表产生共享想法")也映射到 Context Layer 的数据策略:模型的上下文质量决定了推理结果的上限。如果研究者的"信息饮食"决定了产出独特性,那么 Agent 的"上下文饮食"同样决定了它的行为边界。
此外,"写下来"(Write Everything Down)作为防止自我欺骗的机制,与 Context Layer 中的日志/审计痕迹有相同的逻辑:将隐性的思考过程显式化、可回溯化,是系统保持理性的最低成本手段。
值得注意的是,Vivek 在文章中引用的人物谱系(Hamming → Feynman → Karpathy → Schulman → Sutton → Shannon)构成了一个从基础科学到现代 ML 研究的连续传统,这与上下文 Lab 试图研究的"知识与推理的长期结构"有隐性关联。
后续方向
这篇文章可以作为上下文 Lab 内部研究文化建设的参考文本。其中"每晚预测实验结果然后核对"的训练方法可以引入团队作为日常研究实践。"工具链是一级研究活动"的论断也支持上下文 Lab 在基础设施层面持续投入。
此外,Vivek 提到的"信息饮食结构"概念值得进一步展开——在 Context Layer 设计中,什么样的"上下文饮食"结构能让 Agent 产出更独特、更有价值的推理结果?这是一个可以深入的方向。
阅读原文 →