• AI 技术思考

Loop Engineering 的代价：LLM 可用性是工程用 Token 买出来的

TL;DR

从 Prompt 到 Loop，四个工程阶段每一步都在用更多 token 换更高可用性。这不是模型在变聪明，是工程在替模型还债。

一、从「像会」到「真做完」

LLM 让很多人产生过同一个错觉：它看起来什么都会。

问它写代码，它写；问它调 bug，它分析；问它规划任务，它列出来。这种流畅性制造了一个假象——只要模型够聪明，剩下的事情它自己会搞定。

但「像会」和「真做完」之间，隔着一道很深的沟。

模型的单次输出可以很漂亮，但一个任务要真正完成，通常需要：记住上一步发生了什么、把结果写到正确的地方、验证输出是否符合预期、在失败时知道该怎么重来。这些能力，模型本身都很弱——上下文记忆短、状态无法持久、执行闭环缺失。

所以工程出现了。不是为了让模型更聪明，而是为了补上它先天缺失的那些能力。

每一层工程补丁，最终都以 token 的形式住进了上下文窗口：更多的指令、更多的历史、更多的工具描述、更多的验证回合。可用性是真实的，代价也是真实的。

这就是接下来要讲的四个阶段——从 Prompt Engineering 到 Loop Engineering，一条用 token 换可用性的进化路。

二、Prompt Engineering：人在链路里

最早的工程答案很简单：把话说清楚。

Prompt Engineering 的核心假设是，模型的能力已经在那里，缺的只是一把正确的钥匙。于是工程师开始研究措辞——怎么描述角色、怎么给出示例、怎么分步骤引导、怎么用「think step by step」让它慢下来推理。

这一阶段的 token 消耗极低。一次对话，几百到几千个 token，换来一次有用的输出。

但它有一个根本性的缺陷：人始终在链路里。