反馈如何改变 AI 行为:从基础、策略优化、人类偏好,到可验证奖励与 Agent 训练。按顺序学习,并检验每个主张。
先定义任务,再选择算法。
让有用行为能被发现,也能被测量。
理解奖励如何改变动作概率。
限制更新激励,但不把它误当硬信赖域。
选择与可用反馈匹配的训练信号。
理解结果信号如何强化成功解题行为。
让环境、工具与成功标准可复现。
用独立证据提出可证伪结论。