NLP

ToT 通过探索多条路径并回溯来解决复杂推理问题，但反复调用模型，成本高，也不适合小模型。我们把它压成一个结构化提示，再把 GPT-4o 的输出蒸馏到 SmolLM-360M。在 24 点任务中，单步 ToT 的准确率为 19%，思维链为 7%；用 144 条样本微调后，SmolLM 从 1% 提升到 9%。完整的 GPT-4o 多步 ToT 达到 82%，高于此前 GPT-4 的 74%。

GenHint 是一个教学生逐步解决编程问题的 VS Code 扩展，不会直接给出完整答案。它可以把一条注释变成带 TODO 步骤的代码骨架，再逐步解释任务并检查完成后的代码。我们四个人在 24 小时内用 TypeScript、VS Code API、Groq 和 Llama 3 70B 做完项目，随后把它发布到 Visual Studio Marketplace。