ChatML 是什么:Hermes 聊天模板格式入门指南
为什么需要聊天模板你有没有想过这样一个问题:当你在 ChatGPT 或者其他聊天界面里打字对话的时候,你输入的文字到底是怎么传给模型的? 你可能觉得——不就是把我打的字直接喂给模型吗? 没那么简单。 大语言模型本质上是一个「文本续写器」——...
共 3 篇相关文章
为什么需要聊天模板你有没有想过这样一个问题:当你在 ChatGPT 或者其他聊天界面里打字对话的时候,你输入的文字到底是怎么传给模型的? 你可能觉得——不就是把我打的字直接喂给模型吗? 没那么简单。 大语言模型本质上是一个「文本续写器」——...
什么时候该微调先泼一盆冷水:大部分场景不需要微调。 如果你的需求是让模型掌握特定领域的知识(比如公司产品资料),用 RAG 方案 就够了。如果你的需求是让模型按特定格式输出,好好写 System Prompt 通常能解决。 微调真正有价值的...
System Prompt 到底干了什么System Prompt 是你和模型之间的”契约”——它定义了模型在接下来的对话中应该扮演什么角色、遵守什么规则、用什么方式回答问题。 在 Hermes 使用的 ChatML 格式里,system ...