新手发问：SFT只有部分assistant的内容计算loss，该如何实现

[ReycoLi]

Discussed in #6389

^{Originally posted by ReycoLi December 19, 2024}
数据集的格式如下

"messages": [
{
"role": "system",
"content": "agent职责..."
},
{
"role": "user",
"content": "用户实际问题"
},
{
"role": "assistant",
"content": "Thought:...\n Action: ...\n Observation:..."
}
]

assistant回复中只有Thought和Action部分去计算loss，Observation部分不参与loss计算。
该如何实现这个功能，基于llama factory框架的最佳实践应该是什么，修改哪部分的代码。

求大神指点。