添加滑动窗口

[weizhenzhao]

deep_training/nlp/models/chatglm/__init__.py

Line 1167 in cb95857

for i, (old_query, response) in enumerate(history):

大佬

冒昧问下，这里可不可以添加一个滑动窗口呀？
滑动最近3轮对话，这样会保证对话长度在一定的范围以内。

Thanks
weizhen

[ssbuild]

deep_training/nlp/models/chatglm/__init__.py

Line 1172 in cb95857

outputs = self.generate(**input_ids, **gen_kwargs)

最终是调用 generate函数，我认为，如果自己微调改动， 其实可以自己写input_ids 生成，调用generate方法不调用chat方法即可，这样更合理。