|
|
|
@ -400,7 +400,9 @@ LLM with me A:[UNK]iLLwitMimeLMethihitMehw<EOS>
|
|
|
|
|
|
|
|
|
|
我们设置了temperature=0.7,让模型生成更开放的答案,当你改成0.1的时候你会发现每次生成的结果会变得非常确定,甚至每次生成的完全一样。
|
|
|
|
|
|
|
|
|
|
同时我们要需要用细那种最大文本词是50个,以及判断是否遇到`'<EOS>'`结束语,遇到则截断。
|
|
|
|
|
同时我们要需要限制那种最大文本词是50个,保证不会无限输出,以及判断是否遇到`'<EOS>'`结束语,遇到则截断。
|
|
|
|
|
|
|
|
|
|
最终输出的`iLLwitMimeLMethihitMehw`就是我们训练好的模型输出的下一句回答。
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|