之前遇到一个情况,同时调用同样的 service ,两个人返回的结果不一样。一个返回快但没有返回 function calling ,另一个返回稍慢但返回了 functoin calling 。期望是返回 function calling 的。Service 里调用的是 openai 的 python package 。不知道是大模型偶然抽风还是在哪会记录客户端的 IP ,根据 IP 返回不同质量的结果。有哪位了解的吗?先谢谢了。
1
mmdsun 350 天前 via iPhone
大模型本来就具有随机性吧。function calling 模式是自动的,不一定调函数。但你可以用参数设置强制走函数调用。
|