token上限能不能修改下,总是提醒很烦,并且阻断对话,很不方便

#39
by Spring007 - opened

我也觉得这个阻断很麻烦

token上限是硬性限制,取消从技术上讲做不到。现在加了个删除早期对话的按钮,在token接近上限(4096)的时候你可以点一下降低token占用(作为代价,GPT会忘记早期对话内容)。放心,只是内部对话记录被删除,聊天框里的对话会被保留。或者,当token占用达到我设定的软上限(3500)的时候,程序也会尝试自动总结对话。

明白了,难怪动不动自己就发出一个“你是谁...” 但是这个自动“总结对话”,基本上没有回应,应该也是到token限制了
如果要主动掌握,就是自己要关注本轮对话的token使用数了,那就建议这个数字要放到中间醒目的地方,还要字体大,红色警醒

Sign up or log in to comment