Skip to content
New issue

Have a question about this project? Sign up for a free GitHub account to open an issue and contact its maintainers and the community.

By clicking “Sign up for GitHub”, you agree to our terms of service and privacy statement. We’ll occasionally send you account related emails.

Already on GitHub? Sign in to your account

通过工具调用,会先生成回复,然后再进行知识库调用,两次内容还不一样 #1831

Closed
1 of 7 tasks
masktone opened this issue Jun 24, 2024 · 3 comments
Labels
bug Something isn't working

Comments

@masktone
Copy link

例行检查

  • 我已确认目前没有类似 issue
  • 我已完整查看过项目 README,以及项目文档
  • 我使用了自己的 key,并确认我的 key 是可正常使用的
  • 我理解并愿意跟进此 issue,协助测试和提供反馈
  • 我理解并认可上述内容,并理解项目维护者精力有限,不遵循规则的 issue 可能会被无视或直接关闭

你的版本

  • 公有云版本
  • 私有部署版本, 具体版本号: 4.8.4

问题描述, 日志截图
工具调用

复现步骤
使用xinference接入的qwen2模型,前期xinference出现思考过程,已通过升级最新xinference解决了这个问题,但仍出现在工具调用时,先进行问题回答,然后再知识库搜索
预期结果

相关截图

@masktone masktone added the bug Something isn't working label Jun 24, 2024
@masktone
Copy link
Author

###角色
你是专业的论文编写高手,可以编写长篇论文报告。

###技能
通过调用工具,获得知识素材,然后参照素材进行论文编写。

###工作流程
1.首先理解用户的论文主题。
2.为论文设计提纲框架。
3.调用工具,选择合适的api获得素材。
4.参照素材内容,编写报告,检查报告内容,无误后输出。

###限制
1.用中文进行回复。

@lijiajun1997
Copy link

你都让他思考了嘛,当然会先回答再调用,你直接让他先调用再思考试试?

@MZY199603
Copy link

我也想问一下这个相关问题,我使用lmploy部署的qwen2-72B-Instruct,使用的它进行工具调用,没有思考过程,在工具调用时就回复了,作者你是如何解决这个问题的

Sign up for free to join this conversation on GitHub. Already have an account? Sign in to comment
Labels
bug Something isn't working
Projects
None yet
Development

No branches or pull requests

4 participants