13得票4回答
如何向RetrievalQA.from_chain_type添加内存?或者,如何向ConversationalRetrievalChain添加自定义提示?

我该如何为RetrievalQA.from_chain_type添加内存?或者,我该如何为ConversationalRetrievalChain添加自定义提示? 在过去的两周里,我一直在尝试制作一个可以与文档聊天的聊天机器人(不仅仅是语义搜索/问答,还有记忆),并且带有自定义提示。我尝试了...

12得票5回答
OpenAI API拒绝设置不安全的标头"User-Agent"。

我不明白为什么我会收到这个错误。 拒绝设置不安全的标头 "User-Agent" 我正在尝试在一个个人项目中使用OpenAI的API。我不明白为什么它拒绝设置这个"不安全的标头",以及如何或是否可以使其安全。我已经尝试在谷歌上搜索这个问题,顶部链接是一个GitHub论坛,解释说这可能是...

11得票1回答
OpenAI GPT-4 API:gpt-4和gpt-4-0314或gpt-4-0613之间有什么区别?

注意:原问题最初是询问和之间的区别。截至2023年6月15日,有新的快照模型可用(例如),因此该问题及其答案也适用于接下来几个月将推出的任何未来快照模型。 有人能帮我解释一下在OpenAI游乐场下拉菜单中和之间的区别吗?我已经查过各种搜索引擎,但从OpenAI论坛的结果中并不清楚。 G...

11得票2回答
在Langchain中同时使用Chain和Parser

LangChain文档中包含了配置和调用PydanticOutputParser的示例。 # Define your desired data structure. class Joke(BaseModel): setup: str = Field(description="ques...

11得票7回答
我如何流式传输OpenAI的完成API?

我想通过OpenAI的API流式传输完成结果。 文档中提到使用服务器推送事件(server-sent events),似乎这个功能在flask中无法实现,因此我尝试在客户端处理(我知道这会暴露API密钥)。但是,由于OpenAI API需要进行POST请求,所以似乎它与eventSource...

11得票5回答
OpenAI: 流中断(客户端断开连接)

我正在尝试使用OpenAI。 我准备好了训练数据,并使用了 fine_tunes.create。几分钟后,它显示出现了流中断(客户端断开连接)的情况。 $ openai api fine_tunes.create -t data_prepared.jsonl Upload progress...

11得票2回答
如何继续OpenAI API的不完整响应

在OpenAI API中,如何以编程方式检查响应是否不完整?如果是这样,您可以添加另一个命令,例如“继续”或“扩展”,或者以编程方式完美地继续它。 根据我的经验, 我知道如果响应不完整,API会返回: "finish_reason": "length" 但是如果响应超过4000个标记,...

10得票2回答
使用Flask和LangChain来实时聊天GPT的结果。

基本上,我想通过Flask和LangChain实现这个目标:https://www.youtube.com/watch?v=x8uwwLNxqis。 我正在构建一个使用LangChain作为后端的问答Flask应用程序,但是我在从ChatGPT流式传输响应方面遇到了问题。我的链条看起来像这样...

10得票2回答
对一组文档进行OpenAI GPT-3模型的微调

根据https://beta.openai.com/docs/guides/fine-tuning文档,微调OpenAI GPT3模型的训练数据应该按照以下结构组织: {"prompt": "<prompt text>", "completion": "<ideal gen...

9得票5回答
FastAPI中的StreamingResponse无法使用生成器函数进行流式传输

我有一个相对简单的FastAPI应用程序,它接受查询并从ChatGPT的API流回响应。 ChatGPT正在流式传输结果,我可以看到它随着结果的到来被打印到控制台。 不起作用的是通过FastAPI返回的StreamingResponse。响应一次性全部发送。我真的不知道为什么这不起作用。 ...