30得票3回答
OpenAI GPT-3 API错误:"此模型的最大上下文长度为4097个令牌"。

我正在向完成端点发出请求。我的提示符是1360个令牌,由Playground和Tokenizer验证。我不会在这个问题中展示提示符,因为它有点太长了。 这是我使用openai npm包在Nodejs中向OpenAI发送的请求。 const response = await openai.c...

14得票1回答
OpenAI Python包错误:'ChatCompletion'对象不可订阅

更新openai包到1.1.1版本后,我在读取ChatGPT API响应时遇到了以下错误: 'ChatCompletion'对象不可订阅 以下是我的代码: messages = [ {"role": "system", "content": '''You answer q...

8得票1回答
如何使用OpenAI API进行批处理嵌入?

我正在使用OpenAI API获取大量句子的嵌入。这里的“大量”指的是数千个句子。有没有办法加快速度或并发地进行嵌入呢? 我尝试了循环发送每个句子的请求,但速度非常慢,而且将句子列表发送也一样慢。对于这两种情况,我使用了以下代码:''' response = requests.post( ...

9得票5回答
FastAPI中的StreamingResponse无法使用生成器函数进行流式传输

我有一个相对简单的FastAPI应用程序,它接受查询并从ChatGPT的API流回响应。 ChatGPT正在流式传输结果,我可以看到它随着结果的到来被打印到控制台。 不起作用的是通过FastAPI返回的StreamingResponse。响应一次性全部发送。我真的不知道为什么这不起作用。 ...

14得票2回答
导入错误:找不到框架/System/Library/Frameworks/OpenGL.framework。

我正在尝试在新的macOS Big Sur上运行这个简单的健身房示例。 import gym env = gym.make('CartPole-v0') env.reset() for _ in range(1000): env.render() env.step(env.a...

8得票1回答
如何确保答案来自定制(微调)数据集?

我正在使用带有“提示”和“完成”的自定义文本来训练新模型。 这是我用来创建自定义模型的教程: beta.openai.com/docs/guides/fine-tuning/advanced-usage 然而,即使在对模型进行训练并向模型发送提示文本之后,我仍然得到了一些通用的结果,这些...

15得票3回答
我该如何在OpenAI的Whisper ASR中获取单词级别的时间戳?

我使用OpenAI的Whisper Python库进行语音识别。如何获取单词级别的时间戳? 使用OpenAI的Whisper进行转录(在Ubuntu 20.04 x64 LTS上测试,使用Nvidia GeForce RTX 3090): conda create -y --name ...

13得票4回答
如何向RetrievalQA.from_chain_type添加内存?或者,如何向ConversationalRetrievalChain添加自定义提示?

我该如何为RetrievalQA.from_chain_type添加内存?或者,我该如何为ConversationalRetrievalChain添加自定义提示? 在过去的两周里,我一直在尝试制作一个可以与文档聊天的聊天机器人(不仅仅是语义搜索/问答,还有记忆),并且带有自定义提示。我尝试了...

9得票1回答
OpenAI GPT-3 API:微调一个已经微调的模型?

OpenAI的fine-tune API中model属性的文档有点令人困惑: model 要进行fine-tune的基础模型名称。您可以选择其中之一:"ada"、"babbage"、"curie"、"davinci"或2022-04-21后创建的经过fine-tune的模型。 我的问题...

8得票2回答
OpenAI API - 异步API调用

我使用OpenAI API工作。我从PowerPoint演示文稿中提取了幻灯片的文本,并为每个幻灯片编写了提示。现在,我想要进行异步API调用,以便同时处理所有幻灯片。 这是异步主函数的代码: for prompt in prompted_slides_text: task = a...