Skip to content
New issue

Have a question about this project? Sign up for a free GitHub account to open an issue and contact its maintainers and the community.

By clicking “Sign up for GitHub”, you agree to our terms of service and privacy statement. We’ll occasionally send you account related emails.

Already on GitHub? Sign in to your account

支持 Azure OpenAI 配置 translator #3801

Closed
ziludev opened this issue Jun 4, 2023 · 16 comments
Closed

支持 Azure OpenAI 配置 translator #3801

ziludev opened this issue Jun 4, 2023 · 16 comments
Labels
feature request ✨ Feature Request published 🚀 Published
Milestone

Comments

@ziludev
Copy link

ziludev commented Jun 4, 2023

需求/建议描述

如果 OpenAI 翻译支持 Azure OpenAI 就好了, Azure OpenAI 好像可以国内直连

建议的解决方案

感觉可以采用主流的使用 secret key 和 config url 的形式配置

附加信息

No response

@ziludev ziludev added the feature request ✨ Feature Request label Jun 4, 2023
@zhou-jian-qq
Copy link

+1

@YiiGuxing YiiGuxing added the in progress 🚧 In Progress label Dec 20, 2023
@Obizuh
Copy link

Obizuh commented Dec 21, 2023

+1

@YiiGuxing
Copy link
Owner

YiiGuxing commented Feb 19, 2024

此功能已基本开发完成,欢迎抢先体验:

2024/04/06更新:

2024/04/10更新:

由于没有 Azure 账号,因此此功能没有经过任何测试,希望有 Azure 账号的同学帮忙测试测试,如遇Bug还也请反馈一下,感谢!

@YiiGuxing YiiGuxing added this to the v3.6.0 milestone Feb 19, 2024
@YiiGuxing YiiGuxing added ready for release ⌛ Ready for Release and removed in progress 🚧 In Progress labels Feb 19, 2024
@dengbojing
Copy link

我反馈一个问题:

Caused by: cn.yiiguxing.plugin.translate.trans.openai.exception.OpenAIStatusException: 404 Not Found - DeploymentNotFound. Status=404, Url=https://{resource-name}.openai.azure.com/openai/deployments/gpt-3.5-turbo/chat/completions?api-version=2023-12-01-preview
	at cn.yiiguxing.plugin.translate.trans.openai.OpenAIHttp.throwStatusCodeException(OpenAIHttp.kt:43)
	at cn.yiiguxing.plugin.translate.trans.openai.OpenAIHttp.post(OpenAIHttp.kt:30)
	at cn.yiiguxing.plugin.translate.trans.openai.Azure.chatCompletion(OpenAIService.kt:77)
	at cn.yiiguxing.plugin.translate.trans.openai.OpenAITranslator.translate(OpenAITranslator.kt:69)
	at cn.yiiguxing.plugin.translate.trans.openai.OpenAITranslator.doTranslate(OpenAITranslator.kt:40)
	at cn.yiiguxing.plugin.translate.trans.AbstractTranslator.translate(AbstractTranslator.kt:20)
	... 13 more

这个是报错信息,之所以会报错是因为gpt-3.5-turbo这个名字的问题, 我模型部署起名字不叫这个名字, 我缩写成gpt35了

api-version这里有很多个不过我一般都是直接复制playgorund里面的version,配置里面显示少了几个, 不过不影响使用

@YiiGuxing
Copy link
Owner

YiiGuxing commented Feb 20, 2024

@dengbojing 感谢反馈,我这里要先和你确认一下两个问题:

  1. 你使用的IDE版本是什么?
  2. endpoint 是否有正确配置?因为从异常信息里我看到的是 https://{resource-name}.openai.azure.com,会不会是因为这个问题导致的?

另外 api-version 我没有添加即将停用的,所以少。

@dengbojing
Copy link

dengbojing commented Feb 20, 2024

IDEA版本: 2023.2
endpoint问题: {resource-name}这个是我发issue自己替换掉的, 因为本身这个值是每个人不相同的, 不是固定统一的

另: 问题的结论我是通过对比我之前OpenAI Translator得出来的, 还有也对比了playground 里面得源码, 这个地方确实应该是部署模型得名称

@YiiGuxing
Copy link
Owner

IDEA版本: 2023.2
endpoint问题: {resource-name}这个是我发issue自己替换掉的, 因为本身这个值是每个人不相同的, 不是固定统一的

另: 问题的结论我是通过对比我之前OpenAI Translator得出来的, 还有也对比了playground 里面得源码, 这个地方确实应该是部署模型得名称

明白了,看来模型只能是手动输入来配置,不能通过选择来配置了。

@dengbojing
Copy link

是的, Azure里面的模型是你需要预先部署好, 然后才能使用, 使用得时候需要使用部署时候填写得名称
请求得url是这个格式, https://YOUR_RESOURCE_NAME.openai.azure.com/openai/deployments/YOUR_DEPLOYMENT_NAME/completions?api-version=2023-05-15, 其中有两处是自己需要填写的

YiiGuxing added a commit that referenced this issue Feb 20, 2024
@YiiGuxing
Copy link
Owner

YiiGuxing commented Feb 21, 2024

@dengbojing 麻烦你再帮忙测测:TranslationPlugin-3.6.0-SNAPSHOT.240321.zip

@dengbojing
Copy link

可以了, 非常感谢添加这个功能

@Hailey-Nolan
Copy link

Hailey-Nolan commented Mar 18, 2024

@dengbojing 麻烦你再帮忙测测:TranslationPlugin-3.6.0-SNAPSHOT.240321.zip

你好反馈个问题,azure openai 点击翻译文档会出现内容长度超出限制,已跳过翻译。若全部选择点翻译选择的文本会正常翻译,如图
git1
git2

@YiiGuxing
Copy link
Owner

@Hailey-Nolan 文档的翻译它还包含得有界面上看不到的HTML标签等内容,容易超出限制。

@Hailey-Nolan
Copy link

@Hailey-Nolan 文档的翻译它还包含得有界面上看不到的HTML标签等内容,容易超出限制。

是的,确实是有有html等内容,但是后面我把这些内容都一并包含了进去,依然正常可翻译。抱歉我没有留下截图,对于openai来说16k的上下文似乎并不容易到达上限,所以它是否是一个正常的预期呢?

@YiiGuxing
Copy link
Owner

@Hailey-Nolan 文档的翻译它还包含得有界面上看不到的HTML标签等内容,容易超出限制。

是的,确实是有有html等内容,但是后面我把这些内容都一并包含了进去,依然正常可翻译。抱歉我没有留下截图,对于openai来说16k的上下文似乎并不容易到达上限,所以它是否是一个正常的预期呢?

这个我没有精准测试过,后面我测试修正一下。

@YiiGuxing
Copy link
Owner

YiiGuxing commented Apr 6, 2024

2024/04/06更新:

欢迎抢先体验!还请有 Azure 账号的伙伴帮忙测试一下 Azure OpenAI TTS,测测功能是否能正常使用,特别是看看语速配置是否有效,感谢!

@YiiGuxing
Copy link
Owner

2024/04/10更新:

欢迎抢先体验!

@YiiGuxing YiiGuxing added published 🚀 Published and removed ready for release ⌛ Ready for Release labels May 20, 2024
Sign up for free to join this conversation on GitHub. Already have an account? Sign in to comment
Labels
feature request ✨ Feature Request published 🚀 Published
Projects
None yet
Development

No branches or pull requests

6 participants