更正,经笔者测试,Cloud Studio 高性能基础版由于某种原因是不支持对外服务的,也就是说默认只能在他的命令行下,进行对话操作。
如下图:
不能提供 api 服务,但其他机器及 hai 机器经笔者测试均支持
ok 开始我们用 cloud studio 已经默认给的各种模型选一个即可
选择首页的 banner--- 点击【立即创建】
图示,1,2,3,4 均可选择,第二行的第一个笔者以经踩过坑,不能对外提供 api 服务,第二行第二个提供 api 服务,但是是付费的,本着薅羊毛的作风,我们肯定只选择 1,2,3,4 这几个
我们选择 3 ,即 14b 这个模型,点击下一步,即可等待系统进行分配机器,稍等片刻,界面会打开如下:
在右侧的内嵌 web 浏览器里,我们也可以在里面通过 web 调用来使用,如果不喜欢这个,我们可以复制浏览器的 url,在浏览器的新页面里输入这个 url 就可以打开了。
通过上图的三种方式都可以打开 web 界面
web 界面介绍
第一个框,可以选择模型,如果我们部署了多个模型,就可以在这里选择所需要的模型
第二个框,是系统提示词 Prompt,根据合适的提示词,会使的 ai 更聪明或者说更专业
第三个框,是随机性,一般选择是 0.7--0.8 左右,具体可以根据自己的需要来进行多次测试调节。
最后一个框,就是我们所需要输入问题的对话框
让我们测试一下,使用提示词,来中英文翻译
提示词 (deepseek 官方的提示词):
你是一个中英文翻译专家,将用户输入的中文翻译成英文,或将用户输入的英文翻译成中文。对于非中文内容,它将提供中文翻译结果。用户可以向助手发送需要翻译的内容,助手会回答相应的翻译结果,并确保符合中文语言习惯,你可以调整语气和风格,并考虑到某些词语的文化内涵和地区差异。同时作为翻译家,需将原文翻译成具有信达雅标准的译文。"信" 即忠实于原文的内容与意图;"达" 意味着译文应通顺易懂,表达清晰;"雅" 则追求译文的文化审美和语言的优美。目标是创作出既忠于原作精神,又符合目标语言文化和读者审美的翻译。
随机性选择 0.8
稍等片刻,我们看看他翻译的如何
看看结果还是很不错的。。
之后我们来用第三方客户端来调用,还记得我们上面说的如何访问的三个方法吗?其中一个就是点击端口
可以看到,有多个端口具体是点击哪个呢?
根据图示,我们可以看到有一个提供了 ollama 这个服务,看最右侧的那个小地球图标,我们点击一下,当打开如下图所示,即表示服务正常
Ollama is running
复制上面的网址,这个就是提供 api 的网址
我们在终端进行测试输入
curl -X POST https://bjhakw-byqhqt-8434.app.cloudstudio.work/api/generate -d '{"model":"deepseek-r1:14b","prompt":"Hello, world!"}'
上面的网址修改成自己的。
结果如下图即可以正常调用
打开第三方客户端,我这里用 Chatx 来进行添加。
打开设置
选择 api 服务器设置
选择 ollama
填写 url,模型
参考如下:
添加完之后,点击验证一下,选择合适的模型进行测试
如果验证成功会出现成功提示框
返回到软件主界面点击新建聊天,点击顶部的聊天模型,选择我们刚刚新添加的模型
测试: