更正,經筆者測試,Cloud Studio 高性能基礎版由於某種原因是不支持對外服務的,也就是說默認只能在他的命令行下,進行對話操作。 如下圖:
不能提供 api 服務,但其他機器及 hai 機器經筆者測試均支持
ok 開始我們用 cloud studio 已經默認給的各種模型選一個即可 選擇首頁的 banner--- 點擊【立即創建】
圖示,1,2,3,4 均可選擇,第二行的第一個筆者已經踩過坑,不能對外提供 api 服務,第二行第二個提供 api 服務,但是是付費的,本著薅羊毛的作風,我們肯定只選擇 1,2,3,4 這幾個
我們選擇 3,即 14b 這個模型,點擊下一步,即可等待系統進行分配機器,稍等片刻,界面會打開如下:
在右側的內嵌 web 瀏覽器裡,我們也可以在裡面通過 web 調用來使用,如果不喜歡這個,我們可以複製瀏覽器的 url,在瀏覽器的新頁面裡輸入這個 url 就可以打開了。 通過上圖的三種方式都可以打開 web 界面 web 界面介紹
第一個框,可以選擇模型,如果我們部署了多個模型,就可以在這裡選擇所需要的模型
第二個框,是系統提示詞 Prompt,根據合適的提示詞,會使的 ai 更聰明或者說更專業
第三個框,是隨機性,一般選擇是 0.7--0.8 左右,具體可以根據自己的需要來進行多次測試調節。
最後一個框,就是我們所需要輸入問題的對話框
讓我們測試一下,使用提示詞,來中英文翻譯 提示詞 (deepseek 官方的提示詞): 你是一个中英文翻译专家,将用户输入的中文翻译成英文,或将用户输入的英文翻译成中文。对于非中文内容,它将提供中文翻译结果。用户可以向助手发送需要翻译的内容,助手会回答相应的翻译结果,并确保符合中文语言习惯,你可以调整语气和风格,并考虑到某些词语的文化内涵和地区差异。同时作为翻译家,需将原文翻译成具有信达雅标准的译文。"信" 即忠实于原文的内容与意图;"达" 意味着译文应通顺易懂,表达清晰;"雅" 则追求译文的文化审美和语言的优美。目标是创作出既忠于原作精神,又符合目标语言文化和读者审美的翻译。
隨機性選擇 0.8
稍等片刻,我們看看他翻譯的如何 看看結果還是很不錯的。。
之後我們來用第三方客戶端來調用,還記得我們上面說的如何訪問的三個方法嗎?其中一個就是點擊端口
可以看到,有多個端口具體是點擊哪個呢? 根據圖示,我們可以看到有一個提供了 ollama 這個服務,看最右側的那個小地球圖標,我們點擊一下,當打開如下圖所示,即表示服務正常
Ollama is running
複製上面的网址,這個就是提供 api 的网址 我們在終端進行測試輸入 bash curl -X POST https://bjhakw-byqhqt-8434.app.cloudstudio.work/api/generate -d '{"model":"deepseek-r1:14b","prompt":"Hello, world!"}'
上面的网址修改成自己的。
結果如下圖即可以正常調用
打開第三方客戶端,我這裡用 Chatx 來進行添加。 打開設置
選擇 api 服務器設置
選擇 ollama
填寫 url,模型 參考如下:
添加完之後,點擊驗證一下,選擇合適的模型進行測試
如果驗證成功會出現成功提示框
返回到軟件主界面點擊新建聊天,點擊頂部的聊天模型,選擇我們剛剛新添加的模型
測試: