利用 cloud studio 搭建的私人知識庫
Cloud Studio+ ollama + deepseek + nomic-embed-text + anythingllm + 私有知識 === ai 私人知識庫
所需其實上面已經告訴的差不多,開始我們的操作。
還是打開我們的老朋友Cloud Studio,現在我們的有些人把 cloud studio 簡稱為 cs。希望 cs 能做大做強,再創輝煌。打造成我們本土的 colab。
依舊選擇首頁 banner,直接選擇 32b 模型
等待分配資源,開機
完成後如下圖
cloud studio 已經幫我們內嵌了 anythingllm,如果我們需要在自己的本地電腦上安裝使用,那麼就需要去下載安裝一個 anythingllm。當然如果只是想簡單體驗的話,那麼就不需要去下載,而是直接使用 cs 提供的內嵌 web。
我們只需要在瀏覽器中打開內嵌的 anythingllm 頁面就好。
拉取 deepseek-r1:32b 這一步驟,可以省略掉,因為 cs 已經幫我們下載好了模型,前提是選擇了那個 32 的 plan,如果我們需要用 32b 的話,就需要去下載拉取ollama pull deepseek-r1:32b
拉取 nomic-embed-textollama pull nomic-embed-text
如果在本地使用,則下載 anythingllm 客戶端
打開初始化
只有本地安裝了 anythingllm 才需要初始化,使用 cloud studio 是默認已經幫我們初始化了。但是上面的拉取記得一定要到 cloud studio 的終端裡執行速度可能會慢一點,畢竟資源是在國外的伺服器上。
點擊開始
下滑,選擇 ollma
還記得我們上編文章說的 ollama 部署 deepseekr1 來提供 api 嗎?這裡的 url 就是需要填入 api 地址,不知道怎麼填,打開 cloud studio ,點擊端口
看哪個端口提供 ollama 服務,點擊小地球打開新的頁面
複製這裡的 url,我這裡是https://ottzkl-pkzulq-8434.app.cloudstudio.work,粘貼到 anythingllm 的客戶端
切記,一定要把網址後面的的斜杠去掉,是不帶斜杠的,https://ottzkl-pkzulq-8434.app.cloudstudio.work
輸入網址後上面的模型會自動識別,下拉選擇合適的模型,比如我們選擇 32b。其他參數我們默認就好,參數修改不在本文範圍內。
之後哦一直下一步直到初始化完成。
我們開始簡單的設置一下
點擊圖示小扳手
2025/2/17 15:20
此時的操作同 web 頁面操作是一致的。
點擊 embedder 嵌入首選
選擇 ollama,地址同之前的的 api 地址一樣,粘貼進去,選擇 nomic-embed-text,點擊保存更改。
點擊小扳手的位置此時是個返回箭頭,點擊一下,返回到首頁。
在首頁新建工作區
輸入工作區的名字,之後點擊保存。
我們先測試下,看看是否能正常調用 deepseek
ok 正常,點擊我們所創建的工作區旁邊的上傳按鈕進行資料上傳
支持的文件格式很多,txt ,doc,csv,xls,docx,xlsx,pdf,網址等,還支持音視頻文件,最好文本文件這樣的格式,這樣識別起來更方便快捷和準確。
我這裡隨便在網上找了幾個 pdf 文件
拖拽,全選,挪到工作區
下拉,選擇保存。
稍等片刻,等待上傳更新工作區的數據
等待提示成功,即可給上傳的文件打 pin,這樣才會優先調用我們的資料
關閉對話框,我們去進行提問
點擊 hide cltaions 就能顯示出當前引用的資料是哪些。
至此,私人知識庫搭建完成。