lmdeploy 部署 OpenGVLab/InternVL3-2B-Instruct 大模型
开通Hai服务器,CS显存不够,所以就没有使用CS来部署。 安装 conda
ubuntu install conda 参考:
https://phoenixnap.com/kb/install-anaconda-ubuntu
https://repo.anaconda.com…
Cloud Studio 通过vllm 部署 Qwen2.5-1.5B-Instruct大模型
ps: 本来笔者是想部署 qwq:32b 大模型,哪怕用到了进阶版的 hai 服务器,都没有成功(显存和内存不够大,所以均以失败告终),最后只能选择部署 wen2.5-1.5B-Instruct 模型来进行测试。 这里我们选用cloud studio 的高性能空间,基础款
首先…
cloud studio 之 frp内网穿透
看到群友说 cloud studio 的高性能 gpu 基础型机器部署 frp 总是失败,不知道错在哪里,故作者也尝试部署一次,看看能不能部署成功。 所需准备
一台有公网 ip 的 vps
一个已经托管在 cf 的域名,并且指向了这个公网 ip
必须关闭小云朵
均…
Cloud Studio 安装maxkb教程
手把手教程系列 看到群里有人部署 maxkb 总是失败,不知道原因在哪,故来一个手把手教程。
如有错误的地方,还请海涵。
搞起!
老样子,打开Cloud Studio官网,选择 banner 的 sDeepseekr14b 这个模版进行开机。
这里或许会问,为啥要选 14b…
图床测试
1 2
3
4
5
6
来羊毛啦,腾讯云Cloud Studio大羊毛!!!七
接着上篇,我们在dify里新建一个智能体。 我们打开自己部署的额 dify 首页
点击创建空白应用
我们随便选择一个就默认第一个,聊天助手。
填写相关信息,之后点击创建
之后对这个 demo 进行相关的设置,比如提示此,llm 的配置等
我们就直接选择 ollama…
来羊毛啦,腾讯云Cloud Studio大羊毛!!!六
cloud studio 晚上上了docker 这给 cs 又添加了无限的可能
ps:docker 现在只支持通过通用空间的 4 个 deepseek 模版创建的机器
今天我们来 docker 来部署dify
老样子,我们选择 deepseek32b 来创建机器
拉取项目文件…
来羊毛啦,腾讯云Cloud Studio大羊毛!!!五
接着第四篇文章,由于不知道写什么,刚好群里看到有人提到如何在其他地方进行 anythingllm 的 api 调用,故此才会出现本篇博文,只做为技术学习使用。更多的应用方式详看 anythingllm 的 api 文档。 现在我们用利用 cloud stduio…
docker 加速相关
使用 ghcr.anyhub.us.kg 将原拉取镜像命令:
docker pull ghcr.io/helloworld/helloworld
可替换为:
docker pull ghcr.anyhub.us.kg/helloworld/helloworld
仅国内…
来羊毛啦,腾讯云Cloud Studio大羊毛!!!四
利用 cloud stduio 搭建的私人知识库 Cloud Studio+ ollama + deepseek + nomic-embed-text + anythingllm + 私有知识 === ai 私人知识库
图是 ai 生图地址
所需其实上面已经告诉的差不多…
来羊毛啦,腾讯云Cloud Studio大羊毛!!!三
更正,经笔者测试,Cloud Studio 高性能基础版由于某种原因是不支持对外服务的,也就是说默认只能在他的命令行下,进行对话操作。 如下图:
不能提供 api 服务,但其他机器及 hai 机器经笔者测试均支持
ok 开始我们用 cloud studio…
来羊毛啦,腾讯云Cloud Studio大羊毛!!!一
更正,经笔者测试,Cloud Studio 高性能基础版由于某种原因是不支持对外服务的,也就是说默认只能在他的命令行下,进行对话操作。 如下图:
不能提供 api 服务,但其他机器及 hai 机器经笔者测试均支持
腾讯云不亏是良心云,这波福利绝对要赶上。
今天来介绍一下我们的主…
来羊毛啦,腾讯云Cloud Studio大羊毛!!!二
更正,经笔者测试,Cloud Studio 高性能基础版由于某种原因是不支持对外服务的,也就是说默认只能在他的命令行下,进行对话操作。 如下图:
不能提供 api 服务,但其他机器及 hai 机器经笔者测试均支持
接上篇文章来羊毛啦,腾讯云 Cloud Studio 大羊毛!!…
rime 输入法框架+雾凇输入法安装
今天无意中发现了一个据说是神级输入 rime + 雾凇输入法 rime 是一个输入法框架,可以在这个框架下,配置各种输入法,自己也算是尝试一下,再备份一下自己的安装步骤
mac 下直接命令安装,先安装框架,命令如下:
Copy
brew install --cask…
Hello,World
你好,世界 加入了 web3.0 的怀抱.
初次见面,请多多指教.
记录自己生活的点滴