/tag/部署

本地部署了deepseek-coder-v2:16b-lite-base-q4_K_M，我问了几个简单问题，这家伙给我一顿胡乱输出，这模型很坑啊。 1 个帖子 - 1 位参与者 阅读完整话题

概述 感谢各位上次发帖很多佬的交流, 上次是豪华配置，这次测了弱一点的配置 首先期望不要太高，其实这个水平的模型OpenCode还有厉害一点的Minimax M2.5免费用（ 虽然刚才出现的Bug Minimax也没修好 能玩，但是上下文看自己的操作，如果有核显则可以拉到100K上下文，没有的话可能20-50K上下文了。（ 所以我特别喜欢有核显的电脑 ）显存比较紧急的话可以划分1层给CPU，可以拉高20K上下文应该 体感可以编程，没有什么问题 写了个时钟，还有个贪食蛇 相关说明 Apex量化的I-MINI GGUF表现真的很亮眼，损失感觉很小？ Qwen3.6 35B A3B的上下文真的好便宜 模型在这里，I-MINI版本就13.3G（这里不加载视觉模块了，显存不够）： Qwen3.6-35B-A3B-APEX-GGUF · 模型库 如果有Intel 358H, 338H 32G+1T， 或者AMD 890M, 780M 的用户也可以试试看，内存大可以选I-Compact的17G版本 部署环境 硬件 CPU 12450H 显卡 RTX 5060 Ti 16G 内存 单根 16G DDR4 3200 注意：显卡上没有接任何输出，BIOS设置的核显优先，界面渲染都交给了核显，如果开个渲染个界面可能就剩下13-14G显存，上下文只能开比较少或者拿一层给CPU，decode速度会降低25% 软件 后端 LM Studio 部署模型：Qwen3.6-35B-A3B-APEX-I-Mini.gguf Decode速度： 80tps 层数：全部放在GPU上 上下文：100K 关闭MMAP, 不保持模型在内存中 打开快速注意力，K缓存 V缓存量化均为Q8， Q4好像有BUG → 会导致Prefill非常慢 建议： 用来编程时，如果第一步没能做好，建议直接从第一步重开多试一次，应该会比修bug要好点，改代码bug能力没有写代码能力强的感觉 本地还能玩玩Heretic（虽然这个模型好像没什么感觉，RP不是很好，总之玩玩也不赖） 这个量化确实损失感觉没多少的样子，因为同样概率发生的bug我跑Q6量化的版本也有概率发生 对于天才编程佬们来说，模型的能力还是远远不够的，这篇文章没什么帮助，虽然如此，但是还是想要分享一下 如果发生长时间卡住，可能是模型跑出循环思考bug了，可以中断一下重新跑 题外话 话说L站没有本地部署模型的标签吗（逃 附加截图 2 个帖子 - 2 位参与者 阅读完整话题

感谢各位大佬点击该贴。 本帖用于求助各位大佬给些关于 GPU云 部署开源大模型的建议。 我的目的是通过GPU云部署开源大模型为自己提供api使用 欢迎各位佬从我的想法、到平台选择、羊毛攻略、模型选择提供建议 5 个帖子 - 3 位参与者 阅读完整话题

目前是接入飞书让他做PPT发给我，实测WSL2中没问题，但是目前部署在腾讯云上面再，我需要开什么权限吗？是直接npm部署的不是docker 另外想要请教如果接入微信了，是不是也这么操作就行了，主要就是想要让他能生成office文件然后发给我微信，或者飞书，最好是微信 1 个帖子 - 1 位参与者 阅读完整话题

佬友们有个困惑求解，自部署Qwen3.5 27B,做一套偏知识类的Agent 现在的情况就是如果走Native Reasoning输出，会暴露系统约束、工具Key啥的，模型跑去复述系统提示词，如果不开而是通过提示词约束模型输出类思维链，又感觉不是很稳定。 就是感觉模型的思维过程还是挺有用的对知识类场景还挺有启发的，但是又不希望暴露系统提示词，咋解决呢 2 个帖子 - 2 位参与者 阅读完整话题

本人一直想要搭建一个中转站，偶然看见sub2api，故使用它搭建了一个，以下是步骤： 先约定 3 个你要替换的值： api.example.com ：改成你的域名 [email protected] ：改成你的管理员邮箱 CHANGE_ME... ：改成你自己生成的随机密钥 1）登录服务器并更新系统 ssh root@你的服务器IP apt update apt -y upgrade timedatectl 这一步是基础准备，先把系统更新到当前仓库版本，并确认时间正常。时间不准会影响 HTTPS、登录态和支付回调之类的功能。Docker 官方当前 Ubuntu 安装文档仍然建议使用官方 apt 仓库安装 Docker Engine。 2）安装 Docker Engine 和 Docker Compose v2 先卸载可能冲突的旧包： for pkg in docker.io docker-doc docker-compose docker-compose-v2 podman-docker containerd runc; do apt-get remove -y $pkg done 安装 Docker 官方仓库： apt-get update apt-get install -y ca-certificates curl install -m 0755 -d /etc/apt/keyrings curl -fsSL https://download.docker.com/linux/ubuntu/gpg -o /etc/apt/keyrings/docker.asc chmod a+r /etc/apt/keyrings/docker.asc echo \ "deb [arch=$(dpkg --print-architecture) signed-by=/etc/apt/keyrings/docker.asc] https://download.docker.com/linux/ubuntu \ $(. /etc/os-release && echo "$VERSION_CODENAME") stable" \ > /etc/apt/sources.list.d/docker.list 安装 Docker 和 Compose 插件： apt-get update apt-get install -y docker-ce docker-ce-cli containerd.io docker-buildx-plugin docker-compose-plugin 检查版本： docker --version docker compose version systemctl enable docker systemctl start docker systemctl status docker --no-pager Docker 官方当前安装文档给出的推荐安装包名就是 docker-ce docker-ce-cli containerd.io docker-buildx-plugin docker-compose-plugin 。另外，Docker 也明确提醒：如果你用 UFW 或 firewalld，Docker 暴露出来的端口可能绕过防火墙表面规则，所以正式环境尽量只暴露 80/443，把 8080 留给本机反代。 3）安装 Git、openssl 和基础工具 apt-get install -y git curl wget nano openssl ufw 这些工具后面都会用到： git 拉仓库 openssl 生成密钥 nano 编辑配置 ufw 放行 80/443/22 4）准备部署目录并拉取官方文件 mkdir -p /opt/sub2api cd /opt/sub2api git clone https://github.com/Wei-Shaw/sub2api.git source cp source/deploy/docker-compose.local.yml . cp source/deploy/.env.example .env cp source/deploy/config.example.yaml config.yaml Sub2API 官方部署说明里，手动部署路径就是：克隆仓库、复制 .env.example 、创建 data postgres_data redis_data ，再用 docker-compose.local.yml 启动；并且官方明确把 local 版描述为“本地目录、易迁移”。 5）生成生产环境密钥 先生成三个随机值： openssl rand -hex 32 openssl rand -hex 32 openssl rand -hex 32 把输出保存下来，分别用于： POSTGRES_PASSWORD JWT_SECRET TOTP_ENCRYPTION_KEY 官方 .env 模板和部署说明都强调： POSTGRES_PASSWORD 必填，而 JWT_SECRET 和 TOTP_ENCRYPTION_KEY 最好固定，否则会影响持久登录态和 2FA。 6）写入最终版 .env cat > /opt/sub2api/.env <<'EOF' BIND_HOST=127.0.0.1 SERVER_PORT=8080 SERVER_MODE=release RUN_MODE=standard TZ=Asia/Shanghai POSTGRES_USER=sub2api POSTGRES_PASSWORD=CHANGE_ME_TO_A_LONG_RANDOM_PASSWORD POSTGRES_DB=sub2api DATABASE_MAX_OPEN_CONNS=50 DATABASE_MAX_IDLE_CONNS=10 DATABASE_CONN_MAX_LIFETIME_MINUTES=30 DATABASE_CONN_MAX_IDLE_TIME_MINUTES=5 REDIS_PASSWORD= REDIS_DB=0 REDIS_POOL_SIZE=1024 REDIS_MIN_IDLE_CONNS=10 REDIS_ENABLE_TLS=false [email protected] ADMIN_PASSWORD= JWT_SECRET=CHANGE_ME_TO_A_LONG_RANDOM_HEX_STRING JWT_EXPIRE_HOUR=24 JWT_ACCESS_TOKEN_EXPIRE_MINUTES=0 TOTP_ENCRYPTION_KEY=CHANGE_ME_TO_ANOTHER_LONG_RANDOM_HEX_STRING GEMINI_OAUTH_CLIENT_ID= GEMINI_OAUTH_CLIENT_SECRET= GEMINI_OAUTH_SCOPES= GEMINI_QUOTA_POLICY= GEMINI_CLI_OAUTH_CLIENT_SECRET= ANTIGRAVITY_OAUTH_CLIENT_SECRET= SECURITY_URL_ALLOWLIST_ENABLED=true SECURITY_URL_ALLOWLIST_ALLOW_INSECURE_HTTP=false SECURITY_URL_ALLOWLIST_ALLOW_PRIVATE_HOSTS=false SECURITY_URL_ALLOWLIST_UPSTREAM_HOSTS= UPDATE_PROXY_URL= EOF 然后编辑，把占位符改成你自己的值： nano /opt/sub2api/.env 这里我保留了 .env 里的基础白名单开关，但把域名清单放到 config.yaml 里统一管理，因为官方 config.example.yaml 里真正完整的 URL 白名单字段在 security.url_allowlist 下。 7）写入最终版 config.yaml cat > /opt/sub2api/config.yaml <<'EOF' server: host: "0.0.0.0" port: 8080 mode: "release" frontend_url: "https://api.example.com" trusted_proxies: [] max_request_body_size: 268435456 h2c: enabled: true max_concurrent_streams: 50 idle_timeout: 75 max_read_frame_size: 1048576 max_upload_buffer_per_connection: 2097152 max_upload_buffer_per_stream: 524288 run_mode: "standard" cors: allowed_origins: - "https://api.example.com" allow_credentials: true security: url_allowlist: enabled: true upstream_hosts: - "api.openai.com" - "api.anthropic.com" - "generativelanguage.googleapis.com" - "cloudcode-pa.googleapis.com" - "*.openai.azure.com" pricing_hosts: - "raw.githubusercontent.com" crs_hosts: [] allow_private_hosts: false allow_insecure_http: false response_headers: enabled: true additional_allowed: [] force_remove: [] csp: enabled: true policy: "default-src 'self'; script-src 'self' __CSP_NONCE__ https://challenges.cloudflare.com https://static.cloudflareinsights.com; style-src 'self' 'unsafe-inline' https://fonts.googleapis.com; img-src 'self' data: https:; font-src 'self' data: https://fonts.gstatic.com; connect-src 'self' https:; frame-src https://challenges.cloudflare.com; frame-ancestors 'none'; base-uri 'self'; form-action 'self'" proxy_probe: insecure_skip_verify: false proxy_fallback: allow_direct_on_error: false EOF 改域名： nano /opt/sub2api/config.yaml 官方当前配置示例里， frontend_url 用于生成邮件等外部链接；URL 白名单示例里也明确列出了 upstream_hosts 、 pricing_hosts 、 crs_hosts 、 allow_private_hosts 、 allow_insecure_http 。我这里把样例里的 allow_private_hosts 和 allow_insecure_http 从 true 收紧成了更适合公网生产的 false 。 8）写入最终版 docker-compose.local.yml cat > /opt/sub2api/docker-compose.local.yml <<'EOF' services: sub2api: image: weishaw/sub2api:latest container_name: sub2api restart: unless-stopped ulimits: nofile: soft: 100000 hard: 100000 ports: - "${BIND_HOST:-127.0.0.1}:${SERVER_PORT:-8080}:8080" volumes: - ./data:/app/data - ./config.yaml:/app/data/config.yaml:ro environment: - AUTO_SETUP=true - SERVER_HOST=0.0.0.0 - SERVER_PORT=8080 - SERVER_MODE=${SERVER_MODE:-release} - RUN_MODE=${RUN_MODE:-standard} - DATABASE_HOST=postgres - DATABASE_PORT=5432 - DATABASE_USER=${POSTGRES_USER:-sub2api} - DATABASE_PASSWORD=${POSTGRES_PASSWORD:?POSTGRES_PASSWORD is required} - DATABASE_DBNAME=${POSTGRES_DB:-sub2api} - DATABASE_SSLMODE=disable - DATABASE_MAX_OPEN_CONNS=${DATABASE_MAX_OPEN_CONNS:-50} - DATABASE_MAX_IDLE_CONNS=${DATABASE_MAX_IDLE_CONNS:-10} - DATABASE_CONN_MAX_LIFETIME_MINUTES=${DATABASE_CONN_MAX_LIFETIME_MINUTES:-30} - DATABASE_CONN_MAX_IDLE_TIME_MINUTES=${DATABASE_CONN_MAX_IDLE_TIME_MINUTES:-5} - REDIS_HOST=redis - REDIS_PORT=6379 - REDIS_PASSWORD=${REDIS_PASSWORD:-} - REDIS_DB=${REDIS_DB:-0} - REDIS_POOL_SIZE=${REDIS_POOL_SIZE:-1024} - REDIS_MIN_IDLE_CONNS=${REDIS_MIN_IDLE_CONNS:-10} - REDIS_ENABLE_TLS=${REDIS_ENABLE_TLS:-false} - ADMIN_EMAIL=${ADMIN_EMAIL:[email protected]} - ADMIN_PASSWORD=${ADMIN_PASSWORD:-} - JWT_SECRET=${JWT_SECRET:-} - JWT_EXPIRE_HOUR=${JWT_EXPIRE_HOUR:-24} - JWT_ACCESS_TOKEN_EXPIRE_MINUTES=${JWT_ACCESS_TOKEN_EXPIRE_MINUTES:-0} - TOTP_ENCRYPTION_KEY=${TOTP_ENCRYPTION_KEY:-} - TZ=${TZ:-Asia/Shanghai} - GEMINI_OAUTH_CLIENT_ID=${GEMINI_OAUTH_CLIENT_ID:-} - GEMINI_OAUTH_CLIENT_SECRET=${GEMINI_OAUTH_CLIENT_SECRET:-} - GEMINI_OAUTH_SCOPES=${GEMINI_OAUTH_SCOPES:-} - GEMINI_QUOTA_POLICY=${GEMINI_QUOTA_POLICY:-} - GEMINI_CLI_OAUTH_CLIENT_SECRET=${GEMINI_CLI_OAUTH_CLIENT_SECRET:-} - ANTIGRAVITY_OAUTH_CLIENT_SECRET=${ANTIGRAVITY_OAUTH_CLIENT_SECRET:-} - SECURITY_URL_ALLOWLIST_ENABLED=${SECURITY_URL_ALLOWLIST_ENABLED:-true} - SECURITY_URL_ALLOWLIST_ALLOW_INSECURE_HTTP=${SECURITY_URL_ALLOWLIST_ALLOW_INSECURE_HTTP:-false} - SECURITY_URL_ALLOWLIST_ALLOW_PRIVATE_HOSTS=${SECURITY_URL_ALLOWLIST_ALLOW_PRIVATE_HOSTS:-false} - SECURITY_URL_ALLOWLIST_UPSTREAM_HOSTS=${SECURITY_URL_ALLOWLIST_UPSTREAM_HOSTS:-} - UPDATE_PROXY_URL=${UPDATE_PROXY_URL:-} depends_on: postgres: condition: service_healthy redis: condition: service_healthy networks: - sub2api-network healthcheck: test: ["CMD", "wget", "-q", "-T", "5", "-O", "/dev/null", "http://localhost:8080/health"] interval: 30s timeout: 10s retries: 3 start_period: 30s postgres: image: postgres:18-alpine container_name: sub2api-postgres restart: unless-stopped ulimits: nofile: soft: 100000 hard: 100000 volumes: - ./postgres_data:/var/lib/postgresql/data environment: - POSTGRES_USER=${POSTGRES_USER:-sub2api} - POSTGRES_PASSWORD=${POSTGRES_PASSWORD:?POSTGRES_PASSWORD is required} - POSTGRES_DB=${POSTGRES_DB:-sub2api} - PGDATA=/var/lib/postgresql/data - TZ=${TZ:-Asia/Shanghai} networks: - sub2api-network healthcheck: test: ["CMD-SHELL", "pg_isready -U ${POSTGRES_USER:-sub2api} -d ${POSTGRES_DB:-sub2api}"] interval: 10s timeout: 5s retries: 5 start_period: 10s redis: image: redis:8-alpine container_name: sub2api-redis restart: unless-stopped ulimits: nofile: soft: 100000 hard: 100000 volumes: - ./redis_data:/data command: > sh -c ' redis-server --save 60 1 --appendonly yes --appendfsync everysec ${REDIS_PASSWORD:+--requirepass "$REDIS_PASSWORD"} ' environment: - TZ=${TZ:-Asia/Shanghai} - REDISCLI_AUTH=${REDIS_PASSWORD:-} networks: - sub2api-network healthcheck: test: ["CMD", "redis-cli", "ping"] interval: 10s timeout: 5s retries: 5 start_period: 5s networks: sub2api-network: driver: bridge EOF 这份 compose 依然遵循官方 local 版思路：本地目录持久化、 weishaw/sub2api:latest + postgres:18-alpine + redis:8-alpine 、 /health 健康检查；另外我把 config.yaml 的挂载打开了，因为官方默认是注释状态。 9）创建数据目录并启动容器 cd /opt/sub2api mkdir -p data postgres_data redis_data docker compose -f docker-compose.local.yml up -d docker compose -f docker-compose.local.yml ps 如果一切正常，再看日志： docker compose -f docker-compose.local.yml logs -f sub2api Sub2API 官方说明里写得很明确：Compose 模式下 AUTO_SETUP=true 时，首次启动会自动连接 PostgreSQL 和 Redis、执行数据库迁移、创建管理员账号、在未提供时自动生成管理员密码。 10）取出管理员密码并做健康检查 如果你在 .env 里把 ADMIN_PASSWORD= 留空，就执行： docker compose -f docker-compose.local.yml logs sub2api | grep -i "admin password" 本机健康检查： curl http://127.0.0.1:8080/health 官方手动部署说明和命令示例里都给了从日志里查自动生成管理员密码的方法。( GitHub ) 11）安装 Caddy 并启用自动 HTTPS 先安装 Caddy 官方仓库： apt install -y debian-keyring debian-archive-keyring apt-transport-https curl curl -1sLf 'https://dl.cloudsmith.io/public/caddy/stable/gpg.key' | gpg --dearmor -o /usr/share/keyrings/caddy-stable-archive-keyring.gpg curl -1sLf 'https://dl.cloudsmith.io/public/caddy/stable/debian.deb.txt' | tee /etc/apt/sources.list.d/caddy-stable.list chmod o+r /usr/share/keyrings/caddy-stable-archive-keyring.gpg chmod o+r /etc/apt/sources.list.d/caddy-stable.list apt update apt install -y caddy 这正是 Caddy 官方当前给出的 Debian/Ubuntu stable 安装路径。( Caddy Web Server ) 12）写入 Caddyfile cat > /etc/caddy/Caddyfile <<'EOF' api.example.com { @static { path /assets/* path /logo.png path /favicon.ico } header @static { Cache-Control "public, max-age=31536000, immutable" -Pragma -Expires } tls { protocols tls1.2 tls1.3 } reverse_proxy 127.0.0.1:8080 { health_uri /health health_interval 30s health_timeout 10s health_status 200 header_up X-Real-IP {remote_host} header_up X-Forwarded-For {remote_host} header_up X-Forwarded-Proto {scheme} header_up X-Forwarded-Host {host} header_up CF-Connecting-IP {http.request.header.CF-Connecting-IP} } encode { zstd gzip 6 minimum_length 256 } request_body { max_size 100MB } log { output file /var/log/caddy/sub2api.log { roll_size 50mb roll_keep 10 roll_keep_for 720h } format json level INFO } handle_errors { respond "{err.status_code} {err.status_text}" } } EOF 检查并重载： caddy fmt --overwrite /etc/caddy/Caddyfile caddy validate --config /etc/caddy/Caddyfile systemctl enable caddy systemctl restart caddy systemctl status caddy --no-pager 官方仓库当前确实自带 deploy/Caddyfile ，里面已经包含 TLS、 reverse_proxy localhost:8080 、 /health 健康检查、转发真实 IP 头和日志滚动思路，所以这条路线最省心。 13）放行防火墙 ufw allow 22/tcp ufw allow 80/tcp ufw allow 443/tcp ufw enable ufw status verbose 不要开放 8080 给公网，因为你已经通过 BIND_HOST=127.0.0.1 把应用只绑在本机，再让 Caddy 反代它。这样也符合 Docker 官方对防火墙的安全提醒。 14）最终验证 先本机验证： curl http://127.0.0.1:8080/health curl -I https://api.example.com 然后浏览器访问： https://api.example.com 用管理员邮箱和日志里拿到的密码登录。 15）部署完成后立刻执行的 5 个检查 登录后台，确认能打开首页。 到设置里确认站点 URL 是否正确。 frontend_url 如果没配对，后面邮件链接和支付回调会出错。 如果你要启用 URL 白名单，只保留自己真的要用的上游域名。官方样例里带了 OpenAI、Anthropic、Gemini、Azure OpenAI 等域名，但生产上不建议全开。 如果要开支付，后台路径是 设置 → 支付设置 ，官方当前支持 EasyPay、支付宝官方、微信官方、Stripe；多实例分流支持 round-robin 和 least-amount ，回调地址会按你的域名自动拼接。 如果你用 Stripe，记得订阅 payment_intent.succeeded 和 payment_intent.payment_failed 。 16）后续最常用的运维命令 cd /opt/sub2api # 看状态 docker compose -f docker-compose.local.yml ps # 看日志 docker compose -f docker-compose.local.yml logs -f sub2api # 重启应用 docker compose -f docker-compose.local.yml restart sub2api # 更新镜像 docker compose -f docker-compose.local.yml pull docker compose -f docker-compose.local.yml up -d # 停服务 docker compose -f docker-compose.local.yml down 官方部署说明里也给了 local 版这组常用命令，并强调 local 版最方便整目录迁移和备份。 4 个帖子 - 4 位参与者 阅读完整话题

如题, 我是wsl+ollama, 试了一个qwen3.5 2b 4b 9b, 都贼拉难用, 我就问他 1+1=? , 一直搁那吐字, 思考, 我记得以前2023年的ChatGLM没这么难用的啊, glm问他是谁他都正常吐字就完事了, qwen一直搁那思考自己是阿里巴巴开发的, 中文思考完了换英文, 半天不吐字, 介绍完自己, 又介绍阿里巴巴, 难用得要命了 13 个帖子 - 10 位参与者 阅读完整话题

部署了一个Qwen3.6-35B-A3B 怎么感觉有点呆啊 是不是真不行啊 2 个帖子 - 1 位参与者 阅读完整话题

LobeHub的ios app是不是还不支持连接私有化部署？ 2 个帖子 - 2 位参与者 阅读完整话题

IT之家 4 月 18 日消息，科技媒体 Wccftech 昨日（4 月 17 日）发布博文，报道称 AMD 已与 AI 公司 Anthropic 达成合作， 后者计划采用 Instinct MI450 AI 加速器。 消息称受行业算力供应短缺影响，Anthropic 寻求多元化供应链。 在推进自研 AI 芯片的同时 ，Anthropic 目前已采用 NVIDIA GPU 和 Amazon Trainium 芯片，此外该公司还和博通、谷歌合作，使用其 TPU 芯片。而最新消息称，该公司计划和 AMD 合作，在其服务器中部署下一代 Instinct MI450 GPU 加速器。 AMD 此前已获得 OpenAI 和 Meta 等客户，其中 Meta 签署了 6 吉瓦的算力采购承诺。此次合作若达成，将是 AMD 在 AI 硬件市场的又一重要突破。 IT之家注：Instinct MI450 隶属于即将发布的 MI400 系列，基于 CDNA 5 架构，提供 MI450X 和 MI430X 型号。官方数据显示，MI400 计算性能达 40 PFLOP（FP4）和 20 PFLOP（FP8），较 MI350 系列翻倍。 新品引入 HBM4 内存标准，容量提升 50% 至 432GB，带宽达 19.6 TB/s，是前代产品的 2.45 倍，GPU 还配备 300 GB/s 的扩展带宽。

render部署的cpa遇到Access blocked by Cloudflare. This usually happens when connecting from a restricted region (status 403 Forbidden), u rl: https://www.xxxx.top/v1/responses , cf-ray: 9ee0d216d8856e64-HKG 现在在本机使用codex会报错，尝试过切换网络、切换节点依然报错，直接访问网页是正常的。然而换了机器后是可以正常连接的。怀疑是被render的cf通过tls指纹给ban了。有佬友遇到过知道怎么解决吗？ 1 个帖子 - 1 位参与者 阅读完整话题

自己部署了一版Nestjs的学习手册，方便学习，分享给佬友们。 内容简介：学习 Nest 全部功能，并且会顺带把 mysql、mongodb、redis、rabbitmq、nacos 等后端中间件学一遍，也会学习 pm2、docker、docker compose 等部署方案，并做几个综合的全栈项目。 地址： https://nest-docs.elias.ccwu.cc/ 13 个帖子 - 5 位参与者 阅读完整话题

最近在思考要不要先部署好发出来给佬友们先用用，可以自定义api，同时不支持工具调用的模型也可以使用工具 14 个帖子 - 6 位参与者 阅读完整话题

在印尼实体服务器部署中转供内部5人使用，购买的是max20账号。 4月13号认证pro账号，不够用，4月14号中午升级为max20，分发了账号，大家在国内自己的电脑接入使用，晚上7点被退款； 4月15号开第二个账号购买max20，使用国内同一个服务器、同一个账号，用了不到30分钟封号了。 求大佬指点长久一点的使用方法。 3 个帖子 - 2 位参与者 阅读完整话题

大火的 Hermes AI Agent 小白如何整 想在 Windows 上使用 却被 WSL2 和复杂的环境配置劝退？ 一键脚本来了，附视频教程 M.'s Blog – 17 Apr 26 Windows 一键部署 Hermes AI Agent 小白也能玩转 NousResearch 大模型！ 想在 Windows 上体验强大的 NousResearch Hermes AI Agent，却被 WSL2 和复杂的环境配置劝退 2 个帖子 - 2 位参与者 阅读完整话题

两张3090 48G显存 私有化部署35B大模型， 生成速度142.65tokens/s 上下文长度262144 真香 8 个帖子 - 5 位参与者 阅读完整话题

让 opus 总结的，包含了踩坑记录和完整部署过程 可以直接丢给你们的agent看 Claude-Code-LSP-部署与踩坑记录.pdf (474.9 KB) 5 个帖子 - 4 位参与者 阅读完整话题

本帖使用社区开源推广，符合推广要求。我申明并遵循社区要求的以下内容： 我的帖子已经打上 开源推广 标签： 是 我的开源项目完整开源，无未开源部分： 是 我的开源项目已链接认可 LINUX DO 社区： 是 我帖子内的项目介绍，AI生成、润色内容部分已截图发出： 是 以上选择我承诺是永久有效的，接受社区和佬友监督： 是 以下为项目介绍正文内容，AI生成、润色内容已使用截图方式发出 几个月前在linuxdo开源了 拼豆AI应用，得到不少支持，现在有空就大升级，让佬友更加愉快的拼豆拼起来！ 【开源】佬友玩拼豆吗，AI拼豆那种，我搞出来给佬友愉快的拼起来哈 开发调优 项目灵感 我基于开源项目： GitHub - Zippland/perler-beads: 拼豆底稿生成器 (Perler Beads Generator) ， 我加上AI优化了项目，AI辅助优化图片功能，写了一个专门生成拼豆图纸的网站。 经过大量测试，我觉得已经可以达到 一键生成拼豆图纸了！ 展示案例 核心就是： ai制作图纸 ，关键就是颜色尽可能少，颗粒尽可能少，各种各样图纸风格都兼容，同时表… 开源地址： 拼豆web程序: github.com GitHub - liangdabiao/perler-beads-ai: 因为市面上的拼豆软件差强人意 ，所以我基于开源项目：Zippland/perler-beads ，... 因为市面上的拼豆软件差强人意 ，所以我基于开源项目：Zippland/perler-beads ， 我加上AI优化了项目，AI辅助优化图片功能，写了一个专门生成拼豆图纸的网站。 经过大量测试，我觉得已经可以达到 一键生成拼豆图纸了！ 拼豆小程序： github.com GitHub - liangdabiao/perlerBeadsApplet: 一款基于 Taro + Vue3... 一款基于 Taro + Vue3 开发的拼豆像素画创作小程序，支持像素画编辑、作品管理、图片导入，图纸导出等功能。 项目是基于和二开 开源程序： github.com/noir017/perlerBeadsApplet 一键部署到 Cloudflare Pages 本项目采用 Next.js 静态导出 + Cloudflare Pages Function 架构，所有重计算（图像像素化、颜色映射）都在浏览器端完成，服务端仅有一个轻量 API（AI优化），部署简单、免费额度完全够用。这次方案是 全免费，服务器免费，ai api免费，域名免费，0费用搭建拼豆应用，多好： cloudflare命令一键部署命令参考： npm run pages:dev npm run build npm run pages:deploy 小程序： 一款基于 Taro + Vue3 开发的拼豆像素画创作小程序，支持像素画编辑、作品管理、图片导入，图纸导出等功能。 项目是基于和二开 开源程序： GitHub - noir017/perlerBeadsApplet: 拼豆像素画编辑器小程序 · GitHub ，增加很多功能和修改，适合本系统的小程序。 展示效果： 我已经实际部署在cloudflare了，佬也可以试试： https://pindou.348349.xyz/ 感谢佬的支持，开源不容易： github.com GitHub - liangdabiao/perler-beads-ai: 因为市面上的拼豆软件差强人意 ，所以我基于开源项目：Zippland/perler-beads ，... 因为市面上的拼豆软件差强人意 ，所以我基于开源项目：Zippland/perler-beads ， 我加上AI优化了项目，AI辅助优化图片功能，写了一个专门生成拼豆图纸的网站。 经过大量测试，我觉得已经可以达到 一键生成拼豆图纸了！ 1 个帖子 - 1 位参与者 阅读完整话题

现状： 上游账号购买的是讯飞的coding plan，问过客服一个企业账号可以购买多个coding plan套餐，先用着，阿里实在抢不到。 有以下考虑的点： 1.需要能明确分出cli key的用量。 2.不同的cli key指向不同的上游key，尽量不出现10个号蹬完了，另外十个号一点没动的情况，也方便命中缓存。 3.管理平台不需要有什么权限控制，只要能UI管理即可。 4.公司内部估计最多10个上游key，同时使用估计也差不多20个人左右，也就是20个cli key。 我现在对比的是cliproxyapi和newapi。 1.cpa更轻，资源占用更小 2.cpa和newapi没找到可以指定上游key的配置 3.newapi数据在数据库中，cpa是配置文件容易泄露 有佬有实际的情况帮忙分析一下吗，先谢谢。 1 个帖子 - 1 位参与者 阅读完整话题

前言 了解到这个是通过ACP协议来实现本地Claude Code与IDEA进行通信的，不知道和站内大佬开发的CC GUI 【开源自荐】IDEA版 Claude Code GUI 插件（v0.2） 有什么能力上的不同，个人感觉主要功能两者都有，而且大佬的CC GUI还能统计token消耗、一键commit。有对比过的佬友可以评论区留留言。 参考环境配置 Win11系统（Mac OS/Linux等系统也可）； IDEA 2026.1（其他版本未知）； 本地已安装Claude Code； 本地已安装CC Switch； 已有订阅的大模型api密钥； 安装步骤 运行 pnpm install -g @zed-industries/claude-code-acp ,如果没有先 npm install -g pnpm 再运行 pnpm setup。 重开一个终端运行 pnpm bin -g ,找到 claude-code-acp 的所在路径，一般在 C:\Users\你的用户名\AppData\Local\pnpm 文件夹下。 IDEA打开AI Assistant插件（无需激活只需安装），点击添加自定义智能体。 在 acp.json 中全选并复制粘贴。 { "default_mcp_settings": { "use_idea_mcp": true, "use_custom_mcp": true }, "agent_servers": { "Claude Code": { "command": "C://Users/你的用户名/AppData/Local/pnpm/claude-code-acp.cmd"/*, "env": { "CLAUDE_CODE_GIT_BASH_PATH": "D:\\Git\\bin\\bash.exe" }*/ //这一段是我的git的bash.exe的路径，我加了这段才能运行不报错，原因不详，佬友可参考 } } } CC Switch中配置好大模型api密钥，以GLM为例。 大功告成。 疑难参考 如果本地claude code跳登录，可以在 .claude.json 最外层大括号中添加 "hasCompletedOnboarding": true, ,这个文件一般位于 C:\Users\Administrator 下。 1 个帖子 - 1 位参与者 阅读完整话题