CUDA 12
预装 CUDA 12.4/12.6 + cuDNN。启动后 ssh 进入,运行 nvidia-smi。
下单时勾选任意模板,GPU 服务器启动时即完成安装、配置并通过 systemd 启动。在下方添加预下载模型,跳过 HuggingFace 30-60 分钟的下载等待。
生产级 LLM 推理服务,支持连续批处理和分页注意力(paged attention)。提供与 OpenAI SDK 兼容的 /v1/completions 接口。
自托管的 ChatGPT 风格网页界面。拉取 Ollama 原生的量化权重,是“在浏览器里和自己的 LLM 对话”的最简单方式。
基于 Gradio 的界面,支持多种后端——Transformers、ExLlamaV2、llama.cpp、AWQ、GPTQ。高级用户对比各种量化方案的首选。
HuggingFace Text Generation Inference——生产级推理服务器,支持流式输出 token、张量并行和分页注意力。
通过 YAML 配置驱动微调。支持 LoRA、QLoRA、全量微调、DPO、ORPO。已预先克隆到 /opt/axolotl,并附带 Llama / Qwen / Mistral 的入门配置。
借助自研 Triton 内核,微调速度提升 2 倍、显存占用减少 70%。非常适合在 RTX 4090 上低成本训练。预装于 /opt/unsloth。
基于网页界面的微调平台,支持 SFT / RLHF / DPO / KTO。适合想通过界面完成微调、不写代码的用户入门。
节点式图像生成界面,内置 FLUX.1-schnell 和 Kontext 工作流。面向高级用户的图像生成流水线。
最主流的 Stable Diffusion 网页界面。Stable Diffusion 3.5 加上丰富的扩展生态,civitai 用户上手即熟悉。
针对 FLUX 优化的 A1111 分支,采样更快、显存占用更低。Auto1111 用户可直接替换使用。
用于训练 Stable Diffusion / FLUX LoRA、DreamBooth 和文本反演的图形界面。在 RTX 4090 上 30–90 分钟即可训练出自定义风格的 LoRA。
预装视频生成工作流的 ComfyUI——Wan 2.2 T2V、HunyuanVideo、LTX-Video。720p 下要获得可用速度需 40 GB 以上显存。
轻量级视频工作流——CogVideoX-5B、Wan 2.1 1.3B、LTX-Video。单张 RTX 4090 即可运行。
OpenAI Whisper Large v3 Turbo,采用 faster-whisper 后端,通过 /transcribe HTTP 接口提供服务。比 v3 快 8 倍,支持 99 种语言,在任何 GPU 上都能实时转写。
多模型语音合成接口,提供 Kokoro 82M(54 种音色、8 种语言)和 Sesame CSM-1B(带上下文的对话式语音)。支持 REST 和 WebSocket 流式传输。
始终预装。PyTorch 2.5 + CUDA 12.4 + Transformers + diffusers + accelerate + bitsandbytes + xformers + flash-attn,通用的 AI 开发基础环境。
在浏览器中运行的 VSCode,完整支持 Python、IPython 和扩展。适合偏好 IDE 而非笔记本的用户。
在同一 GPU 上组合多个技术栈——部署脚本自动解决依赖冲突并分配不冲突的端口。
下单时勾选所需模型,登录前即已缓存至 /root/.cache/huggingface。🔒 受限模型(Llama、Mistral、Gemma、FLUX-dev、SD 3.5)需要您的 HuggingFace Token(下单时一并填写)。
大小为 FP16 权重。RTX 4090(24 GB VRAM)运行 70B 模型时,AWQ 量化版本将并行自动下载。
纯加密货币结账、原生 Monero、仅 Token 注册、预装 AI 技术栈、预下载 HuggingFace 模型、加密 HF Token、自动 Let's Encrypt 端点、无限带宽及冰岛 100% 可再生能源——查看"AnonPort"那行,自行判断。
比较数据来源于竞争对手 2026-05 公开定价页面及注册流程。AnonPort 入门款 RTX 4090 = 摩尔多瓦 $122.00/月;竞争对手"现货"价格为同等硬件的平均费率。