大模型私有化部署
开源与商用模型选型，vLLM / SGLang 推理加速，从单卡工作站到多机集群的容量规划，支持完全离线内网运行。
0交付项目
0覆盖行业
0平均 POC 周期
0运维值守
01
CAPABILITIES
我们交付什么
从底层算力到上层应用，一套班子把 AI 真正接进企业的业务流程里。
智能体（Agent）开发
多智能体编排，带工具调用、流程审批与人工接管，能把一件事从头跑到尾。
AI 客服系统
知识库问答 + 工单流转 + 人工坐席，打通网页、企微、钉钉与电话热线。
企业知识库 RAG
文档解析、语义切片、混合检索与权限隔离，让模型读懂企业自己的手册与历史经验。
模型微调与蒸馏
SFT / LoRA / 偏好对齐，把行业术语灌进模型；用蒸馏让小模型跑出接近大模型的效果。
视频生成与数字人
文生视频、图生视频、数字人口播与批量流水线，把内容生产的边际成本压到接近零。
语音识别与合成
ASR 转写、TTS 合成、声音克隆与实时语音对话，支持方言与情绪。
ESP 桌面机器人
ESP32 系列模组的桌面 AI 硬件：语音唤醒、云端对话、表情动作驱动，软硬一体交付。
算力规划与一体机
GPU 选型、软硬一体交付与推理成本优化，开箱即用的私有化 AI 底座，避免买错卡、买多卡。
02
HARDWARE
ESP 桌面智能机器人
不只是把模型搬进机房，也把它放进用户的桌面上。从一块 ESP32 模组到一台能量产的桌面机器人，全链路交付。
端 · 硬件与固件
ESP32-S3 主控 + 麦克风阵列 + 扬声器 + 屏幕/舵机，负责唤醒词检测、VAD、音频编解码与本地轻量推理，弱网也能响应。
- 唤醒词自定义
- 离线 VAD
- OTA 升级
- 结构打样
云 · 对话与人格
ASR → 大模型 → TTS 的低延迟链路，支持角色人格、长期记忆与知识库接入。也可以整套搬到企业内网，数据不出门。
- 流式对话
- 声音定制
- 角色人格
- 私有化部署
管 · 设备与内容后台
设备绑定、固件灰度、对话日志、内容审核与技能上架，一套后台管住全部在网设备，支持白牌与贴牌交付。
- 设备管理
- 灰度发布
- 内容审核
- OEM / ODM
适合场景：桌面陪伴机器人、AI 玩具、展厅导览、智能家居中控、企业前台接待。可从 50 台小批量试产起步，验证市场后再放量。
03
STACK
不绑定单一厂商
按业务目标和硬件条件选型，该用开源用开源，该调商用调商用。
- 模型
- QwenDeepSeekGLMLlamaMistral商用 API 混合
- 推理引擎
- vLLMSGLangTensorRT-LLMllama.cpp量化 / 投机解码
- 应用框架
- DifyLangGraphFastGPTRAGFlowMCP 工具协议
- 多模态
- ComfyUI视频生成GPT-SoVITSWhisper数字人驱动
- 基础设施
- NVIDIA昇腾海光麒麟 / 统信Docker / K8s
- 端侧硬件
- ESP32-S3麦克风阵列唤醒词引擎LVGL 屏显OTA
04
PROCESS
六步，从想法到上线
每一步都有明确产出物和验收标准，不做没有边界的需求。
01
需求与数据评估
梳理场景、盘点数据、确认 ROI 与上线边界。
02
POC 验证
用小样本跑通效果，先证明可行再谈规模。
03
算力与环境
硬件选型、内网部署、权限与网络打通。
04
调优与集成
模型调优、知识库构建、业务系统对接。
05
上线与培训
灰度发布、效果看板、使用培训与交接。
06
托管运维
监控告警、效果回归、模型升级与值守。
05
SCENARIOS
已经跑起来的部分场景
客户名称已隐去，指标为项目验收时的实测数据。
智能制造01
设备运维知识库
把 3 万页设备手册、维修记录与工单历史做成可问答的检修助手，一线工程师带着手机就能查。
↓42%平均排障时间
3 万页文档入库
金融02
合规审查助手
私有化部署加全量审计留痕，合同初审由模型先过一遍，法务只处理疑难条目。
40→6 分钟单份初审耗时
100%操作可追溯
政务03
热线智能客服
打通工单系统与政策知识库，接通即答、复杂问题自动转人工并带着上下文。
↓35%人工坐席压力
+12pt满意度
电商品牌04
内容生产线
视频生成、配音合成与数字人口播串成一条流水线，选品录入后自动出成片。
200 条/天短视频产能
↓80%单条制作成本
06
PRINCIPLES
我们只做能落地的 AI
四条原则，决定了我们会在什么地方拒绝客户。
01
私有化优先
默认内网部署，模型、数据、日志全部留在企业自己的机房里。需要联网的部分单独剥离、单独审计。
02
效果可度量
每个项目先定指标再动手。准确率、响应时延、单次调用成本三项对齐之后，才算交付完成。
03
交付不靠人海
沉淀了部署、评测、监控的工具链，同类项目可复用 70% 以上，所以报价和周期都能压得住。
04
长期陪跑
上线只是开始。模型迭代、效果回归、业务变化带来的调优，我们按年陪你一起扛。
07
FAQ
你大概会问这些
没有答到的，直接发消息问。
Q1私有化部署大概需要什么硬件？
取决于模型规模和使用人数。7B～14B 模型做部门级应用，单张 24G 显存的卡就能起步；32B 以上或高并发场景才需要多卡。我们会先做容量测算再给配置单，不需要你提前买设备。
Q2数据会不会外传？
不会。私有化方案里模型、知识库、日志、对话记录全部落在你的内网。需要调用外部 API 的部分会单独标注并走白名单，也可以完全关掉只走本地模型。
Q3开源模型和商用模型怎么选？
看三件事：数据敏感度、效果要求和预算。敏感数据必须本地的走开源；效果要求极高且可以联网的，用商用 API 或混合路由。大部分企业的答案是「主力开源 + 疑难问题走商用」。
Q4一个项目大概多久？
POC 通常 2～4 周，能跑出可量化的效果对比。正式上线视集成复杂度，一般 2～4 个月。纯客服或知识库类项目会更快。
Q5上线之后你们还管吗？
管。提供按年运维托管：监控告警、效果回归、模型升级、故障值守。也可以只做远程支持，由你的 IT 团队自主运维，我们负责培训和兜底。
08
CONTACT
聊聊你的场景
不用先想清楚要买什么。把业务痛点说清楚，我们给一版方案、一个预算区间和一个时间表。
- 邮箱[email protected]
- 电话400-000-0000
- 地址中国 · 北京
工作时间内 1 小时响应，非工作时间次日回复。