端侧智能基础设施 · SINCE 2019
让智能
在本地发生
一套跨终端的端侧推理体系：INT4 混合量化、统一算子图、边缘调度。让大模型在手机、车机与浏览器里以 12ms 的 P50 延迟运行，原始数据无需离开设备。
最新版本 v3.4.2 · 2026-10-28 覆盖 Windows / macOS / Linux / iOS / Android / WASM
41 个边缘节点 · 实时调度中
-
8.2亿累计接入终端设备
-
12ms端侧推理 P50 延迟
-
41个边缘调度节点
-
6类端侧运行时目标
产品矩阵 / PRODUCTS
六条产品线，一套推理底座
从内核、工具链到终端应用与开发者 SDK，共用同一份模型与同一套量化策略。点开任一产品查看定位与关键指标。
软件下载 / DOWNLOAD
按平台取用，版本与校验一目了然
所有发行版均附带 SHA-256 校验值与 GPG 签名。企业内网部署可申请离线安装包与私有镜像源。
校验下载文件
下载完成后核对 SHA-256：sha256sum ruivic-core_3.4.2_amd64.deb
macOS 可用 shasum -a 256 <文件>，Windows 可用 certutil -hashfile <文件> SHA256。
签名与公钥
发行包由构建流水线自动签名，公钥指纹：9F2A 41C8 6D3B 0E57 88A4 1C60 DD3E 5B92
内网无法访问公网时，可联系技术支持获取离线公钥与安装介质。
完整版本清单 校验值为示例格式，正式产物由 CI 生成后自动回填
| 产品 | 平台 / 架构 | 版本 | 发布日期 | 体积 | SHA-256 | 操作 |
|---|
- 新增：INT4 分组量化调度器，7B 模型在移动端内存占用下降至 780MB。
- 优化：算子图融合新增 11 个模式，注意力层在 NPU 上的算子切换减少 40%。
- 修复：macOS 26 上 Metal 后端在模型卸载时偶发的显存未回收问题。
- 兼容：Windows ARM64 构建正式转为 GA，不再需要预览版运行时。
- 新增：同一进程内并行装载最多 4 个模型实例，共享权重内存池。
- 新增：Linux aarch64 发行版，面向国产化服务器与工控机。
- 调整：默认线程亲和策略改为按 P-core / E-core 分组绑定。
- 修复：32K 上下文下 KV Cache 分页回填导致的显存阶梯式上涨。
- 优化：
ruivic bench支持按 token 位统计 P50 / P99，输出可直接入 CI 基线。
技术架构 / ARCHITECTURE
三层结构，一个模型贯通端到端
训练完成的模型在云端完成一次编译与签名，之后在边缘节点按设备画像做二次裁剪，最终落到终端运行时。
同一份算子图在 CPU、GPU、NPU 上执行，按设备能力自动选择量化档位与线程亲和策略；无网状态下功能不降级。
41 个节点按地域与负载承接模型分发、增量更新与灰度发布，单次 OTA 差分包平均体积较全量下载下降 78%。
模型在流水线中完成结构分析、算子融合、量化校准与产物签名，输出可复现的构建记录，便于审计与回滚。
关于我们 / COMPANY
只做一件事：把推理搬进设备
一家把算力当作公共基础设施来设计的公司，工程师文化，产品导向。
RUIVIC 成立于 2019 年，总部位于杭州，在上海与深圳设有研发与交付团队。七年里我们只围绕一个问题反复迭代：如何用更低的功耗、更小的内存、更少的网络依赖，换来一次完整可靠的本地推理。
今天，超过 300 家设备厂商与开发者团队在使用 RUIVIC 的内核与工具链，产品覆盖智能座舱、工业质检、医疗影像与消费电子。我们坚持一条底线：用户的数据不因为用了 AI 而离开他手上的设备。
- 2019杭州成立，首版算子图编译器
- 240人工程师团队，研发占比 72%
- 300+设备厂商与开发团队客户
- 4地杭州 / 上海 / 深圳 / 成都
里程碑 / MILESTONES
在杭州成立
三个人、一间办公室，做出第一版算子图编译器——它后来成为 RUIVIC Core 的骨架。
Core 1.0 发布
首次在国产车机芯片上跑通 7B 参数模型，端侧推理从演示走向可交付。
A 轮融资与首个 Tier1 合作
Edge SDK 签约首家一级供应商，产品从单点工具扩展为完整工具链。
边缘调度网络上线
41 个节点覆盖主要工业带，模型分发与灰度发布第一次具备可观测性。
Pulse 发布，接入设备破 5 亿
端侧助手把推理能力直接交到普通用户手上，全年新增接入设备 5.1 亿台。
Core 3.4 支持 INT4 混合精度
端侧首字延迟降至 12ms，7B 模型在移动设备上的内存占用首次低于 800MB。
客户之声 / VOICES
在交付现场，它被这样评价
应客户要求，以下项目均隐去企业名称，数据经授权引用。
把 13B 模型从 2.4GB 压到 780MB 之后，车机端首字延迟从 1.1 秒降到 180 毫秒。这是不改硬件能到的极限。
某智能座舱一级供应商 · 算法负责人影像数据不出院是上系统的前提。整套推理留在本地工作站，部署周期只有三周。
某三甲医院影像科 · 信息化负责人CI 里接上 ruivic-cli 之后，一次发版从两小时变成十一分钟，回归压测顺带跑完了。
某工业视觉公司 · 平台工程师开始使用 / GET STARTED
先取一个适合你设备的版本
不确定该选哪个？把设备型号与模型规模发给我们，两个工作日内给出量化档位与延迟预估。
技术支持：support@ruivic.com 商务合作：bd@ruivic.com