LiteRT.js
LiteRT.js是Google于2025年7月9日开源的浏览器端AI模型推理框架，让开发者可在浏览器本地运行AI模型，数据不出设备，隐私合规友好，开发者关注度高。
💡 LiteRT.js 是什么？
一、平台定位
LiteRT.js（前身 TensorFlow.js for LiteRT）是 Google 于 2025 年 7 月 9 日正式开源的浏览器端 AI 模型推理框架，定位"让 AI 模型在浏览器本地运行"。基于 WebAssembly + WebGPU，LiteRT.js 可在用户浏览器中直接执行 ONNX/TFLite 模型推理，无需服务器、数据不上传、零延迟，特别适合隐私敏感、低延迟、离线场景，是 Google 在端侧 AI 推理领域的核心开源项目。
二、核心能力
- 浏览器本地推理：所有模型在用户浏览器/Web Worker 中执行，零服务器调用；
- WebGPU 加速：利用 GPU 并行计算，推理速度较 CPU 提升 10-100 倍；
- WebAssembly 回退：不支持 WebGPU 时自动回退到 WASM，兼容老设备；
- 多模型支持：支持 TFLite、ONNX、PyTorch（导出）模型；
- 多任务类型：图像分类、目标检测、语义分割、文本生成、语音识别；
- 模型量化：支持 INT8/FP16 量化，模型体积缩小 4 倍；
- 跨平台：Chrome/Edge/Safari/Firefox 全支持，移动端浏览器同样可用；
- 开源生态：Apache 2.0 协议，GitHub 社区活跃。
三、适用场景
- 隐私敏感场景：医疗影像、金融文档、个人照片 AI 处理，数据不出设备；
- 离线应用：PWA 应用在无网络环境运行 AI 模型；
- 低延迟交互：实时滤镜、AR 试戴、实时翻译，零网络延迟；
- 降本增效：减少服务器推理成本与带宽，按用户数扩展；
- 个性化模型：每个用户可加载个性化 AI 模型，无需后端协调；
- 教育/演示：浏览器内直接演示 AI 能力，无需复杂环境配置。
四、使用流程
- 访问 LiteRT.js 官方文档 https://ai.google.dev/edge/litert；
- 在项目中安装：
npm install @litert/core或通过 CDN 引入； - 准备模型：使用 TFLite Converter 或 ONNX 导出模型，加载到项目；
- 在 JavaScript 中初始化 LiteRT 运行时：
const runtime = new LiteRT.Runtime();； - 加载模型：
await runtime.loadModel('model.tflite');； - 预处理输入（图片/音频/文本）转 Tensor；
- 执行推理：
const output = await runtime.run(inputTensor);； - 后处理输出（解码、绘制、文本生成）；
- 性能监控：使用 LiteRT Profiler 分析推理耗时，针对性优化。
五、产品定价
LiteRT.js 完全开源免费：
- 开源协议：Apache License 2.0，可免费商用、修改、分发；
- Google AI 托管模型：可在 Hugging Face 等社区免费下载预训练模型；
- 企业服务：无 Google 官方企业版，依赖社区与第三方（如 Hugging Face、Modular）；
- 云服务集成：可与 Google Cloud Vertex AI 联动，混合云边推理。
无任何隐藏费用、无调用限制、无水印。
六、竞品对比
| 产品 | 厂商 | 核心定位 | 差异化 |
|---|---|---|---|
| LiteRT.js | 浏览器 AI 推理框架 | WebGPU 加速 + 完整 ONNX/TFLite 支持 | |
| Transformers.js | Hugging Face | 浏览器 Transformer 推理 | 强在 NLP 模型，ONNX Runtime 底层 |
| ONNX Runtime Web | 微软 | 浏览器 ONNX 推理 | 微软生态、跨平台 |
| MediaPipe | 端侧多模态 AI 流水线 | 强在视觉/手势/姿态实时任务 |
七、数据安全
- 数据不出设备：所有推理在本地浏览器执行，零数据外传；
- 开源可审计：Apache 2.0 协议，代码完全公开可审计；
- 无 Google 数据收集：LiteRT.js 不嵌入 Google Analytics 等追踪代码；
- SOC 2/ISO 27001：Google Cloud 整体通过多项合规认证；
- 合规场景：天然符合 GDPR、HIPAA 等"数据不出设备"要求；
- 企业私有部署：可内网部署 LiteRT.js + 自有模型，无外部依赖。
八、收录说明
LiteRT.js 于 2025 年 7 月 9 日开源，是 Google 在端侧 AI 推理的关键布局，开发者社区关注度高。AI 工具集将其收录至"AI 开发平台"分类。
主要收录理由：①Google 官方开源，权威性与社区活跃度有保障；②数据不出设备，隐私合规天然友好；③WebGPU 加速性能领先；④Apache 2.0 协议，可商用；⑤开发者关注度高，AI 边缘计算趋势明确。
本站提供的信息都来源于网络，不保证外部链接的准确性和完整性，同时，对于该外部链接的指向，不由本站实际控制，内容如出现违规，可以直接联系网站管理员进行删除。
致力于优质、实用的网络站点资源收集与分享！
⚡ 相关工具 20
白日梦AI是光魔科技推出的一站式AI长视频创作平台，支持输入文本一键生成最长50分钟的高质量视频。核心功能包括智能分镜设计、角色一致性保持、30+视觉风格模板、AI多声线配音与口型同步，以及静态图转动效。零门槛全流程自动化，特别适合小说推文、AI短剧、儿童绘本、营销推广等场景，帮助创作者快速将创意转化为专业视频内容。
纳米AI是360集团推出的新一代AI搜索引擎与超级搜索智能体，基于CoE专家协同架构整合16家大模型50余款模型，支持多模态搜索、深度搜索、智能体自主执行任务。提供搜学写创全链路能力，可生成PPT、报告、视频等可交付成果，跨平台搜索打破信息围墙，适合办公创作与生活决策场景。
笔目鱼是小绿鲸团队推出的AI英文论文写作器，集学科翻译、学术润色、SCI高分例句、降AIGC、查重、文献管理于一体，覆盖113个学科、30亿+语料，专为中国科研人打造。
造梦次元是深圳想法流科技推出的AI多模态互动内容平台，支持与虚拟角色实时聊天、多分支剧情共创、形象定制和内容生成。集成豆包、文心一言、商汤日日新、腾讯混元、通义千问等大模型，累计用户超1000万，是面向Z世代的AI原生互动故事与情感陪伴社区。
PromptFolder是AI提示词管理平台，支持ChatGPT和Midjourney提示词的创建、组织、版本管理和一键执行，提供Chrome扩展和Midjourney提示词生成器。
ArkClaw是火山引擎推出的企业级AI智能体平台，基于豆包大模型，提供智能体创建、技能编排和飞书深度集成，支持企业级安全隔离。
腾讯推出的操作系统层级AI助手，支持Windows、Mac、iOS、安卓全平台覆盖，提供本地+云端双模式，手机远程接管电脑，文件智能管理，一句话完成系统设置，为你打造24小时在线的个人AI助理。
NextCut AI是以无限画布为核心的AI视频创作平台，集成节点式AI工作流、图像动态化、多模态内容生成和专业后期处理功能。支持Stable Diffusion、FLUX PRO等模型，提供从创意输入到8K HDR成品交付的全流程能力，适合AI漫剧、短视频和专业视频创作。
SingClaw 是 AI 数据桌面助手，是会记忆、会分析、会行动的新一代桌面智能体。真正能根据背景记忆替你管理文件，整合多渠道数据、精准分析数据、自动化/更快速的构建数据 pipeline、建立数据洞察 “AI 伙伴 “。
AI作物病害诊断应用，农民拍摄作物照片即可识别病虫害。覆盖30+作物和400+病害。
句方便是轻量化网页端AI 公众号智能排版 SaaS 工具，专注新媒体图文排版场景，依托微信生态实现快捷免注册登录，一站式完成文案优化、AI 自动排版、格式一键复制，适配公众号、小红书、头条等全平台新媒体内容产出，无需下载客户端，浏览器访问seneasy.cloud/dashboard即可使用。
美图AI消除是美图设计室推出的AI图片物体抹除工具，支持智能识别与消除路人、水印、杂物等元素，自动填充背景无痕修复，提供涂抹和框选两种操作方式，会员仅0.9元起，适合电商运营、旅行摄影和社交媒体用户。
音秘AudioMyst是百度推出的AI播客创作平台，集AI脚本生成、多角色语音合成、10秒音色克隆、背景音乐配乐于一体，支持精简/深度模式、边生成边试听、播客广场互动，目前完全免费，适合自媒体播客、知识分享和企业品牌传播。
ChatGPT是OpenAI推出的AI聊天助手，基于GPT-4o/GPT-4.1大模型，支持多模态对话、代码执行、图像生成、联网搜索和自定义GPT。全球用户超4亿，免费版提供GPT-4o mini，Plus版20美元/月解锁GPT-4o完整功能，是当前全球最流行的AI助手。
课灵PPT是一款面向教育场景的AI智能PPT生成工具，输入主题即可一键生成完整课件，支持大纲编辑、模板选择、在线修改和PPTX导出，帮助教师和学生快速制作课堂教学演示文稿。
面多多是面试鸭推出的AI模拟面试平台，提供沉浸式综合面试、专项练习、简历押题等功能，7x24小时AI面试官随时陪练，帮助求职者高效备战面试。
新工具，先搜索确认信息。 信息齐全，开始生成。 ``` Paperpal是意得辑（Editage/CACTUS开科思）面向科研人员推出的AI学术写作助手，主打英文学术语言润色、句段改写、学术翻译、AI助写、智能PDF对话、查重与投稿前预检，覆盖SCI/SSCI投稿场景，
百度作家平台是百度推出的AI小说创作平台，支持幻想故事、现代言情、古代言情、青春校园等多种题材的AI辅助小说创作，提供故事生成、角色设定、章节续写等功能，适合网络小说作者和创意写作者高效产出小说内容。
ppword 是重复请求（13:57 已生成过），直接复用上次产出。 ppword 第 1 次重复请求，复用 13:57 产出： ``` ppword是聚合60+全球顶级AI模型的国内长期稳定运行的ChatGPT应用网站，
Typecast是Neosapience推出的AI语音生成平台，提供700+自然情感AI音色、智能情感控制、语音克隆、AI数字人视频等功能。支持韩语、英语、日语等多语言，30秒音频即可克隆专属声音，适用于YouTube配音、播客、有声书、广告等场景。
💬 用户评论
快来发表第一条评论吧！