AI

移动深度学习

PyTorch Mobile

框架

PyTorch Mobile

随着应用程序继续要求更低的延迟，在边缘设备上运行ML的重要性越来越重要。它也是诸如联合学习之类的隐私保护技术的基础要素。从 PyTorch 1.3 开始，PyTorch 支持从 Python 到在 iOS 和 Android 上部署的端到端工作流。

这是一个早期的实验版本，我们将在接下来的几个月中在以下几个方面进行开发：

  • 提供 API，涵盖将ML集成到移动应用程序中所需的常见预处理和集成任务
  • 支持 QNNPACK 量化内核库并支持 ARM CPU
  • 根据用户应用程序所需的运算符，进行构建级别的优化和选择性编译（即，仅为所需的运算符支付二进制大小）
  • 进一步改善移动 CPU 和 GPU 的性能和覆盖范围

了解更多信息或开始使用 Android 或 iOS。

TensorFlow Lite

在移动设备和 IoT 设备上部署机器学习模型

TensorFlow Lite 是一种用于设备端推断的开源深度学习框架。

查看指南

指南介绍了 TensorFlow Lite 的概念和组件。

查看示例

探索使用 TensorFlow Lite 的 Android 和 iOS 应用。

查看模型

轻松地部署预训练模型。

工作原理

  • 选择模型

选择新模型或重新训练现有模型。

  • 转换

使用 TensorFlow Lite Converter 将 TensorFlow 模型转换为压缩的 FlatBuffer 文件。

  • 部署

获取压缩的 .tflite 文件，并将其加载到移动设备或嵌入式设备中。

  • 优化

通过将 32 位浮点数转换为更高效的 8 位整数进行量化，或者在 GPU 上运行。

常见问题的解决方案

探索帮助解决常见移动和边缘用例的优化模型。

查看所有用例

  • 图像分类

识别数百个对象，包括人、活动、动物、植物和地点。

  • 对象检测

使用边界框检测多个对象。是的，包括狗和猫。

  • 智能回复

生成回复建议以输入对话聊天消息。

案例

移动深度学习主要应用为物体检测和分类。

  • 主体检测（ObjectDetection）：物体的大小和位置
  • 分类：种类 & 概率

部署

  • 云端服务器：性能和体验都会非常差，也会消耗大量的服务器资源，企业成本会骤增
  • 移动端：提升用户体验

案例

  • 物体识别
  • 风格迁移
  • 视频主体检测
  • 语音识别
  • 自然语言处理
  • 听歌识曲
  • ...