Package: fastdeploy-py3
⚡️FastDeploy特性|安装|快速开始|社区交流⚡️FastDeploy是一款简单易用的推理部署工具箱。覆盖业界主流优质预训练模型并提供开箱即用的开发体验，包括图像分类、目标检测、图像分割、人脸检测、人体关键点识别、文字识别等多任务，满足开发者多场景，多硬件、多平台的快速部署需求。News 📢🔥 2022.6.30 晚20:30，⚡️FastDeploy天使用户邀测沟通会，与开发者共同讨论推理部署痛点问题，欢迎大家扫码报名入群获取会议链接。🔥 2022.6.27⚡️FastDeploy v0.1.0测试版发布！🎉💎 发布40个重点模型在8种重点软硬件环境的支持的SDK😊 支持网页端、pip包两种下载使用方式特性📦开箱即用的推理部署工具链，支持云边端、多硬件、多平台部署网页端点选下载、PIP 安装一行命令，快速下载多种类型SDK安装包云端（含服务器、数据中心）：支持一行命令启动 Serving 服务（含网页图形化展示）支持一行命令启动图像、本地视频流、本地摄像头、网络视频流预测支持 Window、Linux 操作系统支持 Python、C++ 编程语言边缘端：支持 NVIDIA Jetson 等边缘设备，支持视频流预测服务端侧（含移动端）支持 iOS、Android 移动端支持 ARM CPU 端侧设备支持主流硬件支持 Intel CPU 系列（含酷睿、至强等）支持 ARM CPU 全系（含高通、MTK、RK等）支持 NVIDIA GPU 全系（含 V100、T4、Jetson 等）🤗丰富的预训练模型，轻松下载SDK搞定推理部署模型任务大小(MB)端侧移动端移动端边缘端服务器+云端服务器+云端服务器+云端服务器+云端--------------LinuxAndroidiOSLinuxLinuxLinuxWindowsWindows------------ARM CPUARM CPUARM CPUJetsonX86 CPUGPUX86 CPUGPUPP-LCNetClassfication11.9✅✅✅✅✅✅✅✅PP-LCNetv2Classfication26.6✅✅✅✅✅✅✅✅EfficientNetClassfication31.4✅✅✅✅✅✅✅✅GhostNetClassfication20.8✅✅✅✅✅✅✅✅MobileNetV1Classfication17✅✅✅✅✅✅✅✅MobileNetV2Classfication14.2✅✅✅✅✅✅✅✅MobileNetV3Classfication22✅✅✅✅✅✅✅✅ShuffleNetV2Classfication9.2✅✅✅✅✅✅✅✅SqueezeNetV1.1Classfication5✅✅✅✅✅✅✅✅Inceptionv3Classfication95.5✅✅✅✅✅✅✅✅PP-HGNetClassfication59✅✅✅✅✅✅✅✅ResNet50_vdClassfication102.5❌❌❌✅✅✅✅✅SwinTransformer_224_win7Classfication352.7✅✅✅✅✅✅✅✅PP-PicoDet_s_320_cocoDetection4.1✅✅✅✅✅✅✅✅PP-PicoDet_s_320_lcnetDetection4.9✅✅✅✅✅✅✅✅CenterNetDetection4.8✅✅✅✅✅✅✅✅YOLOv3_MobileNetV3Detection94.6✅✅✅✅✅✅✅✅PP-YOLO_tiny_650e_cocoDetection4.4✅✅✅✅✅✅✅✅SSD_MobileNetV1_300_120e_vocDetection23.3✅✅✅✅✅✅✅✅YOLOX_Nano_300e_cocoDetection3.7❌❌❌✅✅✅✅✅PP-YOLO_ResNet50vdDetection188.5✅✅✅✅✅✅✅✅PP-YOLOv2_ResNet50vdDetection218.7✅✅✅✅✅✅✅✅PP-YOLO_crn_l_300e_cocoDetection209.1✅✅✅✅✅✅✅✅YOLOv5sDetection29.3✅✅✅✅✅✅✅✅Faster R-CNN_r50_fpn_1x_cocoDetection167.2❌❌❌✅✅✅✅✅BlazeFaceFace Detection1.5✅✅✅✅✅✅✅✅RetinaFaceFace Localisation1.7✅❌❌✅✅✅✅✅PP-TinyPoseKeypoint Detection5.5✅✅✅✅✅✅✅✅PP-LiteSeg(STDC1)Segmentation32.2✅✅✅✅✅✅✅✅PP-HumanSeg-LiteSegmentation0.556✅✅✅✅✅✅✅✅HRNet-w18Segmentation38.7✅✅✅❌✅✅✅✅Mask R-CNN_r50_fpn_1x_cocoSegmentation107.2❌❌❌✅✅✅✅✅PP-HumanSeg-ServerSegmentation107.2✅✅✅✅✅✅✅✅UnetSegmentation53.7❌✅❌❌✅✅✅❌Deeplabv3-ResNet50Segmentation156.5❌❌❌❌✅✅✅✅PP-OCRv1OCR2.3+4.4✅✅✅✅✅✅✅✅PP-OCRv2OCR2.3+4.4✅✅✅✅✅✅✅✅PP-OCRv3OCR2.4+10.6✅✅✅✅✅✅✅✅PP-OCRv3-tinyOCR2.4+10.7✅✅✅✅✅✅✅✅SDK安装方式1：网页版下载安装可以登录EasyEdge网页端下载SDK方式2：pip安装开发者可以通过pip安装fastdeploy-python来获取最新的下载链接环境依赖python >= 3.6安装方式pip install fastdeploy-python --upgrade使用方式列出FastDeploy当前支持的所有模型fastdeploy --list_models下载模型在具体平台和对应硬件上的部署SDK以及示例fastdeploy --download_sdk \
           --model PP-PicoDet-s_320 \
           --platform Linux \
           --soc x86 \
           --save_dir .参数说明list_models: 列出FastDeploy当前最新支持的所有模型download_sdk: 下载模型在具体平台和对应硬件上的部署SDK以及示例model: 模型名，如"PP-PicoDet-s_320"，可通过list_models查看所有的可选项platform: 部署平台，支持 Windows/Linux/Android/iOSsoc: 部署硬件，支持 x86/x86-NVIDIA-GPU/ARM/Jetsonsave_dir: SDK下载保存目录SDK使用1 云+服务器部署Linux 系统(X86 CPU、NVIDIA GPU)C++ Inference部署（含视频流）C++ 服务化部署Python Inference部署Python 服务化部署Window系统(X86 CPU、NVIDIA GPU)C++ Inference部署（含视频流）C++ 服务化部署Python Inference部署Python 服务化部署2 边缘侧部署ArmLinux 系统（NVIDIA Jetson Nano/TX2/Xavier）C++ Inference部署（含视频流）C++ 服务化部署3 端侧部署ArmLinux 系统(ARM CPU)C++ Inference部署（含视频流）C++ 服务化部署Python Inference部署Python 服务化部署4 移动端部署iOS 系统部署Android 系统部署5 自定义模型部署快速实现个性化模型替换社区交流加入社区👬：微信扫描二维码后，填写问卷加入交流群，与开发者共同讨论推理部署痛点问题Acknowledge本项目中SDK生成和下载使用了EasyEdge中的免费开放能力，再次表示感谢。LicenseFastDeploy遵循Apache-2.0开源协议。