You can not select more than 25 topics
Topics must start with a letter or number, can include dashes ('-') and can be up to 35 characters long.
Bobholamovic
6b7c5ca0b6
|
2 years ago | |
---|---|---|
.. | ||
configs | 2 years ago | |
docs | 2 years ago | |
.gitignore | 2 years ago | |
README.md | 2 years ago | |
common_func.sh | 2 years ago | |
config_utils.py | 2 years ago | |
infer.py | 2 years ago | |
prepare.sh | 2 years ago | |
run_task.py | 2 years ago | |
test_train_inference_python.sh | 2 years ago |
README.md
飞桨训推一体全流程(TIPC)
1 简介
飞桨除了基本的模型训练和预测,还提供了支持多端多平台的高性能推理部署工具。本文档提供了飞桨训推一体全流程(Training and Inference Pipeline Criterion(TIPC))信息和测试工具,方便用户查阅每种模型的训练推理部署打通情况,并可以进行一键测试。
2 汇总信息
打通情况汇总如下,已填写的部分表示可以使用本工具进行一键测试,未填写的表示正在支持中。
字段说明:
- 基础训练预测:指Linux GPU/CPU环境下的模型训练、Paddle Inference Python预测。
- 更多训练方式:包括多机多卡、混合精度训练。
- 更多部署方式:包括C++预测、Serving服务化部署、ARM端侧部署等多种部署方式,具体列表见3.3节
- Slim训练部署:包括PACT在线量化、离线量化。
- 更多训练环境:包括Windows GPU/CPU、Linux NPU、Linux DCU等多种环境。
任务类别 | 模型名称 | 基础 训练预测 |
更多 训练方式 |
更多 部署方式 |
Slim 训练部署 |
更多 训练环境 |
---|---|---|---|---|---|---|
变化检测 | BIT | 支持 | - | - | - | |
场景分类 | HRNet | 支持 | - | - | - | |
目标检测 | PP-YOLO | 支持 | - | - | - | |
图像分割 | UNet | 支持 | - | - | - |
3 测试工具简介
3.1 目录介绍
test_tipc
|--configs # 配置目录
| |--task_name # 任务名称
| |--model_name # 模型名称
| |--train_infer_python.txt # 基础训练推理测试配置文件
|--docs # 文档目录
| |--test_train_inference_python.md # 基础训练推理测试说明文档
|----README.md # TIPC说明文档
|----prepare.sh # TIPC基础训练推理测试数据准备脚本
|----test_train_inference_python.sh # TIPC基础训练推理测试解析脚本
|----common_func.sh # TIPC基础训练推理测试常用函数
3.2 测试流程概述
使用本工具,可以测试不同功能的支持情况。测试过程包含:
- 准备数据与环境;
- 运行测试脚本,观察不同配置是否运行成功。
3.3 开始测试
请参考相应文档,完成指定功能的测试。
- 基础训练预测测试: