You can not select more than 25 topics Topics must start with a letter or number, can include dashes ('-') and can be up to 35 characters long.
 
 
 
Bobholamovic 6b7c5ca0b6 Merge branch 'develop' into refactor_det 2 years ago
..
configs 【论文复现赛】ChangeFormer (#13) 2 years ago
docs Add content to rs_data.md 2 years ago
.gitignore [TIPC] Initialize TIPC (#8) 2 years ago
README.md Add content to rs_data.md 2 years ago
common_func.sh [TIPC] Initialize TIPC (#8) 2 years ago
config_utils.py [TIPC] Initialize TIPC (#8) 2 years ago
infer.py _preprocess and _postprocess as public methods 2 years ago
prepare.sh [TIPC] Initialize TIPC (#8) 2 years ago
run_task.py [Fix] Do early-binding of transforms in run_task.py 2 years ago
test_train_inference_python.sh test_train_inference.sh->test_train_inference_python.sh 2 years ago

README.md

飞桨训推一体全流程(TIPC)

1 简介

飞桨除了基本的模型训练和预测,还提供了支持多端多平台的高性能推理部署工具。本文档提供了飞桨训推一体全流程(Training and Inference Pipeline Criterion(TIPC))信息和测试工具,方便用户查阅每种模型的训练推理部署打通情况,并可以进行一键测试。

2 汇总信息

打通情况汇总如下,已填写的部分表示可以使用本工具进行一键测试,未填写的表示正在支持中。

字段说明:

  • 基础训练预测:指Linux GPU/CPU环境下的模型训练、Paddle Inference Python预测。
  • 更多训练方式:包括多机多卡、混合精度训练。
  • 更多部署方式:包括C++预测、Serving服务化部署、ARM端侧部署等多种部署方式,具体列表见3.3节
  • Slim训练部署:包括PACT在线量化、离线量化。
  • 更多训练环境:包括Windows GPU/CPU、Linux NPU、Linux DCU等多种环境。
任务类别 模型名称 基础
训练预测
更多
训练方式
更多
部署方式
Slim
训练部署
更多
训练环境
变化检测 BIT 支持 - - -
场景分类 HRNet 支持 - - -
目标检测 PP-YOLO 支持 - - -
图像分割 UNet 支持 - - -

3 测试工具简介

3.1 目录介绍

test_tipc
    |--configs                                      # 配置目录
    |    |--task_name                               # 任务名称
    |           |--model_name                       # 模型名称
    |                   |--train_infer_python.txt   # 基础训练推理测试配置文件
    |--docs                                         # 文档目录
    |   |--test_train_inference_python.md           # 基础训练推理测试说明文档
    |----README.md                                  # TIPC说明文档
    |----prepare.sh                                 # TIPC基础训练推理测试数据准备脚本
    |----test_train_inference_python.sh             # TIPC基础训练推理测试解析脚本
    |----common_func.sh                             # TIPC基础训练推理测试常用函数

3.2 测试流程概述

使用本工具,可以测试不同功能的支持情况。测试过程包含:

  1. 准备数据与环境;
  2. 运行测试脚本,观察不同配置是否运行成功。

3.3 开始测试

请参考相应文档,完成指定功能的测试。