| #/usr/src/tensorrt/bin/trtexec --onnx=yolo_nas_pose_n_fp32.onnx --avgRuns=100 --duration=15 --saveEngine=yolo_nas_pose_n_fp32.onnx.fp32.engine > yolo_nas_pose_n_fp32.onnx.fp32.engine.log 2> yolo_nas_pose_n_fp32.onnx.fp32.engine.err | |
| #/usr/src/tensorrt/bin/trtexec --onnx=yolo_nas_pose_n_fp32.onnx --fp16 --avgRuns=100 --duration=15 --saveEngine=yolo_nas_pose_n_fp32.onnx.fp16.engine > yolo_nas_pose_n_fp32.onnx.fp16.engine.log 2> yolo_nas_pose_n_fp32.onnx.fp16.engine.err | |
| #/usr/src/tensorrt/bin/trtexec --onnx=yolo_nas_pose_n_fp32.onnx --best --avgRuns=100 --duration=15 --saveEngine=yolo_nas_pose_n_fp32.onnx.best.engine > yolo_nas_pose_n_fp32.onnx.best.engine.log 2> yolo_nas_pose_n_fp32.onnx.best.engine.err | |
| #/usr/src/tensorrt/bin/trtexec --onnx=yolo_nas_pose_n_fp32.onnx --int8 --avgRuns=100 --duration=15 --saveEngine=yolo_nas_pose_n_fp32.onnx.int8.engine > yolo_nas_pose_n_fp32.onnx.int8.engine.log 2> yolo_nas_pose_n_fp32.onnx.int8.engine.err | |
| #/usr/src/tensorrt/bin/trtexec --onnx=yolo_nas_pose_n_int8.onnx --int8 --avgRuns=100 --duration=15 --saveEngine=yolo_nas_pose_n_int8.onnx.int8.engine > yolo_nas_pose_n_int8.onnx.int8.engine.log 2> yolo_nas_pose_n_int8.onnx.int8.engine.err | |
| #/usr/src/tensorrt/bin/trtexec --onnx=yolo_nas_pose_s_fp32.onnx --avgRuns=100 --duration=15 --saveEngine=yolo_nas_pose_s_fp32.onnx.fp32.engine > yolo_nas_pose_s_fp32.onnx.fp32.engine.log 2> yolo_nas_pose_s_fp32.onnx.fp32.engine.err | |
| #/usr/src/tensorrt/bin/trtexec --onnx=yolo_nas_pose_s_fp32.onnx --fp16 --avgRuns=100 --duration=15 --saveEngine=yolo_nas_pose_s_fp32.onnx.fp16.engine > yolo_nas_pose_s_fp32.onnx.fp16.engine.log 2> yolo_nas_pose_s_fp32.onnx.fp16.engine.err | |
| #/usr/src/tensorrt/bin/trtexec --onnx=yolo_nas_pose_s_fp32.onnx --best --avgRuns=100 --duration=15 --saveEngine=yolo_nas_pose_s_fp32.onnx.best.engine > yolo_nas_pose_s_fp32.onnx.best.engine.log 2> yolo_nas_pose_s_fp32.onnx.best.engine.err | |
| #/usr/src/tensorrt/bin/trtexec --onnx=yolo_nas_pose_s_fp32.onnx --int8 --avgRuns=100 --duration=15 --saveEngine=yolo_nas_pose_s_fp32.onnx.int8.engine > yolo_nas_pose_s_fp32.onnx.int8.engine.log 2> yolo_nas_pose_s_fp32.onnx.int8.engine.err | |
| #/usr/src/tensorrt/bin/trtexec --onnx=yolo_nas_pose_s_int8.onnx --int8 --avgRuns=100 --duration=15 --saveEngine=yolo_nas_pose_s_int8.onnx.int8.engine > yolo_nas_pose_s_int8.onnx.int8.engine.log 2> yolo_nas_pose_s_int8.onnx.int8.engine.err | |
| onnx_models=( | |
| "yolo_nas_pose_n_fp32" | |
| "yolo_nas_pose_n_fp16" | |
| "yolo_nas_pose_n_int8" | |
| "yolo_nas_pose_s_fp32" | |
| "yolo_nas_pose_s_fp16" | |
| "yolo_nas_pose_s_int8" | |
| "yolo_nas_pose_m_fp32" | |
| "yolo_nas_pose_m_fp16" | |
| "yolo_nas_pose_m_int8" | |
| "yolo_nas_pose_l_fp32" | |
| "yolo_nas_pose_l_fp16" | |
| "yolo_nas_pose_l_int8" | |
| ) | |
| for onnx in "${onnx_models[@]}"; do | |
| for opt in "" "--fp16" "--best" "--int8"; do | |
| suffix="" | |
| if [ ! -z "$opt" ]; then | |
| suffix=".${opt:2}" | |
| fi | |
| /usr/src/tensorrt/bin/trtexec --onnx=${onnx}.onnx $opt --avgRuns=100 --duration=15 --saveEngine=${onnx}.onnx${suffix}.engine > ${onnx}.onnx${suffix}.engine.log 2> ${onnx}.onnx${suffix}.engine.err | |
| done | |
| done | |