
--dynamic_image_size【免费下载链接】geGEGraph Engine是面向昇腾的图编译器和执行器提供了计算图优化、多流并行、内存复用和模型下沉等技术手段加速模型执行效率减少模型内存占用。 GE 提供对 PyTorch、TensorFlow 前端的友好接入能力并同时支持 onnx、pb 等主流模型格式的解析与编译。项目地址: https://gitcode.com/cann/ge产品支持情况全量芯片支持IPV350不支持功能说明设置输入图片的动态分辨率参数。适用于执行推理时每次处理图片宽和高不固定的场景。关联参数该参数需要与--input_shape配合使用不能与--dynamic_batch_size、--dynamic_dims同时使用。使用该参数设置动态分辨率时--input_format参数只支持配置为NCHW、NHWC其他format场景下设置分辨率请使用--dynamic_dims参数。参数取值参数值动态分辨率参数例如imagesize1_height,imagesize1_width;imagesize2_height,imagesize2_width。参数值格式指定的参数必须放在双引号中档位之间英文分号分隔每档内参数使用英文逗号分隔。参数值约束针对如下产品档位数约束为档位数取值范围为(1,100]即必须设置至少2个档位最多支持100档配置。Atlas A3 训练系列产品/Atlas A3 推理系列产品Atlas A2 训练系列产品/Atlas A2 推理系列产品Atlas 200I/500 A2 推理产品Atlas 推理系列产品Atlas 训练系列产品针对Ascend 950PR/Ascend 950DT档位数约束为档位数取值范围为(1, 256]即必须设置至少2个档位最多支持256档配置。如果用户设置的分辨率数值过大或档位过多在运行环境执行推理时建议执行swapoff -a命令关闭swap交换区间作为内存的功能防止出现由于内存不足将swap交换空间作为内存继续调用导致运行环境异常缓慢的情况。推荐配置及收益如果用户设置的分辨率数值过大或档位过多可能会导致模型转换失败此时建议用户减少档位或调低档位数值。示例atc --input_shapedata:8,3,-1,-1;img_info:8,4,-1,-1 --dynamic_image_size416,416;832,832 ...其中“--input_shape”中的“-1”表示设置动态分辨率。则ATC在编译模型时支持的输入组合档数分别为第0档data(8,3,416,416)img_info(8,4,416,416)第1档data(8,3,832,832)img_info(8,4,832,832)依赖约束使用约束不支持含有过程动态shape算子网络中间层shape不固定的网络。如果用户设置了动态分辨率则请确保不同档位的分辨率能在原生框架下正常推理。如果用户设置了动态分辨率实际推理时使用的数据集图片大小需要与具体使用的分辨率相匹配。如果用户设置了动态分辨率即输入图片的宽和高不确定同时又通过--insert_op_conf参数设置了静态AIPP功能该场景下AIPP配置文件中不能开启Crop和Padding功能并且需要将配置文件中的src_image_size_w和src_image_size_h取值设置为0。如果用户设置了动态分辨率同时又通过--insert_op_conf参数设置了动态AIPP功能实际推理时调用aclmdlSetInputAIPP接口设置动态AIPP相关参数值时不能开启Crop和Padding功能。该场景下还需要确保通过aclmdlSetInputAIPP接口设置的宽和高与aclmdlSetDynamicHWSize接口设置的宽、高相等都必须设置成动态分辨率最大档位的宽、高。通过该参数设置动态分辨率特性后生成的离线模型网络结构会与固定分辨率场景下的不同推理性能可能存在差异。接口约束如果模型转换时通过该参数设置了动态分辨率则使用应用工程进行模型推理时在模型执行接口之前使用aclmdlSetDynamicHWSize接口用于设置真实的分辨率且实际推理时使用的数据集图片大小需要与具体使用的分辨率相匹配。不使用aclmdlSetDynamicHWSize接口则模型执行时默认按照动态分辨率设置范围的最大档位宽、高进行赋值。【免费下载链接】geGEGraph Engine是面向昇腾的图编译器和执行器提供了计算图优化、多流并行、内存复用和模型下沉等技术手段加速模型执行效率减少模型内存占用。 GE 提供对 PyTorch、TensorFlow 前端的友好接入能力并同时支持 onnx、pb 等主流模型格式的解析与编译。项目地址: https://gitcode.com/cann/ge创作声明:本文部分内容由AI辅助生成(AIGC),仅供参考