CANN/AMCT恢复量化重训练模型

restore_quant_retrain_model【免费下载链接】amctAMCT是CANN提供的昇腾AI处理器亲和的模型压缩工具仓。项目地址: https://gitcode.com/cann/amct产品支持情况产品是否支持Ascend 950PR/Ascend 950DT√Atlas A3 训练系列产品 / Atlas A3 推理系列产品√Atlas A2 训练系列产品 / Atlas A2 推理系列产品√功能说明量化感知训练接口将输入的待量化的图结构按照给定的量化感知训练配置文件进行量化处理在传入的图结构中插入量化感知训练相关的算子数据和权重的量化感知训练层以及找N的层生成量化因子记录文件record_file加载训练过程中保存的checkpoint权重参数返回修改后的torch.nn.Module量化感知训练模型。函数原型quant_retrain_model restore_quant_retrain_model (config_file, model, record_file, input_data, pth_file, state_dict_nameNone)参数说明参数名输入/输出说明config_file输入含义用户生成的量化感知训练配置文件用于指定模型network中量化层的配置情况。数据类型string使用约束该接口输入的config.json必须和create_quant_retrain_model接口输入的config.json一致。model输入含义待进行量化感知训练的原始模型未加载权重。数据类型torch.nn.Modulerecord_file输入含义量化因子记录文件路径及名称。数据类型stringinput_data输入含义模型的输入数据。一个torch.tensor会被等价为tupletorch.tensor。数据类型tuplepth_file输入含义训练过程中保存的权重文件。数据类型stringstate_dict_name输入含义权重文件中的权重对应的键值。默认值None数据类型string返回值说明返回修改后的torch.nn.Module量化感知训练模型。调用示例import amct_pytorch as amct # 建立待量化的网络图结构 model build_model() input_data tuple([torch.randn(input_shape)]) scale_offset_record_file os.path.join(TMP, scale_offset_record.txt) # 插入量化API quant_retrain_model amct.restore_quant_retrain_model( config_json_file, model, scale_offset_record_file, input_data, pth_file)【免费下载链接】amctAMCT是CANN提供的昇腾AI处理器亲和的模型压缩工具仓。项目地址: https://gitcode.com/cann/amct创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考