CANN/pypto张量创建指南

Tensor的创建【免费下载链接】pyptoPyPTO发音: pai p-t-oParallel Tensor/Tile Operation编程范式。项目地址: https://gitcode.com/cann/pyptoTensor是PyPTO中的基本数据结构用于表示将在计算图中使用并在NPU上执行的多维数组。在PyPTO中Tensor表示其数据的结构和属性这使得PyPTO能够构建计算图并在执行前对其进行优化。Tensor在执行时才包含实际值未初始化的Tensor中的值都是随机的在执行时需要按需初始化。创建Tensor创建基础Tensor#创建形状为[2, 3]、数据类型为FP16的Tensor tensor pypto.tensor([2, 3], pypto.DT_FP16, my_tensor)参数说明shape维度支持整数列表。dtype表示Tensor中存储的数据类型支持DataType类型例如DT_FP16表示16位半精度浮点数。name名称支持字符串类型可选。但建议为Tensor提供有意义的名称以便于调试和理解计算图结构。format数据排布格式支持TileOpFormat类型可选默认为TILEOP_ND。 format显式标记时, 性能更优, 要求传入的torch tensor与pypto.Tensor声明的format一致;创建带格式的Tensor#使用NZ格式创建一个Tensor tensor pypto.tensor([-1, 32], pypto.DT_FP16, nz_tensor, pypto.TileOpFormat.TILEOP_NZ)支持的格式TILEOP_NDND格式N维数组在PyPTO中采用行优先模式。TILEOP_NZNZ格式矩阵乘相关的特殊格式。二维矩阵被分为若干个分形分形大小更能适配一次Cube计算分形按照列优先即N字形排布每个分形按照行优先即Z字形排布。详细介绍请参见数据排布格式。在子函数内创建Tensor并返回至主函数def sub_function(): #创建形状为[2, 3]、数据类型为FP16的Tensor tensor pypto.tensor([2, 3], pypto.DT_FP16, my_tensor) return tensor def main_function(): sub_tensor sub_function()PyTorch的Tensor转换为PyPTO的Tensor# prepare data input_data torch.rand(shape, dtypetorch.float, devicenpu) output_data torch.zeros(shape, dtypetorch.float, devicenpu) #convert from torch tensor to pypto tensor pto_input pypto.from_torch(input_data, in_0) pto_output pypto.from_torch(output_data, out_0)查看Tensor属性Tensor包括形状shape、数据类型dtype、数据排布格式format、维数dim、名称name等基本属性通过pypto.tensor相关操作接口可以查询这些属性信息。tensor pypto.tensor([2,3, 4], pypto.DT_FP16, example) #形状 print(tensor.shape) #[2, 3, 4] #数据类型 print(tensor.dtype) #数据类型.DT_FP16 #维数 print(tensor.dim) # 3 #格式 print(tensor.format) #TILEOP_ND #名称 print(tensor.name) # example tensor.name new_name #可以更改动态维度Tensor的处理在实际应用场景Tensor通常是个可变长的数据。可通过以下方法定义动态Shape的Tensor并通过-1标记动态维度tensor pypto.tensor([-1, 32], pypto.DT_FP16, dynamic) #打印tensor的维度SymbolicScalar表示当前Shape为符号化标量 print(tensor.shape) [SymbolicScalar(RUNTIME_GetInputShapeDim(ARG_dynamic,0)), 32]通过如下方法可以获取动态维度的符号化标量在运行时获取具体数值b pypto.symbolic_scalar(tensor_shape[0])如果Tensor继承自PyTorch Tensor可以通过pypto.from_torch接口的参数dynamic_axis [int]来定义动态维度的Tensor。# prepare data input_data torch.rand(shape, dtypetorch.float, devicenpu) output_data torch.zeros(shape, dtypetorch.float, devicenpu) #convert from torch tensor to pypto tensor with dynamic axis pto_input pypto.from_torch(input_data, in_0, dynamic_axis[0]) pto_output pypto.from_torch(output_data, out_0, dynamic_axis[0])【免费下载链接】pyptoPyPTO发音: pai p-t-oParallel Tensor/Tile Operation编程范式。项目地址: https://gitcode.com/cann/pypto创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考