当前位置： 首页 > article >正文

CANN/catlass Swizzle策略说明

article 2026/5/10 3:34:35
Swizzle策略说明【免费下载链接】catlass本项目是CANN的算子模板库提供NPU上高性能矩阵乘及其相关融合类算子模板样例。项目地址: https://gitcode.com/cann/catlassSwizzle策略决定了AI Core计算基本块的顺序。调整Swizzle策略有助于提高缓存命中率、减小数据读取开销从而提高矩阵乘整体计算效率。下方展示了3种Swizzle策略。图中每一个方块表示C矩阵的一个基本块方块中的序号代表AI Core的编号该示例中假设AI Core数量为20。箭头方向指示了特定Swizzle策略下基本块的遍历顺序我们按照该顺序将基本块依次分配给AI Core进行处理编号0~19的20个基本块是并行计算的。示例1默认的Swizzle策略为SwizzleOffset1、SwizzleDirection0即using BlockScheduler typename Gemm::Block::GemmIdentityBlockSwizzle;示例2SwizzleOffset3、SwizzleDirection0using BlockScheduler typename Gemm::Block::GemmIdentityBlockSwizzle3, 0;示例3SwizzleOffset3、SwizzleDirection1using BlockScheduler typename Gemm::Block::GemmIdentityBlockSwizzle3, 1;Swizzle策略选择如果C矩阵的大小为M x N那么当M N时采用SwizzleOffset3、SwizzleDirection0通常情况下能够达到较好的性能当M N时采用SwizzleOffset3、SwizzleDirection1通常情况下可以达到较好的性能。开发者也可以探索其他参数设置以达到更高的缓存命中率从而进一步提高矩阵计算性能。【免费下载链接】catlass本项目是CANN的算子模板库提供NPU上高性能矩阵乘及其相关融合类算子模板样例。项目地址: https://gitcode.com/cann/catlass创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考

相关文章：

CANN/catlass Swizzle策略说明

Swizzle策略说明 【免费下载链接】catlass 本项目是CANN的算子模板库，提供NPU上高性能矩阵乘及其相关融合类算子模板样例。 项目地址: https://gitcode.com/cann/catlass Swizzle策略决定了AI Core计算基本块的顺序。调整Swizzle策略有助于提高缓存命中率、减…...

编程日记 2026/5/10 3:34:35

dotai-cli：AI命令行工具的设计原理与工程实践

1. 项目概述：一个面向开发者的AI命令行工具最近在GitHub上看到一个挺有意思的项目，叫nbslabs/dotai-cli。光看名字，你可能会联想到.env文件或者dotfiles这类开发者常用的配置管理方式，没错，这个项目的核心思路就是把AI…...

编程日记 2026/5/10 3:34:34

CANN/ops-collections昇腾容器库

ops-collections 【免费下载链接】ops-collections ops-collections是基于昇腾硬件的高性能容器模板库，提供运行在NPU上的static_map、dynamic_map、set等容器。利用最新的SIMT并发能力，支持对容器的批量插入、查找等操作，提升整个系统的能力…...

编程日记 2026/5/10 3:34:31

基于Vue 3与Vite的现代化中后台前端解决方案：fast-soy-admin深度解析

1. 项目概述：一个为现代Web应用提速的“脚手架” 最近在折腾一个内部管理系统的重构，前端技术栈选型时，一个绕不开的话题就是“脚手架”。对于有一定规模的团队来说，从零开始配置Webpack、Vite、集成路由、状态管理、UI库、权限、…...

编程日记 2026/5/10 3:34:31

2026株洲AI床垫带来的超绝体验

床垫国标落地，大家都好奇2026年AI床垫能不能带来智能体验。我之前睡眠质量差，换了HEKA黑卡AI智能床垫后，睡眠改善不少，所以很有发言权。HEKA黑卡研发10年，内置230万组睡眠数据库，精准度有保障。它家成人床垫…...

编程日记 2026/5/10 3:34:28

基于Mirai与Spring Boot的QQ机器人开发实战：从零构建PCR公会战管理工具

1. 项目缘起与重生之路 作为一个在QQ机器人圈子里摸爬滚打了快十年的老玩家，我见证过不少框架的兴起与沉寂。最早自己捣鼓着用酷Q和PicqBotX框架，整合Spring写了个叫WMagicBot的小玩意儿，纯粹是自娱自乐。后来酷Q一夜之间停止服务&#xff0…...

编程日记 2026/5/10 3:32:25

GitHub仓库模板：现代软件项目的标准化起点与自动化实践

1. 项目概述：一个现代软件项目的“基因蓝图” 在软件开发的日常里，我们总会遇到一些重复性的“仪式感”工作：新建一个仓库，然后开始配置 .gitignore 、 README.md 、 LICENSE 、CI/CD流水线、代码规范检查工具……这些工作…...

编程日记 2026/5/10 3:32:25

构建AI智能体可信记忆系统：TrustMem架构、部署与调优指南

1. 项目概述：为AI智能体构建一个可信赖的“海马体”在AI智能体（AI Agent）的开发浪潮中，我们常常面临一个核心悖论：智能体拥有强大的推理与生成能力，却像一个患有严重健忘症的天才。它能在一次对话中为你撰写…...

编程日记 2026/5/10 3:32:25

多AI代理协同编码框架：结构化工作空间解决单代理上下文崩溃

1. 项目概述：一个为多AI代理协同编码而生的结构化工作空间如果你和我一样，在过去一年里深度使用过Claude Code、Cursor或者GitHub Copilot这类AI编程助手，那你一定经历过这种“甜蜜的烦恼”：你给AI一个复杂的任务，比如…...

编程日记 2026/5/10 3:32:22

量子计算与深度学习结合解决Frenkel激子模拟难题

1. 量子计算与Frenkel激子模拟的背景与挑战量子计算利用量子比特的叠加和纠缠特性，为解决复杂量子系统模拟问题提供了全新途径。在材料科学领域，Frenkel激子作为典型的局域化光学激发，其哈密顿量的求解对理解有机固体的光电性质至关重要。传统…...

编程日记 2026/5/10 3:32:19

Magisk深度解析：Android系统定制与Root权限的完整实战指南

Magisk深度解析：Android系统定制与Root权限的完整实战指南 【免费下载链接】Magisk The Magic Mask for Android 项目地址: https://gitcode.com/GitHub_Trending/ma/Magisk Magisk作为Android系统定制的瑞士军刀，通过独特的系统级修改技术&#…...

编程日记 2026/5/10 3:30:18

AI 术语通俗词典：自动微分

自动微分是机器学习、深度学习、数值计算和人工智能中非常常见的一个术语。它用来描述：让计算机根据程序中的计算过程，自动、准确地计算导数或梯度的方法。 换句话说，自动微分是在回答：当一个模型由许多层计算组成时，怎…...

编程日记 2026/5/10 3:30:18

AI 术语通俗词典：学习率

学习率是机器学习、深度学习、神经网络和人工智能中非常常见的一个术语。它用来描述：模型每次根据梯度更新参数时，步子迈得有多大。 换句话说，学习率是在回答：模型知道应该往哪个方向改参数之后，到底一次应该改多少。如…...

编程日记 2026/5/10 3:30:18

AI 术语通俗词典：梯度下降

梯度下降是数学优化、机器学习、深度学习和人工智能中非常常见的一个术语。它用来描述一种通过沿着损失函数下降最快的方向不断调整参数，从而让模型误差逐渐变小的方法。换句话说，梯度下降是在回答：模型已经知道自己错了，那么下一…...

编程日记 2026/5/10 3:30:18

Scikit-learn：从数据到结构——无监督学习的最小闭环

在 Scikit-learn 中，学习无监督学习并不只是学习某个聚类算法或降维方法的调用方式，更重要的是理解：当数据没有现成标签时，如何从一批样本中发现结构、生成结果，并判断这种结构是否具有解释价值。与监督学习不同&#…...

编程日记 2026/5/10 3:30:17

对比自行维护API中转与使用Taotoken在稳定性上的体感差异

🚀 告别海外账号与网络限制！稳定直连全球优质大模型，限时半价接入中。 👉 点击领取海量免费额度 对比自行维护API中转与使用Taotoken在稳定性上的体感差异 对于需要频繁调用大模型API的开发者而言，服务的稳定性是保障…...

编程日记 2026/5/10 3:28:16

从java改C++后速度变化记录

基本已经实现以前java功能，似乎还是存在卡顿。也就是说暂时还没有出现所谓的5-20倍速度提升。AI辩解：主要花费时间的是模型推理，不是语言计算。------所以解决方法已经出来了：降低推理频率。...

编程日记 2026/5/10 3:28:16

我发现深度神经网络DNN推理图片高度300也能正常运转

我的图片默认是1600x720,我发现只要保持图片比例不变，即使把图片缩放为 高度300也还是能正常工作：这个计算的速度至少是720的4倍以上...

编程日记 2026/5/10 3:28:16

Genkit AI应用框架：统一接口、类型安全与RAG实战指南

1. 从零到一：为什么我们需要 Genkit 这样的 AI 应用框架？ 如果你最近在尝试把大语言模型（LLM）集成到自己的应用里，不管是做个智能客服、内容摘要工具，还是更复杂的多步骤工作流，大概率已经踩过…...

编程日记 2026/5/10 3:28:16

基于大语言模型的LaTeX到HTML智能转换：提升学术文档可访问性

1. 项目概述：当学术文档遇见智能转换作为一名长期在学术出版和技术文档领域摸爬滚打的从业者，我几乎每天都要和LaTeX和HTML打交道。LaTeX是学术界和工程界的“标准语言”，用它排版的论文、报告、书籍，其数学公式的精美和版式的严谨…...

编程日记 2026/5/10 3:28:16

节点与边：LangGraph 中智能体通信的底层机制

系列导读 你现在看到的是《LangGraph 多智能体编排开发实战：从入门到企业级应用》的第 3/10 篇，当前这篇会重点解决：节点与边是 LangGraph 的编排基石，理解其底层才能灵活控制智能体流程。 上一篇回顾：第 2 篇《LangGraph 状态管理深度解析：从 State 到持久化》主要聚焦…...

编程日记 2026/5/10 3:26:16

机器学习求解偏微分方程：算子学习与物理信息神经网络全解析

1. 项目概述：当机器学习遇上物理方程在工程和科学计算的漫长历史中，偏微分方程一直是描述物理世界最核心的数学语言。从流体的纳维-斯托克斯方程，到电磁场的麦克斯韦方程组，再到量子力学的薛定谔方程，这些方程构成了我…...

编程日记 2026/5/10 3:26:16

CANN/shmem原理与架构详解

SHMEM原理概述 【免费下载链接】shmem CANN SHMEM 是面向昇腾平台的多机多卡内存通信库，基于OpenSHMEM 标准协议，实现跨设备的高效内存访问与数据同步。 项目地址: https://gitcode.com/cann/shmem SHMEM初始化流程介绍 shmem的初始化接口int ac…...

编程日记 2026/5/10 3:26:16

GE 静态执行器特性分析

GE 静态执行器（Known Shape Executor）特性分析 【免费下载链接】ge GE（Graph Engine）是面向昇腾的图编译器和执行器，提供了计算图优化、多流并行、内存复用和模型下沉等技术手段，加速模型执行效率&#xff…...

编程日记 2026/5/10 3:26:15

2026就业寒冬？这10个AI高薪岗位抢人大战一触即发，最高年薪300万！普通人也能抓住风口？

从京东到小米再到腾讯、字节跳动，各大企业为了争夺稀缺的AI专业人才纷纷都祭出了高薪与高福利，2026年1月至2月期间AI岗位数量同比增长约12倍，占新经济岗位的比重从2025年同期的2.29%飙升至26.23%，也就是说现在每四个新经济岗位中就…...

编程日记 2026/5/10 3:26:13

哔哩下载姬DownKyi终极指南：3分钟掌握B站视频无损下载的完整教程

哔哩下载姬DownKyi终极指南：3分钟掌握B站视频无损下载的完整教程 【免费下载链接】downkyi 哔哩下载姬downkyi，哔哩哔哩网站视频下载工具，支持批量下载，支持8K、HDR、杜比视界，提供工具箱（音视频提取、去水…...

编程日记 2026/5/10 3:24:08

开源AI智能体框架安全定制指南：非侵入式补丁与工程化实践

1. 项目概述：为开源AI智能体框架打上你的专属补丁如果你和我一样，是OpenClaw框架的深度用户，那你一定经历过这种时刻：你急需某个功能，比如想给那个终端用户界面换个更酷的配色，或者想为某个特定的智能体单独…...

编程日记 2026/5/10 3:24:07

小红书自动化发布技术解析：从浏览器模拟到风控对抗

1. 项目概述与核心价值最近在逛GitHub的时候，发现了一个挺有意思的项目，叫echo-ikun/xhs-autopost-skill。光看名字，你大概就能猜到，这是一个跟小红书（xhs）自动化发布相关的技能或工具。作为一个在内容创作…...

编程日记 2026/5/10 3:24:07

基因数据交易模拟平台：用金融市场模型探索基因组学动态分析

1. 项目概述：一个基因数据交易与分析的实验平台最近在GitHub上看到一个挺有意思的项目，叫“genome-trader-lab”。光看名字，你可能会觉得有点跨界——“genome”（基因组）和“trader”（交易者）这…...

编程日记 2026/5/10 3:24:02

AI智能体3D可视化监控：用Phaser构建等距办公室视图

1. 项目概述：为AI智能体打造一个“看得见”的办公室如果你正在开发或管理一个由多个AI智能体组成的复杂系统，你可能会遇到一个共同的痛点：这些智能体到底在干什么？它们的状态如何？任务进展到哪一步了？传统的…...

编程日记 2026/5/10 3:23:49