mlir

MLIR笔记（1）

1. 简介 MLIR是Multi-layer IR的缩写，它是基于LLVM IR发展的一个中间语言形式，是Clang/LLVM的发明者Chris Lattner在加盟谷歌后又一个重要的发明。MLIR是较之LLVM IR更为灵活的深度学习编译器架构。其他编译器，像LLVM（参考Kale…

深度学习AI编译器-MLIR简介

1、什么是MLIR MLIR：Multi-Level Intermediate Representation 多级中间表达 MLIR子项目是一种新的方法来构建可重用和可扩展的编译架构。MLIR旨在解决软件碎片，改善异构硬件的编译，显着降低构建特定于域的编译器的成本以及帮助将现有编译器…

ResNet18云空间部署

1-6步骤可以在云空间运行，也可以在本地运行；步骤7 在云空间运行。 1.编译ONNX模型本章以 resnet18.onnx 为例, 介绍如何编译迁移一个onnx模型至BM1684X TPU平台运行。该模型来自onnx的官网: models/vision/classification/resnet/model/resnet18-v1…

MLIR笔记（2）

3. LVM有趣的代码 3.1. dyn_cast()与cast() C支持类型间的自动转换（如operator 声明的转换），但在转换的调用链里自动转换只能调用一次，这固然是避免给编译器带来过分的复杂性，但更重要的是允许自动转换接力调用几乎很…

编译器和 IR：LLVM IR、SPIR-V 和 MLIR

编译器通常是各种开发工具链中的关键组件，可提高开发人员的工作效率。编译器通常用作独立的黑匣子，它使用高级源程序并生成语义上等效的低级源程序。不过，它仍然是内部结构倾向的;内部之间流动的内容就称为中间表示 （IR&#xff0…

MLIR笔记（5）

4.3.4. 图区域在MLIR中，区域里类似图的语义由RegionKind::Graph来表示。对没有控制流的并发语义，以及通用有向图数据结构的建模，图区域是合适的。图区域适用于表示耦合值之间的循环关系，这些关系没有基本的序。例如，…

Sophnet介绍及云空间申请使用

Sophnet介绍及云空间申请使用 1 Sophnet简介 1.1 Sophnet是什么 SOPHNET 平台是基于SOPHON智算产品打造的云边统一的AI服务平台，是人工智能算力中心的基础设施，平台通过开放AI训练和AI推理两大核心能力，赋能千行百业。 1.2 Sophnet设计理…

MLIR笔记——目录

1. 简介 2. 命令行选项的解析 2.1. 原理 2.2. 方言间转换的例子

MLIR笔记（6）

5. 方言与操作 5.1. 方言的概念在MLIR里，通过Dialect类来抽象方言。具体的每种方言都需要从这个基类派生一个类型，并实现重载自己所需的虚函数。 MLIR文档里这样描述方言（ MLIR Language Reference - MLIR）： 方言…

MLIR笔记（4）

4.3.3. 控制流与SSACFG区域在MLIR里，区域的控制流语义由RegionKind::SSACFG表示。非正式地，这些区域支持这样的语义：区域里的操作“顺序执行”。在执行一个操作前，它的操作数有定义良好的值。在操作执行后，操作数有相…

极智AI | 谈谈AI发展第五篇：AI编译框架

欢迎关注我的公众号 [极智视界]，获取我的更多经验分享大家好，我是极智视界，本文来谈谈 AI编译，是谈谈AI发展系列的第五篇。邀您加入我的知识星球「极智视界」，星球内有超多好玩的项目实战源码下载，链接：https://t.zsxq.com/0aiNxERDq 本文是 "谈谈 AI 发展"…

MLIR笔记（3）

4. 一些ODS定义 4.1. 特性（trait） MLIR支持一个完全开放的生态系统，因为任意方言都可以定义适合特定抽象层次的属性（attribute）、操作（operation）以及类型（type）。特性…

LLVM的编译链工具

1. LLVM简介通常提到LLVM和Clang，其实会有多个概念，不同的概念需要在上下文中去分辨。从官网文档中翻译出来是这样的： 1.1 LLVM LLVM项目或基础架构：这是对整个LLVM编译器框架的程序，包括了前端、优化器、后端、汇编器、链接器，以及libc++、JIT等。上下文如：“LLVM项…

TPU-MLIR的环境搭建和使用

1、开发环境配置 Linux开发环境一台安装了Ubuntu16.04/18.04/20.04的x86主机，运行内存建议12GB以上下载SophonSDK开发包(v23.03.01) （1）解压缩SDK包 sudo apt-get install p7zip sudo apt-get install p7zip-full 7z x Release_<date&…