TVM简介

Belongers:
为什么torch库实现的和老师视频中讲的运行速度有5倍差距？是因为torch库代码为了做到足够的健壮，虽然实现一个很小的模型，但运行过程中调用了很多依赖，来保证它的健壮性吗？

【回复】torch没有对推理进行优化，而tvm做了优化
【回复】tvm的中间表示层做了优化， 比如做了常量折叠， 算子融合， 计算图优化， 等等， 做这些优化都是用来提升速度的
【回复】回复 @vikingpro : torch现在不是也有jit编译器了吗？jit编译器是否可以对计算图进行优化呢？
勇次郎滴夏天:
为什么输入的tensor需要做两次转置，两次转置不是应该就变成原始输入的shape了吗？

【回复】input和weight分别都要做转置
【回复】回复 @luffisen : 但是data没做转置吧
阔奈的大脸:
什么是深度学习编译？要解决的问题是什么？适用在哪些场景？和TensorRT、NCNN、TNN这些部署框架的目的有区别么？原谅我日常使用模型都是直接Python训练，然后通过这些部署框架使用C++进行部署，不知道什么叫“深度学习编译”，也不理解为什么要“编译”。

【回复】编译做两件事，第一把高级语言自动翻译成机器语言，第二通过pass提高执行效率自动优化程序。AI编译器借用了编译的概念，把模型翻译成机器可执行的程序，并且完成优化。tensorrt和ncnn这种部署框架基本都是针对特定硬件用人工调优算子的方式优化，他们的前端优化也用的模板匹配，自动完成，有编译的意思在里面。但是tvm想做一个更像编译器的，通过全自动的调优过程，实现手工优化算子80%甚至更多的性能的部署框架，以应对未来AI芯片计算体系结构百花齐放的情景。TVM主要是提供了一种框架设计，多层IR，匹配不同的前端和后端，使用多种自动搜索算法调优模型，许多推理框架都参考了tvm
【回复】回复 @无叶思 : TVM是端到端，有点开箱即用的感觉。 MLIR 感觉是想统一深度学习编译器的IR格式。
【回复】回复 @我是装B怪 :那跟mlir有什么区别呢
Jerry_ZH:
UPUP想问下TVM方向研究生就业需求可以吗

去年满22岁:
请问一般是什么专业的学习这个，平时都没接触过这个知识

【回复】计算机系统 体系结构 编译与编程方向
大发横财133:
请问tvm pass怎么匹配%2=%1.0这种模式，这个是split多输出索引，不知如何匹配，也没有查询到，请赐教