自有AI芯片接入AI框架Pytorch的方案

发布时间 2023-12-06 12:34:50作者: 暴力都不会的蒟蒻

现在AI框架主要用Pytorch,包括一些常用的库对Pytorch支持都较好

一、华为昇腾npu

能够跟上Pytorch的更新,直接和Pytorch兼容,而且有较多人来维护,代码风格不错,之前是通过注入Pytorch预留的的xla搞的接入,现在被官方接收了。

二、寒武纪MLU

这个版本很老,他们是通过docker为客户提供运行环境的,pytorch_patches文件夹也表明他们需要修改Pytorch源代码

三、谷歌tpu

Pytorch 给他留了接口,甚至aten中也有为了支持他的某些feature的源码