深度学习为什么要用 tensor

发布时间 2023-05-08 10:53:37作者: 耀扬

深度学习中的 tensor 概念是指张量,是一种多维数组。相比于 numpy 中的数组,tensor 具有以下几个优点:

支持 GPU 加速:深度学习中,需要对大量数据进行计算,并且这些计算通常是高度并行化的。使用 tensor 可以方便地将计算放到 GPU 上进行加速,而 numpy 则通常只能在 CPU 上进行计算。
支持自动求导:深度学习中,需要对模型参数进行优化,而优化通常需要求解参数的梯度。使用 tensor 可以方便地实现自动求导,而 numpy 则需要手动实现求导过程。
支持动态计算图:深度学习中,通常需要构建复杂的计算图来描述模型结构和计算过程。使用 tensor 可以方便地构建动态计算图,而 numpy 则只能使用静态计算图。 因此,使用 tensor 可以提高深度学习的计算效率和开发效率,并且方便实现自动求导和构建动态计算图。虽然 tensor 相对于 numpy 复杂一些,但是在深度学习中,使用 tensor 是非常普遍和必要的。

原文:https://www.zhihu.com/question/598278407/answer/3017931538