GPU 相关
- 每个执行单元有多个 SIMT 内核，他们有各自的寄存器和堆栈指针，但执行相同的指令，计算时 if/else、for 也是如此
- 从内存读取数据时需要时间，这些时间被用来切换到其他工作 // 以延时成本来换吞吐量
- 多个执行单元组成一个子切片，子切片有共享内存供执行单元使用
- 多个子切片组成一个切片，一个切片总共几百上千个核心
虽然GPU在游戏中以3D渲染而闻名，但它们对运行分析、深度学习和机器学习算法尤其有用
GPU是一种特殊类型的处理器，具有数百或数千个内核
AMD 和英特尔都各自大力发展内置于 CPU 的 GPU，运作时会借用计算机内部分的系统存储器
AMD，Nvidia 都生产独立显卡，独立显卡所谓的"独立(专用)"即是指独立显卡内的 RAM 只会被该卡专用，而不是指显卡是否可从主板上独立移除