Zero copy in TK1 and TX1 and TX2

Zero copy in TK1and TX1 and TX2

tx1 架构图

这里写图片描述

说明

  1. JETSON TK1,TX1,TX2都是CPU-GPU异构架构,共享主存DRAM(最下边的)
  2. 左上角,四核arm A57
  3. 下一个,四核arm A53
  4. 右边GPU 双核Maxwell arch sm53 /TX 2 是pascal arch sm62
  5. 缓存各管各的,无共享 last level cache

零拷贝问题

  • 这个技术其实提出的很早(~2009),但是走的PCI-e,类似与将数据从内存映射到显存

  • 那么对于TX1这类统一主存的架构既可以使用传统的拷贝,也可以使用零拷贝的技术

    • 传统方法,那么依然是另开辟内存,做一个备份,那么GPU只访问这块儿数据。

    • 零拷贝技术,其实就是GPU直接访问主存,指针相同。

      • but GPU 的cache 就不能用了,无论L1 还是 L2 。
      • Cache Coherence 所致,一想就知道有多复杂。。
  • 零拷贝后的性能一定会好吗

    • NVIDIA 技术人员直接回复,第一句话就是 大家被这篇文章《Zero Copy on Tegra K1》误导了。下边是原话
    • Regarding the article http://arrayfire.com/zero-copy-on-tegra-k1/ from 2014 stating that zero-copy is faster than cudaMalloc, this article is mis-leading and generalizes the zero-copy case. This is not really accurate. 不是很准确
    • Zero copy is only faster in some cases where the access pattern does not benefit from caches.
    • Zero-Copy memory on Tegra is CPU and GPU uncached. So every access by the CUDA kernel goes to DRAM. So if the kernel repeatedly accesses the same memory location from then it is likely that the cudaMalloc memory is faster.

    但是那篇文章的例子不错,流数据类型应用,对于cache 并不敏感。因此效果好。

    借鉴一下那篇文章的总结对于零拷贝和传统的拷贝方法。

  • 只有这个青岛小哥看到了事情的两面性,赞一个

传统模式

零拷贝模式

这个使用方法总结的不错。。。。

reference

1 thought on “Zero copy in TK1 and TX1 and TX2

发表评论

电子邮件地址不会被公开。 必填项已用*标注