gpu分配内存

---

一、Win10任务管理器中的"专用GPU内存"是怎么回事？“共享GPU内存”又是什么?在Windows10任务管理器中，新的GPU选项允许用户深入了解程序如何使用GPU。“专用GPU内存”和“共享GPU内存”是在GPU内存管理中发挥重要作用的两个关键概念。
独立显卡显存根据显卡类型分为两类：独立显卡（如双GPUGTX1080T）上的GDDR显存。这部分内存是GPU独享的，带宽较高。和低延迟。对于集成显卡，例如IntelHD4000，BIOS会保留部分系统内存作为专用内存，即“StolenMemory”。大小可以从16MB到1GB不等，但可以通过BIOS进行调整，尽管一些在线注册表调整方法无效。
“共享GPU内存”是Windows保留供GPU优先使用的系统内存的一部分。尽管32GB系统内存中的16GB看起来是共享的，但Windows会根据需要智能地分配这些内存，而不是为每个GPU单独分配16GB。事实上，即使内存显得繁忙，其他应用程序也会优先，并且共享内存比专用内存具有更低的带宽和延迟。
一般来说，“GPU内存/总可用GPU内存”是两者的总和，反映了显卡的实际可用内存。了解这些内存管理方法可以帮助用户优化资源分配，特别是对于游戏或者需要高性能图形处理的用户。
虽然这些功能在Windows7中也有，但Win10的显示更加直观。深入研究这些细节可以揭示操作系统内部许多有趣的机制。对BIOS和系统内存管理感兴趣的读者，可以关注我们的BIOS培训云课程，了解更多相关信息。

---

二、什么是GPU的专用内存和共享内存？

在深度学习训练中，需要在专用GPU内存和共享GPU内存之间进行选择

当我们讨论TensorFlow在GPU上的内存管理时，经常会出现一个问题：是否使用共享GPU记忆？答案并不那么简单，因为它涉及GPU内存的类型及其在训练过程中的作用。首先，让我们澄清一些关键概念。

专用GPU内存

专用GPU内存是专门为GPU保留的高速存储空间。就像NVIDIA显卡的显存一样。它提供对GPU计算的直接访问。这种高带宽、低延迟的内存对于深度学习训练至关重要，因为它支持大规模并行计算的高效执行。然而，TensorFlow无法直接使用系统RAM的这块区域，因为CUDA（NVIDIA的并行计算平台）只能访问GPU的专用内存。

共享GPU内存

共享GPU内存通常是指在GPU和其他系统组件之间共享的系统RAM。在某些情况下，例如IntelHD系列集成显卡，系统可能会将部分内存拆分为共享内存，以便GPU在需要时使用。然而，由于PCIe接口的限制，共享内存的带宽远低于专用内存，这可能会导致数据传输速度较慢，从而影响训练效率。

在Windows10的任务管理器中，你看到的“共享GPU内存”实际上是系统分配给GPU的优先内存，以适应GPU和其他应用程序的需求。如果显存不足，系统会优先使用该部分内存，以减轻显存压力。但是，这可能会导致性能下降，尤其是在处理需要大量内存的计算时。

权衡与选择

在实际应用中，当GPU显存足够大时，专用GPU显存是深度学习训练的理想选择，因为他提供了你表现最好。然而，当显存不足时，Windows会使用共享内存来补偿。但是，这会影响训练速度。因此，共享内存的选择取决于系统的具体配置和训练任务的要求。

一般来说，深度学习训练首选专用GPU内存，但当资源有限时，可以使用共享内存作为应急策略。了解这些内存类型的差异和作用，可以帮助我们更好地优化GPU资源的分配，从而提高深度学习训练的效率。