此响应已自动翻译。 因此,可能存在语法错误或奇异的措辞。
你好
感谢您在 Microsoft 社区论坛中发帖。
根据描述,我知道您的问题与 GPU 有关。
共享 GPU 内存的分配通常由系统和显卡驱动程序管理。共享 GPU 内存分配通常由系统根据硬件配置和系统要求确定。不建议手动调整共享 GPU 内存分配,因为这可能会导致系统不稳定和性能问题。
如果您在大型模型部署中遇到性能问题,我建议您优化模型或考虑升级到具有更高专用 GPU 内存的显卡,以更好地处理工作负载。
有好的一天。
此致敬意
莫莉
此响应已自动翻译。 因此,可能存在语法错误或奇异的措辞。
你好
感谢您在 Microsoft 社区论坛中发帖。
根据描述,我知道您的问题与 GPU 有关。
共享 GPU 内存的分配通常由系统和显卡驱动程序管理。共享 GPU 内存分配通常由系统根据硬件配置和系统要求确定。不建议手动调整共享 GPU 内存分配,因为这可能会导致系统不稳定和性能问题。
如果您在大型模型部署中遇到性能问题,我建议您优化模型或考虑升级到具有更高专用 GPU 内存的显卡,以更好地处理工作负载。
有好的一天。
此致敬意
莫莉