网站开发需求列表wordpress 入口文件

网站开发需求列表,wordpress 入口文件,wordpress国内网站吗,一般注册公司要多少钱GPU训练 要让模型在 GPU 上训练#xff0c;主要是将模型和数据迁移到 GPU 设备上。 在 PyTorch 里#xff0c;.to(device) 方法的作用是把张量或者模型转移到指定的计算设备#xff08;像 CPU 或者 GPU#xff09;上。 对于张量#xff08;Tensor#xff09;#xff…GPU训练要让模型在 GPU 上训练主要是将模型和数据迁移到 GPU 设备上。在 PyTorch 里.to(device) 方法的作用是把张量或者模型转移到指定的计算设备像 CPU 或者 GPU上。对于张量Tensor调用 .to(device) 之后会返回一个在新设备上的新张量。对于模型nn.Module调用 .to(device) 会直接对模型进行修改让其所有参数和缓冲区都移到新设备上。在进行计算时所有输入张量和模型必须处于同一个设备。要是它们不在同一设备上就会引发运行时错误。并非所有 PyTorch 对象都有 .to(device) 方法只有继承自 torch.nn.Module 的模型以及 torch.Tensor 对象才有此方法。如何衡量GPU的性能好坏呢以RTX 3090 Ti, RTX 3080, RTX 3070 Ti, RTX 3070, RTX 4070等为例通过“代” 前两位数字代表“代”: 40xx (第40代), 30xx (第30代), 20xx (第20代)。“代”通常指的是其底层的架构 (Architecture)。每一代新架构的发布通常会带来工艺制程的进步和其他改进。也就是新一代架构的目标是在能效比和绝对性能上超越前一代同型号的产品。通过级别 后面的数字代表“级别”xx90: 通常是该代的消费级旗舰或次旗舰性能最强显存最大 (如 RTX 4090, RTX 3090)。xx80: 高端型号性能强劲显存较多 (如 RTX 4080, RTX 3080)。xx70: 中高端甜点级性能和价格平衡较好 (如 RTX 4070, RTX 3070)。xx60: 主流中端性价比较高适合入门或预算有限 (如 RTX 4060, RTX 3060)。xx50: 入门级深度学习能力有限。通过后缀 Ti 通常是同型号的增强版性能介于原型号和更高一级型号之间 (如 RTX 4070 Ti 强于 RTX 4070小于4080)。通过显存容量 VRAM 最重要 他是GPU 自身的独立高速内存用于存储模型参数、激活值、输入数据批次等。单位通常是 GB例如 8GB, 12GB, 24GB, 48GB。如果显存不足可能无法加载模型或者被迫使用很小的批量大小从而影响训练速度和效果下面详细介绍下数据传输开销 (CPU 内存 - GPU 显存)在上述代码中循环里的 loss.item() 操作会在每个 epoch 都进行一次从 GPU 到 CPU 的数据同步和传输以便获取标量损失值。对于20000个epoch来说这会累积不少的传输开销。核心启动开销 (GPU 核心启动时间)性能浪费计算量和数据批次综上数据传输和各种固定开销的总和超过了 GPU 在这点计算量上通过并行处理所能节省的时间导致了 GPU 比 CPU 慢的现象。这些特性导致GPU在处理鸢尾花分类这种“玩具级别”的问题时它的优势无法体现反而会因为上述开销显得“笨重”。那么什么时候 GPU 会发挥巨大优势针对上面反应的3个问题能够优化的只有数据传输时间针对性解决即可很容易想到2个思路训练阶段小批量梯度是对真实梯度的一个有噪声的估计。批量越小梯度的方差越大噪声越大。显存小只能够使用小批量梯度。推理阶段有些模型本身就非常庞大例如大型语言模型、高分辨率图像的复杂 CNN 网络。即使你将批量大小减到 1模型参数本身占用的显存可能就已经超出了你的 GPU 显存上限。本质是因为GPU在计算的时候相较于cpu多了3个时间上的开销数据传输开销 (CPU 内存 - GPU 显存)核心启动开销 (GPU 核心启动时间)性能浪费计算量和数据批次在 GPU 进行任何计算之前数据输入张量 X_train、y_train模型参数需要从计算机的主内存 (RAM) 复制到 GPU 专用的显存 (VRAM) 中。当结果传回 CPU 时例如使用 loss.item() 获取损失值用于打印或记录或者获取最终预测结果数据也需要从 GPU 显存复制回 CPU 内存。对于少量数据和非常快速的计算任务这个传输时间可能比 GPU 通过并行计算节省下来的时间还要长。GPU 执行的每个操作例如一个线性层的前向传播、一个激活函数都涉及到在 GPU 上启动一个“核心”(kernel)——一个在 GPU 众多计算单元上运行的小程序。启动每个核心都有一个小的、固定的开销。如果核心内的实际计算量非常小本项目的小型网络和鸢尾花数据这个启动开销在总时间中的占比就会比较大。相比之下CPU 执行这些小操作的“调度”开销通常更低。这个数据量太少gpu的很多计算单元都没有被用到即使用了全批次也没有用到的全部计算单元。CPU (12th Gen Intel Core i9-12900KF): 对于这种小任务CPU 的单核性能强劲且没有显著的数据传输到“另一块芯片”的开销。它可以非常迅速地完成计算。GPU (NVIDIA GeForce RTX 3080 Ti):需要花费时间将数据和模型从 CPU 内存移动到 GPU 显存。每次在 GPU 上执行运算如 model(X_train)、loss.backward()) 都有核心启动的固定开销。loss.item() 在每个 epoch 都需要将结果从 GPU 传回 CPU这在总共 20000 个 epoch 中会累积。GPU 强大的并行计算能力在这种小任务上完全没有用武之地。大型数据集 例如图像数据集成千上万张图片每张图片维度很高。大型模型 例如深度卷积网络 (CNNs like ResNet, VGG) 或 Transformer 模型它们有数百万甚至数十亿的参数计算量巨大。合适的批处理大小 能够充分利用 GPU 并行性的 batch size不至于还有剩余的计算量没有被 GPU 处理。复杂的、可并行的运算 大量的矩阵乘法、卷积等。直接不打印训练过程的loss了但是这样会没办法记录最后的可视化图片只能肉眼观察loss数值变化。每隔200个epoch保存一下loss不需要20000个epoch每次都打印__call__方法在 Python 中call方法是一个特殊的魔术方法双下划线方法它允许类的实例像函数一样被调用。这种特性使得对象可以表现得像函数同时保留对象的内部状态。浙大疏锦行