大佬教程收集整理的这篇文章主要介绍了我们何时以及是否应该对多任务回归模型中的真实标签进行归一化？，大佬教程大佬觉得挺不错的，现在分享给大家，也给大家做个参考。
我正在尝试多任务回归模型。然而，不同任务的真实标签在不同的尺度上。因此，我想知道是否有必要对目标进行归一化。否则，一些大型任务的 MSE 会非常大。下图是我总体目标的一部分。您当然会发现像 ASA_m2_c 这样的列的值比其他列高得多。
首先，我已经尝试了一些加权损失技术来平衡我的模型在进行梯度反向传播时的集中度。结果显示它表现不佳。
其次，我看到了关于标准化输入数据的大量讨论，但几乎没有发现任何关于标准化标签的特别讨论。部分原因是大多数人的问题是分类类型和单一任务。我知道 pytorch 提供了一种通过 transform.normalize 对视觉数据集进行标准化的便捷方法，该方法仍然对输入而不是标签进行操作。
类似问题：https://forums.fast.ai/t/normalizing-your-dataset/49799
https://discuss.pytorch.org/t/ground-truth-label-normalization/26981/19
PyTorch - How should you normalize individual instances
此外，我认为提供我的模型架构的一些细节可能会有所帮助。输入首先被送入特征提取器，然后几个生成器使用来自该提取器的共享输出表示来预测不同的目标。
暂无找到可以解决该程序问题的有效方法，小编努力寻找整理中！
如果你已经找到好的解决方法，欢迎将解决方案带上本链接一起发送给小编。
小编邮箱:dio#foxmail.com (将#修改为@）
以上是大佬教程为你收集整理的我们何时以及是否应该对多任务回归模型中的真实标签进行归一化？全部内容，希望文章能够帮你解决我们何时以及是否应该对多任务回归模型中的真实标签进行归一化？所遇到的程序开发问题。
如果觉得大佬教程网站内容还不错，欢迎将大佬教程推荐给程序员好友。
本图文内容来源于网友网络收集整理提供，作为学习参考使用，版权属于原作者。
如您有任何意见或建议可联系处理。小编QQ：384754419，请注明来意。