Loss
Handling Information Loss of Graph Neural Networks for Session-based Recommendation
Chen T. and Wong R. C. Handling information loss of graph neural networks for session-based recommendation. KDD, 2020. 概 作者发现图用在 Session 推荐中存在: lossy ......
论文解读《Do We Need Zero Training Loss After Achieving Zero Training Error?》
论文信息 论文标题：Do We Need Zero Training Loss After Achieving Zero Training Error?论文作者：Takashi Ishida, I. Yamane, Tomoya Sakai, Gang Niu, M. Sugiyama论文来源：20 ......
深度学习基础入门篇[六]：模型调优，学习率设置（Warm Up、loss自适应衰减等），batch size调优技巧，基于方差放缩初始化方法。
深度学习基础入门篇[六]：模型调优，学习率设置（Warm Up、loss自适应衰减等），batch size调优技巧，基于方差放缩初始化方法。 ......
深度学习基础5:交叉熵损失函数、MSE、CTC损失适用于字识别语音等序列问题、Balanced L1 Loss适用于目标检测
深度学习基础5:交叉熵损失函数、MSE、CTC损失适用于字识别语音等序列问题、Balanced L1 Loss适用于目标检测 ......
The Cross-Entropy Loss Function for the Softmax Function
The Cross-Entropy Loss Function for the Softmax Function 作者：凯鲁嘎吉 - 博客园 http://www.cnblogs.com/kailugaji/ 本文介绍含有softmax函数的交叉熵损失函数的求导过程，并介绍一种交叉熵损失的等价形式， ......
【Deep Learning】L1 Loss、L2 Loss、Smooth L1 Loss
L1 Loss、L2 Loss、Smooth L1 Loss L1 Loss L1 Loss别称：L1 范数损失、最小绝对值偏差（LAD）、最小绝对值误差（LAE）。最常看到的MAE也是指L1 Loss。它是把目标值与模型输出（估计值）做绝对值得到的误差。 什么时候使用？ 回归任务简单的模型由于神经 ......
基于pytorch 的loss监控可视化
基于pytorch 的loss监控可视化 绘制可以train和val在一张图上的趋势图。 1 安装tensorboard pip install tensorboard 2 嵌入代码工程 1） 定义 数据集 # 训练可视化 from torch.utils.tensorboard import Su ......
python 实现 focal loss
cross entropy的缺点 cross entropy的表达式： log(x) 与 -log(x) 的曲线图： cross entropy 的两个缺点： 1. 数量多的类别会主导损失函数和梯度下降，导致模型更有信心预测数量多的类别，而缺少对数量少类别的重视。Balance cross entr ......
论文解读（CosFace）《CosFace: Large Margin Cosine Loss for Deep Face Recognition》
论文信息 论文标题：CosFace: Large Margin Cosine Loss for Deep Face Recognition论文作者：H. Wang, Yitong Wang, Zheng Zhou, Xing Ji, Zhifeng Li, Dihong Gong, Jin Zhou ......