多任务学习


#1

预测性别&年龄

https://medium.freecodecamp.org/how-to-build-an-age-and-gender-multi-task-predictor-with-deep-learning-in-tensorflow-20c28a1bd447

tensorflow 实现 多任务学习

lose 加权

Multi-Task Learning Using Uncertainty to Weigh Losses for Scene Geometry and Semantics


#2

样本加权

用卷积神经网络实现边缘检测的论文”Holistically-Nested Edge Detection”中使用了加权交叉熵损失函数(sigmoid_cross_entropy_loss_layer),因为在边缘检测中正样本(边缘)相对于负样本(非边缘)来讲,数量是很少的,如果对正负样本的损失乘以同样的权重系数,那么网络就会把所有的像素都预测成负样本(因为正样本的数目很少,所以都预测为负样本的话,总的损失也会很小),而这是我们不想看到的,所以需要给正样本的损失加上一定的权重,当正样本分类错误的时候,乘以一个很大的权重,造成总的损失会很大。当负样本分类错的时候,乘以一个很小的权重(e.g. 1),但是由于负样本的总数比较多,所以总的损失也是符合实际情况的。

论文地址:


#3

http://reports-archive.adm.cs.cmu.edu/anon/anon/1997/CMU-CS-97-203.pdf