明霞山资源网 Design By www.htccd.com
我就废话不多说了,直接上代码吧!
import torch import torch.nn.functional as F import numpy as np from torch.autograd import Variable ''' pytorch实现focal loss的两种方式(现在讨论的是基于分割任务) 在计算损失函数的过程中考虑到类别不平衡的问题,假设加上背景类别共有6个类别 ''' def compute_class_weights(histogram): classWeights = np.ones(6, dtype=np.float32) normHist = histogram / np.sum(histogram) for i in range(6): classWeights[i] = 1 / (np.log(1.10 + normHist[i])) return classWeights def focal_loss_my(input,target): ''' :param input: shape [batch_size,num_classes,H,W] 仅仅经过卷积操作后的输出,并没有经过任何激活函数的作用 :param target: shape [batch_size,H,W] :return: ''' n, c, h, w = input.size() target = target.long() input = input.transpose(1, 2).transpose(2, 3).contiguous().view(-1, c) target = target.contiguous().view(-1) number_0 = torch.sum(target == 0).item() number_1 = torch.sum(target == 1).item() number_2 = torch.sum(target == 2).item() number_3 = torch.sum(target == 3).item() number_4 = torch.sum(target == 4).item() number_5 = torch.sum(target == 5).item() frequency = torch.tensor((number_0, number_1, number_2, number_3, number_4, number_5), dtype=torch.float32) frequency = frequency.numpy() classWeights = compute_class_weights(frequency) ''' 根据当前给出的ground truth label计算出每个类别所占据的权重 ''' # weights=torch.from_numpy(classWeights).float().cuda() weights = torch.from_numpy(classWeights).float() focal_frequency = F.nll_loss(F.softmax(input, dim=1), target, reduction='none') ''' 上面一篇博文讲过 F.nll_loss(torch.log(F.softmax(inputs, dim=1),target)的函数功能与F.cross_entropy相同 可见F.nll_loss中实现了对于target的one-hot encoding编码功能,将其编码成与input shape相同的tensor 然后与前面那一项(即F.nll_loss输入的第一项)进行 element-wise production 相当于取出了 log(p_gt)即当前样本点被分类为正确类别的概率 现在去掉取log的操作,相当于 focal_frequency shape [num_samples] 即取出ground truth类别的概率数值,并取了负号 ''' focal_frequency += 1.0#shape [num_samples] 1-P(gt_classes) focal_frequency = torch.pow(focal_frequency, 2) # torch.Size([75]) focal_frequency = focal_frequency.repeat(c, 1) ''' 进行repeat操作后,focal_frequency shape [num_classes,num_samples] ''' focal_frequency = focal_frequency.transpose(1, 0) loss = F.nll_loss(focal_frequency * (torch.log(F.softmax(input, dim=1))), target, weight=None, reduction='elementwise_mean') return loss def focal_loss_zhihu(input, target): ''' :param input: 使用知乎上面大神给出的方案 https://zhuanlan.zhihu.com/p/28527749 :param target: :return: ''' n, c, h, w = input.size() target = target.long() inputs = input.transpose(1, 2).transpose(2, 3).contiguous().view(-1, c) target = target.contiguous().view(-1) N = inputs.size(0) C = inputs.size(1) number_0 = torch.sum(target == 0).item() number_1 = torch.sum(target == 1).item() number_2 = torch.sum(target == 2).item() number_3 = torch.sum(target == 3).item() number_4 = torch.sum(target == 4).item() number_5 = torch.sum(target == 5).item() frequency = torch.tensor((number_0, number_1, number_2, number_3, number_4, number_5), dtype=torch.float32) frequency = frequency.numpy() classWeights = compute_class_weights(frequency) weights = torch.from_numpy(classWeights).float() weights=weights[target.view(-1)]#这行代码非常重要 gamma = 2 P = F.softmax(inputs, dim=1)#shape [num_samples,num_classes] class_mask = inputs.data.new(N, C).fill_(0) class_mask = Variable(class_mask) ids = target.view(-1, 1) class_mask.scatter_(1, ids.data, 1.)#shape [num_samples,num_classes] one-hot encoding probs = (P * class_mask).sum(1).view(-1, 1)#shape [num_samples,] log_p = probs.log() print('in calculating batch_loss',weights.shape,probs.shape,log_p.shape) # batch_loss = -weights * (torch.pow((1 - probs), gamma)) * log_p batch_loss = -(torch.pow((1 - probs), gamma)) * log_p print(batch_loss.shape) loss = batch_loss.mean() return loss if __name__=='__main__': pred=torch.rand((2,6,5,5)) y=torch.from_numpy(np.random.randint(0,6,(2,5,5))) loss1=focal_loss_my(pred,y) loss2=focal_loss_zhihu(pred,y) print('loss1',loss1) print('loss2', loss2) ''' in calculating batch_loss torch.Size([50]) torch.Size([50, 1]) torch.Size([50, 1]) torch.Size([50, 1]) loss1 tensor(1.3166) loss2 tensor(1.3166) '''
以上这篇pytorch实现focal loss的两种方式小结就是小编分享给大家的全部内容了,希望能给大家一个参考,也希望大家多多支持。
明霞山资源网 Design By www.htccd.com
广告合作:本站广告合作请联系QQ:858582 申请时备注:广告合作(否则不回)
免责声明:本站文章均来自网站采集或用户投稿,网站不提供任何软件下载或自行开发的软件! 如有用户或公司发现本站内容信息存在侵权行为,请邮件告知! 858582#qq.com
免责声明:本站文章均来自网站采集或用户投稿,网站不提供任何软件下载或自行开发的软件! 如有用户或公司发现本站内容信息存在侵权行为,请邮件告知! 858582#qq.com
明霞山资源网 Design By www.htccd.com
暂无评论...
《魔兽世界》大逃杀!60人新游玩模式《强袭风暴》3月21日上线
暴雪近日发布了《魔兽世界》10.2.6 更新内容,新游玩模式《强袭风暴》即将于3月21 日在亚服上线,届时玩家将前往阿拉希高地展开一场 60 人大逃杀对战。
艾泽拉斯的冒险者已经征服了艾泽拉斯的大地及遥远的彼岸。他们在对抗世界上最致命的敌人时展现出过人的手腕,并且成功阻止终结宇宙等级的威胁。当他们在为即将于《魔兽世界》资料片《地心之战》中来袭的萨拉塔斯势力做战斗准备时,他们还需要在熟悉的阿拉希高地面对一个全新的敌人──那就是彼此。在《巨龙崛起》10.2.6 更新的《强袭风暴》中,玩家将会进入一个全新的海盗主题大逃杀式限时活动,其中包含极高的风险和史诗级的奖励。
《强袭风暴》不是普通的战场,作为一个独立于主游戏之外的活动,玩家可以用大逃杀的风格来体验《魔兽世界》,不分职业、不分装备(除了你在赛局中捡到的),光是技巧和战略的强弱之分就能决定出谁才是能坚持到最后的赢家。本次活动将会开放单人和双人模式,玩家在加入海盗主题的预赛大厅区域前,可以从强袭风暴角色画面新增好友。游玩游戏将可以累计名望轨迹,《巨龙崛起》和《魔兽世界:巫妖王之怒 经典版》的玩家都可以获得奖励。