损失torch
利用pytorch自定义CNN网络（四）：损失函数和优化器
本文是利用pytorch自定义CNN网络系列的第四篇，主要介绍如何训练一个CNN网络，关于本系列的全文见这里。 笔者的运行设备与软件：CPU (AMD Ryzen™ 5 4600U) + pytorch (1.13，CPU版) + jupyter； 训练模型是为了得到合适的参数权重，设计模型的训练时 ......
Python用GARCH对ADBL股票价格时间序列趋势滚动预测、损失、可视化分析
全文链接：https://tecdat.cn/?p=33398 原文出处：拓端数据部落公众号 金融市场的股票价格时间序列分析一直以来都是投资者和研究者关注的主题之一。准确预测股票价格的趋势对于制定有效的投资策略和决策具有重要意义。因此，许多研究人员使用各种统计方法和模型来分析和预测股票价格的变动。 ......
大连人工智能计算平台——华为昇腾AI平台——高性能计算HPC的pytorch环境报错——torch.cuda.is_available()显示false——NVIDIA显卡驱动版本过低导致pytorch无法使用cuda
在使用这个HPC平台的时候发现了这么一个问题，那就是编译好的pytorch-cuda和anaconda官方安装的pytorch-cuda均不能调用cuda计算，这个现象十分的诡异，经过长时间的调查发现了问题所在——NVIDIA驱动版本过低。 给出该HPC的显卡驱动版本： ......
002-深度学习数学基础(神经网络、梯度下降、损失函数)
0. 前言 人工智能可以归结于一句话：针对特定的任务，找出合适的数学表达式，然后一直优化表达式，直到这个表达式可以用来预测未来。 针对特定的任务： 首先我们需要知道的是，人工智能其实就是为了让计算机看起来像人一样智能，为什么这么说呢？举一个人工智能的例子： 我们人看到一个动物的图片，就可以立刻知道这 ......
养鸡场损失背后，是通讯故障还是数据大危机
近日，一场特殊的案件完成了判决，由于设备发生通信故障导致风机停止工作，进而导致1466只养殖的蛋鸡死亡，造成了巨额财产损失。最终，提供物联网终端设备的神桥公司被判处承担农场的70%的赔偿责任。 虽然被答辩人未公开表示是否会继续上诉，但该判决结果在二审法院中并未获得支持，但这起案件对产品质量问题及数据 ......
【d2l】【常见函数】【20】 torch.bmm( )
**局部矩阵乘法** 参考：https://pytorch.org/docs/stable/generated/torch.bmm.html , torch.unsqueeze( )
## torch.squeeze() **压缩大小为1的维度** 参考:https://pytorch.org/docs/stable/generated/torch.squeeze.html  )
**返回一个指定size的张量，元素是0~1之间的随机数** 参考： https://pytorch.org/docs/stable/generated/torch.rand.html 
参考：https://pytorch.org/docs/stable/generated/torch.repeat_interleave.html 
torch.all() 其中的所有项都为True，返回True，反之，返回False >>> import torch >>> a = torch.tensor([[1, 2], [3, 4]]) >>> b = torch.tensor([[1, 2], [3, 4]]) >>> a OUT: t ......
torch的flatten函数
python：flatten()参数详解 这篇博客主要写flatten（）作用，及其参数的含义 flatten()是对多维数据的降维函数。 flatten(),默认缺省参数为0，也就是说flatten()和flatte(0)效果一样。 python里的flatten(dim)表示，从第dim个维度开 ......
【d2l】【困难代码】【1】 9.7 损失函数
## 问题描述  **神の代码秀我一脸，来搞懂一下** ## 问题解决 ### 1. torch.ten ......
【d2l】【常见函数】【12】 torch.tensor.repeat( )
**Repeats this tensor along the specified dimensions.** 参考：https://pytorch.org/docs/stable/generated/torch.Tensor.repeat.html 
**指定读取张量的设备，如GPU，CPU** 参考：https://blog.csdn.net/shaopeng568/article/details/95205345  返回标准正态分布张量
参考：https://pytorch.org/docs/stable/generated/torch.randn.html 
**竖着或者横着拼接矩阵** 参考：https://www.cnblogs.com/JeasonIsCoding/p/10162356.html 参考：https://blog.csdn.net/qian2213762498/article/details/88795848 :注意事项
1。 当执行原地操作时，例如 tensor.add_(x)，将会在一个张量上直接修改数据，而不会创建新的张量。由于修改了张量的数据，因此计算图会失效，即计算图中的操作和输入输出关系都会发生变化。这会导致反向传播无法正确计算梯度。因此，PyTorch 禁止在需要梯度计算的张量上执行原地操作。为了解决这 ......
pytorch使用（三)torch.zeros用法
#torch.zeros用法 torch.zeros() 是 PyTorch 中用来创建全 0 张量的函数。用法为 torch.zeros(size, out=None, dtype=None, layout=torch.strided, device=None, requires_grad=Fal ......
对比损失与温度系数
对比学习中的温度系数是一个神秘的参数，大部分论文都默认采用小的温度系数来进行自监督对比学习（例如0.07，0.2）。然而并没有对采用小温度系数的解释，以及温度系数是如何影响学习过程的，即温度系数这个角色的意义。 今天给大家介绍一篇CVPR2021中研究对比损失（Contrastive Loss）温度 ......
NLP（四十七）：损失函数
三元组损失 triplet loss 设计初衷： 让x与这个跟他同类的点距离更近，跟非同类的点距离更远。 d是距离，m的含义是，当x与x+的距离减去x与x-，如果小于-m时，对损失函数的贡献为0， 如果大于-m时，对损失的贡献大于0. 含义就是：当负例太简单时，不产生损失，这个损失的目标是，挑选困难 ......
验证torch和torchvision安装成功
import torchprint("torch_version:",torch.__version__)print("cuda_version:",torch.version.cuda)print("cudnn_version:",torch.backends.cudnn.version())pr ......
BigDecimal(double)存在精度损失风险
public static void main(String[] args) { //错误代码 BigDecimal bigDecimal = new BigDecimal(0.11d); System.out.println(bigDecimal); //正确代码(下面两种都可以) BigDeci ......
机器学习 - Torch-TensorRT 推理加速
# 机器学习 - Torch-TensorRT 推理加速 Torch-TensorRT 作为 TorchScript 的扩展。 它优化并执行兼容的子图，让 PyTorch 执行剩余的图。 PyTorch 全面而灵活的功能集与 Torch-TensorRT 一起使用，解析模型并将优化应用于图的 Ten ......
PyTorch | torch.save()函数的使用
Pytorch保存模型等相关参数，利用`torch.save()`，以及读取保存之后的文件。 ### 函数信息 ```python torch.save(obj, f, pickle_module=pickle, pickle_protocol=DEFAULT_PROTOCOL,_use_new_z ......
R语言用Copulas模型的尾部相依性分析损失赔偿费用
原文链接：http://tecdat.cn/?p=22226 最近我们被客户要求撰写关于Copulas的研究报告，包括一些图形和统计输出。 两个随机变量之间的相依性问题备受关注,相依性(dependence)是反映两个随机变量之间关联程度的一个概念 它与相关性(correlation)有区别，常用的 ......
torch中关于cuDNN的一些训练设置
torch.backends.cudnn.enabled = True cuDNN的非确定性算法(NP)，等于True时启用，cuDNN设置为使用非确定性算法 torch.backends.cudnn.benchmark = True 再将benchmark设置为true，cuDNN将会自动寻找最适 ......
AI_Pytorch_损失函数
###数据和向量 损失函数 ###数据的归一化 Z-score 均值方差归一化(standardization）： 把所有数据归一化到均值为0方差为1的分布中。适用于数据分布没有明显的边界，有可能存在极端的数据值。 数据符合正态分布，消除离群点的影响 min-max标准化 最值归一化(Normali ......
Pytorch | `torch.multiprocessing.spawn` 函数的使用
`torch.multiprocessing.spawn` 是 PyTorch 中用于启动多进程的函数，可以用于分布式训练等场景。其函数签名如下： ```python torch.multiprocessing.spawn( fn, args=(), nprocs=1, join=True, dae ......
多分类模型训练使用交叉熵损失的一个注意的点
使用交叉熵损失的网络模型最后一层不要用softmax，交叉熵损失函数会在计算的时候做softmax，如果用了会导致模型训练异常， 如果模型最后一层有softmax，则损失函数要写成 loss_fun = nn.NLLLoss() x = model(data) loss = loss_fun(tor ......