深度pytorch 4.6
【pytorch】土堆pytorch教程学习(二)加载数据
Pytorch加载数据初认识 pytorch 中加载数据主要涉及两个类:Dataset 和 Dataloader。 Dataset 提供一种方式去获取数据及其label Dataloader 为网络提供不同的数据形式 Dataset Dataset 实现的功能: 获取每个数据及其label 获取数据 ......
【pytorch】土堆pytorch教程学习(一)环境配置及安装
管理虚拟环境 不同的项目需要不同的环境,Anaconda集成的conda包可以创建不同的环境并进行隔离。 打开 Anaconda Promp,创建环境,其中 pytorch 为创建的环境名: conda create -n 虚拟环境名 python=版本 启动环境 conda activate 虚拟 ......
深度学习基础入门篇[七]:常用归一化算法、层次归一化算法、归一化和标准化区别于联系、应用案例场景分析。
深度学习基础入门篇[七]:常用归一化算法、层次归一化算法、归一化和标准化区别于联系、应用案例场景分析。 ......
深度学习--可视化、过拟合
深度学习--可视化、过拟合 cmd运行命令:python -e visdom.server 用法: from visdom import Visdom viz = Visdom() viz.line([0.],[0.],win='train_loss',opts=dict(title='train ......
深度学习入门系列之doc
这周老师让把深度学习的名词过一遍,小玛同学准备在过一遍Deep Learning名词的同时把基本的模型也过一遍。 感谢杰哥发我深度学习入门系列能让我有机会快速入门。 下面就来doc一些学到的东西 感知器(线性单元)有个问题就是当面对的数据集不是线性可分的时候,“感知器规则”可能无法收敛,这意味着我们 ......
深度学习--全连接层、高阶应用、GPU加速
深度学习--全连接层、高阶应用、GPU加速 MSE均方差 Cross Entropy Loss:交叉熵损失 Entropy 熵: 1948年,香农将统计物理中熵的概念,引申到信道通信的过程中,从而开创了信息论这门学科,把信息中排除了冗余后的平均信息量称为“信息熵”。香农定义的“熵”又被称为香农熵或信 ......
深度神经网如何通过从数据中学习特征来帮助避免人工提取特征
深度神经网络(dnn)通过从数据中直接学习特征,无需人为干预或专业知识,可以帮助避免需要手动提取特征的繁琐过程。 深度神经网络由许多层组成,每个层都包含许多神经元。这些神经元组合成了一系列权重和偏差来映射输入特征到输出目标。通过反向传播算法,模型可以更新权重和偏差以优化其预测效果。 在训练dnn时, ......
5.深度学习计算
除了庞大的数据集和强大的硬件, 优秀的软件工具在深度学习的快速发展中发挥了不可或缺的作用。 从2007年发布的开创性的Theano库开始, 灵活的开源工具使研究人员能够快速开发模型原型, 避免了我们使用标准组件时的重复工作, 同时仍然保持了我们进行底层修改的能力。 随着时间的推移,深度学习库已经演变... ......
如何配置一个用于深度学习的 GPU 服务器 [Ubuntu 18.04 LTS 为例]
一、硬件配置 CPU of Intel i9-9980XE (18-core 36-thread, @3.0-4.4 GHz), RAM of 128 GB (DDR4), GPU of NVIDIA RTX 2080 Ti*4 (11 GB GDDR6*4), and M.2 NVMe SSD o ......
跟姥爷深度学习4 从数学计算看神经网络
一、前言 我们前面简单的做了一个气温预测,经过反复调试,效果还不错。实际上在这个方向上我们还可以更进一步优化,但因为我们是学习嘛,主要还是看广度而不是深度。考虑到后面要开始学习卷积网络,我们必须把更基础的内容搞明白才行,比如神经网络到底是如何工作的,如果不搞明白后面卷积就只能说用法而不明白原因了。所 ......
递推与递归和DFS深度优先搜索
递推与递归和DFS深度优先搜索 跳台阶 递归实现指数级枚举 递归实现排列型枚举 递归实现组合型枚举 P1036 选数 习题课 递推/ 递归 / DFS P2089 烤鸡 指数 P1088 火星人 全排列 P1149 火柴棒等式 指数 + 预处理 P2036 PERKET 指数 P1135 奇怪的电梯 ......
wsl2+docker跑深度学习
wsl(ubuntu20.04)+docker安装paddle 1.中文显示设置 安装语言包 sudo apt install language-pack-zh-hans 设置locale sudo vi /etc/locale.gen 找到 zh_CN.UTF-8 UTF-8 并取消注释,然后保存 ......
深度学习--统计与数据映射
深度学习--统计与数据映射 范数 import torch #范数norm 第一范数:绝对值求和 第二范数:平方和后求根号 norm使用要求是浮点数 a=torch.full([8],1.) #tensor([1., 1., 1., 1., 1., 1., 1., 1.]) b=a.view(2,4 ......
【深度思考】聊聊CGLIB动态代理原理
1. 简介 CGLIB的全称是:Code Generation Library。 CGLIB是一个强大的、高性能、高质量的代码生成类库,它可以在运行期扩展Java类与实现Java接口, 底层使用的是字节码处理框架ASM。 Github地址:https://github.com/cglib/cglib ......
深度学习基础入门篇[六(1)]:模型调优:注意力机制[多头注意力、自注意力],正则化【L1、L2,Dropout,Drop Connect】等
深度学习基础入门篇[六(1)]:模型调优:注意力机制[多头注意力、自注意力],正则化【L1、L2,Dropout,Drop Connect】等 ......
pytorch_ssd 代码注释
box_utils.py # -*- coding: utf-8 -*- import torch def point_form(boxes): """ Convert prior_boxes to (xmin, ymin, xmax, ymax) representation for compar ......
深度学习--数学运算符
深度学习--数学运算符 基础运算符 加减乘除 import torch a=torch.randint(1,10,[2,2]) b=torch.randint(1,10,[2,2]) print(a) #tensor([[9, 7],[5, 8]]) print(b) #tensor([[2, 4] ......
N1、Pytorch文本分类入门
一、背景介绍¶ 本节是一个使用PyTorch实现的简单文本分类实战案例。在这个例子中,我们将使用AG News数据集进行文本分类。 AG News(AG's News Topic Classification Dataset)是一个广泛用于文本分类任务的数据集,尤其是在新闻领域。该数据集是由AG's ......
深度学习--PyTorch维度变换、自动拓展、合并与分割
深度学习--PyTorch维度变换、自动拓展、合并与分割 一、维度变换 1.1 view/reshape 变换 这两个方法用法相同,就是变换变量的shape,变换前后的数据量相等。 a=torch.rand(4,1,28,28) a.view(4,28*28) #tensor([[0.9787, ......
pytorch学习笔记(二)
pytorch的基本数据结构是张量Tensor。张量即多维数组。Pytorch的张量和numpy中的array很类似。 本节我们主要介绍张量的数据类型、张量的维度、张量的尺寸、张量和numpy数组等基本概念。 张量的数据类型和numpy.array基本一一对应,但是不支持str类型。 一般神经网络建 ......
用一阶矩初步控制随机二叉树的深度
回顾 Catalan 数 $$ C = z(1 + C)^2, $$ 根据 Lagrange 反演, 我们有 $$ z^n^k = \frac{k}{n}[t^{n-1}] (1+t)^{2n+k-1} = \frac{k}{n} \binom{2n+k-1}{n+k}. $$ 考虑计数随机二叉树有 ......
深度学习基础入门篇[六]:模型调优,学习率设置(Warm Up、loss自适应衰减等),batch size调优技巧,基于方差放缩初始化方法。
深度学习基础入门篇[六]:模型调优,学习率设置(Warm Up、loss自适应衰减等),batch size调优技巧,基于方差放缩初始化方法。 ......
深度学习--PyTorch定义Tensor以及索引和切片
深度学习--PyTorch定义Tensor 一、创建Tensor 1.1未初始化的方法 这些方法只是开辟了空间,所附的初始值(非常大,非常小,0),后面还需要我们进行数据的存入。 torch.empty():返回一个没有初始化的Tensor,默认是FloatTensor类型。 #torch.em ......
深度学习显卡的选择
深度学习显卡的选择: 1、选择算力在5.0以上的 在GPU算力高于5.0时,可以用来跑神经网络。算力越高,计算能力越强。 2、尽量选择大显存 显存越高,意味着性能越强悍。特别是对于CV领域。 3、GPU几个重要的参数 显存带宽:代表GPU芯片每秒与显存交换的数据大小,这个值等于显存位宽*工作频率,单 ......
pytorch报错 No module named 'nn'
问题描述 pytorch 报错 No module named 'nn' 如果你 import torch 没问题,而 import torch.nn时出现问题,你可能命名使用了一个名字为 torch.py 文件,由于 torch.py 文件与系统的 torch.py 文件重名,所以会触发该问题,将 ......
深度学习--- 深度学习基础1
本文对接触到的深度学习相关内容做一个梳理。 一、深度学习 1. 深度学习是什么 深度学习(Deep Learning)是机器学习(Machine Learning)的一个研究方向,而机器学习属于人工智能(AI, Artificial Intelligence)的范畴,人工智能是研究、开发用于模拟、延 ......
P2661 [NOIP2015 提高组] 信息传递-拓扑排序+DFS深度优先遍历
有 n 个同学(编号为 1 到 n )正在玩一个信息传递的游戏。在游戏里每人都有一个固定的信息传递对象,其中,编号为 i 的同学的信息传递对象是编号为 Ti 的同学。
游戏开始时,每人都只知道自己的生日。之后每一轮中,所有人会同时将自己当前所知的生日信息告诉各自的信息传递对象(注意:可能有人可以... ......
深度学习-Pytorch常见的数据类型
深度学习-Pytorch常见的数据类型 数据类型认识 首先,python与PyTorch中的数据类型 | python | PyTorch | | : : | : : | | int | IntTensor | | float | FloatTensor | | int array | IntTen ......
深度学习--梯度下降再理解+线性回归
深度学习--梯度下降再理解+线性回归 梯度下降 梯度下降的对象是 模型的参数,即 权重w ,偏置项b,通过寻找合适的参数使模型的loss值最小 Loss函数是关于输入,输出,权重,偏置项的函数,即:loss=(y-(wx+b))^2。loss值最小,y与wx+b相似。 个人思考:如果训练的数据量越大 ......