深度pytorch 4.6

【pytorch】土堆pytorch教程学习(二)加载数据

Pytorch加载数据初认识 pytorch 中加载数据主要涉及两个类:Dataset 和 Dataloader。 Dataset 提供一种方式去获取数据及其label Dataloader 为网络提供不同的数据形式 Dataset Dataset 实现的功能: 获取每个数据及其label 获取数据 ......
pytorch 土堆 教程 数据

【pytorch】土堆pytorch教程学习(一)环境配置及安装

管理虚拟环境 不同的项目需要不同的环境,Anaconda集成的conda包可以创建不同的环境并进行隔离。 打开 Anaconda Promp,创建环境,其中 pytorch 为创建的环境名: conda create -n 虚拟环境名 python=版本 启动环境 conda activate 虚拟 ......
pytorch 土堆 环境 教程

深度学习基础入门篇[七]:常用归一化算法、层次归一化算法、归一化和标准化区别于联系、应用案例场景分析。

深度学习基础入门篇[七]:常用归一化算法、层次归一化算法、归一化和标准化区别于联系、应用案例场景分析。 ......
算法 深度 场景 层次 常用

深度学习--可视化、过拟合

深度学习--可视化、过拟合 cmd运行命令:python -e visdom.server 用法: from visdom import Visdom viz = Visdom() viz.line([0.],[0.],win='train_loss',opts=dict(title='train ......
深度

深度学习入门系列之doc

这周老师让把深度学习的名词过一遍,小玛同学准备在过一遍Deep Learning名词的同时把基本的模型也过一遍。 感谢杰哥发我深度学习入门系列能让我有机会快速入门。 下面就来doc一些学到的东西 感知器(线性单元)有个问题就是当面对的数据集不是线性可分的时候,“感知器规则”可能无法收敛,这意味着我们 ......
深度 doc

深度学习--全连接层、高阶应用、GPU加速

深度学习--全连接层、高阶应用、GPU加速 MSE均方差 Cross Entropy Loss:交叉熵损失 Entropy 熵: 1948年,香农将统计物理中熵的概念,引申到信道通信的过程中,从而开创了信息论这门学科,把信息中排除了冗余后的平均信息量称为“信息熵”。香农定义的“熵”又被称为香农熵或信 ......
全连 高阶 深度 GPU

深度神经网如何通过从数据中学习特征来帮助避免人工提取特征

深度神经网络(dnn)通过从数据中直接学习特征,无需人为干预或专业知识,可以帮助避免需要手动提取特征的繁琐过程。 深度神经网络由许多层组成,每个层都包含许多神经元。这些神经元组合成了一系列权重和偏差来映射输入特征到输出目标。通过反向传播算法,模型可以更新权重和偏差以优化其预测效果。 在训练dnn时, ......
神经网 特征 过从 人工 深度

5.深度学习计算

除了庞大的数据集和强大的硬件, 优秀的软件工具在深度学习的快速发展中发挥了不可或缺的作用。 从2007年发布的开创性的Theano库开始, 灵活的开源工具使研究人员能够快速开发模型原型, 避免了我们使用标准组件时的重复工作, 同时仍然保持了我们进行底层修改的能力。 随着时间的推移,深度学习库已经演变... ......
深度

如何配置一个用于深度学习的 GPU 服务器 [Ubuntu 18.04 LTS 为例]

一、硬件配置 CPU of Intel i9-9980XE (18-core 36-thread, @3.0-4.4 GHz), RAM of 128 GB (DDR4), GPU of NVIDIA RTX 2080 Ti*4 (11 GB GDDR6*4), and M.2 NVMe SSD o ......
深度 服务器 Ubuntu 18.04 GPU

跟姥爷深度学习4 从数学计算看神经网络

一、前言 我们前面简单的做了一个气温预测,经过反复调试,效果还不错。实际上在这个方向上我们还可以更进一步优化,但因为我们是学习嘛,主要还是看广度而不是深度。考虑到后面要开始学习卷积网络,我们必须把更基础的内容搞明白才行,比如神经网络到底是如何工作的,如果不搞明白后面卷积就只能说用法而不明白原因了。所 ......
神经网络 姥爷 深度 神经 数学

递推与递归和DFS深度优先搜索

递推与递归和DFS深度优先搜索 跳台阶 递归实现指数级枚举 递归实现排列型枚举 递归实现组合型枚举 P1036 选数 习题课 递推/ 递归 / DFS P2089 烤鸡 指数 P1088 火星人 全排列 P1149 火柴棒等式 指数 + 预处理 P2036 PERKET 指数 P1135 奇怪的电梯 ......
深度 DFS

wsl2+docker跑深度学习

wsl(ubuntu20.04)+docker安装paddle 1.中文显示设置 安装语言包 sudo apt install language-pack-zh-hans 设置locale sudo vi /etc/locale.gen 找到 zh_CN.UTF-8 UTF-8 并取消注释,然后保存 ......
深度 docker wsl2 wsl

深度学习--统计与数据映射

深度学习--统计与数据映射 范数 import torch #范数norm 第一范数:绝对值求和 第二范数:平方和后求根号 norm使用要求是浮点数 a=torch.full([8],1.) #tensor([1., 1., 1., 1., 1., 1., 1., 1.]) b=a.view(2,4 ......
深度 数据

【深度思考】聊聊CGLIB动态代理原理

1. 简介 CGLIB的全称是:Code Generation Library。 CGLIB是一个强大的、高性能、高质量的代码生成类库,它可以在运行期扩展Java类与实现Java接口, 底层使用的是字节码处理框架ASM。 Github地址:https://github.com/cglib/cglib ......
深度 原理 动态 CGLIB

深度学习基础入门篇[六(1)]:模型调优:注意力机制[多头注意力、自注意力],正则化【L1、L2,Dropout,Drop Connect】等

深度学习基础入门篇[六(1)]:模型调优:注意力机制[多头注意力、自注意力],正则化【L1、L2,Dropout,Drop Connect】等 ......
注意力 正则 多头 深度 模型

pytorch_ssd 代码注释

box_utils.py # -*- coding: utf-8 -*- import torch def point_form(boxes): """ Convert prior_boxes to (xmin, ymin, xmax, ymax) representation for compar ......
注释 pytorch_ssd pytorch 代码 ssd

深度学习--数学运算符

深度学习--数学运算符 基础运算符 加减乘除 import torch a=torch.randint(1,10,[2,2]) b=torch.randint(1,10,[2,2]) print(a) #tensor([[9, 7],[5, 8]]) print(b) #tensor([[2, 4] ......
运算符 深度 数学

N1、Pytorch文本分类入门

一、背景介绍¶ 本节是一个使用PyTorch实现的简单文本分类实战案例。在这个例子中,我们将使用AG News数据集进行文本分类。 AG News(AG's News Topic Classification Dataset)是一个广泛用于文本分类任务的数据集,尤其是在新闻领域。该数据集是由AG's ......
文本 Pytorch

深度学习--PyTorch维度变换、自动拓展、合并与分割

深度学习--PyTorch维度变换、自动拓展、合并与分割 一、维度变换 1.1 view/reshape 变换 ​ 这两个方法用法相同,就是变换变量的shape,变换前后的数据量相等。 a=torch.rand(4,1,28,28) a.view(4,28*28) #tensor([[0.9787, ......
维度 深度 PyTorch

pytorch学习笔记(二)

pytorch的基本数据结构是张量Tensor。张量即多维数组。Pytorch的张量和numpy中的array很类似。 本节我们主要介绍张量的数据类型、张量的维度、张量的尺寸、张量和numpy数组等基本概念。 张量的数据类型和numpy.array基本一一对应,但是不支持str类型。 一般神经网络建 ......
pytorch 笔记

用一阶矩初步控制随机二叉树的深度

回顾 Catalan 数 $$ C = z(1 + C)^2, $$ 根据 Lagrange 反演, 我们有 $$ z^n^k = \frac{k}{n}[t^{n-1}] (1+t)^{2n+k-1} = \frac{k}{n} \binom{2n+k-1}{n+k}. $$ 考虑计数随机二叉树有 ......
深度

深度学习基础入门篇[六]:模型调优,学习率设置(Warm Up、loss自适应衰减等),batch size调优技巧,基于方差放缩初始化方法。

深度学习基础入门篇[六]:模型调优,学习率设置(Warm Up、loss自适应衰减等),batch size调优技巧,基于方差放缩初始化方法。 ......
方差 深度 模型 技巧 基础

深度学习--PyTorch定义Tensor以及索引和切片

深度学习--PyTorch定义Tensor 一、创建Tensor 1.1未初始化的方法 ​ 这些方法只是开辟了空间,所附的初始值(非常大,非常小,0),后面还需要我们进行数据的存入。 torch.empty():返回一个没有初始化的Tensor,默认是FloatTensor类型。 #torch.em ......
深度 索引 PyTorch Tensor

深度学习显卡的选择

深度学习显卡的选择: 1、选择算力在5.0以上的 在GPU算力高于5.0时,可以用来跑神经网络。算力越高,计算能力越强。 2、尽量选择大显存 显存越高,意味着性能越强悍。特别是对于CV领域。 3、GPU几个重要的参数 显存带宽:代表GPU芯片每秒与显存交换的数据大小,这个值等于显存位宽*工作频率,单 ......
显卡 深度

pytorch报错 No module named 'nn'

问题描述 pytorch 报错 No module named 'nn' 如果你 import torch 没问题,而 import torch.nn时出现问题,你可能命名使用了一个名字为 torch.py 文件,由于 torch.py 文件与系统的 torch.py 文件重名,所以会触发该问题,将 ......
pytorch module named 39 No

深度学习--- 深度学习基础1

本文对接触到的深度学习相关内容做一个梳理。 一、深度学习 1. 深度学习是什么 深度学习(Deep Learning)是机器学习(Machine Learning)的一个研究方向,而机器学习属于人工智能(AI, Artificial Intelligence)的范畴,人工智能是研究、开发用于模拟、延 ......
深度 基础

P2661 [NOIP2015 提高组] 信息传递-拓扑排序+DFS深度优先遍历

有 n 个同学(编号为 1 到 n )正在玩一个信息传递的游戏。在游戏里每人都有一个固定的信息传递对象,其中,编号为 i 的同学的信息传递对象是编号为 Ti​ 的同学。 游戏开始时,每人都只知道自己的生日。之后每一轮中,所有人会同时将自己当前所知的生日信息告诉各自的信息传递对象(注意:可能有人可以... ......
拓扑 深度 P2661 信息 2661

深度学习-Pytorch常见的数据类型

深度学习-Pytorch常见的数据类型 数据类型认识 首先,python与PyTorch中的数据类型 | python | PyTorch | | : : | : : | | int | IntTensor | | float | FloatTensor | | int array | IntTen ......
深度 常见 Pytorch 类型 数据

深度学习--梯度下降再理解+线性回归

深度学习--梯度下降再理解+线性回归 梯度下降 梯度下降的对象是 模型的参数,即 权重w ,偏置项b,通过寻找合适的参数使模型的loss值最小 Loss函数是关于输入,输出,权重,偏置项的函数,即:loss=(y-(wx+b))^2。loss值最小,y与wx+b相似。 个人思考:如果训练的数据量越大 ......
梯度 线性 深度

PyTorch入门-残差卷积神经网络

利用PyTorch实现的深度学习解决MNIST数据集识别代码,并利用GPU训练 深度学习网络一般分为4个部分: 数据集的准备和处理 定义网络模型 定义损失函数和优化器 训练和测试 import torch import torch.nn as nn from torchvision import d ......
残差 卷积 神经网络 神经 PyTorch