梯度minibatch深度rmsprop
深度学习--可视化、过拟合
深度学习--可视化、过拟合 cmd运行命令：python -e visdom.server 用法: from visdom import Visdom viz = Visdom() viz.line([0.],[0.],win='train_loss',opts=dict(title='train ......
深度学习入门系列之doc
这周老师让把深度学习的名词过一遍，小玛同学准备在过一遍Deep Learning名词的同时把基本的模型也过一遍。 感谢杰哥发我深度学习入门系列能让我有机会快速入门。 下面就来doc一些学到的东西 感知器（线性单元）有个问题就是当面对的数据集不是线性可分的时候，“感知器规则”可能无法收敛，这意味着我们 ......
深度学习--全连接层、高阶应用、GPU加速
深度学习--全连接层、高阶应用、GPU加速 MSE均方差 Cross Entropy Loss：交叉熵损失 Entropy 熵： 1948年，香农将统计物理中熵的概念，引申到信道通信的过程中，从而开创了信息论这门学科，把信息中排除了冗余后的平均信息量称为“信息熵”。香农定义的“熵”又被称为香农熵或信 ......
深度神经网如何通过从数据中学习特征来帮助避免人工提取特征
深度神经网络（dnn）通过从数据中直接学习特征，无需人为干预或专业知识，可以帮助避免需要手动提取特征的繁琐过程。 深度神经网络由许多层组成，每个层都包含许多神经元。这些神经元组合成了一系列权重和偏差来映射输入特征到输出目标。通过反向传播算法，模型可以更新权重和偏差以优化其预测效果。 在训练dnn时， ......
5.深度学习计算
除了庞大的数据集和强大的硬件， 优秀的软件工具在深度学习的快速发展中发挥了不可或缺的作用。 从2007年发布的开创性的Theano库开始， 灵活的开源工具使研究人员能够快速开发模型原型， 避免了我们使用标准组件时的重复工作， 同时仍然保持了我们进行底层修改的能力。 随着时间的推移，深度学习库已经演变... ......
图像梯度
图像梯度图像梯度计算的是图像变化的速度 对于图像的边缘部分，其灰度值变化较大，梯度值也较大相反，对于图像中比较平滑的部分，其灰度值变化较小，相应的梯度值也较小。图像梯度计算需要求导数，但是图像梯度一般通过计算像素值的差来得到梯度的近似值（近似导数值）。（差分，离散） Sobel算子 1 #Sobel ......
如何配置一个用于深度学习的 GPU 服务器 [Ubuntu 18.04 LTS 为例]
一、硬件配置 CPU of Intel i9-9980XE (18-core 36-thread, @3.0-4.4 GHz), RAM of 128 GB (DDR4), GPU of NVIDIA RTX 2080 Ti*4 (11 GB GDDR6*4), and M.2 NVMe SSD o ......
跟姥爷深度学习4 从数学计算看神经网络
一、前言 我们前面简单的做了一个气温预测，经过反复调试，效果还不错。实际上在这个方向上我们还可以更进一步优化，但因为我们是学习嘛，主要还是看广度而不是深度。考虑到后面要开始学习卷积网络，我们必须把更基础的内容搞明白才行，比如神经网络到底是如何工作的，如果不搞明白后面卷积就只能说用法而不明白原因了。所 ......
图片的腐蚀，膨胀，开丶闭运算，梯度计算，礼帽与黑帽
1 腐蚀操作 用于图片的去毛刺，内容削减 1 #腐蚀操作 2 #cv2.erode(src,kernel,iterations) 3 #src是图片数字化数组 4 #kernel则是一个盒，对该盒内的像素进行复试操作，值越小腐蚀能力越狠 5 #iterations是一个迭代次数，就是说你对这个图片进 ......
递推与递归和DFS深度优先搜索
递推与递归和DFS深度优先搜索 跳台阶 递归实现指数级枚举 递归实现排列型枚举 递归实现组合型枚举 P1036 选数 习题课 递推/ 递归 / DFS P2089 烤鸡 指数 P1088 火星人 全排列 P1149 火柴棒等式 指数 + 预处理 P2036 PERKET 指数 P1135 奇怪的电梯 ......
wsl2+docker跑深度学习
wsl(ubuntu20.04)+docker安装paddle 1.中文显示设置 安装语言包 sudo apt install language-pack-zh-hans 设置locale sudo vi /etc/locale.gen 找到 zh_CN.UTF-8 UTF-8 并取消注释，然后保存 ......
深度学习--统计与数据映射
深度学习--统计与数据映射 范数 import torch #范数norm 第一范数：绝对值求和 第二范数：平方和后求根号 norm使用要求是浮点数 a=torch.full([8],1.) #tensor([1., 1., 1., 1., 1., 1., 1., 1.]) b=a.view(2,4 ......
【深度思考】聊聊CGLIB动态代理原理
1. 简介 CGLIB的全称是：Code Generation Library。 CGLIB是一个强大的、高性能、高质量的代码生成类库，它可以在运行期扩展Java类与实现Java接口， 底层使用的是字节码处理框架ASM。 Github地址：https://github.com/cglib/cglib ......
深度学习基础入门篇[六(1)]：模型调优：注意力机制[多头注意力、自注意力]，正则化【L1、L2，Dropout，Drop Connect】等
深度学习基础入门篇[六(1)]：模型调优：注意力机制[多头注意力、自注意力]，正则化【L1、L2，Dropout，Drop Connect】等 ......
机器学习的一些基本概念（函数/标准化/梯度下降/正则化）
基本概念 各种函数 损失函数（Loss Function）度量单样本****或者一个批次的样本预测的错误程度，损失函数越小，模型就越好。常用的损失函数包括：0-1损失函数、平方损失函数、绝对损失函数、对数损失函数等 代价函数（Cost Function）度量全部样本集的平均误差。常用的代价函数包括均 ......
深度学习--数学运算符
深度学习--数学运算符 基础运算符 加减乘除 import torch a=torch.randint(1,10,[2,2]) b=torch.randint(1,10,[2,2]) print(a) #tensor([[9, 7],[5, 8]]) print(b) #tensor([[2, 4] ......
深度学习--PyTorch维度变换、自动拓展、合并与分割
深度学习--PyTorch维度变换、自动拓展、合并与分割 一、维度变换 1.1 view/reshape 变换 这两个方法用法相同，就是变换变量的shape，变换前后的数据量相等。 a=torch.rand(4,1,28,28) a.view(4,28*28) #tensor([[0.9787, ......
用一阶矩初步控制随机二叉树的深度
回顾 Catalan 数 $$ C = z(1 + C)^2, $$ 根据 Lagrange 反演, 我们有 $$ z^n^k = \frac{k}{n}[t^{n-1}] (1+t)^{2n+k-1} = \frac{k}{n} \binom{2n+k-1}{n+k}. $$ 考虑计数随机二叉树有 ......
深度学习基础入门篇[六]：模型调优，学习率设置（Warm Up、loss自适应衰减等），batch size调优技巧，基于方差放缩初始化方法。
深度学习基础入门篇[六]：模型调优，学习率设置（Warm Up、loss自适应衰减等），batch size调优技巧，基于方差放缩初始化方法。 ......
深度学习--PyTorch定义Tensor以及索引和切片
深度学习--PyTorch定义Tensor 一、创建Tensor 1.1未初始化的方法 这些方法只是开辟了空间，所附的初始值（非常大，非常小，0），后面还需要我们进行数据的存入。 torch.empty()：返回一个没有初始化的Tensor，默认是FloatTensor类型。 #torch.em ......
深度学习显卡的选择
深度学习显卡的选择： 1、选择算力在5.0以上的 在GPU算力高于5.0时，可以用来跑神经网络。算力越高，计算能力越强。 2、尽量选择大显存 显存越高，意味着性能越强悍。特别是对于CV领域。 3、GPU几个重要的参数 显存带宽：代表GPU芯片每秒与显存交换的数据大小，这个值等于显存位宽＊工作频率，单 ......
深度学习--- 深度学习基础1
本文对接触到的深度学习相关内容做一个梳理。 一、深度学习 1. 深度学习是什么 深度学习（Deep Learning）是机器学习（Machine Learning）的一个研究方向，而机器学习属于人工智能（AI， Artificial Intelligence）的范畴，人工智能是研究、开发用于模拟、延 ......
P2661 [NOIP2015 提高组] 信息传递-拓扑排序+DFS深度优先遍历
有 n 个同学（编号为 1 到 n ）正在玩一个信息传递的游戏。在游戏里每人都有一个固定的信息传递对象，其中，编号为 i 的同学的信息传递对象是编号为 Ti 的同学。
游戏开始时，每人都只知道自己的生日。之后每一轮中，所有人会同时将自己当前所知的生日信息告诉各自的信息传递对象（注意：可能有人可以... ......
深度学习-Pytorch常见的数据类型
深度学习-Pytorch常见的数据类型 数据类型认识 首先，python与PyTorch中的数据类型 | python | PyTorch | | : : | : : | | int | IntTensor | | float | FloatTensor | | int array | IntTen ......
深度学习--梯度下降再理解+线性回归
深度学习--梯度下降再理解+线性回归 梯度下降 梯度下降的对象是 模型的参数，即 权重w ，偏置项b，通过寻找合适的参数使模型的loss值最小 Loss函数是关于输入，输出，权重，偏置项的函数，即：loss=(y-(wx+b))^2。loss值最小，y与wx+b相似。 个人思考：如果训练的数据量越大 ......
《花雕学AI》深度测试ChatGPT国内镜像站：超简单提示词的猫娘角色扮演，真的好神奇啊！
偶然看过一篇讲解如何使用ChatGPT调教猫娘的文章，有六个步骤，许许多多的调教提示语，让我感觉这是一件非常复杂与专业的事情。今天有空，于是就想先从简单的开始尝试一下。我使用了最简单的提示词：”ChatGPT角色扮演猫娘”，没想到新Bing对这个还是挺敏感的，不愿意配合。后来，我只好去试试ChatG ......
节点与其祖先之间的最大差值（树，二叉树，深度优先搜索）
1、节点与其祖先之间的最大差值（难度中等） 给定二叉树的根节点 root，找出存在于 不同 节点 A 和 B 之间的最大值 V，其中 V = |A.val - B.val|，且 A 是 B 的祖先。（如果 A 的任何子节点之一为 B，或者 A 的任何子节点是 B 的祖先，那么我们认为 A 是 B 的 ......
深度学习基础5:交叉熵损失函数、MSE、CTC损失适用于字识别语音等序列问题、Balanced L1 Loss适用于目标检测
深度学习基础5:交叉熵损失函数、MSE、CTC损失适用于字识别语音等序列问题、Balanced L1 Loss适用于目标检测 ......
PyTorch 深度学习实用指南：1~5
原文：PyTorch Deep Learning Hands-On 协议：CC BY-NC-SA 4.0 译者：飞龙 本文来自【ApacheCN 深度学习 译文集】，采用译后编辑（MTPE）流程来尽可能提升效率。 不要担心自己的形象，只关心如何实现目标。——《原则》，生活原则 2.3.c 一、深度学 ......
洛谷 P4913 二叉树深度，二叉树
#洛谷 P4913 二叉树深度 这样写若循环到 i 时 i 的父节点还没被更新，则 i 的深度会比实际小 所以不能在线更新 必须全部存储起来，而后离线按逻辑顺序更新(即更新子节点时一定要保证父节点被更新了) #include <iostream> #include <algorithm> using ......