cnn rnn

Convolutional Neural Networks(CNN)

数学基础 卷积 卷积这一概念从最原始来说属于一种数学的运算方法,两个数列进行卷积,是指将一个数列翻转后,从另一个数列最左侧开始滑动求和 来到计算机科学中,由于卷积核往往采用对称矩阵,所以翻转这一动作实际就可以忽略掉了。通过卷积核中数据的不同排列,实现提取出输入图片中的特定特征。 训练 + 预测 目前 ......
Convolutional Networks Neural CNN

CNN中的一些filters

Median filter** 中值滤波法是一种非线性平滑技术。它将每一像素点的灰度值设置为该点某邻域窗口内的所有像素点灰度值的中值。常用来处理椒盐噪声(椒盐噪声,又称脉冲噪声,它随机改变一些像素值,在二值图像上表现为使一些像素点变白,一些像素点变黑),主要是利用中值不受分布序列极大值和极小值影响的 ......
filters CNN

TextRCNN、TextCNN、RNN…你都掌握了吗?一文总结文本分类必备经典模型(一)

本专栏将逐一盘点自然语言处理、计算机视觉等领域下的常见任务,并对在这些任务上取得过 SOTA 的经典模型逐一详解。前往 SOTA!模型资源站(sota.jiqizhixin.com)即可获取本文中包含的模型实现代码、预训练模型及 API 等资源。 本文将分 3 期进行连载,共介绍 20 个在文本分类 ......
TextRCNN 模型 文本 TextCNN 经典

from_rnn_2_transformer-cnblog

从RNN到Transformer 各式各样的“attention” 不管是在CV领域还是NLP领域, attention实质上就是一种取权重求和的过程。使得网络focus在其应该focus的地方。 根据Attention的计算区域,可以分成以下几种: 1)Soft Attention,这是比较常见的 ......

15 构建CNN(二)

import numpy as np import h5py import matplotlib.pyplot as plt %matplotlib inline plt.rcParams['figure.figsize'] = (5.0, 4.0) plt.rcParams['image.inte ......
CNN 15

14 构建CNN(一)

import numpy as np import h5py import matplotlib.pyplot as plt %matplotlib inline plt.rcParams['figure.figsize'] = (5.0, 4.0) plt.rcParams['image.inte ......
CNN 14

CNN -- Simple Residual Network

Smiling & Weeping 我爱你,从这里一直到月亮,再绕回来 说明: 1.要解决的问题:梯度消失 2. 跳连接,H(x) = F(x)+x,张量维度必须一致,加完后再激活。不要做pooling,张量的维度会发生变化 1 # 先是1个卷积层(conv, maxpooling, relu),然 ......
Residual Network Simple CNN

CNN --Inception Module

Smiling & Weeping 祝你想我 在平静的湖面 不止在失控的雪山之前 说明:Inception Module 1. 卷积核超参数选择困难,自动找到卷积的最佳组合 2. 1x1卷积核,不同通道的信息融合。使用1x1卷积核可以调节通道数量,可以显著降低计算量 3. Inception Mod ......
Inception Module CNN

CNN --入门MNIST识别

Smiling & Weeping 下次你撑伞低头看水洼, 就会想起我说雨是神的烟花。 简介:主要是看刘二大人的视频讲解:https://www.bilibili.com/video/BV1Y7411d7Ys/?spm_id_from=333.337.search-card.all.click 题目 ......
MNIST CNN

深度学习入门——卷积神经网络CNN基本原理+实战

beginning今天给小伙伴们介绍一个高级的分类方法——卷积神经网络CNN,并学习用CNN实现图像的分类。作为深度学习的基础,CNN可太重要了呐,在图像分类、目标检测、目标跟踪、语义分割、实例分割等领域随处可见它的身影。废话不多说啦,如果你也对CNN感兴趣的话,赶紧跟我一起愉快的看下去叭🍭🍭� ......
卷积 神经网络 实战 深度 神经

【目标检测】Fast R-CNN算法实现

一、前言 2014年,Ross Girshick提出RCNN,成为目标检测领域的开山之作。一年后,借鉴空间金字塔池化思想,Ross Girshick推出设计更为巧妙的Fast RCNN(https://github.com/rbgirshick/fast-rcnn),极大地提高了检测速度。Fast ......
算法 目标 R-CNN Fast CNN

基于CNN卷积神经网络的调制信号识别算法matlab仿真

1.算法运行效果图预览 2.算法运行软件版本 MATLAB2022A 3.算法理论概述 在无线通信系统中,调制信号的识别是一项重要的任务。通过识别接收到的信号的调制方式,可以对信号进行解调和解码,从而实现正确的数据传输和通信。卷积神经网络(Convolutional Neural Network,C ......
卷积 神经网络 算法 信号 神经

WSL 炼丹报错:Could not load library libcudnn_cnn_infer.so.8. Error: libcuda.so: cannot open shared object file: No such file or directory

确认驱动没问题(nvidia-smi 可以正常使用) 解决办法参照:https://github.com/pytorch/pytorch/issues/85773#issuecomment-1288033297 内容如下: ......

RWKV解读:在Transformer的时代的新RNN

转载地址:https://zhuanlan.zhihu.com/p/656323242 作者:徐传飞 在Transformer时代,介绍一个非Transformer架构的新网络——RWKV,RWKV是一种创新的深度学习网络架构,它将Transformer与RNN各自的优点相结合,同时实现高度并行化训 ......
Transformer 时代 RWKV RNN

CN0+CN1+CN2+…+CNN = 2的N次方 如何理解?

关于标题所示的经典公式的理解 数学角度讲是二项式定理,证明过程不记得了 但是这个回答里看到一个非常有意思的思路,从程序员角度比较好接受 参考链接 知乎:CN0+CN1+CN2+…+CNN如何得出等于2的N次方? PS 疑问来源:《算法图解:第8章 贪婪算法》 8.3 集合覆盖问题一节中提到,要找出覆 ......
CN CN0 CN1 CN2 CNN

m基于Faster R-CNN网络的烟雾检测系统matlab仿真,带GUI操作界面

1.算法仿真效果 matlab2022a仿真结果如下: 2.算法涉及理论知识概要 经过R-CNN和Fast RCNN的积淀,Ross B. Girshick在2016年提出了新的Faster RCNN,在结构上,Faster RCNN已经将特征抽取(feature extraction),propo ......
检测系统 烟雾 界面 Faster matlab

Typical Models of RNN and TFF

RNN LSTM(2014) Recurrent Neural Networks Hidden State: \(h\) \(h_t = tanh(U h_{t-1} + W x_t + b)\) \(y_t = Vh_t\) h: history state tanh : active funct ......
Typical Models RNN TFF and

m基于CNN卷积神经网络的口罩识别系统matlab仿真,带GUI操作界面,可以检测图片和视频,统计人数

1.算法仿真效果 matlab2022a仿真结果如下: 2.算法涉及理论知识概要 CNN 由许多神经网络层组成。卷积和池化这两种不同类型的层通常是交替的。网络中每个滤波器的深度从左到右增加。最后通常由一个或多个全连接的层组成。 Convnets 背后有三个关键动机:局部感受野、共享权重和池化。 (1 ......
卷积 神经网络 口罩 界面 神经

循环神经网络RNN完全解析:从基础理论到PyTorch实战

>在本文中,我们深入探讨了循环神经网络(RNN)及其高级变体,包括长短时记忆网络(LSTM)、门控循环单元(GRU)和双向循环神经网络(Bi-RNN)。文章详细介绍了RNN的基本概念、工作原理和应用场景,同时提供了使用PyTorch构建、训练和评估RNN模型的完整代码指南。 > 作者 TechLea ......

Sparse R-CNN

DETR是一个简洁的pipeline,但有一部分操作还是Dense的DETR提出了一套不同于Dense Prediction的pipeline,将检测视为一个Set Prediction问题,成功去掉了Anchor Generation和NMS但是在Decoder中,Object Query和Fea ......
Sparse R-CNN CNN

RNN/LSTM/GRU

RNN模型: 激活函数采用tanh() LSTM(长短期记忆网络) LSTM通过增加三个门,激活函数sigmoid输出0到1之间的数值,0表示不允许通过,1表示允许通过。 通过门来增加前后序列间的关联关系。 输入门、输出门、遗忘门(长记忆、短记忆) GRU(Gated Recurrent Unit, ......
LSTM RNN GRU

头疼!卷积神经网络是什么?CNN结构、训练与优化一文全解

> 本文全面探讨了卷积神经网络CNN,深入分析了背景和重要性、定义与层次介绍、训练与优化,详细分析了其卷积层、激活函数、池化层、归一化层,最后列出其训练与优化的多项关键技术:训练集准备与增强、损失函数、优化器、学习率调整、正则化技巧与模型评估调优。旨在为人工智能学者使用卷积神经网络CNN提供全面的指 ......
卷积 神经网络 神经 结构 网络

OpenCV3.3深度神经网络DNN模块 实例6:CNN模型预测性别与年龄

1 #include <opencv2/opencv.hpp> 2 #include <opencv2/dnn.hpp> 3 #include <iostream> 4 5 using namespace cv; 6 using namespace cv::dnn; 7 using namespac ......
神经网络 实例 模块 深度 模型

论文解读(CBL)《CNN-Based Broad Learning for Cross-Domain Emotion Classification》

Note:[ wechat:Y466551 | 付费咨询,非诚勿扰 ] 论文信息 论文标题:CNN-Based Broad Learning for Cross-Domain Emotion Classification论文作者:Rong Zeng, Hongzhan Liu , Sancheng ......

RNN,LSTM,ResNet

神经网络的梯度更新 反向传播算法:神经网络中加速计算参数梯度值的方法 梯度下降算法 -> 随机梯度下降、动量随机梯度 凸优化: 几何意义,任取一个集合中的两点练成一条线段,如果这条线段完全落在该集合中,那么这个集合就是凸集 BN训练测试: BN本质上是解决传播过程中的梯度消失问题 ......
ResNet LSTM RNN

Convolutional neural network (CNN)–extreme learning machine (ELM)

1. 介绍 论文:(2020)Neural networks for facial age estimation: a survey on recent advances. 地址: http://link.springer.com/article/10.1007/s10462-019-09765-w ......

利用pytorch自定义CNN网络(五):保存、加载自定义模型【转载】

**本文转载自:**[**PyTorch | 保存和加载模型**](https://zhuanlan.zhihu.com/p/82038049) ## 1. **简介** 本文主要介绍如何加载和保存 PyTorch 的模型。这里主要有三个核心函数: 1. torch.save :把序列化的对象保存到 ......
模型 pytorch 网络 CNN

利用pytorch自定义CNN网络(四):损失函数和优化器

本文是利用pytorch自定义CNN网络系列的第四篇,主要介绍如何训练一个CNN网络,关于本系列的全文见这里。 笔者的运行设备与软件:CPU (AMD Ryzen™ 5 4600U) + pytorch (1.13,CPU版) + jupyter; 训练模型是为了得到合适的参数权重,设计模型的训练时 ......
函数 损失 pytorch 网络 CNN

利用pytorch自定义CNN网络(三):构建CNN模型

本文是利用pytorch自定义CNN网络系列的第三篇,主要介绍如何构建一个CNN网络,关于本系列的全文见[这里](https://www.cnblogs.com/wpx123/p/17613613.html "这里")。 笔者的运行设备与软件:CPU (AMD Ryzen™ 5 4600U) + p ......
CNN 模型 pytorch 网络

利用pytorch自定义CNN网络(二):数据集的准备

本文是利用pytorch自定义CNN网络系列的第二篇,主要介绍构建网络前数据集的准备,关于本系列的全文见[这里](https://www.cnblogs.com/wpx123/p/17613613.html "这里")。 笔者的运行设备与软件:CPU (AMD Ryzen™ 5 4600U) + p ......
pytorch 数据 网络 CNN