卷积 神经cnn
经典卷积神经网络LeNet&AlexNet&VGG
LeNet LeNet-5是一种经典的卷积神经网络结构，于1998年投入实际使用中。该网络最早应用于手写体字符识别应用中。普遍认为，卷积神经网络的出现开始于LeCun等提出的LeNet网络，可以说LeCun等是CNN的缔造者，而LeNet则是LeCun等创造的CNN经典之作网络结构图由下图所示： L ......
神经网络优化篇：详解正则化（Regularization）
正则化 深度学习可能存在过拟合问题——高方差，有两个解决方法，一个是正则化，另一个是准备更多的数据，这是非常可靠的方法，但可能无法时时刻刻准备足够多的训练数据或者获取更多数据的成本很高，但正则化通常有助于避免过拟合或减少的网络误差。 如果怀疑神经网络过度拟合了数据，即存在高方差问题，那么最先想到的方 ......
InternImage: Exploring Large-Scale Vision Foundation Models with Deformable Convolutions 可变形卷积v3
InternImage: Exploring Large-Scale Vision Foundation Models with Deformable Convolutions * Authors: [[Wenhai Wang]], [[Jifeng Dai]], [[Zhe Chen]], [[Z ......
Deformable ConvNets V2: More Deformable, Better Results 可变形卷积v2
Deformable ConvNets V2: More Deformable, Better Results * Authors: [[Xizhou Zhu]], [[Han Hu]], [[Stephen Lin]], [[Jifeng Dai]] DOI: 10.1109/CVPR.2019. ......
聊聊神经网络的优化算法
优化算法主要用于调整神经网络中的超参数，使得训练数据集上的损失函数尽可能小。其核心逻辑是通过计算损失函数对参数的梯度（导数）来确定参数更新方向。 SGD Stochastic Gradient Descent(随机梯度下降法)：随机梯度下降算法是一种改进的梯度下降方法，它在每次更新参数时，只随机选择 ......
Mask-R-CNN生成的mask掩码图像处理
目录Mask-R-CNN生成的mask掩码图像处理文章内容数据介绍数据处理数据输入与输出筛选数据掩码图像转换掩码图整合原图与掩码图整合 Mask-R-CNN生成的mask掩码图像处理 文章内容 将mask掩码图与原图混合，显示实例分割效果图,省略边框显示 效果如下,实现左图到右图 数据介绍 原始图像 ......
神经网络优化篇：机器学习基础（Basic Recipe for Machine Learning）
机器学习基础 下图就是在训练神经网络用到的基本方法：（尝试这些方法，可能有用，可能没用） 这是在训练神经网络时用到地基本方法，初始模型训练完成后，首先要知道算法的偏差高不高，如果偏差较高，试着评估训练集或训练数据的性能。如果偏差的确很高，甚至无法拟合训练集，那么要做的就是选择一个新的网络，比如含有更 ......
Conv2Former: A Simple Transformer-Style ConvNet for Visual Recognition：使用大核卷积调制来简化注意力
Conv2Former: A Simple Transformer-Style ConvNet for Visual Recognition * Authors: [[Qibin Hou]], [[Cheng-Ze Lu]], [[Ming-Ming Cheng]], [[Jiashi Feng]] ......
PINN——加入物理约束的神经网络
【摘要】 基于物理信息的神经网络（Physics-informed Neural Network， 简称PINN），是一类用于解决有监督学习任务的神经网络，它不仅能够像传统神经网络一样学习到训练数据样本的分布规律，而且能够学习到数学方程描述的物理定律。与纯数据驱动的神经网络学习相比，PINN在训练过 ......
SCConv：用于特征冗余的空间和通道重建卷积
SCConv：用于特征冗余的空间和通道重建卷积 摘要 卷积神经网络（CNN）在各种计算机视觉任务中取得了显着的性能，但这是以巨大的计算资源为代价的，部分原因是卷积层提取了冗余特征。最近的工作要么压缩训练有素的大型模型，要么探索精心设计的轻量级模型。在本文中，我们尝试利用特征之间的空间和通道冗余进行 ......
纯卷积BEV模型的巅峰战力 | BEVENet不用Transformer一样成就ADAS的量产未来(转)
近年来，在自动驾驶领域，鸟瞰视角（BEV）空间中的3D目标检测作为一种普遍的方法逐渐脱颖而出。尽管与视角视图方法相比，BEV方法在精度和速度估计方面得到了改进，但将BEV技术部署到实际自动驾驶车辆中仍然具有挑战性。这主要归因于它们依赖于基于视觉 Transformer （ViT）的架构，这使得相对于 ......
神经网络算法原理简述
神经网络算法是一种模拟人类神经系统运作的机器学习算法。它由多个神经元（或称为节点）组成，每个神经元都与其他神经元连接，并通过这些连接传递信息。神经网络通过学习大量数据，自动调整连接的权重，从而实现模式识别、分类、回归等任务。神经网络算法的原理可以分为以下几个步骤： 输入层：神经网络的第一层是输入层， ......
一种用于心音分类的轻量级1D-CNN+DWT网络
这是由National Institute of Technology Rourkela, Central University of Rajasthan发布在2022 ICETCI的论文，利用离散小波变换(DWT)得到的多分辨率域特征对1D-CNN模型进行心音分类训练。 https://avoid ......
基于小波神经网络的网络流量预测算法matlab仿真
1.算法运行效果图预览 2.算法运行软件版本 matlab2022A 3.算法理论概述 网络流量能直接反映网络性能的好坏，网络流量的建模与预测对于大规模网络的规划设计、网络资源管理以及用户行为的调节等方面都具有积极意义。本课题首先介绍了网络流量的特征，在分析了小波理论的基础上提出了一种基于小波变换的 ......
深度学习笔记4：在卷积基上添加数据增强代码块和分类器
特征提取的另一种方式是将原有模型与一个新的密集分类器相连接，以构建一个新的模型，然后对整个模型进行端到端的训练。这种方法在输入数据上进行整体训练，使模型能够更好地适应数据特性并提取更有效的特征。通过这种方式，模型的性能可以得到进一步提高，同时也能更好地捕捉到数据中的复杂模式。 冻结卷积基 from ......
week2-神经网络基础
1. Binary Classification 如上图所示是经典的二分类问题。输入的图片是3通道64*64像素的，有3个64*64的矩阵，把这些像素亮度放入一个特征向量（feature vector）x。（按照通道的顺序排列下来，如上图的X）,向量x的总维度就是64*64*3，为12288。用n_ ......
Nougat：结合光学神经网络，引领学术PDF文档的智能解析、挖掘学术论文PDF的价值
Nougat：结合光学神经网络，引领学术PDF文档的智能解析、挖掘学术论文PDF的价值 这是Nougat的官方存储库，Nougat是一种学术文档PDF解析器，可以理解LaTeX数学和表格。 Project page: https://facebookresearch.github.io/nougat ......
论文精读：STMGCN利用时空多图卷积网络进行移动边缘计算驱动船舶轨迹预测（STMGCN: Mobile Edge Computing-Empowered Vessel Trajectory Prediction Using Spatio-Temporal Multigraph Convolutional Network）
《STMGCN: Mobile Edge Computing-Empowered Vessel Trajectory Prediction Using Spatio-Temporal Multigraph Convolutional Network》 论文链接：https://doi.org/10. ......
神经网络是如何工作的？
作为一名程序员，我们习惯于去了解所使用工具、中间件的底层原理，本文则旨在帮助大家了解AI模型的底层机制，让大家在学习或应用各种大模型时更加得心应手，更加适合没有AI基础的小伙伴们。 ......
【Pytorch基础实战】第一节，BP神经网络
项目地址 https://gitee.com/wxzcch/pytorchbase/tree/master/leason_1 实现代码 import pandas as pd import torch import torch.nn as nn import torch.optim as optim ......
论文精读：基于具有时空感知的稀疏多图卷积混合网络的大数据驱动船舶轨迹预测（Big data driven trajectory prediction based on sparse multi-graph convolutional hybrid network withspatio-temporal awareness）
论文精读：基于具有时空感知的稀疏多图卷积混合网络的大数据驱动船舶轨迹预测 《Big data driven vessel trajectory prediction based on sparse multi-graph convolutional hybrid network with spati ......
物理信息神经网络(PINN)
什么是物理信息神经网络(PINN)？ 宋家豪, 曹文博, and 张伟伟. "FD-PINN: 频域物理信息神经网络." 力学学报 55.5 (2023): 1195-1205. 物理信息神经网络（PINN）是一种将深度学习与物理建模相结合的方法，用于求解偏微分方程（PDE)和其他物理问题。PINN ......
基于支持向量机SVM和MLP多层感知神经网络的数据预测matlab仿真
1.算法运行效果图预览 2.算法运行软件版本 matlab2022a 3.算法理论概述 支持向量机（SVM）和多层感知器（MLP）是两种常用的机器学习算法，它们在数据预测和分类任务中都有广泛的应用。下面将详细介绍这两种算法的原理和数学公式。 一、支持向量机（SVM） 支持向量机是一种二分类算法，其基 ......
神经网络优化篇：详解偏差，方差（Bias /Variance）
偏差，方差 注意到，几乎所有机器学习从业人员都期望深刻理解偏差和方差，这两个概念易学难精，即使自己认为已经理解了偏差和方差的基本概念，却总有一些意想不到的新东西出现。关于深度学习的误差问题，另一个趋势是对偏差和方差的权衡研究甚浅，可能听说过这两个概念，但深度学习的误差很少权衡二者，总是分别考虑偏差和 ......
深度学习中前馈神经网络的认识以及损失函数，梯度下降的一些算法
1.前馈神经网络 前馈神经网络就是上次提到的网络模型的基础上它仅可以向前传播，往前传播应该有的权值w，不断提取特征 2.损失函数 损失函数是什么？ 它是输入之后在隐藏层的传播过程中每一次数据传入对它预测结束之后都有一个预测值，这个预测值和真实得出来的结果有一定的误差，对这个误差进行拟合，需要用一些函 ......
神经网络优化篇：详解训练，验证，测试集（Train / Dev / Test sets）
训练，验证，测试集 在配置训练、验证和测试数据集的过程中做出正确决策会在很大程度上帮助大家创建高效的神经网络。训练神经网络时，需要做出很多决策，例如： 神经网络分多少层 每层含有多少个隐藏单元 学习速率是多少 各层采用哪些激活函数 创建新应用的过程中，不可能从一开始就准确预测出这些信息和其他超级参数 ......
神经网络Python代码完整版及其代码解析
1、读取数据集和标签集 1 def loadDataSet(): 2 data = [] 3 label = [] 4 fr = open('testSet.txt') 5 for line in fr.readlines(): # 循环读写，fr是一个已经打开的文件对象，readline（）函数会 ......
神经网络入门篇：深度学习和大脑的关联性（What does this have to do with the brain?）
深度学习和大脑的关联性 开始讲故事（手动狗头） 深度学习和大脑有什么关联性吗？ 关联不大。 那么为什么会说深度学习和大脑相关呢？ 当你在实现一个神经网络的时候，那些公式是你在做的东西，你会做前向传播、反向传播、梯度下降法，其实很难表述这些公式具体做了什么，深度学习像大脑这样的类比其实是过度简化了我们 ......
聊聊神经网络模型流程与卷积神经网络的实现
神经网络模型流程 神经网络模型的搭建流程，整理下自己的思路，这个过程不会细分出来，而是主流程。 在这里我主要是把整个流程分为两个主流程，即预训练与推理。预训练过程主要是生成超参数文件与搭设神经网络结构；而推理过程就是在应用超参数与神经网络。 卷积神经网络的实现 在 聊聊卷积神经网络CNN中，将卷积神 ......