卷积dsplearning_day方程dsplearning
3.1 卷积神经网路 (Convolutional Neural Networks, CNN)
# 1. 概念引入: Image Classification 我们做图像分类时,一般分为三步: * 所有图片都先 rescale 成大小一样 * 把每一个类别表示成一个 one-hot vector(dimension 的长度决定模型可以辨识出多少不同种类的东西) * 将图片输入到模型中 ![im ......
人工智能领域：面试常见问题超全（深度学习基础、卷积模型、对抗神经网络、预训练模型、计算机视觉、自然语言处理、推荐系统、模型压缩、强化学习、元学习）
人工智能领域：面试常见问题超全（深度学习基础、卷积模型、对抗神经网络、预训练模型、计算机视觉、自然语言处理、推荐系统、模型压缩、强化学习、元学习） ......
卷积神经网络（LeNet）
[toc] # 1. 卷积神经网络（LeNet） $LeNet$ 最早的卷积神经网络之一（$1989$ 年提出）。用于银行支票上手写数字识别（$1998$ 年杨立坤教授提出）。 ## 1.1 LeNet $LeNet$ $(LeNet-5)$ 由两部分组成： - 卷积编码器：由 $2$ 个卷积层。 ......
关于流体力学的三大基本方程
## 质量守恒方程 * 描述：控制体的质量变化率=流入控制体的质量变化率-流出控制体的质量变化率 * 方程：$${\frac{\partial\rho}{\partial t}}+\nabla\cdot\left(\rho \vec{V}\right)=0.$$或者另一种形式：$${\frac{\p ......
一元三次和四次方程的求根公式
本文涉及一元三次、四次方程的解法。一元四次方程是有求根公式的最高次方程（这里的求根公式指用$+$,$-$,$\times$,$\frac{m}{n}$,$\sqrt[k]{t}$符号表示的公式） ，但其推导颇为复杂，所以接下来不妨先从一元三次方程入手。 解这个方程： $$a x^3+b x^2+c ......
「学习笔记」扩展欧几里得定理与线性同余方程
## 扩展欧几里得算法 ### 介绍 扩展欧几里得算法，常用来求像 $ax + by = c$ 这样的不定方程的一组可行解 ### 解法 在此之前，我们可以确定 $c$ 一定是 $\gcd(a, b)$ 的倍数。 为什么？我们把原式分解一下 $ax + by$ 分解后，是$\gcd(a, b) \c ......
初等数论（Ⅳ）：狄利克雷卷积和各类反演
# 前置知识 ## 积性函数 满足 $f(1)=1$，并且当 $\gcd(a,b)=1$ 时，有 $f(ab) = f(a)f(b)$，则称 $f(n)$ 为积性函数。 如果对于全部的 $a,b$，都有 $f(ab)=f(a)f(b)$，则称 $f(n)$ 是完全积性函数。 ### 常见积性函数 1 ......
分组卷积
分组卷积（Grouped Convolution）是一种在卷积神经网络中常用的卷积操作，它将输入特征图分成多个分组，并在每个分组上应用卷积操作。每个分组使用独立的卷积核进行卷积计算，最后将各个分组的输出合并起来形成最终的输出特征图。 传统的卷积操作是在整个输入特征图上进行的，使用一组卷积核对整个特征 ......
深度可分离卷积
深度可分离卷积（Depthwise Separable Convolution）是一种在卷积神经网络中常用的卷积操作，它可以有效地减少计算量和模型参数的数量，从而提高模型的效率和速度。 传统的卷积操作是在输入特征图的每个通道上进行的，使用一组卷积核对每个通道进行卷积计算。而深度可分离卷积将卷积操作分 ......
[重读经典论文] ConvNeXt——卷积网络又行了
参考博客：ConvNeXt网络详解 参考视频：13.1 ConvNeXt网络讲解 ConvNeXt其实就是面向Swin Transformer的架构进行炼丹，最后获得一个比Swin Transformer还要牛逼的网络。 ......
深度学习应用篇-计算机视觉-视频分类[8]：时间偏移模块（TSM）、TimeSformer无卷积视频分类方法、注意力机制
深度学习应用篇-计算机视觉-视频分类[8]：时间偏移模块（TSM）、TimeSformer无卷积视频分类方法、注意力机制 ......
一元二次方程公式
$ \large对于每一个\color{blue}{一元二次方程}\color{black}{ax^2+bx+c=0},它的根是\\ $ $ \large\color{red}x=\dfrac{-b\pm\sqrt{b^2-4ac}}{2a}\color{black}\\ $ $ \large其中， ......
2022-2023 春学期 矩阵与数值分析 C7 常微分方程的数值解法
# 2022-2023 春学期 矩阵与数值分析 C7 常微分方程的数值解法 [原文](https://owuiviuwo.github.io/2023/06/10/2022-2023-%E6%98%A5%E5%AD%A6%E6%9C%9F-%E7%9F%A9%E9%98%B5%E4%B8%8E%E6 ......
小灰灰深度学习day7——画一元二次方程某一点的切线以及一些概念
#我们在这里画的是方程3*x**2 - 4*x 在x = 1处的切线#欠拟合:欠拟合指的是模型对训练数据的拟合度过低,误差值过大,自然泛化能力也不怎么好。 #泛化能力指模型对未知数据的拟合度 #过拟合:指模型对训练数据的拟合度较好,误差值较小,但是泛化能力并不好。 #对误差函数进行惩罚,从而提高模型 ......
【学习笔记】狄利克雷卷积与高级筛法
# 狄利克雷卷积 ## 概念 对于数论函数 $f,g$，定义其狄利克雷卷积 $h=f*g$，满足： $$h(n)=(f*g)(n)=\sum_{d\mid n} f(d)g\left(\dfrac{n}{d}\right)$$ 运算律： - 满足交换律，显然具有对称性。 - 满足结合律，等价于三个 ......
算法学习笔记(24): 狄利克雷卷积和莫比乌斯反演
# 狄利克雷卷积和莫比乌斯反演 > 看了《组合数学》，再听了学长讲的……感觉三官被颠覆…… [TOC] ## 狄利克雷卷积 如此定义： $$ (f*g)(n) = \sum_{xy = n} f(x)g(y) $$ 或者可以写为 $$ (f * g)(n) = \sum_{d | n} f(d) g ......
论文-用于射频无人机监控系统的高性能卷积网络
# RF-UAVNet: High-Performance Convolutional Network for RF-Based Drone Surveillance Systems RF-UAVNet: High-Performance Convolutional Network for RF-B ......
simulink求微分方程dx =-5x + u
一、分析题目，对dx积分才能求出x，可以通过引入积分器，其中积分器的输入是dx，输出就是x 二、确定需要的模块，存在-5x，需要一个gain模块，有-5x+u需要一个sum模块，加上一步需要的积分器，此处这里的u用正弦信号，需要一个sine wave，查看信号情况，需要一个scope模块，需要观察两 ......
[cnn][julia]Flux实现卷积神经网络cnn预测手写MNIST
# julia_Flux ### 1.导入Flux.jl和其他所需工具包 ```julia using Flux, MLDatasets, Statistics using Flux: onehotbatch, onecold, logitcrossentropy, params using MLD ......
莫比乌斯反演 & 狄利克雷卷积
~~大家好，我不会数学实锤了。~~ 文章内容较杂，分章节叙述了的大部分有关内容。 ~~为什么把这俩放一起？我不知道。~~ ## 积性函数 积性函数：$\forall a,b$，$a\perp b$，如果一个函数 $f$ 始终满足 $f(ab) = f(a)f(b)$，则称 $f(x)$ 为积性函数。 ......
微分方程的应用
**一般的解题步骤：** 1.根据实际要求确定要研究的量 2，找出这些量满足的规律并列出方程 3，根据题给信息列出初始条件 几何问题 做题 变化率问题 建模的关键：抓住**某个量对于某个量的变化率为多少**这一条件，用导数表示出这一条件，得到微分方程 初始条件一般是确定比例系数之类的东西，并且要注意 ......
信号与系统基础复习：系统分析、求解方程、电路基础
信息与系统总论 信息是人类社会和自然界中需要传送 、交换 、存储和提取的抽象内容。 信息存在于一切事物之中 ，事物的一切变化和运动都伴随着信息的交换和传送。 各种各样的社会活动 、无线电波的传播 、计算机的运算等都是信息交换和传输的过程。 信息是抽象的内容 ，为了传送和交换信息， 必须通过语言、文字 ......
一个有趣的问题：卷积和池化能否相互代替？
本文来自公众号“AI大道理” 卷积和池化层在神经网络中非常常见。 正因为习以为常，所以容易让人误以为是必不可少的。 那么卷积能代替池化吗？ 池化又能否代替卷积呢？ 要想回答这个问题，必须深究其本质，才能看清楚他们是否不可获取，以及缺了会怎么样。 编辑 1、卷积的本质 卷积是一种运算，特征图与卷 ......
DHVT：在小数据集上降低VIT与卷积神经网络之间差距，解决从零开始训练的问题
VIT在归纳偏置方面存在空间相关性和信道表示的多样性两大缺陷。所以论文提出了动态混合视觉变压器(DHVT)来增强这两种感应偏差。 在空间方面，采用混合结构，将卷积集成到补丁嵌入和多层感知器模块中，迫使模型捕获令牌特征及其相邻特征。 在信道方面，引入了MLP中的动态特征聚合模块和多头注意力模块中全新的 ......
FFT——快速处理卷积
## 前置知识 ### 卷积 符号为 $*$。 设多项式 $A(x) = a_0 + a_1x + a_2x^2 + \cdots + a_nx^n, B(x) = b_0 + b_1x_1 + b_2x^2 + \cdots + b_nx^n$，则有 $$ (A * B)[n] = \sum_{i ......
在树莓派上实现numpy的conv2d卷积神经网络做图像分类，加载pytorch的模型参数，推理mnist手写数字识别，并使用多进程加速
这几天又在玩树莓派，先是搞了个物联网，又在尝试在树莓派上搞一些简单的神经网络，这次搞得是卷积识别mnist手写数字识别 训练代码在电脑上，cpu就能训练，很快的： import torch import torch.nn as nn import torch.optim as optim from ......
使用卷积神经网络实现影评数据的分类
一、实验目的 熟悉循环神经网络在文本分析和分类上的应用 二、实验原理或实验内容 从keras的数据集中加载影评数据，注意需要填充（截断）数据，并转成数组的形式。 构建一个神经网络模型，要求使用词嵌入和循环层，并使用划分好的训练集数据训练模型，使用划分好的测试集的数据验证模型，训练迭代20次。 获取训 ......
卷积神经网络（CNN）进行特征提取
卷积神经网络（CNN）是一种深度学习模型，广泛应用于图像分类、目标检测、语音识别等领域。CNN通过卷积层、池化层、全连接层等组成，可以自动地从原始数据中提取特征。 卷积层是CNN的核心组成部分，它通过滑动卷积核对输入数据进行卷积操作，提取出图像的特征。卷积核的大小、步长、填充等参数可以根据任务需求进 ......
尝试讲解一下数字电路和模拟电路的状态方程
状态方程，也称为状态转移方程。在数字电路的时序逻辑分析和设计中，会用到状态方程。而实际模拟电路中几乎不用，用到的是“电路分析”部分。但是自动控制原理，通常是通过模拟电路实现的，而使用状态方程的方法，通常被称为现代控制理论。这里不研究那么高深的自动控制理论，仅仅简单的通过两个例子，来说明一下，如何使用 ......