神经网络

matlab使用长短期记忆(LSTM)神经网络对序列数据进行分类|附代码数据

全文下载链接:http://tecdat.cn/?p=19751 本示例说明如何使用长短期记忆(LSTM)网络对序列数据进行分类 。 最近我们被客户要求撰写关于LSTM的研究报告,包括一些图形和统计输出。 要训练深度神经网络对序列数据进行分类,可以使用LSTM网络。LSTM网络使您可以将序列数据输入 ......
数据 神经网络 序列 长短 神经

神经网络优化篇:详解指数加权平均数(Exponentially weighted averages)

指数加权平均数 比如这儿有去年伦敦的每日温度,所以1月1号,温度是40华氏度,相当于4摄氏度。世界上大部分地区使用摄氏度,但是美国使用华氏度。在1月2号是9摄氏度等等。在年中的时候,一年365天,年中就是说,大概180天的样子,也就是5月末,温度是60华氏度,也就是15摄氏度等等。夏季温度转暖,然后 ......

游戏AI行为决策——MLP(多层感知机/人工神经网络)

游戏AI行为决策(特别篇)——MLP(附代码与项目) 你一定听说过神经网络的大名,你有想过将它用于游戏AI的行为决策上吗?其实在(2010年发布的)《最高指挥官2》中就有应用了,今天请允许我班门弄斧一番,与大家一同用C#实现最经典的神经网络——多层感知机(Multilayer Perceptron, ......
神经网络 多层 人工 神经 行为

神经网络学习笔记(1)

1、神经元 神经元是神经网络中的基本单元。 每一个神经元包括两个参数:权重系数和偏置系数b。 神经网络的学习过程就是通过优化更新每一个神经元的权重和偏置系数,使得输出值Y更接近其真实值。 假设神经元的输入向量为 ,那么输出,其中 是该神经元选定的激活函数。 x1、x2表示输入量 w1、w2为权重,几 ......
神经网络 神经 笔记 网络

神经网络优化篇:理解mini-batch梯度下降法(Understanding mini-batch gradient descent)

理解mini-batch梯度下降法 使用batch梯度下降法时,每次迭代都需要历遍整个训练集,可以预期每次迭代成本都会下降,所以如果成本函数\(J\)是迭代次数的一个函数,它应该会随着每次迭代而减少,如果\(J\)在某次迭代中增加了,那肯定出了问题,也许的学习率太大。 使用mini-batch梯度下 ......
mini-batch 神经网络 梯度 batch mini

神经网络优化篇:详解Mini-batch 梯度下降(Mini-batch gradient descent)

Mini-batch 梯度下降 机器学习的应用是一个高度依赖经验的过程,伴随着大量迭代的过程,需要训练诸多模型,才能找到合适的那一个,所以,优化算法能够帮助快速训练模型。 其中一个难点在于,深度学习没有在大数据领域发挥最大的效果,可以利用一个巨大的数据集来训练神经网络,而在巨大的数据集基础上进行训练 ......
Mini-batch 神经网络 梯度 batch Mini

Python中TensorFlow的长短期记忆神经网络(LSTM)、指数移动平均法预测股票市场和可视化|附代码数据

原文链接:http://tecdat.cn/?p=23689 最近我们被客户要求撰写关于LSTM的研究报告,包括一些图形和统计输出。 本文探索Python中的长短期记忆(LSTM)网络,以及如何使用它们来进行股市预测 ( 点击文末“阅读原文”获取完整代码数据)。 在本文中,你将看到如何使用一个被称为 ......

神经网络优化篇:梯度检验应用的注意事项(Gradient Checking Implementation Notes)

梯度检验应用的注意事项 分享一些关于如何在神经网络实施梯度检验的实用技巧和注意事项。 首先,不要在训练中使用梯度检验,它只用于调试。意思是,计算所有\(i\)值的\(d\theta_{\text{approx}}\left[i\right]\)是一个非常漫长的计算过程,为了实施梯度下降,必须使用\( ......

[NLP复习笔记] 神经网络及BP算法

1. 神经网络 1.1 神经元 神经元(Neuron)或节点(Node) 是神经网络的基本单元。下图是一个简单的神经元示意图,\(x\) 表示 输入(\(\text{Input}\)), \(x_i\) 表示来自于前面第 \(i\) 个 神经元(\(\text{Neuron}\))的输入,通常会增加 ......
神经网络 算法 神经 笔记 网络

鱼类识别系统Python+TensorFlow卷积神经网络算法模型+深度学习人工智能【计算机课设项目】

一、介绍 鱼类识别系统。使用Python作为主要编程语言开发,通过收集常见的30种鱼类('墨鱼', '多宝鱼', '带鱼', '石斑鱼', '秋刀鱼', '章鱼', '红鱼', '罗非鱼', '胖头鱼', '草鱼', '银鱼', '青鱼', '马头鱼', '鱿鱼', '鲇鱼', '鲈鱼', '鲍鱼' ......

《python神经网络读书笔记》

感想: 人工智能 是一门古老的学科,意思是人为的创造出和人类相似的智能体。在很多科幻影视作品中都有描述,甚至有的影视作品中不是使用计算机来实现人工智能。但是实际上这门学科在21世纪之前一直没什么进展。20世纪时,这门学科的主要研究方向是通过写一些强制判断逻辑来模拟智能体。实现出来的智能体基本都属于人 ......
神经网络 神经 笔记 python 网络

特斯拉神经网络初探

先递上特斯拉的AI 模型HydraNets(2020) 2022年,特斯拉宣布将在其自动驾驶车辆中发布一种全新的算法:Occupancy Networks,主要用来解决以下两个问题: 问题1:检测到的物体不是数据集中训练的对象; 问题2:在基于LiDAR的系统中,可以根据检测到的物体确定对象的存在 ......
神经网络 神经 网络

神经网络优化篇:详解梯度检验(Gradient checking)

梯度检验 梯度检验帮节省了很多时间,也多次帮发现backprop实施过程中的bug,接下来,看看如何利用它来调试或检验backprop的实施是否正确。 假设的网络中含有下列参数,\(W^{[1]}\)和\(b^{[1]}\)……\(W^{[l]}\)和\(b^{[l]}\),为了执行梯度检验,首先要 ......
神经网络 梯度 Gradient checking 神经

神经网络优化篇:详解梯度的数值逼近(Numerical approximation of gradients)

在实施backprop时,有一个测试叫做梯度检验,它的作用是确保backprop正确实施。因为有时候,虽然写下了这些方程式,却不能100%确定,执行backprop的所有细节都是正确的。为了逐渐实现梯度检验,首先说说如何计算梯度的数值逼近。 先画出函数\(f\),标记为\(f\left( \thet ......

matlab使用长短期记忆(LSTM)神经网络对序列数据进行分类|附代码数据

全文下载链接:http://tecdat.cn/?p=19751 本示例说明如何使用长短期记忆(LSTM)网络对序列数据进行分类 。 最近我们被客户要求撰写关于LSTM的研究报告,包括一些图形和统计输出。 要训练深度神经网络对序列数据进行分类,可以使用LSTM网络。LSTM网络使您可以将序列数据输入 ......
数据 神经网络 序列 长短 神经

简易机器学习笔记(八)关于经典的图像分类问题-常见经典神经网络LeNet

前言 图像分类是根据图像的语义信息对不同类别图像进行区分,是计算机视觉的核心,是物体检测、图像分割、物体跟踪、行为分析、人脸识别等其他高层次视觉任务的基础。图像分类在许多领域都有着广泛的应用,如:安防领域的人脸识别和智能视频分析等,交通领域的交通场景识别,互联网领域基于内容的图像检索和相册自动归类, ......
经典 神经网络 简易 图像 神经

神经网络优化篇:详解神经网络的权重初始化(Weight Initialization for Deep NetworksVanishing / Exploding gradients)

神经网络的权重初始化 这是一个神经单元初始化地例子,然后再演变到整个深度网络。 来看看只有一个神经元的情况,然后才是深度网络。 单个神经元可能有4个输入特征,从\(x_{1}\)到\(x_{4}\),经过\(a=g(z)\)处理,最终得到\(\hat{y}\),稍后讲深度网络时,这些输入表示为\(a ......

对神经网络的初步理解

神经网络就是,比如说,我们输入一张图片,这张图片的话比如说是100X100像素值,比如有一层神经网络与之对应,其中里面的每个神经元都是一个数值(激活值)为(0,1)的个体,颜色越亮越接近1,颜色越暗越接近0,然后那层神经网络的每个神经元的不同的激活值就可以大概地组成一张图像,然后比如输出层要输出一个 ......
神经网络 神经 网络

P5 循环神经网络模型

如何构建一个神经网络来实现从x到y的映射??? 实现过程中的困难: 1,输入和输出对于不同的例子会有不同的长度 或许可以给每个例子一个最大长度,将不足长度的部分用0补足,但是不是最好 2,这样一个朴素的神经网络,不能共享从不同文本位置学到的特征,尤其是神经网络学到了训练集中经常出现的词汇,我们希望在 ......
神经网络 模型 神经 网络 P5

神经网络优化篇:详解梯度消失/梯度爆炸(Vanishing / Exploding gradients)

梯度消失/梯度爆炸 训练神经网络,尤其是深度神经所面临的一个问题就是梯度消失或梯度爆炸,也就是训练神经网络的时候,导数或坡度有时会变得非常大,或者非常小,甚至于以指数方式变小,这加大了训练的难度。 接下来,将会了解梯度消失或梯度爆炸的真正含义,以及如何更明智地选择随机初始化权重,从而避免这个问题。 ......

机器学习笔记(四)初识卷积神经网络

前言 第一次写卷积神经网络,也是照着paddlepaddle的官方文档抄,这里简单讲解一下心得。 首先我们要知道之前写的那些东西都是什么,之前写的我们称之为简单神经网络,也就是简单一层连接输出和输出,通过前向计算和逆向传播,以及梯度下降的方式让结果慢慢滑向我们期望的终点。 这种方法固然好,但是它的限 ......
卷积 神经网络 神经 机器 笔记

PyTorch 神经网络基础

模型构造 在代码里 任何一个层或者神经网络都应该是Module的子类 通过继承nn.Module 可以更灵活的去自定义我们的操作 参数管理 自定义层 带参数的层需要给出输入的维度和输出的维度 读写文件 ......
网络基础 神经 PyTorch 基础 网络

典型卷积神经网络(LeNet-5,AlexNet,VGG,GoogLeNet)

3.1 LeNet-5网络 LeNet-5 曾被大规模用于自动识别美国银行支票上的手写数字。该网络是卷积神经网络 (CNN)。CNN 是现代最先进的基于深度学习的计算机视觉的基础。这些网络建立在 3 个主要思想之上:局部感受野、共享权重和空间子采样。具有共享权重的局部感受野是卷积层的本质,下面描述的 ......
卷积 神经网络 GoogLeNet 典型 神经

神经网络中的分位数回归和分位数损失

在使用机器学习构建预测模型时,我们不只是想知道“预测值(点预测)”,而是想知道“预测值落在某个范围内的可能性有多大(区间预测)”。例如当需要进行需求预测时,如果只储备最可能的需求预测量,那么缺货的概率非常的大。但是如果库存处于预测的第95个百分位数(需求有95%的可能性小于或等于该值),那么缺货数量 ......
位数 神经网络 神经 损失 网络

【Python机器学习课程设计】基于卷积神经网络的动物图像分类+数据分析

一、选题背景 在现代社会中,图像分类是计算机视觉领域的一个重要任务。动物图像分类具有广泛的应用,例如生态学研究、动物保护、农业监测等。通过对动物图像进行自动分类,可以帮助人们更好地了解动物种类、数量和分布情况,从而支持相关领域的决策和研究。本研究的目标是使用卷积神经网络(CNN)对动物图像进行分类。 ......

【Python机器学习课程设计】基于卷积神经网络的动物图像分类

恢复内容开始 一、选题背景 在现代社会中,图像分类是计算机视觉领域的一个重要任务。动物图像分类具有广泛的应用,例如生态学研究、动物保护、农业监测等。通过对动物图像进行自动分类,可以帮助人们更好地了解动物种类、数量和分布情况,从而支持相关领域的决策和研究。本研究的目标是使用卷积神经网络(CNN)对动物 ......
卷积 神经网络 图像 神经 机器

神经网络优化篇:详解归一化输入(Normalizing inputs)

归一化输入 训练神经网络,其中一个加速训练的方法就是归一化输入。假设一个训练集有两个特征,输入特征为2维,归一化需要两个步骤: 零均值 归一化方差; 希望无论是训练集和测试集都是通过相同的\(μ\)和\(σ^2\)定义的数据转换,这两个是由训练集得出来的。 第一步是零均值化,\(\mu = \fra ......

浅层神经网络

什么是浅层神经网络 logistic回归是将若干个特征先进行线性表达,再加上sigmod非线性化,得到结果 浅层神经网络计算又多加了一层隐藏层,得到输出值后重复了一遍计算流程,[1] 上标表示第几层 神经网络的向量化表示 样本为列向量堆叠 : n_x * m w维度 :n(l) * n (l-1) ......
神经网络 神经 网络

深度Q神经网络(DQN)

有了上节课值函数近似的铺垫,这节课就来到了DQN,推开了深度强化学习的大门 为什么要学习DQN呢,为什么一定要有神经网络的参与呢,AI的发展肯定是为了帮助人类去完成一些事情,而人类的世界是很复杂的,很抽象的,不可能你几个数据就能训练出一个很厉害的模型,所以你需要上百万甚至不止的数据,那么,你从哪得到 ......
神经网络 深度 神经 网络 DQN

神经网络优化篇:详解其他正则化方法(Other regularization methods)

其他正则化方法 除了\(L2\)正则化和随机失活(dropout)正则化,还有几种方法可以减少神经网络中的过拟合: 一.数据扩增 假设正在拟合猫咪图片分类器,如果想通过扩增训练数据来解决过拟合,但扩增数据代价高,而且有时候无法扩增数据,但可以通过添加这类图片来增加训练集。例如,水平翻转图片,并把它添 ......
共600篇  :1/20页 首页上一页1下一页尾页