梯度minibatch深度rmsprop
机器学习中的优化方法——两种梯度下降法的Python实验报告
1 背景 考虑正则逻辑回归的反对函数（Consider the objection function of regularized logistic regression）： \[\begin{gather*} \mathop{min}\limits_{x\in\mathbb{R}^d}f(x)=\ ......
神经网络基础篇：详解逻辑回归 & m个样本梯度下降
逻辑回归中的梯度下降 本篇讲解怎样通过计算偏导数来实现逻辑回归的梯度下降算法。它的关键点是几个重要公式，其作用是用来实现逻辑回归中梯度下降算法。但是在本博客中，将使用计算图对梯度下降算法进行计算。必须要承认的是，使用计算图来计算逻辑回归的梯度下降算法有点大材小用了。但是，认为以这个例子作为开始来讲解 ......
关于二叉树中三种深度遍历方式的理解
今日刷题，538. 把二叉搜索树转换为累加树。明确知道利用二叉搜索树中序遍历的情况下是有序数组这一个特点，进行“逆中序”来累加。但是在递归时却还是有些没有搞清楚一些细节，终究还是没有掌握。 问题主要还是在于递归返回值的处理上： 在中序遍历的情况下，似乎对于左右两个节点的遍历，不太方便进行返回值的操作 ......
深度学习之Attention Model（注意力模型）
https://www.cnblogs.com/jiangxinyang/p/9367497.html 1、Attention Model 概述 深度学习里的Attention model其实模拟的是人脑的注意力模型，举个例子来说，当我们观赏一幅画时，虽然我们可以看到整幅画的全貌，但是在我们深入仔细 ......
基于LSTM深度学习网络的时间序列分析matlab仿真
1.算法运行效果图预览 2.算法运行软件版本 matlab2022a 3.算法理论概述 LSTM是一种循环神经网络（RNN）的变体，专门设计用于处理序列数据。LSTM网络通过记忆单元和门控机制来捕捉时间序列中的长期依赖关系，避免了传统RNN中的梯度消失问题。LSTM的核心原理包括三种门控：输入门（i ......
深度学习入门--认识深度学习以及安装工具
感谢李沐老师的教学视频以及《动手学深度学习》，视频总时长47h https://zh-v2.d2l.ai/chapter_preface/index.html https://www.bilibili.com/video/BV1if4y147hS/?spm_id_from=333.999.0.0&v ......
104.二叉树的最大深度
目录题目法一、后序遍历法二、层序遍历 题目 给定一个二叉树 root ，返回其最大深度。二叉树的 最大深度 是指从根节点到最远叶子节点的最长路径上的节点数。 示例 1： 输入：root = [3,9,20,null,null,15,7] 输出：3 示例 2： 输入：root = [1,null,2] ......
机器学习——梯度爆炸和梯度消失
🤔️如何避免梯度爆炸或消失？ 在参数初始化时需要非常小心，以确保梯度和参数可以得到很好的控制（随即初始化） ReLU激活函数缓解了梯度消失问题，这样可以加速收敛。（Sigmoid激活函数在输入很大或是很小时，它的梯度都会消失。） ......
ElasticSearch深度解析入门篇：高效搜索解决方案的介绍与实战案例讲解，带你避坑
ElasticSearch深度解析入门篇：高效搜索解决方案的介绍与实战案例讲解，带你避坑 1.Elasticsearch 产生背景 大规模数据如何检索 如：当系统数据量上了 10 亿、100 亿条的时候，我们在做系统架构的时候通常会从以下角度去考虑问题： 1）用什么数据库好？(mysql、oracl ......
[Leetcode] 0111. 二叉树的最小深度
111. 二叉树的最小深度 题目描述 给定一个二叉树，找出其最小深度。 最小深度是从根节点到最近叶子节点的最短路径上的节点数量。 说明：叶子节点是指没有子节点的节点。 示例 1： 输入：root = [3,9,20,null,null,15,7] 输出：2 示例 2： 输入：root = [2,nu ......
刘老师《Pytorch深度学习实践》第三讲：梯度下降
1.分治法不能用 局部点干扰性大 2.梯度下降 3. 随机梯度下降 随机梯度下降法(Stochastic Gradient Descent, SGD)：由于批量梯度下降法在更新每一个参数时，都需要所有的训练样本，所以训练过程会随着样本数量的加大而变得异常的缓慢。随机梯度下降法正是为了解决批量梯度下降 ......
基于Googlenet深度学习网络的矿物质种类识别matlab仿真
1.算法运行效果图预览 2.算法运行软件版本 matlab2022a 3.算法理论概述 VGG在2014年由牛津大学著名研究组vGG (Visual Geometry Group)提出，斩获该年lmageNet竞赛中Localization Task (定位任务)第一名和 Classificatio ......
C++U5-深度优先搜索-03（记忆化搜索、剪枝和优化）
💡 根据 遗忘曲线：如果没有记录和回顾，6天后便会忘记75%的内容 笔记正是帮助你记录和回顾的工具，不必拘泥于形式，其核心是：记录、翻看、思考 思维导图 记忆化搜索图示： 剪枝和优化解释 例题讲解： 【天下第一】 #include <bits/stdc++.h> using namespace s ......
【专题】2022年中国数字孪生行业研究报告-数字孪生与产业深度融合-推动报告PDF合集分享（附原数据表）
原文链接：https://tecdat.cn/?p=34041 本次报告合集分为数字孪生综述、技术架构建设、核心技术分享、新型技术成果展示以及重点行业应用五大内容版块。从数字孪生应用建设路径的角度出发，着重提出了“数智视融合，虚实人联动”的观点，并提供数字孪生应用技术的参考。同时，本报告合集还完整系 ......
基于深度学习的自动驾驶汽车语义分割与场景标注算法研究。
自动驾驶汽车是当前研究的热点领域之一，其中基于深度学习的语义分割与场景标注算法在自动驾驶汽车的视觉感知中具有重要作用。本文将围绕自动驾驶汽车的语义分割与场景标注算法展开研究。 一、研究背景 随着人工智能技术的不断发展，自动驾驶汽车逐渐成为汽车产业的重要发展方向。在自动驾驶汽车的视觉感知中，语义分割和 ......
深度学习（非线性优化）
之前做非线性优化一般都是求雅可比矩阵或者数值求导，然后通过高斯牛顿或者LM迭代求解。 这次用pytorch中的方法求解试试。 下面给一个用pytorch求解的代码，例子是之前文章中的。 import torch import torch.nn as nn import torch.optim as ......
#深度学习复现Github项目代码流程详细过程
背景要求： 已安装好anaconda及pycharm，这两个的安装可从网上学习安装，教程很多。 第一步，在Github上下载项目代码 因为第一次运行代码，找一些比较多运行成功的例子来练习，这次我找的是Github上的pix2pixGAN项目的源码，具体路径如下： https://github.com ......
代码随想训练营第十六天（Pyhton）｜ 104.二叉树的最大深度、 111.二叉树的最小深度、222.完全二叉树的节点个数
104.二叉树的最大深度 1、后续遍历递归法 class Solution: def maxDepth(self, root: Optional[TreeNode]) -> int: if root is None: return 0 left_depth = self.maxDepth(root. ......
《动手学深度学习 Pytorch版》 10.7 Transformer
自注意力同时具有并行计算和最短的最大路径长度这两个优势。Transformer 模型完全基于注意力机制，没有任何卷积层或循环神经网络层。尽管 Transformer 最初是应用于在文本数据上的序列到序列学习，但现在已经推广到各种现代的深度学习中，例如语言、视觉、语音和强化学习领域。 10.7.1 模 ......
深度学习（统计模型参数量）
统计模型参数量，方便判断不同模型大小： import torch import torch.nn as nn # 自定义AlexNet模型 class AlexNet(nn.Module): def __init__(self): super(AlexNet, self).__init__() se ......
深度学习---实例分割网络yolact
yolact是第一个在COCO 数据集上做到实时的实例分割模型（大于30FPS），其将问题划分成两个平行的分支，一个分支由特征金字塔的P3层，经过Protonet预测mask，另一个分支通过P3-P7特征层预测类别、包围框以及mask的系数coefficient。另外还提出了比NMS更快的方法Fas ......
Go语言区块链从入门到深度实战：一站式学习Go语言与区块链技术
Go语言区块链从入门到深度实战：一站式学习Go语言与区块链技术 0 介绍 学习目标：1、理解什么是区块链；2、掌握区块链基本结构；3、构建区块链基本模型； 理论部分：1、区块链七层架构模型；2、区块链链式结构； 实践部分：1、创建区块；2、创建区块的“链”；3、访问区块链； 开发环境：GoLand ......
深度学习Python3实现自己的区块链视频课程【百行代码实现真实区块链项目】
深度学习Python3实现自己的区块链视频课程【百行代码实现真实区块链项目】 你是否会和我一样，对加密数字货币底层的区块链技术非常感兴趣，特别想了解他们的运行机制。 但是学习区块链技术并非一帆风顺，我看多了大量的视频教程还有各种课程，最终的感觉就是真正可用的实战课程太少。 我喜欢在实践中学习，尤其喜 ......
一文搞懂深度信念网络！DBN概念介绍与Pytorch实战
本文深入探讨了深度信念网络DBN的核心概念、结构、Pytorch实战，分析其在深度学习网络中的定位、潜力与应用场景。 关注TechLead，分享AI与云服务技术的全维度知识。作者拥有10+年互联网服务架构、AI产品研发经验、团队管理经验，同济本复旦硕，复旦机器人智能实验室成员，阿里云认证的资深架构师 ......
[Leetcode] 0104. 二叉树的最大深度
104. 二叉树的最大深度 题目描述 给定一个二叉树，找出其最大深度。 二叉树的深度为根节点到最远叶子节点的最长路径上的节点数。 说明: 叶子节点是指没有子节点的节点。 示例： 给定二叉树 [3,9,20,null,null,15,7]， 3 / \ 9 20 / \ 15 7 返回它的最大深度 3 ......
基于Googlenet深度学习网络的信号调制类型识别matlab仿真
1.算法运行效果图预览 2.算法运行软件版本 MATLAB2022a 3.算法理论概述 信号调制类型识别是在无线通信和无线电频谱监测中的一个重要任务。不同信号调制类型具有不同的频谱特征，深度学习方法在信号调制类型识别中取得了显著的成果。 3.1 深度学习与卷积神经网络 深度学习是一种机器学习方法，卷 ......
深度解读MediaBox SDKs如何实现技术架构升级
本专栏将分享阿里云视频云MediaBox系列技术文章，深度剖析音视频开发利器的技术架构、技术性能、开发能效和最佳实践，一起开启音视频的开发之旅。本文为MediaBox技术架构篇，重点从音视频终端SDK的技术架构、优化设计、架构优势等方面，介绍MediaBox SDKs如何实现技术架构升级。 善师｜作 ......
10月《中国数据库行业分析报告》已发布，深度剖析甲骨文大会Oracle技术新趋势
10月报告为甲骨文大会-Oracle技术特辑，聚焦Oracle新特性创新实践与生态趋势，详解当前及未来Oracle在自治、多模融合、可观测性、数据安全等关键技术的发展，欢迎大家下载学习、交流！ ......
JavaScript 中的深度克隆
JavaScript 中的深度克隆涉及创建一个新对象，该对象是现有对象的副本，并将复制延续到所有嵌套属性，以确保两个对象完全独立。这项技术对于保持程序中的不变性等任务至关重要，对于处理 React 等框架中的状态尤其重要。它有助于防止意外的对象突变可能引起的错误，从而产生更易于维护且无错误的代码。随 ......