卷积 深度 参数pytorch
取出预训练模型中间层的输出(pytorch)
1 遍历子模块直接提取 对于简单的模型，可以采用直接遍历子模块的方法，取出相应name模块的输出，不对模型做任何改动。该方法的缺点在于，只能得到其子模块的输出，而对于使用nn.Sequensial()中包含很多层的模型，无法获得其指定层的输出。 示例 resnet18取出layer1的输出 from ......
一文看懂 Python 中的函数参数
函数定义中的参数也就是形式参数，规定了在调用函数时如何传递实际参数以及这些参数有无默认值。 实参传递方式 def f(a): print(a) 实参传递方式有两种，位置和关键字。对于上面定义的函数 f，形如 f(1) 这种调用是通过位置的方式传参，形如 f(a=1) 这种调用是通过关键字的方式传参， ......
登峰造极,师出造化,Pytorch人工智能AI图像增强框架ControlNet绘画实践,基于Python3.10
人工智能太疯狂，传统劳动力和内容创作平台被AI枪毙，弃尸尘埃。并非空穴来风，也不是危言耸听，人工智能AI图像增强框架ControlNet正在疯狂地改写绘画艺术的发展进程，你问我绘画行业未来的样子？我只好指着ControlNet的方向。本次我们在M1/M2芯片的Mac系统下，体验人工智能登峰造极的绘画... ......
深度优先搜索算法-dfs讲解
迷宫问题 有一个迷宫： S**. .... ***T （其中字符S表示起点，字符T表示终点，字符*表示墙壁，字符.表示平地。你需要从S出发走到T，每次只能向上下左右相邻的位置移动，不能走出地图，也不能穿过墙壁，每个点只能通过一次。） 现在需要你求出是否可以走出这个迷宫 我们将这个走迷宫过程称为dfs ......
图卷积神经网络分类的pytorch实现
图神经网络（GNN）目前的主流实现方式就是节点之间的信息汇聚，也就是类似于卷积网络的邻域加权和，比如图卷积网络（GCN）、图注意力网络（GAT）等。下面根据GCN的实现原理使用Pytorch张量，和调用torch_geometric包，分别对Cora数据集进行节点分类实验。 Cora是关于科学文献之 ......
分布式机器学习：异步SGD和Hogwild!算法（Pytorch）
同步算法的共性是所有的节点会以一定的频率进行全局同步。然而，当工作节点的计算性能存在差异，或者某些工作节点无法正常工作（比如死机）的时候，分布式系统的整体运行效率不好，甚至无法完成训练任务。为了解决此问题，人们提出了异步的并行算法。在异步的通信模式下，各个工作节点不需要互相等待，而是以一个或多个全局... ......
CesiumJS PrimitiveAPI 高级着色入门 - 从参数化几何与 Fabric 材质到着色器 - 下篇
书接上文 https://www.cnblogs.com/onsummer/p/cesium-primitive-api-tutorial.html 3. 使用 GLSL 着色器 明确一个定义，在 Primitive API 中应用着色器，实际上是给 Appearance 的 vertexShade ......
基于深度学习的表格检测与识别技术的优势
引言： 信息时代的高速发展导致数据的大量产生与频繁传输，单单依靠人力很难处理这些数据。依托于人工智能的兴起与发展，数据的利用变得更加高效。表格作为数据的一种重要载体，是人们为了让数据的组织形式更加标准和结构化而使用的一种数据类型。 表格的特点： 信息高度精炼集中，方便信息的检索和比较。表格被广泛用于 ......
从 PyTorch DDP 到 Accelerate 到 Trainer，轻松掌握分布式训练
概述 本教程假定你已经对于 PyToch 训练一个简单模型有一定的基础理解。本教程将展示使用 3 种封装层级不同的方法调用 DDP (DistributedDataParallel) 进程，在多个 GPU 上训练同一个模型： 使用 pytorch.distributed 模块的原生 PyTorch ......
室内单目深度估计-3
注： 研究方向为depth estimation，欢迎同一个方向的加入QQ群(602708168)交流。 1. 论文简介 论文题目：MonoIndoor: Towards Good Practice of Self-Supervised Monocular Depth Estimation for ......
随机森林RF模型超参数的优化：Python实现
本文介绍基于Python的随机森林（Random Forest，RF）回归代码，以及模型超参数（包括决策树个数与最大深度、最小分离样本数、最小叶子节点样本数、最大分离特征数等）自动优化的代码~ ......
Pytorch之Embedding与Linear的爱恨纠葛
最近遇到的网络模型许多都已Embedding层作为第一层，但回想前几年的网络，多以Linear层作为第一层。两者有什么区别呢？ ......
神经网络基础部件-卷积层详解
本文深度讲解了卷积计算的原理，并详细介绍了构成所有卷积网络主干的基本元素，包括卷积层本身、填充(padding)和步幅 (stride)的基本细节、用于在相邻区域汇聚信息的汇聚层(pooling)，最后给出卷积层和汇聚层的代码示例和CNN框架结构图。 ......
基于pytorch实现模型剪枝
所谓模型剪枝，其实是一种从神经网络中移除"不必要"权重或偏差（weigths/bias）的模型压缩技术。本文深入描述了 pytorch 框架的几种剪枝 API，包括函数功能和参数定义，并给出示例代码。 ......
深度学习基础-优化算法详解
所谓深度神经网络的优化算法，即用来更新神经网络参数，并使损失函数最小化的算法。优化算法对于深度学习非常重要，网络参数初始化决定模型是否收敛，而优化算法的性能则直接影响模型的训练效率。 ......
深度学习-RNN
I.前言 介绍RNN的概念和应用 RNN（Recurrent Neural Network，循环神经网络）是一类能够处理序列数据的神经网络，它在处理时考虑了之前的状态，因此能够对序列数据中的每个元素进行建模和预测。 RNN的应用非常广泛，特别是在自然语言处理和时间序列分析方面。以下是RNN在各个领域 ......
深度学习-LSTM
前言 神经网络的历史和背景 神经网络是一种模拟人类神经系统的计算模型，它由大量简单的神经元单元组成，通过它们之间的连接和传递信息来模拟人脑的学习和推理过程。神经网络起源于上世纪40年代，当时Warren McCulloch和Walter Pitts提出了一种可模拟生物神经元的数学模型，这是第一个神经 ......
【论文笔记】FCN全卷积网络
全卷积网络（FCN）是用于图片语义分割的一种卷积神经网络（CNN），由Jonathan Long，Evan Shelhamer 和Trevor Darrell提出，由此开启了深度学习在语义分割中的应用。语义分割是计算机视觉领域很重要的一个分支，在自动驾驶、地面检测等方面都起到很重要作用。与简单区分前 ......
深度复盘-重启 etcd 引发的异常
作者信息： 唐聪、王超凡，腾讯云原生产品中心技术专家，负责腾讯云大规模 TKE 集群和 etcd 控制面稳定性、性能和成本优化工作。 王子勇，腾讯云专家级工程师， 腾讯云计算产品技术服务专家团队负责人。 概况 作为当前中国广泛使用的云视频会议产品，腾讯会议已服务超过 3 亿用户，能高并发支撑千万级用 ......
Python 发展趋势：与 Rust 深度融合、更易于编写 Web 应用
大家好，我是猫哥，好久不见！2022 年末的时候，我不可避免地阳了，借着身体不舒服就停更了，接踵而至的是元旦和春节假期，又给自己放了假，连年终总结也鸽了，一懈怠就到了 2 月中旬…… 现在是我家娃出生的第三个月，全家人大部分的时间和精力都在他身上，结果是幸福与疲累共存。新生儿是那么的可爱，又是那么的 ......
python命令行参数argparse常用命令
1、参数个数控制 parser.add_argument('-i', '--integers', nargs='?', const=100, type=int, help='input a number') 参数nargs： nargs='*' 表示参数可设置0个或多个，参数是一个列表 nargs= ......
CesiumJS PrimitiveAPI 高级着色入门 - 从参数化几何与 Fabric 材质到着色器 - 上篇
Primitive API 还包括 Appearance API、Geometry API 两个主要部分，是 CesiumJS 挡在原生 WebGL 接口之前的最底层图形封装接口（公开的），不公开的最底层接口是 DrawCommand 为主的 Renderer API，DC 对实时渲染管线的技术要求 ......
django框架之drf：4、序列化器常用字段及参数，序列化器高级用法之source，定制字段数据的两种方法，多表关联反序列化的保存，ModelSerializer的使用
Django框架之drf 一、序列化器常用字段及参数 # 序列化类 》字段类 CharField，除此之外还有哪些其他的 # 序列化类 》字段类，字段类上，传属性的 ，序列化类上，也可以写属性 models.CharField(max_length=32) 1、常用字段 | 字段 | 字段构造方式 ......
使用 LoRA 进行 Stable Diffusion 的高效参数微调
LoRA: Low-Rank Adaptation of Large Language Models 是微软研究员引入的一项新技术，主要用于处理大模型微调的问题。目前超过数十亿以上参数的具有强能力的大模型 (例如 GPT-3) 通常在为了适应其下游任务的微调中会呈现出巨大开销。 LoRA 建议冻结预 ......
室内单目深度估计-2
注： 研究方向为depth estimation，欢迎同一个方向的加入QQ群(602708168)交流。 1. 论文简介 论文题目：Digging Into Self-Supervised Monocular Depth Estimation Paper地址：https://openaccess.t ......
Python TensorFlow深度学习回归代码：DNNRegressor
本文介绍基于Python语言中TensorFlow的tf.estimator接口，实现深度学习神经网络回归的具体方法。 () 1 写在前面 1. 本文介绍的是基于TensorFlow tf.estimator接口的深度学习网络，而非TensorFlow 2.0中常用的Keras接口；关于Keras接 ......
Python TensorFlow深度神经网络回归：keras.Sequential
本文介绍基于Python语言中TensorFlow的Keras接口，实现深度神经网络回归的方法。 1 写在前面 前期一篇文章Python TensorFlow深度学习回归代码：DNNRegressor详细介绍了基于TensorFlow tf.estimator接口的深度学习网络；而在TensorFl ......
深度剖析 Linux 伙伴系统的设计与实现
在上篇文章 《深入理解 Linux 物理内存分配全链路实现》 中，笔者为大家详细介绍了 Linux 内存分配在内核中的整个链路实现： 但是当内核执行到 get_page_from_freelist 函数，准备进入伙伴系统执行具体内存分配动作的相关逻辑，笔者考虑到文章篇幅的原因，并没有过多的着墨，算是 ......
聊一聊非对称加密在接口参数中的简单实现
背景 接口层做数据加密应该算是老生常谈的一件事了，业界用的比较多的，不外乎是对称加密，非对称加密以及两者的结合。 对称加密，比较有代表性的就是 AES，密钥只有一个，客户端和服务端都要进行存储，但是对客户端来说，比较容易泄露，需要定期进行更换。 非对称加密，比较有代表性的就是 RSA，有公钥和私钥， ......
深度学习炼丹-数据标准化
当我们处理的数据具有不同尺度时，执行数据标准化操作是很有必要的。本文给出了数据标准化(Normalization)的定义、常用方法以及为什么要做数据标准化，并给出相关代码实现。 ......