深度pytorch 5.1
JavaScript 中的深度克隆
JavaScript 中的深度克隆涉及创建一个新对象，该对象是现有对象的副本，并将复制延续到所有嵌套属性，以确保两个对象完全独立。这项技术对于保持程序中的不变性等任务至关重要，对于处理 React 等框架中的状态尤其重要。它有助于防止意外的对象突变可能引起的错误，从而产生更易于维护且无错误的代码。随 ......
pytorch(10.2) 自注意力理论 固定C变化到可变C
1早先的预测模型 让我们首先定义预测函数来生成prefix之后的新字符， 其中的prefix是一个用户提供的包含多个字符的字符串。 在循环遍历prefix中的开始字符时， 我们不断地将隐状态传递到下一个时间步，但是不生成任何输出。 这被称为预热（warm-up）期， 因为在此期间模型会自我更新（例如 ......
《动手学深度学习 Pytorch版》 10.3 注意力评分函数
上一节使用的高斯核的指数部分可以视为注意力评分函数（attention scoring function），简称评分函数（scoring function）。 后续把评分函数的输出结果输入到softmax函数中进行运算。最后，注意力汇聚的输出就是基于这些注意力权重的值的加权和。该过程可描述为下图： ......
深度学习调参手册（Deep Learning Tuning Playbook）
google-research/tuning_playbook: A playbook for systematically maximizing the performance of deep learning models. (github.com) dkhonker/tuning_playbo ......
《动手学深度学习 Pytorch版》 10.2 注意力汇聚：Nadaraya-Watson 核回归
import torch from torch import nn from d2l import torch as d2l 1964 年提出的 Nadaraya-Watson 核回归模型是一个简单但完整的例子，可以用于演示具有注意力机制的机器学习。 10.2.1 生成数据集 根据下面的非线性函数生 ......
three.js 深度不完全解读
three.js 深度不完全解读 一、深度值的获取 1、方法1: FBO的深度附件 深度信息通过渲染管线中的深度缓冲区（depth buffer）来计算和存储。缓冲区用于存储每个像素点的深度值。 在渲染过程中，渲染器会根据每个像素点的深度值来确定最终像素的可见性和着色。 const target = ......
Redis深度历险 核心原理与应用实践-笔记
1.2.2 5种基础数据结构 string(字符串) 字符串string是Redis最简单的数据结构，其内部表示就是一个字符数组。Redis所有的数据结构都是以唯一的key字符串作为名称，然后通过这唯一的key来获取相应的value数据。不同类型的数据结构差异就在于value的结果不一样。 Redi ......
m基于深度学习网络的智能垃圾分类系统matlab仿真,带GUI界面
1.算法仿真效果 matlab2022a仿真结果如下： 2.算法涉及理论知识概要 垃圾数量的急剧增加和垃圾中物质的复杂多样性带来了严重的环境污染和资源浪费问题。回收可以减少废物，但手工管道垃圾分拣工作环境恶劣，劳动强度大，分拣效率低。智能垃圾分类系统是基于深度学习网络的一种应用，它可以通过对大量的训 ......
用pytorch 2.1 加速 numpy 代码
参考 https://pytorch.org/blog/compiling-numpy-code/ 在mac M2 机器上, 快了50%， 但没有好几倍。可能和依赖libomp有关 brew install libomp python test_np.py test_np.py 代码如下 impor ......
pytorch(10.5) Transformer 用到视觉模块
ViT｜ Vision Transformer ｜理论 + 代码_哔哩哔哩_bilibili 1 不用卷积神经网络那些东西（CNN）了全部用Transforme 。 2 大规模数据训练，小规模数据应用。 3 效果相当 计算训练资源更少。 转换思想 224*224像素图像 - 单个像素（视为一个词to ......
pytorch(10.4) 多层堆叠
多层堆叠 多头得到到多个结果 z1 z2 z1 z2经过 feed forward neural network网络 全连接层得到向量r1 r2. 既然是向量，就可以重复输入网络了 然后就可以重复堆积层了。 layernorm 应用了残差网络思想（确保加的层不会导致比原来系统差） 1 加操作：输出+ ......
pytorch(10.3) 多头注意
10.5. 多头注意力 — 动手学深度学习 2.0.0 documentation (d2l.ai) Multi-Head Attention | 算法 + 代码_哔哩哔哩_bilibili 代码实现 x[1,4,2] 1几个样本（句子） 4 预测步长（4个单词） 2每个单词的编码后特征长度 ......
《动手学深度学习 Pytorch版》 10.1 注意力提示
10.1.1 生物学中的注意力提示 “美国心理学之父” 威廉·詹姆斯提出的双组件（two-component）框架： 非自主性提示：基于环境中物体的突出性和易见性 自主性提示：受到了认知和意识的控制 10.1.2 查询、键和值 注意力机制与全连接层或汇聚层区别开来的元素：是否包含自主性提示 在注意力 ......
深度优先搜索的最短路径问题
这个简单的图，要求使用深度优先算法求出（1,1）到终点的最短路径。 1、分析 就目前看来，(1,1)->(1,2)->(2,2)->(2,3)->(2,4)->(3,4)->(4,4)->(4,3)和(1,1)->(2,1)->(3,1)->(4,1)->(5,1)->(5,2)->(5,3)->( ......
Web3.0热门领域NFT项目实战-深度掌握Solidity合约开发，助力Web3.0工程师
Web3.0热门领域NFT项目实战-深度掌握Solidity合约开发，助力Web3.0工程师 免费自动批量生成NFT图片和批量部署NFT 一、环境准备 1.注意：需合理上网 2.准备素材：准备一套多个属性元素的不一样的图层素材，比如10张背景图、10张face图、10张眼睛图层、10张头发图层等，每 ......
深度优先算法
一、例子 提问：输入一个数字n，输出1~n的全排列。 首先，将全排列比作小盒子和扑克牌 将数字比作扑克牌，我们有1号，2号，3号扑克牌和1号2号3号3个盒子。每个盒子只能放置一个扑克牌，实现全排列。那我们如何往小盒子中放入扑克牌。每个小盒子都可能放1号、2号或者3号扑克牌，这都需要一一尝试，这里一个 ......
深度学习设置随机数种子
seed = 2023 torch.manual_seed(seed) # torch的CPU随机性，为CPU设置随机种子 torch.cuda.manual_seed(seed) # torch的GPU随机性，为当前GPU设置随机种子 torch.cuda.manual_seed_all(seed ......
深度学习环境搭建(Windows11)
偶然重装了系统，再此记录下环境的恢复
基本深度学习环境的搭建，包括Anaconda+CUDA+cuDNN+Pytorch+TensorRT的安装与配置。 ......
动手学深度学习--第三方库的学习
from pixiv Pandas Creating, Reading and Writing pandas中有两类实体类： the DataFrame and the Series. DataFrame A DataFrame is a table. Series A Series, by con ......
windows的深度学习环境软件版本（cuda/cudnn/pytorch）
恢复内容开始 为了方便多个深度学习框架的环境配置，推荐使用anoconda进行搭建。 CUDA Toolkit Archive | NVIDIA Developer 恢复内容结束 ......
Pytorch深度学习环境配置 | NVIDIA-driver + Pytorch + miniconda
为了验证我的环境配置方法没有问题，我特意租了两小时云服务器来从0配置环境。 云服务器厂家：Ucloud ubuntu22.04 3090 * 2 1. 装 NVIDIA-driver 参考：https://zhuanlan.zhihu.com/p/366882419 1.1. 下载驱动 nvidia ......
第九节：单点登录方案深度剖析
一. 二. 三. ! 作 者 : Yaopengfei(姚鹏飞) 博客地址 : http://www.cnblogs.com/yaopengfei/ 声 明1 : 如有错误，欢迎讨论，请勿谩骂^_^。 声 明2 : 原创博客请在转载时保留原文链接或在文章开头加上本人博客地址，否则保留追究法律责任的权 ......
《动手学深度学习 Pytorch版》 9.8 束搜索
本节将介绍几大： 贪心搜索（greedy search）策略 穷举搜索（exhaustive search） 束搜索（beam search） 9.8.1 贪心搜索 贪心搜索已用于上一节的序列预测。对于输出序列的每一时间步 \(t'\)，都从 \(\boldsymbol{Y}\) 中找到具有最高条件 ......
《动手学深度学习 Pytorch版》 9.6 编码器-解码器架构
为了处理这种长度可变的输入和输出， 可以设计一个包含两个主要组件的编码器-解码器（encoder-decoder）架构： 编码器（encoder）：它接受一个长度可变的序列作为输入，并将其转换为具有固定形状的编码状态。 解码器（decoder）：它将固定形状的编码状态映射到长度可变的序列。 9.6. ......
《动手学深度学习 Pytorch版》 9.7 序列到序列学习（seq2seq）
循环神经网络编码器使用长度可变的序列作为输入，将其编码到循环神经网络编码器固定形状的隐状态中。 为了连续生成输出序列的词元，独立的循环神经网络解码器是基于输入序列的编码信息和输出序列已经看见的或者生成的词元来预测下一个词元。 要点： “<eos>”表示序列结束词元，一旦输出序列生成此词元，模型就会停 ......
使用Pytorch Geometric 进行链接预测代码示例
PyTorch Geometric (PyG)是构建图神经网络模型和实验各种图卷积的主要工具。在本文中我们将通过链接预测来对其进行介绍。 链接预测答了一个问题:哪两个节点应该相互链接?我们将通过执行“转换分割”，为建模准备数据。为批处理准备专用的图数据加载器。在Torch Geometric中构建一 ......
PyTorch大更新，编译代码速度暴增35倍！视觉模型一键部署，头显Quest 3可用
前言 最近，在Pytorch发布会上，发布移动端Pytorch解决方案ExecuTorch，实现在移动端设备上大范围地部署AI工具，并推出最新版本Pytorch2.1，推理速度大幅提升。 本文转载自新智元 仅用于学术分享，若侵权请联系删除 欢迎关注公众号CV技术指南，专注于计算机视觉的技术总结、最新 ......
深度学习（pytorch载入onnx测试）
测试模型用之前文章训练的Alexnet模型。 首先将pth文件转为onnx文件: import torch import torch.nn as nn # 自定义AlexNet模型 class AlexNet(nn.Module): def __init__(self): super(AlexNet ......
《动手学深度学习 Pytorch版》 9.5 机器翻译与数据集
机器翻译（machine translation）指的是将序列从一种语言自动翻译成另一种语言，基于神经网络的方法通常被称为神经机器翻译（neural machine translation）。 import os import torch from d2l import torch as d2l 9 ......
哪款最适合你？7大免费需求管理工具深度比较
分享7款不错的免费需求管理工具：1.PingCode；2.Worktile；3. Trello；4. Asana；5. JIRA；6. ClickUp；7. Monday.com。选择免费还是付费的需求跟踪工具是一个大多数人都会面临的问题。免费工具的最大优点显而易见——它们不收费。但这也意味着这些工 ......