向量pytorch
向量搜索技术：基于Elasticsearch/PostgreSQL/Redis扩展的向量搜索数据库或独立向量搜索引擎方案参考
理论基础与研究 向量数据库用于非结构化文本、图片、音频、视频搜索、推荐，将他们转换为数字向量表示来进行相似性(ANN)搜索。存储和搜索高维向量是其特征之一，通常采用高级索引技术和算法如HNSW, Annoy, 或Faiss来实现。不同于SQL数据库，向量数据库更像nosql，用户接受使用sdk/AP ......
Proj CDeepFuzz Paper Reading: Automatic differentiation in PyTorch
## Abstract 本文：描述automatic differentiation module of PyTorch 包括：Lua Torch, Chainer, HIPS Autograd Task: Provides a high-performance environment on dif ......
《动手学深度学习 Pytorch版》 4.4 模型选择、欠拟合和过拟合
# 4.4.1 训练误差和泛化误差 整节理论，详见书本。 # 4.4.2 模型选择 整节理论，详见书本。 # 4.4.3 欠拟合还是过拟合 整节理论，详见书本。 # 4.4.4 多项回归 ```python import math import numpy as np import torch fr ......
《动手学深度学习 Pytorch版》 4.3 多层感知机的简洁实现
```python import torch from torch import nn from d2l import torch as d2l ``` # 模型 ```python net = nn.Sequential(nn.Flatten(), nn.Linear(784, 256), nn. ......
《动手学深度学习 Pytorch版》 4.2 多层感知机的从零开始实现
```python import torch from torch import nn from d2l import torch as d2l # 经典数据集与batch size batch_size = 256 train_iter, test_iter = d2l.load_data_fas ......
pytorch报错IndexError: invalid index of a 0-dim tensor. Use tensor.item() to convert a 0-dim tensor to a Python
该错误消息表示您正在尝试索引其中只有一项的数组。例如， In [10]: aten = torch.tensor(2) In [11]: aten Out[11]: tensor(2) In [12]: aten[0] IndexError Traceback (most recent call l ......
《动手学深度学习 Pytorch版》 4.1 多层感知机
```python %matplotlib inline import torch from d2l import torch as d2l ``` # 4.1.1 隐藏层 整节理论，详见书本。 以下展示常见的激活函数。 1. ReLU 函数 $$ \mathrm{ReLU}(x)=\max(x,0 ......
PyTorch多卡分布式训练DDP单机多卡
PyTorch多卡分布式训练：DistributedDataParallel (DDP) 简要分析 前言 因为课题组发的卡还没有下来，先向导师问了实验室的两张卡借用。之前都是单卡训练模型，正好在这个机会实践以下单机多卡训练模型的方法。关于 DDP 网上有很多资料，但都比较零碎（有些博客的代码甚至没办 ......
Pytorch环境搭建
https://pytorch.org/ https://blog.csdn.net/weixin_43737866/article/details/127784768 https://www.jianshu.com/p/4c7b9127cf83 https://blog.csdn.net/m0_5 ......
torch.nn基础学习教程 | PyTorch nn Basic Tutorial
> 基于`torch.nn`搭建神经网络的基础教程大纲： ## **1. 引言** 在我们开始深入探讨`torch.nn`之前，我们首先需要理解PyTorch及其神经网络库的基础知识。这一部分的内容将帮助你对PyTorch有一个整体的了解。 ### 1.1 **为什么选择PyTorch？** - * ......
【pytorch】从零开始，利用yolov5、crnn+ctc进行车牌识别
笔者的运行环境：python3.8+pytorch2.0.1+pycharm+kaggle用到的网络框架：yolov5、crnn+ctc项目地址：[GitHub - WangPengxing/plate_identification: 利用yolov5、crnn+ctc进行车牌识别](https:/ ......
[note] pytorch的几种维度操作方式比对
## pre 今天看代码在想 `torch.unbind + torch.cat` 与 `torch.reshape` 的区别，直观上来看reshape似乎更便利。 ## chatgpt ### 问题 x is a tensor of three dimension, what is the dif ......
pytorch nn.LSTM模块参数详解
nn.LSTM模块参数 input_size ：输入的维度 hidden_size：h的维度 num_layers：堆叠LSTM的层数，默认值为1 bias：偏置 ，默认值：True batch_first： 如果是True，则input为(batch, seq, input_size)。默认值为： ......
带你上手基于Pytorch和Transformers的中文NLP训练框架
基于pytorch、transformers做中文领域的nlp开箱即用的训练框架，提供全套的训练、微调模型（包括大模型、文本转向量、文本生成、多模态等模型）的解决方案。 ......
简单的将pytorch模型部署到onnx
1. 创建一个pytorch模型 这里我用的U2Net，直接加载好训练出的权重 model = U2Net(class_nums=4) model.load_state_dict(torch.load(checkpoint_path)) 2. 将pytorch模型转成onnx格式 x = torcg ......
循环神经网络RNN完全解析：从基础理论到PyTorch实战
>在本文中，我们深入探讨了循环神经网络（RNN）及其高级变体，包括长短时记忆网络（LSTM）、门控循环单元（GRU）和双向循环神经网络（Bi-RNN）。文章详细介绍了RNN的基本概念、工作原理和应用场景，同时提供了使用PyTorch构建、训练和评估RNN模型的完整代码指南。 > 作者 TechLea ......
大连人工智能计算平台——华为昇腾AI平台——高性能计算HPC——如何在MPI中支持multiprocessing和fork操作——如何在HPC平台上使用pytorch——是否可以通过调度器的提交参数绕过HPC的计费系统
本文要讨论的就是如何在MPI中支持multiprocessing和fork操作，但是这个问题同时也是如何在HPC平台如何使用pytorch的问题，可以说这两个问题其实是同一个问题，而这个问题的解决过程中又产生了另一个问题，你就是是否可以通过调度器的提交参数绕过HPC的计费系统？ ......
《线性代数》2. 向量的高级话题
### 规范化和单位向量 **在了解完向量的基础知识后，我们来探讨更多和向量有关的高级话题。首先向量是一个有向线段，由原点指向空间中的某一个点，所以向量除了具有方向之外，还应该具有大小。比如有两个向量 $\vec{u}$、$\vec{w}$，分别是 $(3, 4)^{T}$、$(4, 3)^{T}$ ......
win10 CUDA11.1安装torch1.9 / reformer_pytorch
# 环境 - NVIDIA-SMI 457.52 - Driver Version: 457.52 - CUDA Version: 11.1 # 安装torch-gpu 1. `conda create -n torch1.9 python=3.8` 2. `pip install torch==1 ......
《线性代数》1. 一切从向量开始
### 什么是向量 **我们在初等数学的时候，研究的都是一个数，而到线性代数，我们将从研究一个数拓展到研究一组数，而一组数的基本表示方法就是****向量（Vector）****。向量是线性代数研究的基本元素，它就是一组数，比如 $(1, 2, 3)$ 就是一个向量。那么问题来了，向量究竟有什么作用呢 ......
PyTorch 提高生产力的技巧
推荐：使用NSDT场景编辑器助你快速搭建3D应用场景 介绍 您是否曾经花费数小时调试机器学习模型，但似乎找不到准确性没有提高的原因？你有没有觉得一切都应该完美地工作，但由于某种神秘的原因，你没有得到模范的结果？ 好吧，没有了。作为初学者探索 PyTorch 可能会令人生畏。在本文中，您将探索久经考验 ......
讲解pytorch的tensor没有移除某个元素的操作
在 PyTorch 中，要从一个 Tensor 中移除一个元素，您需要使用索引操作来选择保留的元素，然后重新创建一个新的 Tensor。由于 PyTorch 的 Tensor 是不可变的，所以无法直接在原 Tensor 上移除元素。 下面是一个示例，展示了如何从一个 PyTorch Tensor 中 ......
Hello Cuda（二）——向量加法
``` #include #include #include #include #include #include typedef float FLOAT; double get_time(); void warm_up(); void vec_add_host(FLOAT* x, FLOAT* y ......
PyTorch基础学习笔记
### 一、初识 pytorch读取数据设计两个类：Dataset 和Dataloader > DataSet：提供一种方式，获取其中需要的数据及其对应的真实label值，并完成编号。主要实现功能： - 如何获取每一个数据和label - 告诉我们共有多少的数据 Dataloader：打包，为后面的 ......
【线性代数】第五章 特征值和特征向量
#### 1.特征值和特征向量 **特征值和特征向量的定义：** 对于n阶矩阵A，如果存在一个数λ以及非零n维列向量α，使得 **Aα = λα** 成立 则称λ是矩阵A的一个**特征值**。非零向量α是**矩阵A属于特征值的一个特征向量**。 >这个式子可以写成**(λE-A)α = 0，α≠0* ......
STM32深入学习2：定时器和嵌套向量控制器
定时器 8个定时器，高级定时器TIM1+TIM8，通用定时器TIM2-TIM5,基础定时器TIM6+TIM7; 定时器PWM输出 每个定时器有4路输出通道：OC1-OC4 涉及的固件库：stm32f10x_tim.c/stm32f10x_tim.h 1.定时器初始化： void TIM_TimeBa ......
使用docker-compose安装Milvus向量数据库及Attu可视化连接工具
服务器需要安装docker-compose 如何没有安装可以参考这篇博客 https://www.cnblogs.com/likecoke/p/17596918.html 1、创建宿主机上存储的目录mkdir -p /home/milvus/dbmkdir -p /home/milvus/confm ......
bert向量服务部署
● 一、bert-as-service ● step1: 编译docker镜像需要的文件 ● step2: 编译镜像 ● step3: 启动容器服务命令 ● step4: 导出bert-as-service镜像分发部署 ● 参考 ● 二、torchServe部署bert-as-service ● 环 ......
学习笔记412—词向量【Word2Vec】
Word2Vec Word2Vec 是 google 在2013年提出的词向量模型，通过 Word2Vec 可以用数值向量表示单词，且在向量空间中可以很好地衡量两个单词的相似性。 简述 我们知道，在使用神经网络处理数据的时候，神经网络只能处理数字向量或者矩阵，他不可能理解文本、图像本身。那么，图像是 ......