向量pytorch
java-向量(Vector)
向量(Vector)类和传统数组非常相似,但是Vector的大小能根据需要动态的变化。 和数组一样,Vector对象的元素也能通过索引访问。 使用Vector类最主要的好处就是在创建对象的时候不必给对象指定大小,它的大小会根据需要动态的变化。 https://www.lekaowang.com/gl ......
pytorch显存机制
根据个人理解,pytorch显存分3个概念:reserved memory、allocated memory、context memory。参考:https://discuss.pytorch.org/t/difference-between-allocated-and-reserved-memor ......
Pytorch tensorboard与tensorboardX的区别
tensorboardX跟tensorboard在使用上是基本一样的,区别可能仅在于一个是大佬开发的,一个是PyTorch官方与TensoBoard合作的。tensorboardX已经被deprecated了,并且不再维护了,用 from torch.utils.tensorboard import ......
升级到PyTorch 2.0的技巧总结
PyTorch 2.0 发布也有一段时间了,大家是不是已经开始用了呢? PyTorch 2.0 通过引入 torch.compile,可以显着提高训练和推理速度。 与 eagerly 模式相反,编译 API 将模型转换为中间计算图(FX graph),然后以某种方式将其编译为低级计算内核,这样可以提 ......
向量数据库Pinecone,治疗ChatGPT幻觉的药方?
大白话了解新鲜事,今天讲讲以Pinecone为代表的向量数据库。向量数据库Pinecone一夜爆火,4月27日B轮拿到了1亿美元的融资,估值达到7.5亿美元,一个2021年刚刚推出的数据库产品,火爆背后的原因是什么? 01 背景 自从AutoGPT,以及ChatGPT的Retrieval plugi ......
用于Blinn-Phong光照模型的半角向量可视化工具
效果图 半角向量和法线重叠时,为最亮, 此时夹角为0, dot(normal, halfDir)=1 using UnityEngine; [RequireComponent(typeof(MeshFilter))] public class ShowHalfDirTool : MonoBehavi ......
Pytorch配置笔记
# Pytorch配置笔记 ## PyTorch1.12.0 由于是跟着李沐的《深度学习 PyTorch版》学习,因此参照此书所使用的版本进行配置。([在线版在此](https://zh-v2.d2l.ai/chapter_preface/index.html)) ### 安装Miniconda # ......
【研究生学习】Transformer模型以及Pytorch实现
Transformer是Google在2017年提出的网络架构,仅依赖于注意力机制就可以处理序列数据,从而可以不使用RNN或CNN。当前非常热门的BERT模型就是基于Transformer构建的,本篇博客将介绍Transformer的基本原理,以及其在Pytorch上的实现。 ......
PyTorch+LSTM实现新闻分类
[TOC] > RNN(递归神经网络):前一时刻的特征会对后一时刻产生影响(前一次得到的结果保留,与后一层一起输入)。LSTM网络是RNN的一种变种,相较于RNN他可以过滤掉中间没必要的特征,可以有效地解决RNN的梯度爆炸或者消失问题。 **步骤:** - 本文通过LSTM网络实现对新闻标题进行10 ......
pytorch学习笔记——timm库
当使用ChatGPT帮我们工作的时候,确实很大一部分人就会失业,当然也有很大一部分人收益其中。我今天继续使用其帮我了解新的内容,也就是timm库。毫不夸张的说,Chat GPT比百分之80的博客讲的更清楚更好,仅次于源码。 当提到计算机视觉的深度学习框架时,PyTorch无疑是最受欢迎的选择之一。P ......
PyTorch笔记
前言 简介: PyTorch是一个基于Python的科学计算库,它主要提供了两个高级功能:一是支持张量计算,类似于NumPy,但是可以在GPU上运行;二是支持构建和训练深度神经网络。 在PyTorch中,张量(Tensor)是最基本的数据结构,类似于NumPy中的多维数组,但是可以在GPU上进行高效 ......
搭建PyTorch神经网络进行气温预测
本文基于PyTorch,搭建了神经网络,实现了对气温的预测。 (1)读入数据 features = pd.read_csv('temps.csv')#其中共348条数据,每条数据有9个特征 (2)预处理数据 处理时间数据 # 处理时间数据,方便操作 import datetime # 分别得到年,月 ......
Pytorch 安装
可以使用 Anaconda 安装,我这边直接用 pip 进行安装的 安装torch pip install torch torchvision torchaudio -i https://pypi.tuna.tsinghua.edu.cn/simple https://pytorch.org/get ......
向量计算机
向量计算机的特点 特定任务上计算速度快 计算密集 -> IO 密集 昂贵 Seymour Gray设计的机器 是超算的前身 向量计算机作用 军事研究。 科学研究。 天气预测。 石油探测。 工业设计。 生物信息。 在七十年代到八十年代还没有超级计算机这一概念,这时候是叫向量计算机 纵轴:时间线 横轴: ......
C#使用词嵌入向量与向量数据库为大语言模型(LLM)赋能长期记忆实现私域问答机器人落地
本文将探讨如何使用c#开发基于大语言模型的私域聊天机器人落地。大语言模型(Large Language Model,LLM 这里主要以chatgpt为代表的的文本生成式人工智能)是一种利用深度学习方法训练的能够生成人类语言的模型。这种模型可以处理大量的文本数据,并学习从中获得的模式,以预测在给定的文 ......
1.2 空间向量基本定理
基本知识 空间向量基本定理 如果三个向量 $\vec{a},\vec{b},\vec{c}$不共面,那么对空间任一向量 $\vec{p}$,存在一个唯一的有序实数组$x,y,z$,使 $\vec{p}=x \vec{a}+y \vec{b}+z \vec{c}$ . 证明 存在性 设 $\vec{a ......
【pytorch】土堆pytorch教程学习(六)神经网络的基本骨架——nn.module的使用
torch.nn 是 pytorch 的一个神经网络库(nn 是 neural network 的简称)。 Containers torch.nn 构建神经网络的模型容器(Containers,骨架)有以下六个: Module Sequential ModuleList ModuleDict Par ......
milvus 又一个开源的向量数据库
以前简单介绍过一个基于rust 的qdrant 向量数据库,milvus 也是一个类似的 milvus 一些特性 快速 支持非结构化数据 可靠 高可用&弹性 混合搜索 通用lambda 架构,支持批以及stream 处理 参考架构 说明 因为GPT的火爆,最近一些向量数据库比较火了(支持ai 的一些 ......
qdrant 向量数据库
qdrant 是向量数据库,官方的介绍是面向下一代的ai 应用的服务,实际上从实际上从实际使用特别像es(语义搜索),只是支持的特性更加强大 一些业务场景 语义搜索 相似,图片,语音,视频搜索 推荐系统 说明 qdrant 还支持ai 引擎的集成(比如chatgpt。。。。),对于希望快速体验的可以 ......
pytorch基础学习.md
pytorch入门学习 来源: https://www.bilibili.com/video/BV1hE411t7RN 安装 # 1. 已安装nvidia相关驱动 # 2. 安装 python-pytorch-cuda nsfoxer@ns-pc ~/Temp> yay -Qi python-pyt ......
conda 安装pytorch新环境
1. 创建环境 conda create -n pytorch1.7.1 python=3.7 2. 安装pytorch 安装pytorch官网上面安装指令 https://pytorch.org/get-started/previous-versions/ conda install pytorc ......
Pytorch数据操作
1.Pytorch中tensor的生成与访问 可以使用arange()创建一个张量:如,torch.arange(12)创建0开始的前12个整数: 除非特殊指定,否则新的张量将存放在内存中,并采用CPU计算。 可以使用reshape()来改变张量的形状: 注意,reshape()的发起者是一个张量, ......
向量数据库
1.向量概念 向量是一种在数学和物理学中常用的概念,通常表示为一个有序的数值序列,可以用来表示空间中的位置、速度、加速度、力等物理量。 多维度-->多个标量 一个向量通常由多个标量组成,这些标量表示在不同维度上的数值。例如,在二维平面上,一个向量可以由两个标量x和y表示,其中x表示向量在水平方向上的 ......
Pytorch-Vanilla Transformer的实现
Vanilla Transformer 注意力提示 我们可以将是否包含自主性提示作为将注意力机制与全连接层或汇聚层区别的标准。 定义外部输入至感官的信息为键-值,键是表征值的非自主提示,关注信息为查询(自主性提示) 非自主提示:决策选择偏向于感官输入值,可使用参数化的全连接层或非参数化的最大 ......
Pytorch-Vanilla Transformer的实现
Vanilla Transformer 注意力提示 我们可以将是否包含自主性提示作为将注意力机制与全连接层或汇聚层区别的标准。 定义外部输入至感官的信息为键-值,键是表征值的非自主提示,关注信息为查询(自主性提示) 非自主提示:决策选择偏向于感官输入值,可使用参数化的全连接层或非参数化的最大 ......
Pytorch-模型的保存/复用/迁移
模型的保存与复用 模型定义和参数打印 # 定义模型结构 class LenNet(nn.Module): def __init__(self): super(LenNet, self).__init__() self.conv = nn.Sequential( # [batch, 1, 28, 28 ......
Pytorch模型的保存/复用/迁移
模型的保存与复用 模型定义和参数打印 # 定义模型结构 class LenNet(nn.Module): def __init__(self): super(LenNet, self).__init__() self.conv = nn.Sequential( # [batch, 1, 28, 28 ......
python3.9(anaconda)+pytorch(GPU)
1.新建一个python环境 安装anaconda 5.0.1 安装名为TorchGPU的conda虚拟环境 conda create -n TorchGPU python==3.9 最终效果 conda env list 出错 在如下页面添加conda环境后,解释器列表里没反应 关于错误的链接 h ......
无CUDA安装PyTorch
1.官网选择 2.加国内镜像快速下载 pip3 install torch torchvision torchaudio -i https://pypi.tuna.tsinghua.edu.cn/simple 3.验证是否安装成功 import torch print(torch.__version ......
Python 利用 Pytorch 获取当前GPU信息
import torch def get_gpu_info(): device = torch.device("cuda" if torch.cuda.is_available() else "cpu") if device.type == "cuda": # 获取当前GPU名字 gpu_name ......