矩阵tensorflow2 tensorflow pytorch
矩阵乘法代码
void MatrixChain(int p[], int n, int **m, int **s) { for (int i = 1; i <= n; i++) m[i][i] = 0; // 初始化 for (int r = 2; r <= n; r++) { for (int i = 1; i ......
Pytorch中的交叉熵CE和均方误差MSE分别是如何计算的？
本文主要关注输入输出的形状，通过两种标签形式探索一下其计算机制。 交叉熵损失函数 实验设置：假设采用AutoEncoder+分类器。AE负责重构图像，计算MSE。分类器通过latent vector计算23个类别的概率向量。 import torch nn as nn net = AutoEncod ......
螺旋矩阵 59
一开始确实没有思路，一堆限制条件有点无从下手。 一圈一圈走，找到边界条件，左闭右开。 循环圈数就是N/2. 然后起始和结束位置也会变化。 奇数圈时要额外判断。 点击查看代码 class Solution { public: vector<vector<int>> generateMatrix(int ......
数学基础(一)-标量、向量、矩阵、张量以及各范数的含义
1.标量、向量、矩阵、张量： ①标量指有大小没有方向的数。 ②向量指既有大小也有方向的一组数。 ③矩阵指二维的一组数，一行是一个对象，一列是一个对象的一个特征【一行一对象，一列一特征】。 ④张量指一个数组分布在多维网格坐标中。 2.向量的范数： ①向量的1范数(L1范数)：向量的各元素绝对值之和。 ......
实现自定义算子：逆矩阵inverse
逆矩阵Cuda不支持，只能手动实现 import torch from torch.linalg import det def cof1(M,index): zs = M[:index[0]-1,:index[1]-1] ys = M[:index[0]-1,index[1]:] zx = M[in ......
PyTorch项目源码学习（2）——Tensor代码结构初步学习
PyTorch版本：1.10.0 Tensor Tensor是Pytorch项目较为重要的一部分，其中的主要功能如存储，运算由C++和CUDA实现，本文主要从前端开始探索学习Tensor的代码结构。 结构探索 PyTorch前端位于torch目录下，从_tensor.py可以找到Tensor的pyt ......
使用PyTorch实现混合专家(MoE)模型
Mixtral 8x7B 的推出在开放 AI 领域引发了广泛关注，特别是混合专家（Mixture-of-Experts：MoEs）这一概念被大家所认知。混合专家(MoE)概念是协作智能的象征，体现了“整体大于部分之和”的说法。MoE模型汇集了各种专家模型的优势，以提供更好的预测。它是围绕一个门控网络 ......
机器学习-矩阵
1、名称解释 （1）什么是矩阵的转秩？ 矩阵的转置是指将一个矩阵的行列互换得到的新矩阵。例如，对于一个m×n的矩阵A，其转置记作A^T，得到的新矩阵的维度为n×m。转置矩阵的第i行第j列元素等于原矩阵的第j行第i列元素。 （2）什么是单位阵？ 单位阵（Identity matrix），也称为单位矩阵 ......
安装pytorch/安装jupyterlab并添加已创建环境的kernel
安装pytorch 先创建一个环境，去pytorch官网查找环境所用python版本对应的torch版本，并选择合适的下载命令，在已激活的环境中运行命令，即可安装成功。 安装jupyter jupyter可以按cell运行代码，并且可以边写代码边做笔记。运行conda install jupyter ......
顺时针旋转矩阵
传统解法 找出整体的规律，并使用一个辅助数组来存储新的矩阵。 从上图中的矩阵旋转来看：原矩阵元素的列数变成新矩阵元素的行数；原矩阵元素的行数是第2行，旋转后元素的列数是从右往左倒数第2列。因此对于原矩阵mat[i][j]，旋转后该值应该在新矩阵ans[j][n-i-1]的位置。 1 2 3 4 5 ......
挑战Transformer的新架构Mamba解析以及Pytorch复现
今天我们来详细研究这篇论文“Mamba:具有选择性状态空间的线性时间序列建模” Mamba一直在人工智能界掀起波澜，被吹捧为Transformer的潜在竞争对手。到底是什么让Mamba在拥挤的序列建中脱颖而出? 在介绍之前先简要回顾一下现有的模型 Transformer:以其注意力机制而闻名，其中序 ......
OpenCL使用local内存优化矩阵乘法例子
本例是俩个768×768的矩阵相乘的例子，代码来自《OpenCL异构并行计算》这本书，有修改。下文代码在VS2017和OpenCV430和OpenCL3的环境下开发和测试的，CPU型号是Intel Core i5-7400，用的是核芯显卡。代码里的kernel1是普通OpenCL代码计算乘法，ker ......
营业日志 —— 矩阵加速
Q：矩阵加速（数列） 已知一个数列 \(a\)，它满足： \[a_x= \begin{cases} 1 & x \in\{1,2,3\}\\ a_{x-1}+a_{x-3} & x \geq 4 \end{cases} \]求 \(a\) 数列的第 \(n\) 项对 \(10^9+7\) 取余的值。 ......
Python中TensorFlow的长短期记忆神经网络(LSTM)、指数移动平均法预测股票市场和可视化|附代码数据
原文链接：http://tecdat.cn/?p=23689 最近我们被客户要求撰写关于LSTM的研究报告，包括一些图形和统计输出。 本文探索Python中的长短期记忆（LSTM）网络，以及如何使用它们来进行股市预测 （ 点击文末“阅读原文”获取完整代码数据）。 在本文中，你将看到如何使用一个被称为 ......
CF1864H Asterism Stream【概率 DP，矩阵优化】
给定一变量，初始为 \(1\)，每次等概率随机进行以下两种操作之一： 令 \(x\) 加一。 令 \(x\) 乘二。 求期望多少次操作之后 \(x\) 会 \(\ge n\)。 \(T\) 组数据，\(T\le 100\)，\(n\le 10^{18}\)。 对着 aw 老师的题解学的，感觉太深刻。 ......
矩阵键盘
矩阵键盘 单片机P1,P2,P3口弱上拉模式：因为当口线输出为1时驱动能力很弱，允许外部装置将其拉低。当引脚输出为低时，它的驱动能力很强， 可吸收相当大的电流。P0口是开漏模式。 原理图 采用按列扫描进行判断 #include <REGX52.H> #include "DelayMs.h" #inc ......
TensorFlow社区与未来展望
在最后一天，我回顾了我的学习之旅，并介绍了TensorFlow社区。我分享了一些优秀的资源、博客和论坛，以及对TensorFlow未来发展的一些展望。我计划继续深入学习，关注TensorFlow的更新和新功能。这是一个关于十天学习TensorFlow的博客大致内容的示例： ......
PyTorch 的 BatchNorm 层
BatchNorm 层 为了实现输入特征标准化，batch norm 层会维护一个全局均值 running_mean 和全局方差 running_var。网络 train() 时进行统计，eval() 时使用统计值。 除此之外，可选 weight 权重和 bias 权重，这两个权重是会持续参与到网络 ......
鱼类识别系统Python+TensorFlow卷积神经网络算法模型+深度学习人工智能【计算机课设项目】
一、介绍 鱼类识别系统。使用Python作为主要编程语言开发，通过收集常见的30种鱼类（'墨鱼', '多宝鱼', '带鱼', '石斑鱼', '秋刀鱼', '章鱼', '红鱼', '罗非鱼', '胖头鱼', '草鱼', '银鱼', '青鱼', '马头鱼', '鱿鱼', '鲇鱼', '鲈鱼', '鲍鱼' ......
【算法设计与分析】(二)分治_更新中①：二分搜索、计数、选择、最近点对、凸包、多项式乘法、矩阵乘法、主定理&递归树、傅里叶。苏大计科院研一期末复习笔记
写在前面 首先，本人很菜。 其次，本文只也许够应付考试，个人使用。而且其实就是ppt内容只是我自己喜欢这样整理。虽然全力理解内容且认真书写但也可能存在错误，如有发现麻烦指正，谢谢🌹 最后，因为不知道考试怎么考，本人的复习方式是照着目录讲一遍自己的理解+写伪代码（如果来的及会再做一个综合纯享版），再 ......
sortrows函数应用：用于数组矩阵排序
sortrows常用用法： B = sortrows(A) B = sortrows(A,column) 我们先创建一个矩阵： A = 95 45 92 41 13 1 84 95 7 73 89 20 74 52 95 7 73 5 19 44 20 95 7 40 35 60 93 67 76 ......
SciTech-BigDataAIML-PyTorch: 安装PyTorch For Python3.12
安装PyTorch For Python3.12: Release Version: $ pip install torch torchvision torchaudio Pre-Release Version: $ pip install --pre torch torchvision torch ......
使用PyTorch实现去噪扩散模型
在深入研究去噪扩散概率模型(DDPM)如何工作的细节之前，让我们先看看生成式人工智能的一些发展，也就是DDPM的一些基础研究。 VAE VAE 采用了编码器、概率潜在空间和解码器。在训练过程中，编码器预测每个图像的均值和方差。然后从高斯分布中对这些值进行采样，并将其传递到解码器中，其中输入的图像预计 ......
Load text: https://tensorflow.google.cn/tutorials/load_data/text
Tensorflow Load text: This tutorial demonstrates two ways to load and preprocess text. First, you will use Keras utilities and preprocessing layers. T ......
环境配置问题一些注意的点（Pytorch+cudnn）
1、先安装好Pycharm以及Anaconda 我使用的是Python3.6版本，所以下载了与Python3.6对应的Anaconda，Pycharm下载的是社区版； 2、cudnn版本：首先查看自己电脑NVIDIA版本，从任务管理器中查看GPU型号，再从cudnn官网下载相关配件； 3、在note ......
Window10安装PyTorch
1、参考地址 https://blog.csdn.net/Mind_programmonkey/article/details/99688839 2、安装pytorch-gpu时，网络不好的话可以开手机热点，然后进行下载安装 activate conda activate python3.8 pip ......
pytorch反向传播错误解决：RuntimeError: Trying to backward through the graph a second time, but the buffers have already been freed. Specify retain_graph=True when calling backward the first time.
pytorch反向传播错误解决： 错误： RuntimeError: Trying to backward through the graph a second time, but the buffers have already been freed. Specify retain_graph=T ......
随机生成某些稀疏矩阵
1．单位稀疏矩阵 函数 speye 格式 S = speye(m,n) %生成m×n的单位稀疏矩阵 S = speye(n) %生成n×n的单位稀疏矩阵 2．稀疏均匀分布随机矩阵 函数 sprand 格式 R = sprand(S) %生成与S具有相同稀疏结构的均匀分布随机矩阵 R = spra ......