transformers retentive networks视觉
使用 Transformers 进行图分类
在之前的 博文 中，我们探讨了图机器学习的一些理论知识。这一篇我们将探索如何使用 Transformers 库进行图分类。(你也可以从 此处 下载演示 notebook，跟着一起做！) 目前，Transformers 中唯一可用的图 transformer 模型是微软的 Graphormer，因此本 ......
文献阅读《AcsiNet: Attention-Based Deep Learning Network for CSI Prediction in FDD MIMO Systems》
这篇文献的作者是南华大学的林文斌老师，于2023年3月3日发表在IEEE WIRELESS COMMUNICATIONS LETTERS。 文章直接对上行 CSI 矩阵使用离散傅里叶逆变换进行压缩，然后将其输入一个基于注意力（attention-based）的深度学习网络，该网络可以专注于关键的 C ......
AI智能视觉识别在智慧城市中的应用
基于AI智能的视觉识别，是当前人工智能最主要的应用功能之一。通过对工业相机、摄像头、视觉传感器拍摄采集到的图像/视频进行算法分析，实现对画面中人体、物体、事物运动状态、变化情况的感知与反馈，最后实现业务流程自动自主，从而有效提高生产力和效率。 ......
精通 TensorFlow 2.x 计算机视觉：第一部分
原文：Mastering Computer Vision with TensorFlow 2.x 协议：CC BY-NC-SA 4.0 译者：飞龙 本文来自【ApacheCN 深度学习 译文集】，采用译后编辑（MTPE）流程来尽可能提升效率。 不要担心自己的形象，只关心如何实现目标。——《原则》，生 ......
《Ubuntu — NetworkManager开机提示A start job is running for Network Manager wait online (29s / no limit) 等待30s解决办法》【轉】
轉自：https://www.cnblogs.com/zhuangquan/p/13209758.html ，僅供參考學習使用 1.Network Manager Ubuntu Server： Ubuntu的Server版本只有终端界面，没有桌面GUI，且Server版本不会安装NetworkMan ......
Unity CharacterController的transform赋值无效（一直下落）问题
题 使用 CharacterController 后 ， 坐标系统会变得混乱，这个是上期说过的问题，各系统之间使用自己的缓存来保持数据，玩家为了模拟重力 不得不持续进行运算。 这样就会令其他坐标操作指令出现无效化或者混乱 unity 也提供了一个简单的解决方案 就是每计算一次之前 都去同步其他坐标操 ......
network 路由器和交换机的区别
##network 路由器和交换机的区别 路由器和交换机是网络中两个不同的设备，它们的功能和作用有所不同，主要区别如下： 工作层次不同：交换机主要工作在OSI模型的第二层，即数据链路层，它通过MAC地址来转发数据包；而路由器主要工作在OSI模型的第三层，即网络层，它通过IP地址来转发数据包。 路由功 ......
DFCN:Deep Fusion Clustering Network
论文阅读05-DFCN:Deep Fusion Clustering Network 论文信息 论文地址：[DFCN][2012.09600] Deep Fusion Clustering Network (arxiv.org) 论文代码：WxTu/DFCN: AAAI 2021-Deep Fusi ......
Multi-View Attribute Graph Convolution Networks for Clustering
论文阅读04-Multi-View Attribute Graph Convolution Networks for Clustering：MAGCN 论文信息 论文地址：Multi-View Attribute Graph Convolution Networks for Clustering | ......
Structural Deep Clustering Network:SDCN
论文阅读02-Structural Deep Clustering Network 模型创新点 我们提出了一种用于深度聚类的新型结构深度聚类网络 (SDCN)。所提出的 SDCN 有效地将自动编码器和 GCN 的优势与新颖的交付算子和双自监督模块结合在一起。据我们所知，这是第一次明确地将结构信息应用 ......
FastGCN Fast Learning with Graph Convolutional Networks via Importance Sampling
Chen J., Ma T. and Xiao C. FastGCN: fast learning with graph convolutional networks via importance sampling. ICLR, 2018. 概 一般的 GCN 每层通常需要经过所有的结点的 prop ......
Deeper Insights into Graph Convolutional Networks for Semi-Supervised Learning
Li Q., Han Z. and Wu X. Deeper insights into graph convolutional networks for semi-supervised learning. AAAI, 2018. 概 本文分析了 GCN 的实际上就是一种 Smoothing, 但是 ......
Transformer网络-Self-attention is all your need
一、Transformer Transformer最开始用于机器翻译任务，其架构是seq2seq的编码器解码器架构。其核心是自注意力机制： 每个输入都可以看到全局信息，从而缓解RNN的长期依赖问题。 输入： （待学习的）输入词嵌入 + 位置编码（相对位置） 编码器结构： 6层编码器： 一层编码器 = ......
CVPR 2023 深挖无标签数据价值！SOLIDER：用于以人为中心的视觉
前言 在现今的各种视觉智能场景中，对图像中人的理解和分析一直都是一个非常重要的环节。SOLIDER 是 CVPR 2023 录用的一篇来自于阿里达摩院的工作，是一个专门用于支持各种人体任务的视觉预训练模型。它提供一种自监督训练方式，让我们可以充分利用市面上大量的人体无标注数据训练出一个可以通用于下游 ......
Stochastic Training of Graph Convolutional Networks with Variance Reduction
Chen J., Zhu J. and Song L. Stochastic training of graph convolutional networks with variance reduction. ICML, 2018. 概 我们都知道, GCN 虽然形式简单, 但是对于结点个数非常多的 ......
4.深度学习计算机视觉概述
深度学习计算机视觉方法概述 概述 深度学习已经成为计算机视觉领域的一个热门研究方向，被广泛用于图像分类、目标检测、人脸识别等任务中。与传统方法相比，深度学习方法可以通过端到端的学习，从原始数据中直接学习任务所需的特征表示，无需手工设计复杂的特征提取算法。 在深度学习计算机视觉领域，最常使用的神经网络 ......
3.传统计算机视觉方法
传统计算机视觉方法 ChatGPT: 传统的计算机视觉方法是指在深度学习广泛使用之前，主要采用传统机器学习、数字信号处理等技术的一系列方法。以下是其中一些常用的方法和模型： 特征提取方法 特征提取是计算机视觉中一个非常基础而重要的步骤，其目的是从图片或视频数据中提取出具有代表性和有区别性的特征，以便 ......
Ubuntu开机卡“A start job is running for wait for network to be Configured”的解决方法
问题 虚拟机安装ubuntu22.04 TLS系统后，开机总会卡在等待网络连接好长时间。 卡在 A start job is running for hait for Network to be Configured (1min 40s / no） 这里 如图所示 解决办法 进入系统后，打开终端，输 ......
1.计算机视觉概述
计算机视觉概述 课程学习方法 在开始学习之前，首先说明，这是我尝试自学计算机视觉课程的产物，在我看来，这是费曼学习法的一部分，你可以认为这是学习笔记，或者教程。 计算机技术的发展让我们不但能获取更多信息，而且获取的门槛日益降低，这个自学系列，我将完全依靠计算机和互联网进行，包括但不限于以下的方法： ......
Generative Pre-trained Transformer（GPT）模型技术初探
一、Transformer模型 2017年，Google在论文 Attention is All you need 中提出了 Transformer 模型，其使用 Self-Attention 结构取代了在 NLP 任务中常用的 RNN 网络结构。相比 RNN 网络结构，其最大的优点是可以并行计算。 ......
Introducing QCN9274: The Next Generation of Wi-Fi 7 Wireless Networking
Are you tired of slow internet speeds and dropped connections? Want to upgrade your wireless network to the latest and greatest technology? Look no fu ......
image forest transform算法及其实现（Java Web版本）
感觉分水岭算法和骨架算法还挺有趣的，自己空余时间写着玩儿了一下，原理还是参考论文以及其他的代码。 本文实现了 image forest transform 中的 skeleton 算法，也就是提取图片中的骨架，其他的分水岭暂时没搞。 代码中的其他组件都有，需要的话可以自己二次开发实现。 论文暂时没有 ......
04 Viewing Transformation
##关键点 ModelView Transformation Matrix (1-3) Orthographic Projection Matrix (4) Perspective Projection Matrix (5-6) 1. View/Camera/ModelView Transforma ......
03 Transformation
关键点 Affine Transformation (Linear Transformation, Transmation) Homogeneous coordinates Composite Transform 2D and 3D 1. Linear Transformation (2D for ......
浏览器页面跳转后network请求不见了
####场景 本想看登录的接口，但是登录成功后，就自动跳转了，network的请求信息也刷新了。 百度后才知道，还有个开关，可以保留历史请求记录 ......
A start job is running for Raise network interface（5min 13s ）问题解决方法 【轉】
我在笔记本电脑上安装了Ubuntu 16.04，当我有局域网连接时，启动ubuntu是很快的，当LAN电缆断开时，需要大约5分钟才能获得登录屏幕，这个实在是无法忍受。我的推测，且不一定准确我是通过Ubunut server安装的系统，安装时候链接了网络。所以系统被自动设置成连接到路由器自动通过DHC ......
现代计算机图形学——P3. Transformation-2D
P3. Transformation P3. Transformation 矩阵和变换联系起来 Reflection Matrix（反射矩阵（名字不重要））： 切变： 旋转： 推导： 旋转矩阵中的B和D可以用（0,1）这个点来推算 线性变换： （先不管这个M） 齐次坐标 为什么要用齐次坐标： 平移变 ......
SNMP（Simple Network Management Protocol）——简单网络管理协议
SNMP（Simple Network Management Protocol）——简单网络管理协议 目录 一、SNMP简介 1.背景 2.SNMP管理的网络架构 二、SNMP MIB 1.SNMP MIB简介 2.MIB分类 (1)公有MIB （2）私有MIB 3.被管理设备的基本属性 （1）对象 ......
Squeeze-and-Excitation Networks（SENet）
结构和代码如下（参考：b站视频：YOLOv5 v6.1添加SE,CA,CBAM,ECA注意力机制教学，即插即用）： Global pooling：每个channel上面的所有点做平均，这样每个channel都输出一个数。所以左图中，HxWxC变成了1x1xC。（参考：关于global average ......
CVPR 2023｜两行代码高效缓解视觉Transformer过拟合，美图&国科大联合提出正则化方法DropKey
前言 美图影像研究院（MT Lab）与中国科学院大学突破性地提出正则化方法 DropKey，用于缓解 Vision Transformer 中的过拟合问题。该方法通过在注意力计算阶段随机 drop 部分 Key 以鼓励网络捕获目标对象的全局信息，从而避免了由过于聚焦局部信息所引发的模型偏置问题，继而 ......