feed-forward attention long-term networks
Position-Enhanced and Time-aware Graph Convolutional Network for Sequential Recommendations
# Position-Enhanced and Time-aware Graph Convolutional Network for Sequential Recommendations [TOC] > [Huang L., Ma Y., Liu Y., Du B., Wang S. and Li ......
Empowering Long-tail Item Recommendation through Cross Decoupling Network (CDN)
长尾问题是个老大难问题了。
在推荐中可以是用户/物料冷启动,在搜索中可以是中低频query、文档,在分类问题中可以是类别不均衡。长尾数据就像机器学习领域的一朵乌云,飘到哪哪里就阴暗一片。今天就介绍来自Google的一篇解决长尾物品推荐的论文。 ......
Proj CDeepFuzz Paper Reading: Aries: Efficient Testing of Deep Neural Networks via Labeling-Free Accuracy Estimation
## Abstract 背景: 1. the de facto standard to assess the quality of DNNs in the industry is to check their performance (accuracy) on a collected set of ......
论文阅读 《Pingmesh: A Large-Scale System for Data Center Network Latency Measurement and Analysis》
背景 在我们内部产品中,一直有关于网络性能数据监控需求,我们之前是直接使用 ping 命令收集结果,每台服务器去 ping (N-1) 台,也就是 N^2 的复杂度,稳定性和性能都存在一些问题,最近打算对这部分进行重写,在重新调研期间看到了 Pingmesh 这篇论文,Pingmesh 是微软用来监 ......
Self-Attention
# Self-Attention - 参考:https://zhuanlan.zhihu.com/p/619154409 在Attention is all you need这篇论文中,可以看到这样一个公式: $Attention(Q,K,V)=softmax(\frac{QK^{T}}{\sqrt ......
解决:docker 443: connect: network is unreachable
1、配置镜像加速器 您可以通过修改daemon配置文件/etc/docker/daemon.json来使用加速器 sudo mkdir -p /etc/docker sudo tee /etc/docker/daemon.json <<-'EOF' { "registry-mirrors": ["h ......
CF1023F Mobile Phone Network 题解
## 题意 给出 $n$ 个点,$k$ 条未钦定边权的边和 $m$ 条已钦定边权的边,要求为这 $k$ 条未指定边权的边分配权值使其均在图的最小生成树中且最大化这 $k$ 条边的边权之和。 ($1 \le n,k,m \le 5 \times 10^5$)。 ## 题解 首先满足要求这 $k$ 条边 ......
Attention
``` #include #include #include #include #include #include #include #include #include #include #include #include #include #include #include #include #i ......
学习笔记:DSTAGNN: Dynamic Spatial-Temporal Aware Graph Neural Network for Traffic Flow Forecasting
DSTAGNN: Dynamic Spatial-Temporal Aware Graph Neural Network for Traffic Flow Forecasting ICML2022 论文地址:https://proceedings.mlr.press/v162/lan22a.html ......
[KDD 2023] All in One- Multi-Task Prompting for Graph Neural Networks
# [KDD 2023] All in One- Multi-Task Prompting for Graph Neural Networks ## 总结 提出了个多任务prompt学习框架,扩展GNN的泛化能力: 1. 统一了NLP和图学习领域的prompt格式,包括prompt token、to ......
SocialLGN Light graph convolution network for social recommendation
[TOC] > [Liao J., Zhou W., Luo F., Wen J., Gao M., Li X. and Zeng J. SocialLGN: Light graph convolution network for social recommendation. Information ......
《Zero Stability Well Predicts Performance of Convolutional Neural Networks》
# 《Zero Stability Well Predicts Performance of Convolutional Neural Networks》 ## 文章结构1. 摘要2. 引言3. 预备知识4. 来自现存CNNs的观察5. 零稳定性网络ZeroSNet6. 实验-- 通过零稳定预测性能 ......
Docker搭建lnmp之network篇
docker pull nginx #拉去最新的nginx镜像 一、搭建vagrant+VagrantBox VM环境 创建Vagrantfile文件 vagrant init 编辑Vagrantfile文件 Vagrant.configure("2") do |config| config.vm. ......
Long-term Forecasting with TiDE: Time-series Dense Encoder 学习笔记
Long-term Forecasting with TiDE: Time-series Dense Encoder 论文地址:https://arxiv.org/abs/2304.08424 代码地址:https://github.com/google-research/google-resear ......
Convolutional neural network (CNN)–extreme learning machine (ELM)
1. 介绍 论文:(2020)Neural networks for facial age estimation: a survey on recent advances. 地址: http://link.springer.com/article/10.1007/s10462-019-09765-w ......
README_network
[TOC] #### 1、功能 - 一键拖拽上传 - 默认“未发布”,可选择直接发布 - 重复上传,提示是否更新博客 #### 2、环境 (1)Python 3 - 安装 pyyaml 库:cmd中输入 pip3 install pyyaml ![252274b5022933c43e4859daed ......
HS-GCN Hamming Spatial Graph Convolutional Networks for Recommendation
[TOC] > [Liu H., Wei Y., Yin J. and Nie L. HS-GCN: Hamming spatial graph convolutional networks for recommendation. IEEE TKDE.](https://arxiv.org/pdf/ ......
深度 Q 网络(deep Q network,DQN)原理&实现
# 深度 Q 网络(deep Q network,DQN)原理&实现 ## 1 Q-Learning 算法 ### 1.1 算法过程 Q-learning是一种用于解决强化学习问题的无模型算法。强化学习是一种让智能体学习如何在环境中采取行动以最大化某种累积奖励的机器学习方法。 在Q-learning ......
Co-occurrence Network:相关系数矩阵的阈值
"abs(occor.r) < 0.7" 这部分代码是对相关系数矩阵进行阈值处理的一部分。这里的 "0.7" 是一个阈值,用来筛选相关性较强的微生物对。具体来说,对于相关系数矩阵中的每个元素,如果其绝对值小于0.7,则将其设置为0。 相关系数范围在-1到1之间,绝对值越接近1表示相关性越强,绝对值越 ......
SIAMHAN:IPv6 Address Correlation Attacks on TLS E ncrypted Trafic via Siamese Heterogeneous Graph Attention Network解读
1. Address 论文来自于USENIX Security Symposium 2021 2. Paper summary 与ipv4地址采用nat掩盖不同,ipv6地址更加容易关联到用户活动上,从而泄露隐私。但现在已经有解决隐私担忧的方法被部署,导致现有的方法不再可靠。这篇文章发现尽管在有防护 ......
Neural Network 初学
参数:机器学习的内容 超参数:人手动设置的数值,比如学习率、训练轮数 # MLP 在 input layer 和 output layer 之间有一堆 hidden layer,每两层之间可以理解成一张完全二分图,二分图的邻接矩阵上有一些权重,随机初始化。 将图片的每个像素点抽出来变成向量之后在二分 ......
Attention机制竟有bug?Softmax是罪魁祸首,影响所有Transformer
前言 「大模型开发者,你们错了。」 本文转载自机器之心 仅用于学术分享,若侵权请联系删除 欢迎关注公众号CV技术指南,专注于计算机视觉的技术总结、最新技术跟踪、经典论文解读、CV招聘信息。 CV各大方向专栏与各个部署框架最全教程整理 【CV技术指南】CV全栈指导班、基础入门班、论文指导班 全面上线! ......
Azure Virtual Network (21) ER专线启用Fast Path
《Windows Azure Platform 系列文章目录》 在Azure ER专线启动Fast Path,具体的区别如下: 禁用Fast Path 启用Fast Path Azure VM访问本地VM流量,流量不经过ER网关 Azure VM访问本地VM流量,流量不经过ER网关 本地VM流量访问 ......
DeepObfusCode:Source Code Obfuscation Through Sequence-to-Sequence Networks
一、Introduction 代码混淆技术旨在解决代码逆向对抗问题。 本质上,代码混淆技术的目标是:在保持一个程序逻辑结构不变以及完整保存的前提下,同时让攻击者不易识别,以此保护软件的完整性和知识产权。 传统的防护策略包括: 插入空白/冗余的逻辑运算 增加不必要的条件运算等 传统的混淆技术最大的问题 ......
Unit network.service could not be found的解决方法
学习自:报错:Unit network.service could not be found.[已解决] 1)yum install network-scripts 2)下载完成后,查看network的运行状态 systemctl status network 此时的network处于关闭(inac ......
POJ 3694 Network
##[POJ 3694 Network](http://poj.org/problem?id=3694) ### 一、题目大意 $n$个点,$m$个边,连通图。 点与点之间通过边连接,如果切断某个边使得有点与其他点连接断开(连通分支增加),则称这种边为 **桥梁**(离散上叫 **割边**)。 接下 ......
斯坦福博士一己之力让Attention提速9倍!FlashAttention燃爆显存,Transformer上下文长度史诗级提升
前言 FlashAttention新升级!斯坦福博士一人重写算法,第二代实现了最高9倍速提升。 本文转载自新智元 仅用于学术分享,若侵权请联系删除 欢迎关注公众号CV技术指南,专注于计算机视觉的技术总结、最新技术跟踪、经典论文解读、CV招聘信息。 CV各大方向专栏与各个部署框架最全教程整理 【CV技 ......
self-attention
Self attention考虑了整个sequence的资讯【transfermer中重要的架构是self-attention】 解决sequence2sequence的问题,考虑前后文 I saw a saw 第一个saw对应输出动词 第二个输出名词 如何计算相关性【attention score ......
[论文研读]空天地一体化(SAGIN)的网络安全_A_Survey_on_Space-Air-Ground-Sea_Integrated_Network_Security_in_6G
** 恢复内容开始 ** ## 空天地一体化(SAGIN)的网络安全 **目前关注的方面:** 集中在安全通信、入侵检测、侧通道攻击、GPS欺骗攻击、网络窃听、消息修改/注入等方面,有些侧重于分析现有的安全威胁[20]、[21],有些提出了他们的攻击方法[14]、[22],还有一些则更多地侧重于SA ......
算法_贝叶斯网络学习_bayesian networks
###基本概念 条件概率 联合概率 边缘概率 链式法则 随机变量的独立性 条件独立性 贝叶斯规则、贝叶斯概率推理和贝叶斯网络模型。 stochastic,主要用作形容词,主要意思为“随机的;猜测的” ###R语言包 R语言用lme4多层次(混合效应)广义线性模型(GLM),逻辑回归分析 lme4广义 ......