轻量 轻量级transformer视觉
自然语言处理预训练—— 来自Transformers的双向编码器表示（BERT）
我们已经介绍了几种用于自然语言理解的词嵌入模型。在预训练之后，输出可以被认为是一个矩阵，其中每一行都是一个表示预定义词表中词的向量。事实上，这些词嵌入模型都是与上下文无关的。让我们先来说明这个性质。 从上下文无关到上下文敏感 ELMo（Embeddings from Language Models） ......
关于TRANSFORM_TEX的一些问题
这个函数是用来控制shader面板中的tilling和offset的，本质为 uv * _MainTex_ST.xy + _MainTex_ST.zw; 但是使用TRANSFORM_TEX时需要注意的是，函数内部似乎没有封装完整，假如有类似于 TRANSFORM_TEX(uv + 20, _Main ......
机器视觉选型计算器，初级版，后续慢慢补充
做机器视觉的都知道，每次选型都得做各种计算，但是没有人把硬件选型做出一个工具，今天利用一点闲暇时间，几分钟吧，简单做了个，后续再把其他一些硬件选型公式计算器功能做上去，有需要的自取。 1.DPI相关计算器 2.工作距离相关计算器 3.待补充，编码器等 4.关于 有需要自行下载：链接 ......
机器学习——Transformer
10.6.2节中比较了卷积神经网络（CNN）、循环神经网络（RNN）和自注意力（self-attention）。值得注意的是，自注意力同时具有并行计算和最短的最大路径长度这两个优势。因此，使用自注意力来设计深度架构是很有吸引力的。对比之前仍然依赖循环神经网络实现输入表示的自注意力模型 (Cheng ......
最高加速9倍！字节跳动开源8比特混合精度Transformer引擎
前言 近年来，Transformer 已经成为了 NLP 和 CV 等领域的主流模型，但庞大的模型参数限制了它的高效训练和推理。于是字节跳动在 2019 年 12 月和 2021 年 6 月分别推出了高效推理和训练引擎 LightSeq，大大加速了 Transformer 系列模型的训练和推理，也打 ......
宝塔：腾讯云轻量服务器root输入命令bt显示Permission denied的解决方法
因为许久没有登陆宝塔，今日登陆发现密码错了，于是进入腾讯云后台，root进入VNC修改密码，不想却提示Permission denied： 后进行人工客服请求，才发现是少输入命令所致， 根据客服提示，重新输入su后，再输入bt即成功进入宝塔相关项目选择列表： 注意：可能跟阿里云或别的云服务器略有区别 ......
wasmedge 轻量&可扩展&可移植的webassembly 运行时
wasmedge 是一个cncf 的沙箱项目，提供了一个强大的webassembly 运行时 包含的特性 高性能 利用了llvm 进行AOT 编译优化 云原生的扩展 提供了非阻塞的网络以及web service能力的rust，c，js sdk， 包含了mysql 数据库驱动，key value 存储 ......
linux Libevent 轻量级事件通知库API简介和示例
1. 事件处理框架 libevent 是一个C语言编写，轻量级开源高性能事件框架。事件驱动，支持多种IO多路复用（如epoll），支持注册优先级等 // 头文件 #include <event2/event.h> // 创建一个事件处理框架 struct event_base *event_base ......
Vue轻量级富文本编辑器-Vue-Quill-Editor
先看效果图：女神镇楼 1.下载Vue-Quill-Editor npm install vue-quill-editor --save 2.下载quill（Vue-Quill-Editor需要依赖） npm install quill --save 3.代码 <template> <div clas ......
视觉VO（10-2-1）优化- 重投影误差 数学基础 李群李代数
https://www.bilibili.com/video/BV1LT411V7zv/?spm_id_from=333.788&vd_source=f88ed35500cb30c7be9bbe418a5998ca ......
视觉VO（10-2）优化- 重投影误差
李代数表现形式 https://blog.csdn.net/weixin_49804978/article/details/121922128 由于相机位姿未知以及观测点的噪声，该等式存在一个误差。我们将误差求和，构建最小二乘问题，然后寻找做好的相机位姿，使它最小化： 该问题的误差项，是将像素坐标（ ......
视觉VO（10-1）优化概述
视觉VO（10-1）优化概述 文字部分 https://wym.netlify.app/2019-07-03-orb-slam2-optimization1/ 思维导图整理 https://www.processon.com/diagraming/6538ba379675f91751210aae 请 ......
视觉VO（9-2）共视图和本质图
https://zhuanlan.zhihu.com/p/595837772 所有相连关键帧组成共视图。 关键帧之间的共视信息在本文系统的若干个任务中非常有用，并且其被表示为一种无向加权图。图中每一节点为一个关键帧，如果两个关键帧之间共享相同地图点（至少15个）观测，则这两个关键帧之间存在一条边，该 ......
轻量级前端架构之：小程序技术
无生态，不平台。
全球人口红利瓶颈，大流量App的建设到了需要深耕流量的阶段，单纯靠自研提供业务的软件支撑，并不能留住日益多元化选择的用户，生态是深耕用户，吸引更多忠诚用户的关键。 ......
OpenAI支持的视觉能力
介绍 带有视觉的 GPT-4，有时也称为 GPT-4V 或在 API 中，允许模型接收图像并回答有关它们的问题。从历史上看，语言模型系统一直受到单一输入模态（文本）的限制。对于许多用例来说，这限制了可以使用 GPT-4 等模型的领域。gpt-4-vision-preview 具有视觉功能的 GPT- ......
Cost Aggregation with Transformers for Sparse Correspondence-读书笔记
Cost Aggregation with Transformers for Sparse Correspondence:2022 背景: 该论文结合了SuperGlue和CATs，将里面所有手工制作的部分都代替了。将CATs引入该模型，用Transformer取代手工制作的成本聚合方法，用于具有自 ......
CLIP：万物分类（视觉语言大模型）
本文来着公众号“AI大道理” 论文地址：https://arxiv.org/abs/2103.00020 传统的分类模型需要先验的定义固定的类别，然后经过CNN提取特征，经过softmax进行分类。然而这种模式有个致命的缺点，那就是想加入新的一类就得重新定义这个类别的标签，并重新训练模型，这样非 ......
Transformers 中原生支持的量化方案概述
本文旨在对 transformers 支持的各种量化方案及其优缺点作一个清晰的概述，以助于读者进行方案选择。 目前，量化模型有两个主要的用途: 在较小的设备上进行大模型推理 对量化模型进行适配器微调 到目前为止，transformers 已经集成并 原生 支持了 bitsandbytes 和 aut ......
TRL(Transformer Reinforcement Learning) PPO Trainer 学习笔记
(1) PPO Trainer TRL支持PPO Trainer通过RL训练语言模型上的任何奖励信号。奖励信号可以来自手工制作的规则、指标或使用奖励模型的偏好数据。要获得完整的示例，请查看examples/notebooks/gpt2-sentiment.ipynb。Trainer很大程度上受到了原 ......
轻量前端框架能否与小程序结合应用？
前端框架一般指用于简化网页设计的框架，使用广泛的前端开发套件，比如，jquery，extjs，bootstrap等等，这些框架封装了一些功能，比如html文档操作，漂亮的各种控件（按钮，表单等等），使用前端框架可以帮助快速地搭建网站。 框架是提供一套完整的解决方案，按照规定好的代码结构来做编排，使用 ......
大语言模型里的Transformer还可以这么用？
前言 自 LLM 诞生以来，我们见到了很多把 LLM 接到 Vision Backbone 后面的算法，那么有两个自然的问题：（1）LLM 的 Transformer 是否可以直接处理视觉 Token？（2）LLM 的 Transformer 是否可以提升处理视觉 Token 的 Performan ......
《Swin Transformer: Hierarchical Vision Transformer using Shifted Windows》阅读笔记
论文标题 《Swin Transformer: Hierarchical Vision Transformer using Shifted Windows》 Swin 这个词貌似来自后面的 Shifted Windows Shifted Windows：移动窗口 Hierarchical：分层 作者 ......
视觉VO（7）跟踪线程
https://wym.netlify.app/2019-04-27-orb-slam2-tracking/ 0.1 流程简述 1. 系统初始化：在 ==System SLAM()== 初始化 SLAM 系统时初始化了跟踪线程 ......
视觉VO（3）2D-2D 求解位姿后三角化
原理理解 https://www.bilibili.com/video/BV1ie4y1f7XG/?spm_id_from=333.788&vd_source=f88ed35500cb30c7be9bbe418a5998ca 具体计算计算 https://blog.csdn.net/KYJL888/ ......
DeepMind指出「Transformer无法超出预训练数据实现泛化」，但有人投来质疑
前言 难道 Transformer 注定无法解决「训练数据」之外的新问题？ 本文转载自机器之心 仅用于学术分享，若侵权请联系删除 欢迎关注公众号CV技术指南，专注于计算机视觉的技术总结、最新技术跟踪、经典论文解读、CV招聘信息。 CV各大方向专栏与各个部署框架最全教程整理 【CV技术指南】CV全栈指 ......
工程车识别AI视觉算法方案
工程车识别AI视觉算法方案 https://mp.weixin.qq.com/s/jXXTZCcFNrZUtpzVyQ4wCg 工程车识别AI视觉算法方案 原创 郭桂珊 刘洲 OPEN AI Store 2023-10-25 14:14 发表于广东 收录于合集 #智慧交通5个 #算法20个 #ai2 ......
重新审视Transformer：倒置更有效，真实世界预测的新SOTA出现了
前言 反转Transformer，变成iTransformer。 本文转载自机器之心 仅用于学术分享，若侵权请联系删除 欢迎关注公众号CV技术指南，专注于计算机视觉的技术总结、最新技术跟踪、经典论文解读、CV招聘信息。 CV各大方向专栏与各个部署框架最全教程整理 【CV技术指南】CV全栈指导班、基础 ......
轻量级 IDE & 文本编辑器 Geany 发布 2.0
导读 Geany 是功能强大、稳定、轻量的开发者专用文本编辑器，支持 Linux、Windows 和 macOS，内置支持 50 多种编程语言。 2005 年Geany 发布首个版本 0.1。上周四刚好是 Geany 诞生 18 周年纪念日，官方发布了 2.0 正式版以表庆祝。 下载地址：https ......
2023CVPR_Efficient Frequency Domain-based Transformers for High-Quality Image Deblurring
一. Motivation 1. Transformer在解决全局表现很好，但是复杂度很高，主要体现在QK的乘积: (We note that the scaled dot-product attention computation is actually to estimate the corre ......