transformer注意力 机制gpt
【机器学习】李宏毅——自注意力机制(Self-attention)
前面我们所讲的模型，输入都是一个向量，但有没有可能在某些场景中输入是多个向量，即一个向量集合，并且这些向量的数目并不是固定的呢？ 这一类的场景包括文字识别、语音识别、图网络等等。 那么先来考虑输出的类型，如果对于输入是多个数目不定的向量，可以有以下这几种输出方式： 每个向量对应一个输出：输出的数目与 ......
【机器学习】李宏毅——Transformer
本文详细地介绍了Transformer算法，介绍了其内部重要的Encoder和Decoder，以及具体的实现过程和原理，还介绍了其训练过程以及训练过程中应该注意的种种问题。 ......
MySQL JDBC驱动版本与数据库版本的对应关系及注意事项
事情发生 学了三遍的servlet，经典老师又教的第一万遍登陆注册，并且让实现，并且让演示，我们老师可能和之前的小学期公司老师 完全没有沟通过，我们小学期大作业都做了一个小项目出来还搁这登陆注册。 就把五个月前写的一个小项目拿出来，是一个类似菜鸟教程的网站，不过只有java的教程，这都是后话， 项目 ......
Mybatis缓存机制
什么是缓存？ 为什么使用缓存？ 什么场景下使用缓存？ 缓存（Cache）就是数据交换的缓冲区，一个临时存储数据的地方，当我们读取数据时会首先从缓存中查找需要的数据，如果找到了则直接执行，找不到的话再从内存中找。 在实际开发中，我们会经常对数据库进行数据查询，而从数据库读取数据的效率是非常低下的，并且 ......
重新认识下JVM级别的本地缓存框架Guava Cache(3)——探寻实现细节与核心机制
本篇文章我们将进一步探讨下Guava Cache 实现层面的一些逻辑与设计策略，让我们可以对Guava Cache整体有个更加明朗的认识，促进实际使用中对其的理解。 ......
python进阶（28）import导入机制原理
前言 在Python中，一个.py文件代表一个Module。在Module中可以是任何的符合Python文件格式的Python脚本。了解Module导入机制大有用处。 1. Module组成 一个.py文件就是一个module。Module中包括attribute, function等。 这里说的a ......
flutter系列之:flutter中的变形金刚Transform
简介 虽然我们在开发APP的过程中是以功能为主，但是有时候为了美观或者其他的特殊的需求，需要对组件进行一些变换。在Flutter中这种变换就叫做Transform。 flutter的强大之处在于，可以对所有的widget进行Transform，因此可以做出非常酷炫的效果。 Transform简介 在 ......
基于LSM树的存储机制简述
下午听了关于MyRocks-PASV的研究讲座，很有意思所以学习了一下LSM树的一些简单的底层原理。现在整理一下 我们都知道目前Key:Value型的数据库普遍较之关系型数据库有着更好的表现，为什么会有这样的一个差异呢？关键就在于存储形式和读写机制的不同。 Key:Value型数据库可以通过LSM ......
痞子衡嵌入式：MCUXpresso IDE下高度灵活的FreeMarker链接文件模板机制
大家好，我是痞子衡，是正经搞技术的痞子。今天痞子衡给大家分享的是MCUXpresso IDE下高度灵活的FreeMarker链接文件模板机制。 痞子衡之前写过一篇文章 《MCUXpresso IDE下工程链接文件配置管理与自动生成机制》，这篇文章介绍了 MCUXpresso IDE 在链接文件管理设 ......