机器 线性lda 25
机器学习——Bahdanau 注意力
9.7节中探讨了机器翻译问题： 通过设计一个基于两个循环神经网络的编码器-解码器架构， 用于序列到序列学习。 具体来说，循环神经网络编码器将长度可变的序列转换为固定形状的上下文变量， 然后循环神经网络解码器根据生成的词元和上下文变量 按词元生成输出（目标）序列词元。 然而，即使并非所有输入（源）词元 ......
机器学习——注意力评分函数
10.2节使用了高斯核来对查询和键之间的关系建模。 (10.2.6)中的 高斯核指数部分可以视为注意力评分函数（attention scoring function）， 简称评分函数（scoring function）， 然后把这个函数的输出结果输入到softmax函数中进行运算。 通过上述步骤，将 ......
机器学习——注意力汇聚：Nadaraya-Watson 核回归
上节介绍了框架下的注意力机制的主要成分 图10.1.3： 查询（自主提示）和键（非自主提示）之间的交互形成了注意力汇聚； 注意力汇聚有选择地聚合了值（感官输入）以生成最终的输出。 本节将介绍注意力汇聚的更多细节， 以便从宏观上了解注意力机制在实践中的运作方式。 具体来说，1964年提出的Nadara ......
机器学习-小样本情况下如何机器学习
交叉验证是在机器学习建立模型和验证模型参数时常用的办法。交叉验证，顾名思义，就是重复的使用数据，把得到的样本数据进行切分，组合为不同的训练集和测试集，用训练集来训练模型，用测试集来评估模型预测的好坏。在此基础上可以得到多组不同的训练集和测试集，某次训练集中的某样本在下次可能成为测试集中的样本，即所谓 ......
神经网络入门篇：详解为什么需要非线性激活函数？（why need a nonlinear activation function?）
为什么需要非线性激活函数？ 为什么神经网络需要非线性激活函数？事实证明：要让的神经网络能够计算出有趣的函数，必须使用非线性激活函数，证明如下： 这是神经网络正向传播的方程，现在去掉函数\(g\)，然后令\(a^{[1]} = z^{[1]}\)，或者也可以令\(g(z)=z\)，这个有时被叫做线性激 ......
机器学习——注意力提示
查询、键和值 自主性的与非自主性的注意力提示解释了人类的注意力的方式， 下面来看看如何通过这两种注意力提示， 用神经网络来设计注意力机制的框架， 首先，考虑一个相对简单的状况， 即只使用非自主性提示。 要想将选择偏向于感官输入， 则可以简单地使用参数化的全连接层， 甚至是非参数化的最大汇聚层或平均汇 ......
线性回归-梯度下降
上了篇尝试了利用穷举法来求较好的模型，但是穷举法的效率很低。还有一种更高效的方法，梯度下降法（Gradient Descent）。 算法过程 代码实现 x = [338., 333., 328., 207., 226., 25., 179., 70., 208., 606.] y = [640., ......
零基础机器学习数字识别MNIST（on going）
本人之前并未涉及机器学习，但是在嵌入式中都会涉及视觉，借校内比赛从零学习，进行MNIST数字识别模型的搭建。 随着学习进度更新，每天更新。2023-11-15 21:38:55 星期三 一、环境搭建 进行本模型的搭建，需要以下内容： Python环境：利用Anaconda管理 开源机器学习平台：Py ......
第二章——线性表
第二章——线性表 一、线性表 1、什么是线性表？ 线性表（linear list）是n个具有相同特性的数据元素的有限序列，是一种在实际中广泛使用的数据结构。像数组 char buf[5] = {1,2,3,4,5},里面出现的元素都是char型的，不会是int、float等其他类型。 2、常见的线性 ......
线性代数导论MIT第二章知识点
线性代数导论MIT第二章求解线性方程组 1.向量与线性方程组 2.不同角度看方程式 也就是矩阵的乘法原型： 以行来看方程式就是原式 以列来看方程式 以矩阵来看方程式 3.消元法的概念 4.消元法的崩溃 两条线互相平行就无法消元 两条线无限多的点 5.3x3的矩阵消元法 6.从A到U的消元法（U指的上 ......
机器码备份_二
[yhzr]有意合作联系扣扣:1176769884$$$AA24C7BD5A0A8FE8E06E1FB53BBE8AD4:00|66|88_CF4DF748256261B751D029853C3DA5BC:00|01|02|03|04|10|11|12|13|14|20|21|22|23|24|30 ......
机器学习——束搜索、贪心搜索、穷举搜索
束搜索（Beam Search）、贪心搜索（Greedy Search）和穷举搜索（Exhaustive Search）是在搜索领域常用的三种搜索算法，它们在不同的场景下有着不同的特点和应用。 束搜索（Beam Search）： 束搜索是一种用于寻找最有可能的输出序列的搜索算法，常用于序列生成任务， ......
机器学习——序列到序列学习（seq2seq）
我们将使用两个循环神经网络的编码器和解码器， 并将其应用于序列到序列（sequence to sequence，seq2seq）类的学习任务。 编码器 由于这里使用的是门控循环单元， 所以在最后一个时间步的多层隐状态的形状是 （隐藏层的数量，批量大小，隐藏单元的数量）。 如果使用长短期记忆网络，st ......
机器学习中的分类和回归
机器学习中的分类和回归是两种主要的预测建模任务，它们分别处理不同类型的输出变量。 分类（Classification）： 定义： 分类是一种监督学习任务，其目标是将输入数据映射到预定义的类别中。在分类问题中，模型的输出是一个离散的类别标签。 例子： 例如，垃圾邮件过滤是一个二分类问题，其中模型需要将 ......
线性分类器与非线性分类器的区别
机器学习中的分类器可以大致分为线性分类器和非线性分类器，它们在处理数据时有一些基本的区别。 线性分类器： 决策边界： 线性决策边界： 线性分类器假设数据可以通过一个超平面（在二维空间中是一条直线）来划分成不同的类别。例如，对于二分类问题，可以用一条直线将两个类别分开。 模型形式： 线性分类器的模型通 ......
统计学强调低维空间问题的统计推导，机器学习强调高维预测问题
统计学和机器学习在处理数据和模型时的侧重点确实有一些区别，其中涉及到低维和高维空间的问题。 统计学强调低维空间问题的统计推导： 统计学通常关注的是从一组有限样本中获得总体特征的推断。在传统统计学中，数据通常被认为是在低维空间中采样的，即特征的数量相对较少。例如，在古典统计中，可能会考虑一些变量对某个 ......
微信机器人开发文档
请求URL： http://域名地址/acceptUser 请求方式： POST 请求头Headers： Content-Type：application/json Authorization：login接口返回 参数： 参数名必选类型说明 wId 是 string 登录实例标识 v1 是 stri ......
机器学习——编码器和解码器架构
正如我们在 9.5节中所讨论的， 机器翻译是序列转换模型的一个核心问题， 其输入和输出都是长度可变的序列。 为了处理这种类型的输入和输出， 我们可以设计一个包含两个主要组件的架构： 第一个组件是一个编码器（encoder）： 它接受一个长度可变的序列作为输入， 并将其转换为具有固定形状的编码状态。 ......
机器学习——机器翻译与数据集
语言模型是自然语言处理的关键， 而机器翻译是语言模型最成功的基准测试。 因为机器翻译正是将输入序列转换成输出序列的 序列转换模型（sequence transduction）的核心问题。 序列转换模型在各类现代人工智能应用中发挥着至关重要的作用。机器翻译（machine translation）指的 ......
25 写小论文的时候如何将eps文件缩小一些
超简单的小论文eps文件压缩 写英文论文一般图片格式会要求eps格式，我用PNG格式的图片粘贴到Adobe Illustrator后另存为的eps文件非常大，于是上网看了看怎么能压缩一下，自己尝试了一种简单方法，具体方法如下： （1）将eps文件用AdobeDC2021打开，然后将它另存为pdf格式 ......
线性回归-穷举法
样本：有十个点 假设有十个点，用matplotlib画出来 import matplotlib.pyplot as plt cp = [338., 333., 328., 207., 226., 25., 179., 70., 208., 606.] y = [640., 633., 619., 3 ......
机器学习——深度循环神经网络
到目前为止，我们只讨论了具有一个单向隐藏层的循环神经网络。 其中，隐变量和观测值与具体的函数形式的交互方式是相当随意的。 只要交互类型建模具有足够的灵活性，这就不是一个大问题。 然而，对一个单层来说，这可能具有相当的挑战性。 之前在线性模型中，我们通过添加更多的层来解决这个问题。 而在循环神经网络中 ......
机器学习——长短期记忆网络（LSTM）
长期以来，隐变量模型存在着长期信息保存和短期输入缺失的问题。 解决这一问题的最早方法之一是长短期存储器（long short-term memory，LSTM）(Hochreiter and Schmidhuber, 1997)。 它有许多与门控循环单元（ 9.1节）一样的属性。 有趣的是，长短期记 ......
机器学习——门控循环单元(GRU)
在 8.7节中， 我们讨论了如何在循环神经网络中计算梯度， 以及矩阵连续乘积可以导致梯度消失或梯度爆炸的问题。 下面我们简单思考一下这种梯度异常在实践中的意义： 我们可能会遇到这样的情况：早期观测值对预测所有未来观测值具有非常重要的意义。 考虑一个极端情况，其中第一个观测值包含一个校验和， 目标是在 ......
java项目实战-tomcat-SpringMVC-基本用法01-day25
目录1. maven创建 war项目2. SpringMVC 1. maven创建 war项目 什么是jar项目 什么是war项目？ jar项目： 由main方法来开始的 直接依赖JVM就能编译运行 jar项目不需要服务器 war项目： web项目的java文件是tomcat来触发的 脱离了web服 ......
10.25
英语课，上节课的听写结果出来了，感觉大学老师就是仁慈，这份听写要是高中，早被老师抽八百遍了，感谢英语老师给个机会，下次听写应该是下下周，这次争取一手满分这次课的听力做的还不错，除了一个单词猜错意思选错了，其他的都听对了建民的测试，目前搞定了链接，增功能搞了一半，周五开始不停歇明天怎么做：明天满课，好 ......
10.25日
早八英语课，第一节课是同学的演讲展示，不过今天的两位同学占用时间比较长，熬过了一节课，第二节课讲了英语作文中对比的写法，课下要求使用对比写法写一篇作文。 ......
10.25
今天对文件处理与流文件进行了学习 package com.example.demo3;import java.io.*;import java.util.*; public class HelloApplication { public static void main(String[] args) ......
详细揭秘：子树补回滚莫队线性对数解法
首先是前置知识。这里的问题抽象一下以后就是：有 \(m\) 个满足双单调性质的区间分布在 \([1, n]\) 内，每个点上有两个单位信息 \(a_i, b_i\)，且这种信息的特点是支持且仅支持每次合并上一个单位信息（回滚莫队问题的信息的经典形态）；现在要求对于每个区间求区间内部点的 \(a\) ......