梯度 线性

1. softmax回归 伯努利分布（0-1分布 二分类），我们采用Logistic回归（用sigmoid函数映射到 0-1之间 输出预测概率）建模。 那么我们应该如何处理多分类问题？（比如要进行邮件分类；预测病情属于哪一类等等）。对于这种多项式分布我们使用softmax回归建模。 什么是多项分布？ ......

1. 共轭方向 设 \(A \in \mathbb{R}^{n \times n}\) 为 对称阵，\(p, q \in \mathbb{R}^{n \times 1}\) 为 n元列向量。如果: \[p^T A q = 0 \]则称 \(p\) 和 \(q\) 关于 \(A\) 共轭。 特别地，若 ......

目录1. sigmoid函数2. 伯努利分布（0-1分布）3. 广义线性回归4. 逻辑回归 损失函数的推导5. 代码并绘图 1. sigmoid函数 逻辑回归 logitstic regression 本质是二分类 sigmoid函数 是将 （-无穷， +无穷）区间上的y 映射到 （0， 1） 之间 ......

​ 1、矩阵和向量积 矩阵和向量积可以用 numpy.dot() 函数来计算。numpy.dot() 函数的两个参数分别是矩阵和向量。 1）矩阵积 矩阵积是两个矩阵相乘的结果。矩阵积的计算方法是将矩阵的每一行与另一个矩阵的每一列相乘，然后将各个相乘结果相加。 示例代码：Python NumPy 线性 ......

1 梯度下降法 \(\qquad\) 梯度下降法又称最速下降法，是最优化方法中最基本的一种方法。所有的无约束最优化问题都是在求解如下的无约束优化问题：$$\min_{x \in R^n} f(x)$$ 将初始点\(x_0\)逐步迭代到最优解所在的点\(x^*\)，那么考虑搜索点迭代过程：$$x_{t ......

1. 梯度下降法 无约束最优化问题一般可以概括为： \[\min_{x \in \mathbb{R}^n}f(x) \]通过不断迭代到达最优点 \(x^*\)，迭代过程为： \[x^{k + 1} = x^k + \alpha_k d^k \]其中 \(d^k\) 为当前的 搜索方向，\(\alph ......

一、 实验目的 掌握哈希表 二、 实验内容 实验题目 线性探测法的查找函数 整型关键字的散列映射 三、 设计文档 1. 2. 四、 源程序 1. Position Find( HashTable H, ElementType Key ) { int flag=0; Position p,q; p=H ......

1 题目 给一个包含 n 个整数的数组 S, 找到和与给定整数 target 最接近的三元组，返回这三个数的和。 样例 1： 输入： numbers = [2,7,11,15] target = 3 输出： 20 解释：2+7+11=20 样例 2： 输入： numbers = [-1,2,1,-4 ......

#include <stdio.h> #define MAXTABLESIZE 100000 /* 允许开辟的最大散列表长度 */typedef int ElementType; /* 关键词类型用整型 */typedef int Index; /* 散列地址类型 */typedef Index P ......

1 题目 给出一个有 n 个整数的数组 S，在 S 中找到三个整数 a, b, c，找到所有使得 a + b + c = 0 的三元组。 在三元组 (a, b, c)，要求 a≤b≤c。结果不能包含重复的三元组。数组可能包含重复元素，但同一个索引下标的元素不可重复使用 样例 1： 输入： numbe ......

目录1. 为什么要升维2 代码实现3, 总结 1. 为什么要升维 升维的目的是为了去解决欠拟合的问题的，也就是为了提高模型的准确率为目的的，因为当维度不够时，说白了就是对于预测结果考虑的因素少的话，肯定不能准确的计算出模型。 在做升维的时候，最常见的手段就是将已知维度进行相乘来构建新的维度，如下图所 ......

1 题目 趁着 RocketMQ在打包，做道算法题。 给一个整数数组，找到两个数使得他们的和等于一个给定的数 target。 你需要实现的函数twoSum需要返回这两个数的下标, 并且第一个下标小于第二个下标。注意这里下标的范围是 0 到 n-1。 样例 1： 输入： numbers = [2,7, ......

目录1. 为什么要加上正则项2 L1稀疏 L2平滑3. 代码1--L2正则4 代码2--L2正则25. 代码3--l1正则 1. 为什么要加上正则项 防止模型的过拟合 需要在损失函数LOSS(MSE或者交叉熵)再加上正则项 常用的惩罚项有L1正则项或者L2正则项 其实L1和L2正则的公式数学里面的意 ......

1 题目 给一个词典，找出其中所有最长的单词。 样例 1: 输入: { "dog", "google", "facebook", "internationalization", "blabla" } 输出: ["internationalization"] 样例 2: 输入: { "like", " ......

产品描述 AP5101C 是一款高压线性 LED 恒流芯片 ， 外围简单 、 内置功率管 ， 适用于6- 100V 输入的高精度降压 LED 恒流驱动芯片。最大电流2.0A。AP5101C 可实现内置MOS 做 2.0A,外置 MOS 可做 3.0A 的。AP5101C 内置温度保护功能 ，温度保护 ......

1 题目 给k个字符串，求出他们的最长公共前缀(LCP) 样例 1： 输入： k个字符串 = ["ABCD", "ABEF", "ACEF"] 输出： "A" 解释：公共最长前缀是"A". 样例 2： 输入： k个字符串 = ["ABCDEFG", "ABCEFG", "ABCEFA"] 输出： " ......

1 题目 给定一个未排序的整数数组num，找出最长连续序列的长度。 样例 1： 输入： num = [100, 4, 200, 1, 3, 2] 输出： 4 解释：这个最长的连续序列是 [1, 2, 3, 4]. 返回所求长度 4 2 解答 public class Solution { /** * ......

目录1. 为什么要对样本进行 归一化2. 归一化的方式一 最大最小值3. 归一化的方式二 标准归一化 1. 为什么要对样本进行 归一化 样本之间的数量级是千差万别 有量纲的 例如： theta1 >> theta2 数值小的 theta2 反而能快速的 收敛 数值大的 theta1 收敛较慢 出现 ......

1. 随机梯度下降法 梯度计算的时候 随机抽取一条 import numpy as np X = 2 * np.random.rand(100, 1) y = 4 + 3 * X + np.random.randn(100, 1) X_b = np.c_[np.ones((100, 1)), X] ......

1. 梯度下降法 梯度： 是一个theta 与 一条样本x 组成的 映射公式 可以看出梯度的计算量主要来自于 左边部分 所有样本参与 -- 批量梯度下降法 随机抽取一条样本参与 -- 随机梯度下降法 一小部分样本参与 -- 小批量 梯度下降法 2. epoch 与 batch epoch：一次迭代 ......

1. 解析解 解析解的公式 import numpy as np import matplotlib.pyplot as plt # 有监督机器学习 # X y X = 2 * np.random.rand(100, 1) # np.random.rand # 100行 1列的 [0, 1) 之间均 ......

备考考点整理 内部排序表格 树的主要考点 二叉树的常考 紧紧抓住 \(n_0 = n_2+1\) \(n=n_0+n_1+n_2...n_m\) \(n=n_1+2*n_2+3*n_3...m*n_m\) +1 哈夫曼树没有度为1的结点，也就是\(n_1=0\) 完全二叉树常考 总结 最大岛屿问题（ ......

1 题目 两个排序的数组A和B分别含有m和n个数，找到两个排序数组的中位数，要求时间复杂度应为 O(log(m + n))。 中位数的定义： 这里的中位数等同于数学定义里的中位数。 中位数是排序后数组的中间值。 如果有数组中有n个数且n是奇数，则中位数为 A((n-1)/2)。 如果有数组中有n个数 ......

1.图像梯度-Sobel算子流程： 2.计算绝对值dx为1水平方向： 3.计算绝对值dy为1竖直方向： 4.求出x和y以后，再进行求和： 5.不建议直接设置dx为1，dy为1会造成图像不饱和： 6.推荐使用，dx和dy分别计算进行梯度计算处理： 7.不推荐使用，直接将dx(水平方向)和dy(竖直方向 ......

1.膨胀和腐蚀放在一起展示： 2.梯度运算，膨胀减腐蚀： ......

4.2.2 线性区晶体管跨导器 本节我们将讨论使用工作在线性区的晶体管构成的跨导器。需要说明的是，在下面介绍的电路中，并不是所有的晶体管都处于先行区。一些晶体管被偏置在饱和区，但是电路的跨导由一到两个被偏置在线性区的关键晶体管来决定。 首先我们会议一下对于n管来说线性区的电流公式： \[I_D=\m ......

1.回归问题的定位 我们知道机器学习分为有监督学习和无监督学习，无监督学习主要是聚类方面的算法，而有监督问题主要分为回归和分类两类 而这线性回归就属于有监督学习，且属于其中的回归类问题，另外有一种逻辑回归，他却是属于分类问题的一部分。 2.线性回归 （1）大体思路 首先它是利用数理统计中的回归分析来 ......

1 题目 跟进“搜索旋转排序数组”，假如有重复元素又将如何？是否会影响运行时间复杂度？如何影响？为何会影响？写出一个函数判断给定的目标值是否出现在数组中。 样例 1： 输入： A = [] target = 1 输出： false 解释：数组为空，1不在数组中。 样例 2： 输入： A = [3,4 ......

最大似然估计 已经从某一分布中获取到n个样本 并且假设改样本的分布服从某一个分布f(θ), θ为需要估计的参数，根据这n个样本去推导θ的值 就叫做最大似然估计，假设样本服从某分布，根据样本计算出分布中的参数，参数计算出之后，就能去进行预测， 正态分布概率密度： 假设样本的误差 服从正态分布 最大似然 ......

梯度下降是一种算法，可以用来找到成本函数的局部最小值。这里用线性回归来演示梯度下降算法，但梯度下降不仅仅适用于线性回归成本函数。 梯度下降中，有学习率 α、数学表示等概念 梯度下降是什么 单变量线性回归梯度下降 梯度下降通过逐步更新参数，一步一步达到局部最小值 每一步的更新操作是这样的： 这里要注意 ......