梯度
opencv-python 4.6. 图形梯度
理论 OpenCV提供三种类型的梯度滤波器或高通滤波器，Sobel，Scharr和Laplacian。 Sobel和Scharr Sobel算子是高斯联合平滑加微分运算，因此它更能抵抗噪声。你可以指定要采用的导数的方向，垂直或水平（yorder和xorder），你还可以通过参数ksize指定卷积核的 ......
torch梯度计算相关
torch梯度计算图 计算图中,默认只有叶子结点的梯度能够保留,如果要访问非叶子结点p的梯度数据,需要执行p.retain_grad(). torch计算图中requires_grad与detach的区别 requires_grad是torch.Tensor中的属性,表示该张量是否需要计算梯度.而d ......
随机梯度下降法(SGD)
梯度下降法 大多数机器学习或者深度学习算法都涉及某种形式的优化。优化指的是改变特征x以最小化或最大化某个函数f(x)的任务。我们通常以最小化f(x)指代大多数最优化问题。最大化可经由最小化算法最小化-f(x)来实现。 我们要把最小化或最大化的函数称为目标函数或准则。当我们对其进行最小化时，我们也把它 ......
2.9逻辑回归中单个和多个训练样本的梯度下降法
1.单个训练样本(损失函数) 在逻辑回归中我们需要做的就是变换参数w和b的值，来最小化损失函数 a也就是sigmoid函数，也就是a=1/(1+e^(-z)),所以dL/dz=dL/da * da/dz = a-y 这就是单个样本实例的一次梯度更新的步骤 2.多个训练样本 下图中有一个很明显的问题就 ......
2.3 和2.4 logistic回归损失函数、梯度下降
下图中由给定的每个样本的值和样本对应的标签值得到最终的概率值 Loss函数是在单个训练样本中定义的，它衡量了在单个训练样本上的表现，而成本函数cost,它衡量的是在全体训练样本上的表现,表明参数w和b在训练集上的效果 如何使用梯度下降法莱训练或学习训练集上的参数w和b 下图中阿尔法表示学习率，可以控 ......
深入浅出--梯度下降法及其实现 https://www.jianshu.com/p/c7e642877b0e
深入浅出--梯度下降法及其实现 六尺帐篷关注IP属地: 上海 612018.01.17 21:06:22字数 3,199阅读 348,388 梯度下降的场景假设 梯度 梯度下降算法的数学解释 梯度下降算法的实例 梯度下降算法的实现 Further reading 本文将从一个下山的场景开始，先提出梯 ......
线性回归的梯度下降
线性回归的梯度下降 问题陈述： 让我们使用与之前相同的两个数据点 - 1000平方英尺的房子以300，000美元的价格出售，而2000平方英尺的房屋以500，000美元的价格出售。 import math, copy import numpy as np import matplotlib.pypl ......
梯度下降算法 Gradient Descent
梯度下降算法 Gradient Descent 梯度下降算法是一种被广泛使用的优化算法。在读论文的时候碰到了一种参数优化问题： 在函数$F$中有若干参数是不确定的，已知$n$组训练数据，期望找到一组参数使得残差平方和最小。通俗一点地讲就是，选择最合适的参数，使得函数的预测值与真实值最相符。 $${ ......