梯度csp
torch梯度计算相关
torch梯度计算图 计算图中,默认只有叶子结点的梯度能够保留,如果要访问非叶子结点p的梯度数据,需要执行p.retain_grad(). torch计算图中requires_grad与detach的区别 requires_grad是torch.Tensor中的属性,表示该张量是否需要计算梯度.而d ......
随机梯度下降法(SGD)
梯度下降法 大多数机器学习或者深度学习算法都涉及某种形式的优化。优化指的是改变特征x以最小化或最大化某个函数f(x)的任务。我们通常以最小化f(x)指代大多数最优化问题。最大化可经由最小化算法最小化-f(x)来实现。 我们要把最小化或最大化的函数称为目标函数或准则。当我们对其进行最小化时，我们也把它 ......
CSP20230319-4 星际网络II 题解
〇、题目 题目描述 随着星际网络的进一步建设和规模的增大，一个新的问题出现在网络工程师面前——地址空间不够用了！原来，星际网络采用了传统的IPv6协议，虽然有 $2^{128}$ 级别的可用地址数量，但面对广袤无垠的宇宙和爆炸式增长的网络用户数，如此庞大的地址空间也面临了用尽的那一天。 新的通信协议 ......
2.9逻辑回归中单个和多个训练样本的梯度下降法
1.单个训练样本(损失函数) 在逻辑回归中我们需要做的就是变换参数w和b的值，来最小化损失函数 a也就是sigmoid函数，也就是a=1/(1+e^(-z)),所以dL/dz=dL/da * da/dz = a-y 这就是单个样本实例的一次梯度更新的步骤 2.多个训练样本 下图中有一个很明显的问题就 ......
CSP202303_2
CSP202303_2 题目 垦田计划 思路 通过总计为 m 的资源来缩短每个土地的时间，最直观的思路就是通过从小到大枚举答案，判断其是否能在使用不超过 m 份资源的情况下满足要求。$k \leq t_{min}$，实际枚举可能需要枚举到土地耗时的最大值，而 $t 、n$ 本身都是是 1e5 的范围 ......
【csp202303-2】垦田计划
问题描述 输入格式 输出格式 样例1输入 4 9 2 6 1 5 1 6 2 7 1 样例1输出 5 样例1解释 样例2输入 4 30 2 6 1 5 1 6 2 7 1 样例2输出 2 样例2解释 数据范围 题解 总耗时取决于耗时最长的区域，所以如果耗时最长的区域不止一个，要缩短总耗时，每次应该把 ......
2.3 和2.4 logistic回归损失函数、梯度下降
下图中由给定的每个样本的值和样本对应的标签值得到最终的概率值 Loss函数是在单个训练样本中定义的，它衡量了在单个训练样本上的表现，而成本函数cost,它衡量的是在全体训练样本上的表现,表明参数w和b在训练集上的效果 如何使用梯度下降法莱训练或学习训练集上的参数w和b 下图中阿尔法表示学习率，可以控 ......
深入浅出--梯度下降法及其实现 https://www.jianshu.com/p/c7e642877b0e
深入浅出--梯度下降法及其实现 六尺帐篷关注IP属地: 上海 612018.01.17 21:06:22字数 3,199阅读 348,388 梯度下降的场景假设 梯度 梯度下降算法的数学解释 梯度下降算法的实例 梯度下降算法的实现 Further reading 本文将从一个下山的场景开始，先提出梯 ......
线性回归的梯度下降
线性回归的梯度下降 问题陈述： 让我们使用与之前相同的两个数据点 - 1000平方英尺的房子以300，000美元的价格出售，而2000平方英尺的房屋以500，000美元的价格出售。 import math, copy import numpy as np import matplotlib.pypl ......
下册开学期末+CSP-J游记
下册开学期末+CSP-J游记 Day -14 期末 Day -7 今天家长会，老师公布成绩 /fn/fn/fn。政治和历史考废了，然后其他都挺好。 语文 $101$，数学 $120$，英语 $86+29.17$，历史 $82$，地理 $97$，生物 $94$，政治 $74$。 也就地理数学还行，拿了 ......
梯度下降算法 Gradient Descent
梯度下降算法 Gradient Descent 梯度下降算法是一种被广泛使用的优化算法。在读论文的时候碰到了一种参数优化问题： 在函数$F$中有若干参数是不确定的，已知$n$组训练数据，期望找到一组参数使得残差平方和最小。通俗一点地讲就是，选择最合适的参数，使得函数的预测值与真实值最相符。 $${ ......