Optimization
Hessian Free Optimization——外国网友分享的“共轭梯度”的推导
外国网友分享的“共轭梯度”的推导： https://andrew.gibiansky.com/blog/machine-learning/hessian-free-optimization/ 系数矩阵为Hessian矩阵时的使用Pearlmutter trick的共轭梯度解法 Ax = b 的迭代解 ......
选修-4-Optimization for Deep Learning
# 1. Some Nitations 在本小节开始之前,需要知道的符号含义.  # 2. What is ......
AtCoder Beginner Contest 290 Ex Bow Meow Optimization
[洛谷传送门](https://www.luogu.com.cn/problem/AT_abc290_h "洛谷传送门") [AtCoder 传送门](https://atcoder.jp/contests/abc290/tasks/abc290_h "AtCoder 传送门") 考虑观察答案形态。 ......
XJTU-ICS Lab 4: Optimization Lab 性能优化实验
# Part A: 性能测量 首先别忘了预热 cache。先跑一遍 `poly` 函数，从而避免在测量时由于 cold cache 带来的 cache miss 而导致测量值偏大。然后跑若干次 `poly` 函数，分别测量运行时间并取平均值。 ```cpp void measure_time(pol ......
Muesli: Combining Improvements in Policy Optimization
 **发表时间：**2021（ICML 2021） **文章要点：**这篇文章提出一个更新policy的方式，结合 ......
Named Return Value Optimization (NRVO)
Named Return Value Optimization (NRVO) 是一种编译器优化技术，可以避免在函数返回时创建临时对象和调用拷贝构造函数。它的条件是函数返回的对象有一个名字，而且和目标对象的类型相同。例如： ```cpp class A { public: A(); A(const A ......
Lecture#14 Query Planning & Optimization
SQL是声明性的，这意味着用户告诉 DBMS 他们想要什么答案，而不是如何得到答案。因此，DBMS 需要将 SQL 语句转换为可执行的查询计划。 但不同的查询计划的效率可能出现多个数量级的差别，如 Join Algorithms 一节中的 Simple Nested Loop Join 与 Hash ......
Perceptron, Support Vector Machine and Dual Optimization Problem (3)
Support Vector Machines Perceptron and Linear Separability 假设存在一个 linear decision boundary，它可以完美地对 training dataset 进行分割。 那么，经由上述 Perceptron Algorithm ......
Perceptron, Support Vector Machine and Dual Optimization Problem (1)
Linear Decision Boundary（线性决策边界） Example. (classification problem) 给定一个二元的特征空间 $\mathcal{X} = \left{ \text{weight} \times \text{height} \right}$，对标签 $ ......
Paper Reading: Interpretable Rule Discovery Through Bilevel Optimization of Split-Rules of Nonlinear Decision Trees
对于可解释的分类器本文限制为用简单的数学术语表示，使用非线性决策树(NLDT)将分类器表示为简单数学规则的集合。树的每个非叶结节点表示一个非线性数学规则，将给定条件节点中的数据集划分为两个不重叠的子集。通过限制每个条件节点上的分裂规则结构和决策树深度，保证了分类器的可解释性。在给定条件节点上的非线性... ......
【论文翻译】An optimization framework for designing robust cascade biquad feedback controllers on active noise cancellation headphones
下载地址：An optimization framework for designing robust cascade biquad feedback controllers on active noise cancellation headphones Abstract 本文提出了一种直接在有源降 ......
Discretizing Continuous Action Space for On-Policy Optimization
**发表时间：**2020（AAAI 2020） **文章要点：**作者想说，连续动作通常都假设每个维度是高斯分布的，这就限制了策略一定是一个单峰，而离散动作就没有这个约束，所以有离散的必要。然后这篇文章提出了一个把连续动作空间离散化的方法，同时避免维度爆炸。通常如果一个连续空间有$M$个维度，如果 ......