随想录 训练营 九天 随想
扩散模型在文本摘要任务中可以采用的训练方法
## 扩散模型在文本摘要任务中可以采用的训练方法 ### 条件控制 通过设定不同的条件c，文本生成任务可以被进一步分类为unconditional generation，attribute-to-text generation （如属性控制），text-to-text generation （如机器 ......
客服系统个性化训练GPT知识库+知识库列表中新增向量搜索功能+语义文本搜索
大家都知道想要实现个性化训练的GPT，离不开向量数据库。 在我的客服系统后台，能够展示出向量库里的数据列表。现在有一个新需求，客户添加的数据很多，想要能够在后台搜索指定的数据，方便去修改。 新增搜索功能后，后台界面展示如下： 搜索部分也是基于的Qdrant数据库的search 接口，该接口需要把搜索 ......
GPT-4体系结构、基础设施、训练数据集、训练成本、愿景、混合专家模型
OpenAI的GPT-4被业内人士「开源」了！ 其中包括GPT-4的架构、训练和推理的基础设施、参数量、训练数据集、token数、成本、混合专家模型（Mixture of Experts，MoE）等非常具体的参数和信息。 尤其是，在不同工程背后，OpenAI究竟是怎样权衡的。以及在巨型模型推理时，如 ......
2023.7.11 训练
### 1.dp 相关 #### 1.1 path 给定一个 $n∗m$ 的网格，你在左下角 $(n,1)$，一开始你面向上方，你只能往前走或者右拐，障碍和走过的点不能走。 求走到 $(x,y)$ 的方案数的值，取模。 $n,m\le 40$ 观察到一右拐，就会进入一个子矩形，并只能在这里面移动了。 ......
我用numpy实现了VIT，手写vision transformer, 可在树莓派上运行，在hugging face上训练模型保存参数成numpy格式，纯numpy实现
先复制一点知乎上的内容 按照上面的流程图，一个ViT block可以分为以下几个步骤 (1) patch embedding：例如输入图片大小为224x224，将图片分为固定大小的patch，patch大小为16x16，则每张图像会生成224x224/16x16=196个patch，即输入序列长度为 ......
代码随想录算法训练营第二十九天| 1005.K次取反后最大化的数组和 134. 加油站 135. 分发糖果
860.柠檬水找零 思路： 遇到20，先给10和5，再给三个5 代码： 1 bool lemonadeChange(vector<int>& bills) { 2 if (bills.size() == 0) return true; 3 4 map<int, int> currentMoney; ......
基于matlab的手势识别系统，支持新手势录入，pca或者特征提取，机器学习算法训练迭代，分辩手势1到10，可增
基于matlab的手势识别系统，支持新手势录入，pca或者特征提取，机器学习算法训练迭代，分辩手势1到10，可增加样本数量。自主编程，不重复。 ID:69500662835908419 ......
机器学习洞察 | 分布式训练让机器学习更加快速准确 分布式 机器学习 PyTorch Amazon SageMaker
机器学习能够基于数据发现一般化规律的优势日益突显，我们看到有越来越多的开发者关注如何训练出更快速、更准确的机器学习模型，而分布式训练 (Distributed Training) 则能够大幅加速这一进程。 亚马逊云科技开发者社区为开发者们提供全球的开发技术资源。这里有技术文档、开发案例、技术专栏、培 ......
MarkDown简单训练
使用方法 标题 #+空格 一级标题 ##+空格二级标题 。。。 字体 断桥 两边各两个星号键加粗 断桥 两边各一个星号键 断桥 两边各三个星号键 断桥 两边各两个波浪线 引用 断桥 >+空格 分割线 三个- 三个* 图片 英文符号 !+[]+() 超链接 点击跳转橘·柚的博客 [名字]+(网址) 列 ......
代码随想录算法训练营第二十八天| 1005.K次取反后最大化的数组和 134. 加油站 135. 分发糖果
1005.K次取反后最大化的数组和 思路： 仅排序一次，当前数<下一个数，就反转当前数，如果大于，那么就反转下一个 ——》也就是保证每次反转都是最小的数 注意：如果移动到最后一个节点了，K还没用完，那么就证明只能反转K 代码： 1 int largestSumAfterKNegations(vect ......
2023ACM暑假训练day 11 动态规划
[toc] # DAY 11 动态规划 训练地址：[传送门](https://vjudge.net/contest/568041) ## 训练情况简介 2023-07-10 09:30:17 星期一 早上： 下午： 晚上： ## 题 **题意：** **思路：** ## 题 **题意：** **思路 ......
2023ACM暑假训练day 2 并查集
[toc] # DAY 2 并查集 ## 训练情况简介 今天的讲题准备的不是很充分哈 下次注意！！！ 6.28补： 22级厉害学弟整理的简单构造的[题解](https://blog.csdn.net/xxcdsg/article/details/131423266?spm=1001.2014.300 ......
编程随想曲周刊（第36期）
这里记录每周的所见所闻，周日发布。点击阅读原文可以直接访问文章链接。 # 工具 1. [Grafana Labs](https://grafana.com/zh-cn/grafana/?tab=revenue) 2. [Prometheus](https://prometheus.io/docs/i ......
2023ACM暑假训练day 3 树状数组
[toc] # DAY 3 树状数组 ## 训练情况简介 早上： 下午： 晚上： ## 早上 A 题 单点修改+区间查询模板题 逆序对 https://codeforces.com/edu/course/2/lesson/4/3/practice/contest/274545/problem/A 利 ......
2023ACM暑假训练day 4 简单DP
[toc] # DAY 4 简单DP ## 训练情况简介 简单DP时间安排：6.29 - 6.29 早上：过A题 下午：过B、I、K、L、N题 晚上：补个人训练2的E题、F题 ## A 题 **题意：** 从长为n的数组取m个序列，求这m个序列的最大和 **思路：** //Max[j-1]目前代表的 ......
预训练模型 | mGPT详解
**模型下载地址**：https://www.huggingface.co/THUMT/mGPT ### mGPT mGPT使用因果语言建模目标在[mC4 数据集](https://huggingface.co/datasets/mc4)上进行预训练。它已在[本文](https://arxiv.or ......
暑期思维训练
## LIS or Reverse LIS? >设一个长为 $n$ 的整数序列 $a$ 是 $\{a_1,a_2,a_3,\cdots,a_n\}$，那么 $a'$ 表示 $\{a_n,a_{n-1},a_{n-2},\cdots,a_1\}$，$\operatorname{LIS}(a)$ 表示 ......
CSP - J 训练营
# Day 1 ## 数据结构 含义：**拿来存储数据的结构** 常见形式： ### 1. 变量 只能存一个数。 ### 2. 数组 所有数组都开在 **全局变量**。 - **堆空间** 全局变量在堆空间。 空间为 $ 256 M $，可以存 $ 6.4 × 10^7 $ 个 `int`。 - * ......
CUGBACM22级暑假小学期训练-贪心
# [CUGBACM22级暑假小学期训练-贪心](https://vjudge.net/contest/565189) ## A - 种树 ## 题意：给一个环，取m个节点，不能取相邻节点，令所取节点的权值之和最大化 ## 思路:~~dp~~，用到了最大流中建立反向边的思想使得这个贪心能够“反悔” ......
CUGBACM22级暑假小学期训练-二分,二分答案
## A - A-B 数对 ## 题意：找$A-B=C$的对数，已知$C$，那么就是找对于每个数就是找$C+B$的数量 ## 思路：二分找位置最大的$C+B$与位置最小的$C+B$，枚举每个$B$即可 ## 用map可能也行？ ### map ```c++ #include using namesp ......
CUGBACM22级暑假小学期训练-分治
## [A - 平面最近点对（加强版）](https://vjudge.net/problem/洛谷-P1429) ### [参考点距题](C:\Users\Administrator\Desktop\markdown\计算几何\点距题.md) ## [B - 三维偏序（陌上花开）](https:/ ......
2023ACM暑假训练day 10 树上问题
[toc] # DAY 10 树上问题 ## 训练情况简介 2023-07-08 09:51:05 星期六 ## 题 **题意：** **思路：** ## 题 **题意：** **思路：** ## 题 **题意：** **思路：** ......
代码随想录算法训练营第二十七天| 122.买卖股票的最佳时机II 55. 跳跃游戏 45.跳跃游戏II
122.买卖股票的最佳时机II 注意： 1，第一个和最后一个 2，只有一个数的情况 3，2255，这种情况 思路： 1，买入：左：空/高/平 右：高 2，卖出：左：低 右：空/ 低/平 代码： 1 int maxProfit(vector<int>& prices) { 2 int result = ......
代码随想录｜单调栈
● 739. 每日温度 ● 496.下一个更大元素 I 单调栈 那有同学就问了，我怎么能想到用单调栈呢？ 什么时候用单调栈呢？ 通常是一维数组，要寻找任一个元素的右边或者左边第一个比自己大或者小的元素的位置，此时我们就要想到可以用单调栈了。时间复杂度为O(n)。 那么单调栈的原理是什么呢？为什么时间 ......
行行AI人才直播第8期：新加坡国立大学在读博士生张傲《多模态大语言模型(MLLM)的简介及高效训练》
随着 ChatGPT 在各领域展现出非凡能力，多模态大型语言模型（MLLM）近来也成为了研究的热点，它利用强大的大型语言模型（LLM）作为“大脑”，可以执行各种多模态任务。更让人感慨的是，MLLM 展现出了传统方法所不具备的能力，比如能够根据图像创作故事，无需 OCR 的数学推理等，这为实现人工智能 ......
CDMP国际数据治理认证训练营来了（7-8月）
大家好，我是独孤风，一位曾经的港口煤炭工人，目前在某国企任大数据负责人，公众号大数据流动主理人。在最近的两年的时间里，因为公司的需求，还有大数据的发展趋势所在，我开始学习数据治理的相关知识。 经过一段时间的努力，我也终于通过了**CDMP国际数据治理认证考试。** 离我研究生开学还有两个月的时间，应 ......
yolov5的训练策略
yolov5——训练策略 前言 1. 训练预热——Warmup 1.1 what是Warmup 1.2 why用Warmup 1.3 常见Warmup类型 1.4 yolov5中的Warmup 2. 自动调整锚定框——Autoanchor 2.1 what是anchor 2.2 why用anchor ......
代码随想录算法训练营第二十六天| 455.分发饼干 376. 摆动序列 53. 最大子序和
455.分发饼干 自己的 思路： 先排序，然后每个孩子找到他能满足的胃口饼干，找到了之后，孩子向前，饼干向前 代码： 1 int findContentChildren(vector<int>& g, vector<int>& s) 2 { 3 int result = 0; 4 sort(g.be ......
2023ACM暑假训练day 9 后缀自动机SAM
[toc] # DAY 9 后缀自动机SAM ## 训练情况简介 2023-07-07 09:20:38 星期五 ## 题 **题意：** **思路：** ......
Huggingface | 使用WMT16数据集微调BART训练新的标记进行翻译
BART模型是用来预训练seq-to-seq模型的降噪自动编码器（autoencoder）。它是一个序列到序列的模型，具有对损坏文本的双向编码器和一个从左到右的自回归解码器，所以它可以完美的执行翻译任务。 如果你想在翻译任务上测试一个新的体系结构，比如在自定义数据集上训练一个新的标记，那么处理起来会 ......