随想录 队列 训练营 随想

大语言模型的预训练[2]:GPT、GPT2、GPT3、GPT3.5、GPT4相关理论知识和模型实现、模型应用以及各个版本之间的区别详解 ......

01背包问题 二维 要求： 有一个背包，他只能装4KG，分别有三个物品： 1 15；3 20； 4 30 ——》需要物品价值最大 dp[i][j] 含义： 在放物品I 的时候在J背包容量下的物品最大值 递推公式： 1,不放当前物品：dp[i-1][j]2，放当前物品：(dp[i-1][j]) ->不 ......

# 知识点 面向对象 ## 题目1 ### 题目描述： ​ 定义数组存储3部汽车对象。 ​ 汽车的属性：品牌，价格，颜色。 ​ 创建三个汽车对象，数据通过键盘录入而来，并把数据存入到数组当中。 ### 练习答案： ```java public class Car { private String b ......

``` template class CircularQueue { private: std::vector arr; size_t capacity; size_t head; size_t tail; size_t count; public: explicit CircularQueue(s ......

//var users = new List<UserInfo>(); //for (int i = 0; i < 200000; i++) //{ // users.Add(new UserInfo // { // ID = i, // Name = "张三" + i.ToString(), // ......

# 【RabbitMQ】当队列中消息数量超过最大长度的淘汰策略 ## 说明 最近在研究RabbitMQ如何实现延时队列时发现消息进入死信队列的情况之一就是当消息数量超过队列设置的最大长度时会被丢入死信队列，看到这时我就产生了一个疑问，到底是最后插入的消息还是最早插入的消息会被丢入死信队列呢？遗憾的是 ......

# 反思 J题想的很快，但写了很久也没写出来，问题出在式子的细节写了半天出了问题。下次把式子考虑好，再进行代码实现。K题没开longlong产生了罚时。L题想出来了，但最后剩下的时间不够也没有来得及写。A题离正解很近，就是处理冗余操作，最后一直在想怎么把0，1相关位置的操作隔离出来。实际上只用隔离两 ......

## 补题 **题目链接：**[Transformation](https://acm.hdu.edu.cn/showproblem.php?pid=4578) **所需算法：**线段树 **题目大意：**让你对一段区间 ``[l, r]`` 进行四种操作，分别是在一段区间中都增加``c``或者都乘 ......

# 人工智能LLM模型：奖励模型的训练、PPO 强化学习的训练、RLHF # 1.奖励模型的训练 ## 1.1大语言模型中奖励模型的概念 在大语言模型完成 SFT 监督微调后，下一阶段是构建一个奖励模型来对问答对作出得分评价。奖励模型源于强化学习中的奖励函数，能对当前的状态刻画一个分数，来说明这个状 ......

# 大语言模型的预训练[1]:基本概念原理、神经网络的语言模型、Transformer模型原理详解、Bert模型原理介绍 # 1.大语言模型的预训练 ## 1.LLM预训练的基本概念 预训练属于迁移学习的范畴。现有的神经网络在进行训练时，一般基于反向传播（Back Propagation，BP）算法 ......

2、导入各种需要用到的包 import torch //用于导入名为"torch"的模块。torch 是一个广泛使用的库，用于构建和训练神经网络。它提供了丰富的功能和工具，包括张量操作、自动求导、优化算法等，使得深度学习任务更加简单和高效。可以使用torch.Tensor类来创建张量，使用torch ......

### 时间：2023.7.18-2023.8.27 早8点到中午11点半 下午两点到5点半下午7点到九点半 ### 地点：9#504 liuwansi专用座位 ### 要求： 除了最基本的时间要求外还有如下要求， * 做好每天的日常规划，每日在博客记录今日所学 * 牛客比赛，cf,acwing，v ......

功能受限的表结构： 栈： 队列： 只有两个口来进出数据，一个专门进入数据，另一个专门出数据，先进先出，FIFO表 顺序队列： 1、存储元素的连续内存的首地址 2、容量： 3、队头位置：出队 4、队尾位置：入队 运算：创建、销毁、清空、出队、入队、对空、队满、对头、队尾、元素数量 *需要注意的问题： ......

## 思维训练 ### T1 在 $[l,r]$ 区间中找两个不同的数$x,y$ ，使得 $l \le \gcd(x,y) \le r$ $solution$ ： 只需要判断 $2 \times l$ 在不在这个区间里面就可以，可以证明出这个是最小的一组满足条件的数了。 ### T2 3533 KL ......

RocketMQ on openEuler 提供高性能消息队列的稳定性解决方案 openEuler2023-06-27openEuler RocketMQ on openEuler，是一种将 RocketMQ 消息中间件通过容器化的方式部署在 openEuler 操作系统上运行，借助 openEul ......

背景问题 我们都知道Java里的LinkedBlockingQueue，采用先进先出（FIFO）的方式存储元素，并且支持同时进行并发的读和写操作。内部使用ReentrantLock锁来保证多线程环境下的线程安全性。 LinkedBlockingQueue提供了以下主要方法： put(E e)：将元素 ......

import os import json import mmcv import time from mmcv import Config from mmdet.apis import inference_detector, init_detector, show_result_pyplot, tr ......

### 字符串的内置方法(较多，重要) ```python old_code = 'KeViN' print('这是返回给用户的验证码: %s' % old_code) new_code = input('请输入你的验证码：').strip() print(new_code) # 对验证码作一个判断 ......

## 练习一：文字版格斗游戏 需求: ​ 格斗游戏，每个游戏角色的姓名，血量，都不相同，在选定人物的时候（new对象的时候），这些信息就应该被确定下来。 举例： ​ 程序运行之后结果为： ​ 姓名为:乔峰 血量为:100 ​ 姓名为:鸠摩智 血量为:100 ​ 乔峰举起拳头打了鸠摩智一下，造成了XX ......

343. 整数拆分 要求： 将一个正数拆分成N个正整数，使得这N个正整数的乘机是最大的 思路： DP数组：dp[n] N 的时候，它的乘机最大值 注意： 不是i*dp[n-i]就是最大值，因为如果用dp就证明要开始拆分了，如果我不拆分，就是用的这两个数的话，那么就是单纯的 i* (n-i) 代码： ......

Implementing work-deferring mechanisms 延期任务 Softirqs: Executed in an atomic context # kernel/softirq.c ; <linux/interrupt.h>. Tasklets: Executed in an ......

[比赛地址](https://tsinghua.contest.codeforces.com/group/sTsHnFxwiH/contest/453495/) ## A **Tag: 排列 置换** - 遍历排列中每个置换环, 找到每个元素需要跳几次才能回到与之相同的元素(最多为环的长度个数) - ......

## Codeforces Round 882 (Div. 2) ### A. The Man who became a God 分成若干段后，分割处的差分会丢失，因此要使所求的各段的差分和最小，只需要让丢失的差分尽可能大。 求出序列差分，从大到小排序，去除前$k - 1$个即可。 ### B. H ......

栈 栈（stack）：先进后出，后进先出的数据结构。 栈是限定仅在表尾进行插入和删除操作的线性表。我们把允许插入和删除的一端称为栈顶（top），另一端称为栈底（bottom），不含任何数据元素的栈称为空栈。栈又称为后进先出（Last In First Out）的线性表，简称LIFO结构。需要注意，栈 ......

使用GAN进行生成图片 ## 损失函数的迭代 DCGAN->Wasserstein GAN-> Wasserstein GAN + Gradient Penalty Discriminator训练代码编写的细节：真图像和假图像要分批送入Discriminator，分批计算梯度（后面算出的梯度会累加到 ......

消息队列本质是将同步处理转成异步处理 消息队列的基本要求不丢消息高可用高性能 消息队列名称 RabbitMQ RocketMQ Kafka 优点 轻量级 低延迟和高稳定性 1. 与周边生态系统的兼容性最好 2. 基于异步批量设计的异步收发性能最好 缺点 1. 消息大量堆积时性能大幅下降 2. 使用的 ......

队列（Queue） 是 先进先出 (FIFO，First In, First Out) 的线性表 对头出，队尾进 4.3. 常见应用场景 当我们需要按照一定顺序来处理数据的时候可以考虑使用队列这个数据结构。 阻塞队列： 阻塞队列可以看成在队列基础上加了阻塞操作的队列。当队列为空的时候，出队操作阻塞， ......

62.不同路径 思路： 因为只能向左，和向下，因此只能是前面的加上左边的，递推公式较为简单 代码： 1 int uniquePaths(int m, int n) { 2 if (m == 1 || n == 1) return 1; 3 4 vector<vector<int>> nums(m, ......

代码出处 Go SDK container/heap/heap.go Interface 接口定义 type Interface interface { sort.Interface Push(x interface{}) // add x as element Len() Pop() interf ......

title: SQL 训练题目 date: 2023-7-15 01:45:50 tags: - SQL 训练 # 查询 "01" 课程比 "02" 课程成绩高的学生的信息及课程分数 解题思路：要查询的是两个课程的成绩，而且还要显示学生的信息。所以需要用到两张表，SC，Student 这两张表。 问 ......