随想录 队列 训练营 随想
Llama2-Chinese项目：2.3-预训练使用QA还是Text数据集？
Llama2-Chinese项目给出pretrain的data为QA数据格式，可能会有疑问pretrain不应该是Text数据格式吗？而在Chinese-LLaMA-Alpaca-2和open-llama2预训练使用的LoRA技术，给出pretrain的data为Text数据格式。所以推测应该pre ......
Llama2-Chinese项目：2.1-Atom-7B预训练
虽然Llama2的预训练数据相对于第一代LLaMA扩大了一倍，但是中文预训练数据的比例依然非常少，仅占0.13%，这也导致了原始Llama2的中文能力较弱。为了能够提升模型的中文能力，可以采用微调和预训练两种路径，其中： 微调需要的算力资源少，能够快速实现一个中文Llama的雏形。但缺点也显而易见， ......
U362815 GSEP 5级样题 小杨的队列
GSEP 5级样题 小杨的队列 题目描述 小杨的班级里共有 N 名同学，学号从 0 至 N - 1。 某节课上，老师要求同学们进行列队。具体来说，老师会依次点名 $M$ 名同学，让他们加入队伍。每名新入队的同学需要先站到队伍末尾（刚开始队伍里一个人都没有，所以第一个入队的同学只需要站好即可），随后， ......
多重背包单调队列优化
引用自：动态规划-背包问题(01背包、完全背包、多重背包) #include<cstdio> #include<algorithm> #include<cstring> using namespace std; const int maxn = 100005; int n, m, cnt; int ......
LongLoRA:不需要大量计算资源的情况下增强了预训练语言模型的上下文能力
麻省理工学院和香港中文大学推出了LongLoRA，这是一种革命性的微调方法，可以在不需要大量计算资源的情况下提高大量预训练语言模型的上下文能力。 LongLoRA是一种新方法，它使改进大型语言计算机程序变得更容易，成本更低。训练LLM往往需要大量信息和花费大量的时间和计算机能力。使用大量数据(上下文 ......
使用链表模拟队列和栈
使用链表模拟队列 案例1 // 创建节点类 public class Node { int n; Node next; } // 编写方法 public class Queue { Node head = new Node(); Node last = new Node(); private int ......
使用数组模拟队列和栈
使用数组模拟队列 案例1 public class Queue { private int[] num= new int[5]; private int len=0; public int size(){ return this.len; } //添加 public int add(int n){ ......
栈和队列
$$\texttt{栈}$$ 栈(stack)，一种后进先出(last in first out，LIFO)的数据结构，主要有三种操作：压入一个元素到栈顶(push(x))，弹出栈顶的元素(pop())，访问栈顶元素(top())，当然也有询问大小(size())和返回是否为空(empty())。 ......
国家智能网联汽车创新中心自动驾驶操作系统训练营第二期开始啦，欢迎报名参加！
自动驾驶OS开发训练营是国家智能网联汽车创新中心发起的技术培训项目，旨在为在校大学生和智能汽车领域工作人员提供专业的自动驾驶操作系统开发技能和知识。 培训课程涵盖三个阶段，初阶实现驱动开发，中阶完成OS移植适配，终阶面向自动驾驶场景应用。 初阶训练营历时约4周，旨在让学员初步掌理解自动驾驶知识，掌握 ......
GLM大模型训练
ChatGPTBook/LLMFTProj Name Last commit message Last commit date parent directory .. ChatGLM-6B (Directory) update code 3 months ago data (Directory) u ......
随想录Day8|344. 反转字符串、541. 反转字符串Ⅱ、LCR 122. 路径加密、151. 反转字符串里的单词、LCR182. 动态口令
随想录Day8|344. 反转字符串、541. 反转字符串Ⅱ、LCR 122. 路径加密、151. 反转字符串里的单词、LCR182. 动态口令 题目越来越长了…… 344. 反转字符串 文章&视频讲解 编写一个函数，其作用是将输入的字符串反转过来。输入字符串以字符数组 s 的形式给出。 不要给另外 ......
尝试用ColabPro训练深度学习模型
Colab中使用.ipynb文件，即我们平时使用的Jupyter Notebook文件来完成相关代码的执行。如果要训练模型，需要将模型封装成可以经过ipynb文件执行的形式。 在具体的运行时类型中，可以选择不同的运行时，其中包含了可选的GPU和CPU。GPU中有V100、A100、T4这几种可以选择 ......
深度学习 学习与训练中遇到的问题 记录
RuntimeError: Sizes of tensors must match except in dimension 1. Got 61 and 60 in dimension 2 错误产生原因：在模型中有以下操作：torch.cat(x, y) 当x, y的尺寸不一致时，就会出现以上错误。 ......
面试之消息队列
使用mq的优缺点 优点 解耦，生产者与消费者都只需要与mq进行交互，减少了强依赖。 流量削峰，将大量请求放入mq后，服务器可以根据自身能力从mq中拉取消息消费。 异步通信，减少客户端响应时间。 缺点 系统更复杂，运维成本增加。 可用性降低，存在mq服务器宕机的风险。 关键角色 broker，可理解为 ......
腾讯云 Cloud Studio 实战训练营结营&活动获奖公示
点击链接了解详情 “腾讯云 Cloud Studio 实战训练营” 是由腾讯云联合 CSDN 推出的系列开发者技术实践活动，通过技术分享直播、动手实验项目、优秀代码评选、有奖征文活动等，让广大开发者沉浸式体验腾讯云开发者工具 Cloud Studio 的同时，实现技术实战能力提升。 本次实战训练营活 ......
延迟队列
一、延时队列的应用 什么是延时队列？顾名思义：首先它要具有队列的特性，再给它附加一个延迟消费队列消息的功能，也就是说可以指定队列中的消息在哪个时间点被消费。 延时队列在项目中的应用还是比较多的，尤其像电商类平台： 1、订单成功后，在30分钟内没有支付，自动取消订单 2、外卖平台发送订餐通知，下单成功 ......
算法训练day22 LeetCode235
算法训练day22 LeetCode235.701.450. 235. 二叉搜索树的最近公共祖先 题目 235. 二叉搜索树的最近公共祖先 - 力扣（LeetCode） 题解 代码随想录 (programmercarl.com) 对于二叉树，可以用递归回溯的方式 对于二叉搜索树，由其根节点大于左右子 ......
829. 模拟队列
829. 模拟队列 题目链接：829. 模拟队列 - AcWing题库 队列：就是一个特殊的数组。这个数组，最前面叫队头，最后面叫队尾。只允许在最后面添加元素，只允许在最前面删除元素。 #include<bits/stdc++.h> using namespace std; const int N ......
代码随想录day21 | ● 530.二叉搜索树的最小绝对差 ● 501.二叉搜索树中的众数 ● 236. 二叉树的最近公共祖先
530. 二叉搜索树的最小绝对差 class Solution { private: int result = INT_MAX; TreeNode* pre = NULL; void traversal(TreeNode* cur){ if (cur == NULL) return; travers ......
大模型增量训练--基于transformer制作一个大模型聊天机器人
ChatGPTBook/UniLMProj 代码地址 Folders and files Name Last commit message Last commit date parent directory .. data (Directory) update code 3 months ago i ......
在sqlserver2008中使用自带的消息队列Service Broker
以前有个业务操作本来是用sqlserver的表中触发器来处理的，后来在使用一个存储过程中，涉及到这个表后，发现存储过程执行过程，需要等待涉及的表的触发器操作完成才会返回，导致这个存储过程耗时有点久，这样就出现锁的问题，本来想改造下代码 写到C#中，后来也懒得弄了，就找了找，发现可以用消息队列 Ser ......
算法训练day21 LeetCode 530
算法训练day21 LeetCode 530.501.236 530二叉搜索树的最小绝对差 题目 530. 二叉搜索树的最小绝对差 - 力扣（LeetCode） 题解 代码随想录 (programmercarl.com) 中序遍历二叉平衡树 --> 有序数组 --> 遍历数组得到最小绝对差 clas ......
02_由两个栈组成的队列
由两个栈组成的队列 【题目】 编写一个类，用两个栈实现队列，支持队列的基本操作（add、poll、peek）。 【解答】 栈的特点是先进后出，而队列的特点是先进先出。我们用两个栈正好能把顺序反过来实现类似队列的操作。 具体实现时是一个栈作为压入栈，在压入数据时只往这个栈中压入，记为stackPush ......
随想录Day7|454. 四数相加Ⅱ、383. 赎金信、15. 三数之和、18. 四数之和
随想录Day7|454. 四数相加Ⅱ、383. 赎金信、15. 三数之和、18. 四数之和 454. 四数相加Ⅱ 文章&视频讲解 给你四个整数数组 nums1、nums2、nums3 和 nums4 ，数组长度都是 n ，请你计算有多少个元组 (i, j, k, l) 能满足： 0 <= i, j, ......
预训练Bert模型输出类型为str问题解决
input_ids=keras.layers.Input(shape=(MAXLEN,),dtype='int32') attention_mask=keras.layers.Input(shape=(MAXLEN,),dtype='int32') token_type_ids=keras.laye ......
【算法】栈与队列
1 栈与队列理论基础 队列先进先出，栈先进后出；不允许有遍历行为，不提供迭代器 2 用栈实现队列 题目：请你仅使用两个栈实现先入先出队列。队列应当支持一般队列支持的所有操作（push、pop、peek、empty）： 实现 MyQueue 类： void push(int x) 将元素 x 推到队列 ......
消息队列的四种场景
01 概述 消息队列中间件是分布式系统中重要的组件，主要解决应用耦合，异步消息，流量削锋等问题。 实现高性能，高可用，可伸缩和最终一致性架构。 使用较多的消息队列有ActiveMQ，RabbitMQ，ZeroMQ，Kafka，MetaMQ，RocketMQ。 02 消息队列应用场景 以下介绍消息队列 ......
算法训练day20 LeetCode654
算法训练day20 LeetCode654.617.700.98 654.最大二叉树 题目 654. 最大二叉树 - 力扣（LeetCode） 题解 代码随想录 (programmercarl.com) 使用递归 返回节点地址，输入父节点地址，数组 终止条件是输入地数组为空 单层操作： 如果输入数组 ......
pytorch(3-0) 可视化训练误差折线图有
缺点 必须手动点击下关闭才能刷新最新的图，起码不会阻塞训练过程 ### 画图 训练损失 训练精度 测试精度 import matplotlib.pyplot as plt import threading import time import matplotlib.animation as anim ......