随想录 训练营 祖先 随想

代码随想录-数组

704.二分查找 https://leetcode.cn/problems/binary-search/description/ class Solution { public: int search(vector<int>& nums, int target) { int left = 0; in ......
随想录 数组 随想 代码

Python可视化训练

(一)、设计实现电子算盘,并完成测试 【题目描述】 给小朋友设计一个电子算盘。要求绘制电子算盘界面,设计并实现打珠算过程(界面参考如下图示)。 界面右侧要求以图形绘制的方式绘制自画像,注意不能是图像文件显示的形式。 from tkinter import * def initWindow(): re ......
Python

本地训练,开箱可用,Bert-VITS2 V2.0.2版本本地基于现有数据集训练(原神刻晴)

按照固有思维方式,深度学习的训练环节应该在云端,毕竟本地硬件条件有限。但事实上,在语音识别和自然语言处理层面,即使相对较少的数据量也可以训练出高性能的模型,对于预算有限的同学们来说,也没必要花冤枉钱上“云端”了,本次我们来演示如何在本地训练Bert-VITS2 V2.0.2模型。 ......
Bert-VITS 版本 数据 Bert VITS

codeforces 50题精选训练

本章节参考:2020,2021 年 CF 简单题精选 - 题单 - 洛谷 | 计算机科学教育新生态 (luogu.com.cn) 首先,很容易观察到点的一些特征: - 都在第一象限;- 点的分布越来越稀疏。 以样例为例: 还有无限个点没有画出来。 根据点的分布越来越稀疏的特性,能不能发现收集点的规律 ......
codeforces

(私人lora数据准备)MJ数据转lora训练的处理流程

1.【删除乱码并打标签】删前缀(用户名),删后缀(乱码),加统一标签,并打开excel微调。(输入项为1.单个文件夹地址 2.需要文件夹内加上的标签名) *注意:此时若要加多个标签,请用英文逗号“,”隔开。 import os import openpyxl import re UNWANTED_U ......
数据 lora 私人 流程

编程随想曲周刊(第55期)

这里记录每周的所见所闻,周日发布。点击阅读原文可以直接访问文章链接。 文章 关于王自如和董明珠的那点事 虽远必诛!缅北明家被一网打尽,网友:战狼3都不敢这么拍! 我们对世界的假设,几乎决定了我们的个人命运 失败不是人生终点,和丈夫在一起,就有希望!|叶檀回信 2023国庆假期能做的6件小事 生活 装 ......
随想曲 随想 周刊

代码随想录算法训练营第十一天 | ● 20. 有效的括号 ● 1047. 删除字符串中的所有相邻重复项 ● 150. 逆波兰表达式求值

今日学习的内容 ● 20. 有效的括号 var isValid = function(s) { let stack = [] ; for(let i = 0 ;i < s.length ; i++){ let temp = s[i]; if(temp == '('){ stack.push(')') ......

代码随想录算法训练营第十天 | ● 理论基础 ● 232.用栈实现队列 ● 225. 用队列实现栈

今日学习的文章链接和视频链接 https://programmercarl.com/栈与队列理论基础.html ● 232.用栈实现队列 var MyQueue = function() { this.stackIn = []; this.stackOut = [] }; /** * @param ......
队列 随想录 训练营 随想 算法

(lora训练补充数据)父目录镜像

import os from PIL import Image def flip_and_duplicate_image(image_path, output_path): """ Flip an image horizontally and save a copy with a suffix. " ......
镜像 目录 数据 lora

2023秋季综合训练(三)

问题 G: 夜刀与黑角 如果两个人全部访问则 ans = 4*(n-1) 考虑删除没有遍历的节点 对于角色A: 1.对于以u为根的节点,如果存在A需要访问的节点,则u必须要访问 2.对于以u为根的节点,如果存在B需要访问的节点x,dep[x]-dep[u]>=D,则u须要访问 3.其他情况,可以不用 ......
2023

代码随想录算法训练营第十天 | ●28. 实现 strStr() ●459.重复的子字符串 ●字符串总结 ●双指针回顾

今日学习的文章链接和视频链接 https://programmercarl.com/字符串总结.html#什么是字符串 https://programmercarl.com/双指针总结.html#数组篇 ●28. 实现 strStr() var strStr = function (haystack ......
字符串 字符 随想录 训练营 指针

代码随想录算法训练营第八天 | ● 344.反转字符串 ● 541. 反转字符串II ● 卡码网:54.替换数字 ● 151.翻转字符串里的单词 ● 卡码网:55.右旋转字符串

今日学习内容 ● 344.反转字符串 var reverseString = function(s) { // return s.reverse(); for(let i = 0 , j = s.length-1;i < Math.floor(s.length/2) ; i++,j--){ [s[i ......
字符串 字符 随想录 训练营 随想

深度学习笔记1:在小型数据集上从头开始训练一个卷积神经网络

本文将介绍如何在一个小型的数据集上使用卷积神经网实现图片的分类。在这个例子中,我们将使用一个经典的数据集,包含24000张猫狗图片(12000张猫的图片和12000张狗的图片),提取2000张用于训练和验证,1000张用于测试。我们将首先在2000个训练样本上训练一个简单的小型卷积神经网络模型,然后... ......
卷积 神经网络 从头 深度 神经

自然语言处理预训练——预训练BERT

原始的BERT有两个版本,其中基本模型有1.1亿个参数,大模型有3.4亿个参数。 在预训练BERT之后,我们可以用它来表示单个文本、文本对或其中的任何词元。 在实验中,同一个词元在不同的上下文中具有不同的BERT表示。这支持BERT表示是上下文敏感的。 ......
自然语言 自然 语言 BERT

自然语言处理预训练——用于预训练BERT的数据集

为了预训练 14.8节中实现的BERT模型,我们需要以理想的格式生成数据集,以便于两个预训练任务:遮蔽语言模型和下一句预测。一方面,最初的BERT模型是在两个庞大的图书语料库和英语维基百科(参见 14.8.5节)的合集上预训练的,但它很难吸引这本书的大多数读者。另一方面,现成的预训练BERT模型可能 ......
自然语言 自然 语言 数据 BERT

自然语言处理预训练—— 来自Transformers的双向编码器表示(BERT)

我们已经介绍了几种用于自然语言理解的词嵌入模型。在预训练之后,输出可以被认为是一个矩阵,其中每一行都是一个表示预定义词表中词的向量。事实上,这些词嵌入模型都是与上下文无关的。让我们先来说明这个性质。 从上下文无关到上下文敏感 ELMo(Embeddings from Language Models) ......

代码随想录算法训练营第七天 | ● 454.四数相加II ● 383. 赎金信 ● 15. 三数之和 ● 18. 四数之和

今日学习的文章链接和视频链接 https://programmercarl.com/链表理论基础.html ● 454.四数相加II var fourSumCount = function(nums1, nums2, nums3, nums4) { let count = 0 let map = n ......
之和 随想录 训练营 随想 算法

自然语言处理预训练——词的相似性和类比任务

在 14.4节中,我们在一个小的数据集上训练了一个word2vec模型,并使用它为一个输入词寻找语义相似的词。实际上,在大型语料库上预先训练的词向量可以应用于下游的自然语言处理任务,这将在后面的 15节中讨论。为了直观地演示大型语料库中预训练词向量的语义,让我们将预训练词向量应用到词的相似性和类比任 ......
自然语言 相似性 任务 自然 语言

自然语言处理预训练——子词嵌入

在英语中,“helps”“helped”和“helping”等单词都是同一个词“help”的变形形式。“dog”和“dogs”之间的关系与“cat”和“cats”之间的关系相同,“boy”和“boyfriend”之间的关系与“girl”和“girlfriend”之间的关系相同。在法语和西班牙语等其他 ......
自然语言 自然 语言

代码随想录算法训练营第六天 |● 哈希表理论基础 ● 242.有效的字母异位词 ● 349. 两个数组的交集 ● 202. 快乐数 ● 1. 两数之和

今日学习的文章链接和视频链接 https://programmercarl.com/哈希表理论基础.html 242.有效的字母异位词 var isAnagram = function(s, t) { if(s.length !== t.length) return false let map = ......
随想录 之和 训练营 数组 交集

代码随想训练营第三十七天(Python)| 738.单调递增的数字、968.监控二叉树

738.单调递增的数字 class Solution: def monotoneIncreasingDigits(self, n: int) -> int: # 主要思路当前数字比前面数字小时。前面数字 -1,当前数字变2为 9 str_n = str(n) for i in range(len(s ......
训练营 随想 代码 数字 Python

代码训练营第三十八天(Python)| 509. 斐波那契数、70. 爬楼梯、746. 使用最小花费爬楼梯

509. 斐波那契数 1、动态规划 class Solution: def fib(self, n: int) -> int: if n <= 1: return n # dp[i] 代表第 i 个数的斐波那契值 dp = [0] * (n+1) dp[0] = 0 dp[1] = 1 for i ......
楼梯 训练营 代码 Python 509

自然语言处理预训练——全局向量的词嵌入

带全局语料统计的跳元模型 GloVe模型 从条件概率比值理解GloVe模型 总结 诸如词-词共现计数的全局语料库统计可以来解释跳元模型。 交叉熵损失可能不是衡量两种概率分布差异的好选择,特别是对于大型语料库。GloVe使用平方损失来拟合预先计算的全局语料库统计数据。 对于GloVe中的任意词,中心词 ......
自然语言 向量 全局 自然 语言

自然语言处理预训练——用于预训练词嵌入的数据集

读取数据集 下采样 提取中心词和上下文词 下面的get_centers_and_contexts函数从corpus中提取所有中心词及其上下文词。它随机采样1到max_window_size之间的整数作为上下文窗口。对于任一中心词,与其距离不超过采样上下文窗口大小的词为其上下文词。 #@save de ......
自然语言 自然 语言 数据

自然语言处理预训练——近似训练

近似训练是一种用于加速训练过程的技术。 负采样 负采样是在训练过程中对目标函数进行简化的一种方法。在传统的训练中,需要计算整个词汇表的概率分布,这在大规模任务中会非常耗时。负采样的思想是通过随机采样一小部分负例来近似计算全局的目标函数。具体来说,对于每个正例(例如一个正确的词对应的上下文),从词汇表 ......
自然语言 自然 语言

自然语言处理预训练——词嵌入(word2vec)

自然语言是用来表达人脑思维的复杂系统。 在这个系统中,词是意义的基本单元。顾名思义, 词向量是用于表示单词意义的向量, 并且还可以被认为是单词的特征向量或表示。 将单词映射到实向量的技术称为词嵌入。 近年来,词嵌入逐渐成为自然语言处理的基础知识。 为何独热向量是一个糟糕的选择? 自监督的word2v ......
自然语言 word2vec 自然 语言 word2

使用FP8加速PyTorch训练

现代的人工智能硬件架构(例如,Nvidia Hopper, Nvidia Ada Lovelace和Habana Gaudi2)中,FP8张量内核能够显著提高每秒浮点运算(FLOPS),以及为人工智能训练和推理工作负载提供内存优化和节能的机会。 在这篇文章中,我们将介绍如何修改PyTorch训练脚本 ......
PyTorch FP8 FP

ChatGPT的训练费用以及成功原因

参考: https://baijiahao.baidu.com/s?id=1772914234034992726&wfr=spider&for=pc 关于ChatGPT的成功原因,引用中的回答: 益于ChatGPT商业和营销方面的成功,能够瞬间让人们目睹了大模型的可落地性,而不是继续隐匿在漫长的技术 ......
训练费 用以 原因 ChatGPT

pytorch训练过程中显存爆掉

之前学c/c++,for循环中的变量只在for循环内部有效,for循环结束,则变量也被销毁。 for(int i = 0; i < 10; ++i){ int x = i + 1; } cout << x << "\n"; //error: ‘x’ was not declared in this ......
显存 过程 pytorch

[整理]赛前训练

第一场 A 是简单题,注意到矩形形成的是一个单调的阶梯,我们只需要排序然后枚举计算即可。需要注意处理一下完全包含的情况,用二维数点即可。(找单调性) B 见到树上路径,想到拆分成点到根的异或和。注意到每个点的异或和确定了,边权就都确定了(钦定 1 的异或和是 0),这样就和树的结构无关了,直接变成了 ......