llama2-chinese模型chinese之旅
rocketmq的转发模型
1.模型 2.消息模型 RocketMQ主要由 Producer、Broker、Consumer 三部分组成，其中Producer 负责生产消息，Consumer 负责消费消息，Broker 负责存储消息。Broker 在实际 部署过程中对应一台服务器，每个 Broker 可以存储多个Topic的消 ......
大模型时代的推荐系统Recommender Systems in the Era of Large Language Models (LLMs)
文章地址：https://arxiv.org/abs/2307.02046 笔记中的一些小实验中的模型都是基于GPT-3.5架构的ChatGPT模型。 本文主要讲述了比较具有代表性的方法利用LLM去学习user和item的表示，从预训练、微调和提示三个范式回顾了近期用于增强推荐系统的LLM先进技术， ......
《费曼学习法：理解更快、保留更高，27个高级学习模型》
作者：彼得·霍林斯 推荐指数：一般，但非常值得一读： 缺点： 条理不清晰：全书读完并不能确定27个高级学习模型是哪些； 内容重复：前后章节一些内容是重复出现的，例如学习步骤； 优点： 观点清晰； 技巧实用； ......
多线程|生产者消费模型
在正式介绍生产者消费者模型之前，我们先来认识一下阻塞队列。 阻塞队列是特殊的队列，是在先进先出的基础上加了一些特殊的功能： 1）如果队列为空，线程要执行出队操作时，就会进入阻塞，阻塞直到另一个线程往队列里添加元素； 2）如果队列满了，线程要进行入队操作时，就会进入阻塞，直到有另一个线程从队列里取走元 ......
[SQL Server]无法解决 equal to 运算中 "SQL_Latin1_General_CP1_CI_AS" 和 "Chinese_PRC_CI_AS" 之间的排序规则冲突。
错误信息： [SQL Server]无法解决 equal to 运算中 "SQL_Latin1_General_CP1_CI_AS" 和 "Chinese_PRC_CI_AS" 之间的排序规则冲突。 场景： 一个简单的SQL语句，因为团队合作建表时排序方式不同，两个字段无法比较 select mca ......
LeetCode 周赛上分之旅 #43 计算机科学本质上是数学吗？
> ⭐️ **本文已收录到 AndroidFamily，技术和职场问题，请关注公众号 \[彭旭锐] 和 [BaguTree Pro](https://www.mdnice.com/writing/85b28c4e60354865a423728e668fc570) 知识星球提问。** > > 学习数据 ......
Ziya-LLaMA-13B 模型在GPU 上部署
# Ziya-LLaMA-13B 模型在GPU 上部署 Ziya-LLaMA-13B是IDEA-CCNL基于LLaMa的130亿参数的大规模预训练模型，具备翻译，编程，文本分类，信息抽取，摘要，文案生成，常识问答和数学计算等能力。目前姜子牙通用大模型已完成大规模预训练、多任务有监督微调和人类反馈学习 ......
聊聊HuggingFace如何处理大模型下海量数据集
翻译自： [Big data? 🤗 Datasets to the rescue!](https://huggingface.co/learn/nlp-course/chapter5/4?fw=pt#big-data-datasets-to-the-rescue "Big data? 🤗 Dat ......
量化自定义PyTorch模型入门教程
在以前Pytorch只有一种量化的方法，叫做“eager mode qunatization”，在量化我们自定定义模型时经常会产生奇怪的错误，并且很难解决。但是最近，PyTorch发布了一种称为“fx-graph-mode-qunatization”的方方法。在本文中我们将研究这个fx-graph- ......
使用自动模型
本文通过文本分类任务演示了HuggingFace自动模型使用方法，既不需要手动计算loss，也不需要手动定义下游任务模型，通过阅读自动模型实现源码，提高NLP建模能力。 一.任务和数据集介绍 1.任务介绍 前面章节通过手动方式定义下游任务模型，HuggingFace也提供了一些常见的预定义下游任务模 ......
探索图像数据中的隐藏信息：语义实体识别和关系抽取的奇妙之旅
# 探索图像数据中的隐藏信息：语义实体识别和关系抽取的奇妙之旅 # 1. 简介 ## 1.1 背景 关键信息抽取 (Key Information Extraction, KIE)指的是是从文本或者图像中，抽取出关键的信息。针对文档图像的关键信息抽取任务作为OCR的下游任务，存在非常多的实际应用场景 ......
C++算法之旅、05 基础篇 | 第二章 数据结构
acwing学习笔记，记录容易忘记的知识点和难题。数组实现单链表、双链表、栈、单调栈、队列、单调队列、KMP、字典树 Trie、并查集、数组实现堆、哈希表（拉链法、开放寻址法、字符串前缀哈希法）、STL常用容器 ......
各类大模型的区别
LLama 词表扩展：Chinese LLaMa SwiGLU介绍PALMChatGLM-6BBLOOMtokenizer比较Layer Normalization激活函数位置编码高效参数微调方法 PEFTprompt tuningprefix tuning Adapter LLaMA-Adapte ......
Prism视图模型定位器（ViewModelLocator）
视图模型定位器（ViewModelLocator） 依照“标准命名约定”将 视图（View） 中的数据上下文链接到 视图模型（ViewModel） 的实例。 自动绑定视图模型 Prism 视图模型定位器 （ViewModelLocator） 有一个 AutoWireViewModel 属性：当设置为 ......
33页ppt《大语言模型综合能力测评报告（2023）》，文末附下载链接
ChatGPT的出现可以说是一股强劲的风潮，它开启了大型语言模型技术的繁荣时代。然而，自从2017年大型语言模型问世以来，OpenAI、微软、谷歌、Facebook、百度、华为等科技巨头一直在探索大型语言模型领域，持续不断地取得进展。ChatGPT只是将大型语言模型技术推向了一个爆炸式的发展阶段。当 ......
大模型算力推演优化实战
第一部分为看清：大模型的训练及推理过程是如何的，以及内部逻辑
第二部分为理解：大模型的训练及推理和算力的关系
第三部分为推演：用简单的公式量化大模型算力的需求
第四部分为优化：我们如何提高算力利用率 ......
共享模型之不可变
日期转换的问题 问题提出 下面的代码在运行时，由于 SimpleDateFormat 不是线程安全的 SimpleDateFormat sdf = new SimpleDateFormat("yyyy-MM-dd"); for (int i = 0; i < 10; i++) { new Threa ......
共享模型之无锁
CAS 有一个共享变量余额，多线程调用减余额方法 withdraw 减少这个共享的余额变量 balance 方法内会启动 1000 个线程，每个线程做 -10 元 的操作 * 如果初始余额为 10000 那么正确的结果应当是 0。结果却大于 0 加锁解决 class AccountUnsafe im ......
大模型和人一样需要 提高对 编程语言认知
今天在ChatGLM2-6B 的仓库里看到了这么一个issue： https://github.com/THUDM/ChatGLM2-6B/issues/122： 这位兄弟说的挺好，其中有点小错误：三星Tizen架构 其实不是架构，是属于arm架构 ，Tizen是 三星的一个操作系统。由此我想到了C ......
什么是敏捷开发中的scrum模型？
Scrum是一种敏捷软件开发的框架。敏捷开发是一种迭代和增量的开发方法，它强调灵活性、快速反应和客户协作。 Scrum特别适合于处理那些需求不断变化，或者不太清楚需求的复杂项目。它是一个轻量级的过程框架，用于管理复杂的创新性工作，它提高了团队之间的沟通和协作能力。 Scrum包括三个角色： 产品负责 ......
C++程序的内存模型--模型四区
C++中在程序运行前分为全局区和代码区 代码区特点是共享和只读 全局区中存放全局变量、静态变量、常量 常量区中存放const修饰的全局变量和字符串常量 //栈区//由编译器自动分配释放、存放函数的参数值、局部变量等//注意：不要返回局部变量的地址，栈区开辟的数据由编译器自动释放 /*堆区*/ //堆 ......
模型评估与选择
# 模型评估与选择 ## 数据集划分 > 留出法：直接将数据集划分为两个互斥集合 > K折交叉验证：“交叉验证法”(cross validation)先将数据集D划分为k个大小相似的互斥子集,每个子集D都尽可能保持数据分布的一致性,即从D中通过分层采样得到.然后，每次用k-1个子集的并集作为训练集, ......
《动手学深度学习 Pytorch版》 4.4 模型选择、欠拟合和过拟合
# 4.4.1 训练误差和泛化误差 整节理论，详见书本。 # 4.4.2 模型选择 整节理论，详见书本。 # 4.4.3 欠拟合还是过拟合 整节理论，详见书本。 # 4.4.4 多项回归 ```python import math import numpy as np import torch fr ......
COMP 636 BRMM模型算法
COMP 636: Python AssessmentDue: 5pm Monday 28 August 2023 Worth 40% of COMP636 grade Submit via Akoraka | LearnIntroductionThe Bankside-Rakaia Motorkh ......
发现父亲患有自恋型人格障碍：一场复杂的心理之旅
## 引言：悲剧的起点 当我发现父亲可能患有**自恋型人格障碍（Narcissistic Personality Disorder, NPD）**时，我感到非常困惑和无助。这不仅是我个人的挑战，也是整个家庭的问题。在寻求解决方案的过程中，我找到了心理健康专家，尤其是临床心理医生和心理治疗师，作为最能 ......
探索基因与精神分裂症的关联：一段个人科研之旅
## 引言 当我第一次听说弗里德曼博士通过研究发现了与精神分裂症有关的CHRAN7基因，我被深深吸引了。作为一名致力于遗传学和精神病学研究的科学家，我知道这是一个巨大的突破。但是，这个发现背后的科学是如何运作的呢？我决定深入了解其中的细节，并与大家分享我的发现。 ## 高通量测序 vs. 全基因组测 ......
我的探索之旅：了解感觉门控（Sensory_Gating）
## 引言：寻找专家视角 作为一名对神经科学和心理学有浓厚兴趣的研究者，我一直都很好奇大脑是如何处理那些看似琐碎、甚至冗余的信息的。这就引出了一个我一直想要深入了解的主题：感觉门控（Sensory Gating）。我找到了一位专注于感觉处理、注意力和认知功能的神经科学家，并深入探讨了这一概念。 ## ......
我的现象学之旅：探索“痛苦”与“表象缩减”（Epoché）
## 引言 在哲学的海洋中，我一直对一件事情特别好奇，那就是“现象学”。这个由 Edmund Husserl 创立的学科让我深感兴趣，尤其是其核心概念“表象缩减”（Epoché）。这个词听起来很神秘，但它在我研究“痛苦”这一复杂现象时发挥了巨大的作用。 ## 我的第一次遇见“表象缩减” 当我第一次跳 ......