526互联

资料llm

《X-LLM: Bootstrapping Advanced Large Language Models by Treating Multi-Modalities as Foreign Languages》论文学习

《X-LLM: Bootstrapping Advanced Large Language Models by Treating Multi-Modalities as Foreign Languages》论文学习 ......
Multi-Modalities Bootstrapping Modalities Languages Advanced

机器学习项目精选 第一期：超完整数据科学资料合集

大噶吼，不说废话，分享一波我最近看过并觉得非常硬核的资源，包括Python、机器学习、深度学习、大模型等等。 1、超完整数据科学资料合集 地址：https://github.com/krishnaik06/The-Grand-Complete-Data-Science-Materials Pytho ......
机器 科学 项目 数据 资料

解密Prompt系列21. LLM Agent之再谈RAG的召回信息密度和质量

话接上文的召回多样性优化，这一章我们唠唠召回的信息密度和质量。同样参考经典搜索和推荐框架，这一章对应排序+重排环节。我们先对比下经典框架和RAG的异同，再分别介绍几种适用大模型的排序和重排方案~ ......
密度 质量 Prompt Agent 信息

机器学习项目精选 第一期：超完整数据科学资料合集

大噶吼，不说废话，分享一波我最近看过并觉得非常硬核的资源，包括Python、机器学习、深度学习、大模型等等。 1、超完整数据科学资料合集 地址：https://github.com/krishnaik06/The-Grand-Complete-Data-Science-Materials Pytho ......
机器 科学 项目 数据 资料

使用LM Studio在本地运行LLM完整教程

GPT-4被普遍认为是最好的生成式AI聊天机器人，但开源模型一直在变得越来越好，并且通过微调在某些特定领域是可以超过GPT4的。在开源类别中出于以下的原因，你可能会考虑过在本地计算机上本地运行LLM ： 脱机:不需要互联网连接。 模型访问:在本地运行模型，可以尝试开源模型(Llama 2、Vicun ......
教程 Studio LLM

Excel-IFERROR函数&资料设定

1.公式=IFERROR(要检查的公式,公式错误的讯息) 如果什么都不输入的话，姓名也会显示查无此人，修改如下： 2.验证选择存储格--数据--验证--设置待验证内容和报错信息 ......
Excel-IFERROR 函数 IFERROR 资料 Excel

LLM面面观之LLM复读机问题及解决方案

1. 背景 关于LLM复读机问题，本qiang~在网上搜刮了好几天，结果是大多数客观整理的都有些支离破碎，不够系统。 因此，本qiang~打算做一个相对系统的整理，包括LLM复读机产生的原因以及对应的解决方案。 2. LLM复读机示例 示例1：短语级别的重复 User: 你喜欢北京么？ AI: 北京 ......
面面观 LLM 解决方案 方案 问题

20231213matlab问题资料汇总

https://bbs.csdn.net/topics/390064770 https://www.ilovematlab.cn/forum.php?mod=viewthread&tid=455375&_dsign=7812fb23 https://blog.csdn.net/fmber/artic ......
20231213 matlab 问题 资料

大语言模型LLM的核心技术及应用场景案例的分析

自注意力机制、位置编码和激活函数共同提高了模型对序列数据中重要信息的关注程度。通过自注意力机制，模型可以自动学会为序列中的关键部分分配更高的权重…… ......
模型 场景 核心 案例 语言

Transformer架构在大型语言模型(LLM)中的应用与实践

Transformer架构是当今最前沿的语言模型技术之一，它已经在谷歌的BERT、OpenAI的GPT系列中取得了显著的成就。这一架构之所以独特，是因为它打破了传统的序列处理模式，引入了创新的“自注意力”机制。 Transformer架构的核心是自注意力机制，它使模型能够识别和重视输入数据中不同部分 ......
Transformer 架构 模型 语言 LLM

WebService相关资料

问题：如图，VS2022新建项目时没有“ASP.NET Web应用程序 （.NET Framework）”的选项 解决方法：点击跳转至修改安装选项界面 选择安装该项即可： ......
WebService 资料

使用PyTorch II的新特性加快LLM推理速度

Pytorch团队提出了一种纯粹通过PyTorch新特性在的自下而上的优化LLM方法，包括: Torch.compile: PyTorch模型的编译器 GPU量化:通过降低精度操作来加速模型 推测解码:使用一个小的“草稿”模型来加速llm来预测一个大的“目标”模型的输出 张量并行:通过在多个设备上运 ......
特性 速度 PyTorch LLM

System 2 Attention：可以提高不同LLM问题的推理能力

推理正在成为大型语言模型(llm)关注的下一个主要领域。尽管llm拥有先进的能力，但大多数llm经常被简单的错误绊倒，显示出他们在推理方面的局限性。这些模型可能会被上下文中的不相关细节所误导，或者受到输入提示中的偏差的影响。而后一种倾向被称为谄媚，也就是说模型会更偏向与输入一致，而不管准确性如何。人 ......
Attention 能力 System 问题 LLM

LLM 学习笔记-Deepspeed-MoE 论文

论文 DeepSpeed-MoE: Advancing Mixture-of-Experts Inference and Training to Power Next-Generation AI Scale 1. Introduction 现有的 MoE 方法在正式使用场景中存在的挑战： 场景局限： ......
Deepspeed-MoE Deepspeed 笔记 论文 LLM

rust webassembly 优化参考资料

这几天在学习webassembly，尤其是cerbos lite 对于webassembly 的支持，所以简单整理一些 chatgpt给的一些建议 WebAssembly（Wasm）的优化涉及多个方面，包括编译器优化、代码结构调整、资源管理和压缩等。以下是一些通用的 WebAssembly 优化策略 ......
参考资料 webassembly 资料 rust

钉钉员工组织资料实时同步至飞书的应用解析

如何实现应用之间的同步？ 随着企业应用的日益增多，在帮助企业提供办公效率的同时，也增加了对这些应用的运维成本。有没有一种好的办法，实现saas应用之间的桥梁搭建，自动化地完成不同应用之间的数据流转呢？答案是有的，这里推荐一款应用连接器，是Restcloud推出的AppLink平台，这个产品可以通过可 ......
实时 员工 资料

人工智能的新篇章：深入了解大型语言模型(LLM)的应用与前景

人工智能的新篇章：深入了解大型语言模型(LLM)的应用与前景 LLM（Large Language Model）技术是一种基于深度学习的自然语言处理技术，旨在训练能够处理和生成自然语言文本的大型模型。 LLM 技术的核心思想是使用深度神经网络，通过大规模的文本数据预训练模型，并利用这些预训练模型进行 ......
新篇 新篇章 人工智能 人工 前景

解密Prompt系列20. LLM Agent之再谈RAG的召回多样性优化

看完openai闭门会议对RAG又有些新的思考。这一章我们参考主流的搜索框架，结合新老论文，和langchain新功能聊聊RAG框架中召回多样性的优化方案，包括如何提高query多样性和索引多样性 ......
多样性 Prompt Agent LLM RAG

UiPath学习资料

下载安装地址 http://www.xz7.com/downinfo/408678.html 学习入门资料视频 https://www.bilibili.com/video/BV1jB4y1U7Y7/?spm_id_from=333.788.top_right_bar_window_history. ......
学习资料 UiPath 资料

学习资料整合

@目录💝 学习技巧🧡 CS综合学习资料💛 数据结构与算法💚 各种学习网站💙 电子书资源 💝 学习技巧 🐷 本‮亲人‬测：完全可以应付大部分的应试考试 ① 快速系统地过一遍书或者考试内容形成知识框架（速成课，重点知识笔记……） ② 做真题，面向真题对知识框架查漏补缺（先打基础再攻坚，限时 ......
学习资料 资料

LLM 学习笔记-transformers库的 PreTrainedModel 和 ModelOutput 到底是什么？

闲言碎语 我在刚开始接触 huggingface （后简称 hf） 的 transformers 库时候感觉很冗杂，比如就模型而言，有 PretrainedModel, AutoModel，还有各种 ModelForClassification, ModelForCausalLM, AutoMode ......
PreTrainedModel transformers ModelOutput 笔记 LLM

金蝶云星空表单插件获取基础资料的内码

不能直接取内码 先获取基础资料数据包，再获取内码 long custId = Convert.ToInt64((this.View.Model.GetValue("F_XXXX_CustId") as DynamicObject)["Id"]); long custId22 = Convert.To ......
内码 表单 插件 星空 基础

金蝶云星空单据界面新增状态，操作明细行的新增按钮时判断表头基础资料是否必录

一、BOS配置 四种方式都不生效。 二、 代码实现 表单插件的BeforeDoOperation事件判断操作是新增行，获取表头基础资料进行判断，为空则取消操作。 ......
表头 单据 按钮 界面 星空

LLM 入门笔记-Tokenizer

以下笔记参考huggingface 官方 tutorial： https://huggingface.co/learn/nlp-course/chapter6 下图展示了完整的 tokenization 流程，接下来会对每个步骤做进一步的介绍。 1. Normalization normalize ......
Tokenizer 笔记 LLM

ccrc 评审资料该如何编写【通用型】

核心思路：各个过程中和安全检查内容进行对应 首先应该有信息安全服务规范 其次准备好平时项目的所有文档 第三，参照规范内容，每一项要求【准备、需求、设计、编码、测试、验收、维保】在原有文档上进行筛选和补充 第四，整体检查（计划和其他文件之间的关联性） ......
资料 ccrc

oracle 源端资料库通过dblink访问目标端资料库会话直接的关系

1.知道目标端的会话信息，怎么找到对应的源端资料库的会话连接信息？ --目标端 select PROCESS from v$session where username='HR'; --源端 SELECT ADDR FROM V$PROCESS WHERE SPID=5344; SELECT *FR ......
资料库 资料 目标 oracle dblink

【LLM】A Survey of Techniques for Maximizing LLM Performance

本文成文于11月底，openai devday之后 背景：OpenAI最近放出了Devday的闭门会视频，其中"A Survey of Techniques for Maximizing LLM Performance"(精进大型语言模型性能的各种技巧)是非常有价值的，本文对这次分享做摘要。 视频： ......
Performance Maximizing Techniques LLM Survey

LLM，把世界变成超级计算机

作为曾在 AI 公司做过产品经理的人而言，面对大语言模型展现出的 AGI 曙光，情绪是激动而复杂的。 AI 公司的经历，让我受益良多： 对神经网络，深度学习，机器学习，强化学习，算法模型等概念有了更全面的认知； 了解了符号主义，行为主义，连接主义，玻尔兹曼机，反向传播等人工智能发展历史； 对算法，算 ......
计算机 世界 LLM

LLM面面观之Prefix LM vs Causal LM

1. 背景 关于Prefix LM和Causal LM的区别，本qiang在网上逛了一翻，发现多数客官只给出了结论，但对于懵懵的本qiang，结果仍是懵懵... 因此，消遣了多半天，从原理及出处，交出了Prefix LM和Causal LM两者区别的更为清楚的说明。 2. Prefix LM Pre ......
面面观 Causal Prefix LM LLM

使用Accelerate库在多GPU上进行LLM推理

大型语言模型(llm)已经彻底改变了自然语言处理领域。随着这些模型在规模和复杂性上的增长，推理的计算需求也显著增加。为了应对这一挑战利用多个gpu变得至关重要。 所以本文将在多个gpu上并行执行推理，主要包括：Accelerate库介绍，简单的方法与工作代码示例和使用多个gpu的性能基准测试。 本文 ......
Accelerate GPU LLM
共476篇  :2/16页 首页上一页2下一页尾页