LLMs
【每周一读】How to Detect Hallucinations in LLMs
准备开一个【每周一读】栏目，分享任何有意思的文章，不定时更新。 原文🔗：https://towardsdatascience.com/real-time-llm-hallucination-detection-9a68bb292698 原文作者：Iulia Brezeanu 1 什么是LLM Ha ......
Thoughts and ideas about how to apply LLMs in specific domains like clinic/law/finance
Applying LLMs in Specific Domains As a university student who has just completed fine-tuning TinyLLaMA-1b with clinical instruction data using the QLo ......
LLMs在纯文本数据与图数据结合的应用优势
目前的在线客户服务平台已经实现了通过大型语言模型（LLMs）自动生成客户服务响应的能力。这些平台通过深入理解和分析大量的用户查询和历史服务记录，能够提供准确且个性化的回复，极大地提高了用户满意度和操作效率。在这一场景中，LLMs的应用展现了其理解自然语言复杂性的能力，能够根据上下文提供恰当的回答，有 ......
语言大模型（LLMs）的特点
语言大模型(Large Language Models, LLMs)是近年来自然语言处理领域的重要发展之一。其主要特点是: 海量参数:LLMs包含了上十亿个参数,特别是GPT-3包含了1759亿个参数。这些大规模的参数使其可以学习非常复杂的模式和表征。 巨量数据集:LLMs通过海量数据进行预训练,例 ......
快速上手Prompt，让你的LLMs更智能
在当前社会中，随着AIGC的盛行，使用好prompt可以让自己更上一层楼。今天，我将通过星火大模型重新认识prompt设计，并与大家分享一些使用技巧。如果你想体验星火大模型的强大魅力，请登录https://xinghuo.xfyun.cn/desk ，即可免费体验。星火大模型是由科大讯飞研发的一款大... ......
大模型时代的推荐系统Recommender Systems in the Era of Large Language Models (LLMs)
文章地址：https://arxiv.org/abs/2307.02046 笔记中的一些小实验中的模型都是基于GPT-3.5架构的ChatGPT模型。 本文主要讲述了比较具有代表性的方法利用LLM去学习user和item的表示，从预训练、微调和提示三个范式回顾了近期用于增强推荐系统的LLM先进技术， ......
ChatDB: 使用数据库符号存储提升LLMs的性能
[ChatDB论文地址](https://arxiv.org/pdf/2306.03901.pdf "ChatDB论文地址") [ChatDB项目地址](https://chatdatabase.github.io/ "ChatDB项目地址") ## Abstract 采用符号记忆的方式辅助大模型的 ......
OWASP-Top-10-for-LLMs-2023
一、LLM01：Prompt Injection 0x1：攻击原理 这通过特殊构造的输入来污染/覆盖prompt提示，以此攻击一个大型语言模型（LLM），使其产生非预期的意外行为。 提示注入漏洞（Prompt Injection Vulnerability）是指攻击者通过精心构造的输入，操控一个大型 ......
【AI实战】开源大语言模型LLMs汇总
大语言模型大语言模型（LLM）是指使用大量文本数据训练的深度学习模型，可以生成自然语言文本或理解语言文本的含义。大语言模型可以处理多种自然语言任务，如文本分类、问答、对话等，是通向人工智能的一条重要途径。来自百度百科 发展历史 2020年9月，OpenAI授权微软使用GPT-3模型，微软成为全球首个 ......
LLMs and SQL
https://blog.langchain.dev/llms-and-sql/ LLM生成SQL很容易 解决的问题是如果让LLM生成的SQL，是valid并且结果正确的 模拟人是如何写SQL的，本身人也是要上下文的， 那么问题就是需要什么上下文，并且如何组织 比较直觉的是，给出schema和几条真 ......
Generative AI 新世界 | 大型语言模型（LLMs）概述
在上一篇《Generative AI 新世界：文本生成领域论文解读》中，我带领大家一起梳理了文本生成领域（Text Generation）的主要几篇论文：InstructGPT，RLHF，PPO，GPT-3，以及 GPT-4。本期文章我将帮助大家一起梳理另一个目前炙手可热的话题：大型语言模型（Lar ......
Generative AI 新世界 | 大语言模型（LLMs）在 Amazon SageMaker 上的动手实践
在上一篇《Generative AI 新世界：大型语言模型（LLMs）概述》中，我们一起探讨了大型语言模型的发展历史、语料来源、数据预处理流程策略、训练使用的网络架构、最新研究方向分析（Amazon Titan、LLaMA、PaLM-E 等），以及在亚马逊云科技上进行大型语言模型训练的一些最佳落地实 ......
LLMs As Tool Makers：LLM制造工具
最近，来自Google DeepMind，普林斯顿和斯坦福的顶尖华人团队提出了一种全新的框架。现在，LLM可以像人类一样制作自己的工具了！ ChatGPT等大语言模型诞生以来，凭着强大的语言理解能力、生成能力、逻辑推理能力等，已经被人类玩出了花。 而OpenAI公开GPT-4后，最大的惊喜之一，莫过 ......
【城南 · LlamaIndex 教程】一文看懂LlamaIndex用法，为LLMs学习私有知识
我是卷了又没卷，薛定谔的卷的AI算法工程师「**陈城南**」（全网平台同名）~ 担任某大厂的算法工程师，带来最新的前沿AI知识，分享 **AI 有趣工具和实用玩法**，包括 ChatGPT、AI绘图等，欢迎**大家交流**~ - **交流「cchengnan113」备注「AI交流」可进裙** - * ......
PromptPerfect：prompt optimizer for LLMs LMs and LMOps
1. Introduce Welcome to PromptPerfect(完美提示), a cutting-edge prompt optimizer designed for large language models (LLMs), large models (LMs) and LMOps. ......
在一张 24 GB 的消费级显卡上用 RLHF 微调 20B LLMs
我们很高兴正式发布 trl 与 peft 的集成，使任何人都可以更轻松地使用强化学习进行大型语言模型 (LLM) 微调！在这篇文章中，我们解释了为什么这是现有微调方法的有竞争力的替代方案。 请注意， peft 是一种通用工具，可以应用于许多 ML 用例，但它对 RLHF 特别有趣，因为这种方法特别需 ......
NLP / LLMs中的Temperature 是什么?
ChatGPT, GPT-3, GPT-3.5, GPT-4, LLaMA, Bard等大型语言模型的一个重要的超参数 大型语言模型能够根据给定的上下文或提示生成新文本，由于神经网络等深度学习技术的进步，这些模型越来越受欢迎。可用于控制生成语言模型行为的关键参数之一是Temperature 参数。在 ......