526互联

tensorflow模块 模型opencv

大模型rlhf 相关博客

想学习第一篇博客: https://huggingface.co/blog/zh/rlhf RLHF 技术分解 RLHF 是一项涉及多个模型和不同训练阶段的复杂概念，这里我们按三个步骤分解： 预训练一个语言模型 (LM) ； 聚合问答数据并训练一个奖励模型 (Reward Model，RM) ； 用 ......
模型 博客 rlhf

大模型量化4

https://huggingface.co/blog/peft 看代码: from transformers import AutoModelForSeq2SeqLM + from peft import get_peft_model, LoraConfig, TaskType model_nam ......
模型

大语言模型LLM推理及训练显存计算方法

一、推理：显存计算 推理的显存大头就是：参数量，参数类型版本一般有以下四种： float 32位 浮点数 4 字节 half / BF16 16位 浮点数 2 字节 int8 8位 整数 1 字节 int4 4位 整数 0.5 字节 以 7B-BF16 版本为例，需要显存 = 数量 * 类型大小 = ......
显存 模型 语言 方法 LLM

判别模型和生成模型

生成模型就像它的名字可以模拟训练数据的特征分布。 判别模型只能根据输入变量x判断其类别。 抽象一下都是p(Y|x) ......
模型

大模型量化3

https://huggingface.co/blog/4bit-transformers-bitsandbytes 1. 8 位float The FP8 (floating point 8) format has been first introduced in the paper “FP8 f ......
模型

什么是软件设计领域里，前后端模块的 interoperability？

在软件设计领域，前后端模块的interoperability（互操作性）是指不同部分或组件之间能够有效地协同工作，以实现系统的整体功能。这种互操作性在全栈开发中尤为重要，因为现代应用程序通常由前端（Frontend）和后端（Backend）两个主要部分组成，它们必须能够无缝协作以提供用户所需的功能和 ......
interoperability 模块 领域 软件

在Python中，可以使用os模块来遍历一个目录下的所有子目录和文件

在Python中，可以使用os模块来遍历一个目录下的所有子目录和文件 import os def traverse_directory(path): for root, dirs, files in os.walk(path): level = root.replace(path, '').coun ......
子目 子目录 模块 文件 目录

Odoo模型的内置方法(可按需重写）

模型层面 一：_table_exist 检查该模型对于的数据库表是否存在，是则返回1，否则返回0. @api.model_cr def _table_exist(self): pass 模型记录层面 二：create(self,vals) 记录的创建函数，一般情况下，是根据视图传过来的dict对象， ......
模型 方法 Odoo

redis7源码分析：redis 多线程模型解析

多线程模式中，在main函数中会执行InitServerLast void InitServerLast() { bioInit(); // 关键一步， 这里启动了多条线程，用于执行命令，redis起名为IO 线程 initThreadedIO(); set_jemalloc_bg_thread(s ......
redis 线程 源码 模型 redis7

redis7源码分析：redis 单线程模型解析，一条get命令执行流程

有了下文的梳理后 redis 启动流程 再来解析redis 在单线程模式下解析并处理客户端发来的命令 1. 当 client fd 可读时，会回调readQueryFromClient函数 void readQueryFromClient(connection *conn) { client *c ......
redis 线程 源码 模型 命令

聊聊基于Alink库的随机森林模型

概述 随机森林（Random Forest）是一种集成学习（Ensemble Learning）方法，通过构建多个决策树并汇总其预测结果来完成分类或回归任务。每棵决策树的构建过程中都引入了随机性，包括数据采样和特征选择的随机性。 随机森林的基本原理可以概括如下： 随机抽样训练集：随机森林通过有放回抽 ......
模型 森林 Alink

安装TD后Python模块中定义的类

两个知识点 1，TD模块中定义的类可继承自外部，比如object 2，模块不是类，其中可定义类。那么，如何查询该模块儿定义的继承自外部的类呢？特别是对于TD而言 A，TD中的类 可用dir（略） 可用inspect模块查询类 结果是 ['AbsTime', 'Actors', 'App', 'Att ......
模块 Python

vuex_vuex的模块化

store目录 |-- store | |-- actions.js | |-- getters.js | |-- index.js | |-- mutations.js | |-- state.js | |-- module | |-- article.js | |-- index.js | |- ......
vuex vuex_vuex 模块

Llama2-Chinese项目：3.2-LoRA微调和模型量化

提供LoRA微调和全量参数微调代码，训练数据为data/train_sft.csv，验证数据为data/dev_sft.csv，数据格式为"<s>Human: "+问题+"\n</s><s>Assistant: "+答案。本文主要介绍Llama-2-7b模型LoRA微调以及4bit量化的实践过程。 ......
Llama2-Chinese 模型 Chinese 项目 Llama2

CLIP模型代码

近期看到了一篇用CLIP在我这个方向应用的文章，所以玩了一下CLIP，感觉效果还是很好的。 首先，github上的zero-shot代码 import os import clip import torch from torchvision.datasets import CIFAR100 # Lo ......
模型 代码 CLIP

手把手教你在Ubuntu上部署中文LLAMA-2大模型

一、前言 llama2作为目前最优秀的的开源大模型，相较于chatGPT，llama2占用的资源更少，推理过程更快，本文将借助llama.cpp工具在ubuntu(x86\ARM64）平台上搭建纯CPU运行的中文LLAMA2中文模型。 二、准备工作 1、一个Ubuntu环境（本教程基于Ubuntu2 ......
模型 Ubuntu LLAMA

全新注意力算法PagedAttention：LLM吞吐量提高2-4倍，模型越大效果越好

前言 吞吐量上不去有可能是内存背锅！无需修改模型架构，减少内存浪费就能提高吞吐量！ 本文转载自新智元 仅用于学术分享，若侵权请联系删除 欢迎关注公众号CV技术指南，专注于计算机视觉的技术总结、最新技术跟踪、经典论文解读、CV招聘信息。 CV各大方向专栏与各个部署框架最全教程整理 【CV技术指南】CV ......
吞吐量 PagedAttention 算法 注意力 模型

【8.0】Fastapi响应模型

【一】自定义响应模型 【1】定义视图函数 from fastapi import APIRouter from pydantic import BaseModel, EmailStr from typing import Optional app04 = APIRouter() ### 响应模型 # ......
模型 Fastapi 8.0

Llama2-Chinese项目：1-项目介绍和模型推理

Atom-7B与Llama2间的关系：Atom-7B是基于Llama2进行中文预训练的开源大模型。为什么叫原子呢？因为原子生万物，Llama中文社区希望原子大模型未来可以成为构建AI世界的基础单位。目前社区发布了6个模型，如下所示： FlagAlpha/Atom-7B FlagAlpha/Llama ......
项目 Llama2-Chinese 模型 Chinese Llama2

Llama2-Chinese项目：2.2-大语言模型词表扩充

因为原生LLaMA对中文的支持很弱，一个中文汉子往往被切分成多个token，因此需要对其进行中文词表扩展。思路通常是在中文语料库上训练一个中文tokenizer模型，然后将中文tokenizer与LLaMA原生tokenizer进行合并，最终得到一个扩展后的tokenizer模型。国内Chinese ......
词表 Llama2-Chinese 模型 Chinese 语言

Cesium加载三维模型rendering.Rendering has stopped

使用Cesium加载数据量大、精度高的三维模型数据经常在运行一段时间后，会报如下错误： An error occurred while rendering.Rendering has stopped. TypeError：Failed to execute 'shaderSource' on 'We ......
rendering Rendering 模型 stopped Cesium

python提取论文图片波形数据：pyautogui键盘移动鼠标，跨模块全局变量使用，cv2局部放大窗口，matplotlib图片在pyQT5lable显示,坐标变换，多线程同时使用

最近写了一个python提取论文图片波形数据的脚本，代码如下。 涉及新知识点：pyautogui键盘移动鼠标，跨模块全局变量使用，cv2局部放大窗口，matplotlib图片在pyQT5lable显示,坐标变换，多线程同时使用。搜索相关关键字去对应代码区看注释就可以了。 gui窗口： 1 # -*- ......
波形 图片 线程 坐标 全局

Python模块之 random

作用： random.randint 函数是Python内置的随机数生成函数之一，用于生成一个指定范围内的整数。 必要操作： >>> import random 安装： python 内置函数，无需安装 导入包： >>> import random 帮助查看： >>> help(random) 或 ......
模块 Python random

Linux-安装Opencv4

下载 进入opencv官网下载 https://opencv.org/releases/ 选择sources下载相应版本的压缩包。 解压文件，放到home/（用户名）/下。 依赖安装 安装Opencv的依赖 打开终端，输入以下命令，安装最新的CMake sudo apt-get update sud ......
Opencv4 Opencv Linux

大模型强化学习——PPO项目实战

【PPO算法介绍】 PPO（Proximal Policy Optimization）是一种强化学习算法，它的目标是找到一个策略，使得根据这个策略采取行动可以获得最大的累积奖励。PPO的主要思想是在更新策略时，尽量让新策略不要偏离旧策略太远。这是通过在目标函数中添加一个额外的项来实现的，这个额外的项 ......
实战 模型 项目 PPO

LongLoRA:不需要大量计算资源的情况下增强了预训练语言模型的上下文能力

麻省理工学院和香港中文大学推出了LongLoRA，这是一种革命性的微调方法，可以在不需要大量计算资源的情况下提高大量预训练语言模型的上下文能力。 LongLoRA是一种新方法，它使改进大型语言计算机程序变得更容易，成本更低。训练LLM往往需要大量信息和花费大量的时间和计算机能力。使用大量数据(上下文 ......
上下文 LongLoRA 模型 上下 能力

点播模块编译nginx

VOD模块NGINX编译部署 主要解决我那破电视的观影需求、软件装不了又不想掏钱看线上广告；U盘也没法播、没几个兼容的解码软件，五六年前的电视买的是真坑爹，我又不会刷机，那索性用废笔记本装linux整个nginx-vod模块整个音视频链接，电视上用短小精悍的VLC观影。 下包 mkdir /usr/ ......
模块 nginx

【Qt6】列表模型——树形列表

QStandardItemModel 类作为标准模型，主打“类型通用”，前一篇水文中，老周还没提到树形结构的列表，本篇咱们就好好探讨一下这货。 还是老办法，咱们先做示例，然后再聊知识点。下面这个例子，使用 QTreeView 组件来显示数据，使用的列表模型比较简单，只有一列。 #include <Q ......
树形 模型 Qt6 Qt

软件工程的生命周期和模型种类

同任何事物一样，一个软件产品或软件系统也要经历孕育、诞生、成长、成熟、衰亡等阶段，一般称为软件生命周期。根据GB8566-88（《软件工程国家标准——计算机软件开发规范》），可以将软件生命周期概括为 6个阶段：可行性研究、需求分析、设计、实现、测试和维护。 1、可行性研究阶段 此阶段是软件开发方与需 ......
软件工程 周期 模型 种类 生命

Windows网络编程之事件选择模型(三)

一、WSACreateEvent函数 WSACreateEvent函数是Windows套接字API中的一部分，它用于创建套接字事件对象，以便在套接字操作上等待事件发生。这个函数通常与异步套接字操作一起使用，以允许应用程序异步地等待套接字事件的发生，而不需要阻塞线程。 函数原型： WSAEVENT W ......
网络编程 模型 Windows 事件 网络
共6200篇  :58/207页 首页上一页58下一页尾页