角色扮演 模型 角色ai
大语言模型LLM推理及训练显存计算方法
一、推理：显存计算 推理的显存大头就是：参数量，参数类型版本一般有以下四种： float 32位 浮点数 4 字节 half / BF16 16位 浮点数 2 字节 int8 8位 整数 1 字节 int4 4位 整数 0.5 字节 以 7B-BF16 版本为例，需要显存 = 数量 * 类型大小 = ......
国标GB28181视频平台EasyCVR共享融合云平台中AI中台的定义及功能
AI中台是将深度学习、计算机视觉、知识图谱、自然语言理解等人工智能技术进行模块化，并结合硬件计算能力、算法训练能力、模型部署能力以及基础业务展现能力等功能的集约化平台。同时，AI中台与中台的数据资源密切结合，将这些能力封装成一个完整的中台系统。安防视频监控平台EasyCVR是一个具有强大拓展性、灵活 ......
大模型量化3
https://huggingface.co/blog/4bit-transformers-bitsandbytes 1. 8 位float The FP8 (floating point 8) format has been first introduced in the paper “FP8 f ......
安防监控/视频分析平台EasyCVR+AI识别技术在电力领域中的应用
随着社会经济的迅速发展，电力已成为人们生活和工作中不可或缺的重要能源。然而，传统的电力运维系统已经无法满足现代管理需求，难以有效解决人为疏忽和自然因素导致的安全事故，如未经授权进入危险区域、火灾和电杆倒塌等问题。为了实现电力行业的可持续发展，并提升电力运维的高效性和安全性，基于人工智能智能识别技术的 ......
Odoo模型的内置方法(可按需重写）
模型层面 一：_table_exist 检查该模型对于的数据库表是否存在，是则返回1，否则返回0. @api.model_cr def _table_exist(self): pass 模型记录层面 二：create(self,vals) 记录的创建函数，一般情况下，是根据视图传过来的dict对象， ......
视频汇聚/视频融合平台EasyCVR智慧安防AI算法方案，解放人力高效监管
安防视频监控平台EasyCVR是一个具有强大拓展性、灵活的视频能力和轻便部署的平台。它支持多种主流标准协议，包括国标GB28181、RTSP/Onvif、RTMP等，还可以支持厂家的私有协议和SDK接入，例如海康Ehome、海大宇等设备的SDK。该平台不仅拥有传统安防视频监控的功能，还具备接入AI智 ......
redis7源码分析：redis 多线程模型解析
多线程模式中，在main函数中会执行InitServerLast void InitServerLast() { bioInit(); // 关键一步， 这里启动了多条线程，用于执行命令，redis起名为IO 线程 initThreadedIO(); set_jemalloc_bg_thread(s ......
redis7源码分析：redis 单线程模型解析，一条get命令执行流程
有了下文的梳理后 redis 启动流程 再来解析redis 在单线程模式下解析并处理客户端发来的命令 1. 当 client fd 可读时，会回调readQueryFromClient函数 void readQueryFromClient(connection *conn) { client *c ......
聊聊基于Alink库的随机森林模型
概述 随机森林（Random Forest）是一种集成学习（Ensemble Learning）方法，通过构建多个决策树并汇总其预测结果来完成分类或回归任务。每棵决策树的构建过程中都引入了随机性，包括数据采样和特征选择的随机性。 随机森林的基本原理可以概括如下： 随机抽样训练集：随机森林通过有放回抽 ......
Llama2-Chinese项目：3.2-LoRA微调和模型量化
提供LoRA微调和全量参数微调代码，训练数据为data/train_sft.csv，验证数据为data/dev_sft.csv，数据格式为"<s>Human: "+问题+"\n</s><s>Assistant: "+答案。本文主要介绍Llama-2-7b模型LoRA微调以及4bit量化的实践过程。 ......
视频融合/监控汇聚平台EasyCVR助力AI算法智能防溺水，实现水域监管
防溺水已经成为青少年安全教育的重要内容，同时也是社会各界共同承担的安全管理责任。特别是在夏季，随着天气逐渐转热，溺水事故也进入了危险期、易发期和高发期。传统的预防和管理方法主要通过日常宣传演讲和人工巡逻来提醒人们溺水的危害，但存在一些问题： 1）缺乏有效的安全预警设施：当人员接近危险区域时，缺乏警示 ......
视频融合/监控汇聚平台EasyCVR如何推送本地录像视频文件进行AI视频智能分析?
安防视频监控平台EasyCVR是一个具有强大拓展性、灵活的视频能力和轻便部署的平台。它支持多种主流标准协议，包括国标GB28181、RTSP/Onvif、RTMP等，还可以支持厂家的私有协议和SDK接入，例如海康Ehome、海大宇等设备的SDK。该平台不仅拥有传统安防视频监控的功能，还具备接入AI智 ......
CLIP模型代码
近期看到了一篇用CLIP在我这个方向应用的文章，所以玩了一下CLIP，感觉效果还是很好的。 首先，github上的zero-shot代码 import os import clip import torch from torchvision.datasets import CIFAR100 # Lo ......
手把手教你在Ubuntu上部署中文LLAMA-2大模型
一、前言 llama2作为目前最优秀的的开源大模型，相较于chatGPT，llama2占用的资源更少，推理过程更快，本文将借助llama.cpp工具在ubuntu(x86\ARM64）平台上搭建纯CPU运行的中文LLAMA2中文模型。 二、准备工作 1、一个Ubuntu环境（本教程基于Ubuntu2 ......
全新注意力算法PagedAttention：LLM吞吐量提高2-4倍，模型越大效果越好
前言 吞吐量上不去有可能是内存背锅！无需修改模型架构，减少内存浪费就能提高吞吐量！ 本文转载自新智元 仅用于学术分享，若侵权请联系删除 欢迎关注公众号CV技术指南，专注于计算机视觉的技术总结、最新技术跟踪、经典论文解读、CV招聘信息。 CV各大方向专栏与各个部署框架最全教程整理 【CV技术指南】CV ......
【8.0】Fastapi响应模型
【一】自定义响应模型 【1】定义视图函数 from fastapi import APIRouter from pydantic import BaseModel, EmailStr from typing import Optional app04 = APIRouter() ### 响应模型 # ......
Llama2-Chinese项目：1-项目介绍和模型推理
Atom-7B与Llama2间的关系：Atom-7B是基于Llama2进行中文预训练的开源大模型。为什么叫原子呢？因为原子生万物，Llama中文社区希望原子大模型未来可以成为构建AI世界的基础单位。目前社区发布了6个模型，如下所示： FlagAlpha/Atom-7B FlagAlpha/Llama ......
Llama2-Chinese项目：2.2-大语言模型词表扩充
因为原生LLaMA对中文的支持很弱，一个中文汉子往往被切分成多个token，因此需要对其进行中文词表扩展。思路通常是在中文语料库上训练一个中文tokenizer模型，然后将中文tokenizer与LLaMA原生tokenizer进行合并，最终得到一个扩展后的tokenizer模型。国内Chinese ......
免费 AI 代码生成器 Amazon CodeWhisperer 初体验
文章作者：浪里行舟 简介 随着 ChatGPT 的到来，不由让很多程序员感到恐慌。虽然我们阻止不了 AI 时代到来，但是我们可以跟随 AI 的脚步，近期我发现了一个神仙 AI 代码生产工具 CodeWhisperer ，它是一项基于机器学习的服务，其根据自然语言注释和集成开发环境（IDE）中的代码， ......
Cesium加载三维模型rendering.Rendering has stopped
使用Cesium加载数据量大、精度高的三维模型数据经常在运行一段时间后，会报如下错误： An error occurred while rendering.Rendering has stopped. TypeError：Failed to execute 'shaderSource' on 'We ......
视频融合/视频汇聚平台加智能ai算法助力农业高质量生产
我国是农业大国，随着新兴技术如AI的迅猛发展，大数据和互联网等技术已应用于农业生产中的各个环节，以提高土地利用率、降低成本、提高生产效率。智慧农业因此而兴起。 智慧农业解决方案是根据农业生产的需求与现代网络发展状况而设计的。它利用人工智能技术，结合农业物联网、移动互联网、AI智能分析、视频监控与处理 ......
安防视频监控\视频融合平台EasyCVR在党政工作中可扮演重要角色
近年来，随着数字化战略的不断推进和发展，各个行业都积极进行数字化转型，并在AI+视频融合应用方面取得了显著进展。政府机构也不例外，他们需要提高数字化水平来推动数字政府的建设。为了实现各项视频业务的互联互通，各级政务机构需要建设统一的音视频交互融合中台，以满足数字政务集约融合化建设的需求，推动整体业务 ......
大模型强化学习——PPO项目实战
【PPO算法介绍】 PPO（Proximal Policy Optimization）是一种强化学习算法，它的目标是找到一个策略，使得根据这个策略采取行动可以获得最大的累积奖励。PPO的主要思想是在更新策略时，尽量让新策略不要偏离旧策略太远。这是通过在目标函数中添加一个额外的项来实现的，这个额外的项 ......
LongLoRA:不需要大量计算资源的情况下增强了预训练语言模型的上下文能力
麻省理工学院和香港中文大学推出了LongLoRA，这是一种革命性的微调方法，可以在不需要大量计算资源的情况下提高大量预训练语言模型的上下文能力。 LongLoRA是一种新方法，它使改进大型语言计算机程序变得更容易，成本更低。训练LLM往往需要大量信息和花费大量的时间和计算机能力。使用大量数据(上下文 ......
视频融合\监控汇聚平台EasyCVR智能AI分析垃圾是否溢出
随着我国科技的发展和城市化进程加快，大家对于生活环境以及空气质量更加重视，要求越来越严格。城市街道垃圾以及生活区垃圾满溢已经成为城市之痛。乱扔垃圾，垃圾不入桶这些行为已经严重影响到了城市的美化问题。特别是炎热的夏日和雨水季节，大量垃圾堆放会释放有毒有害气体，暴雨过后，漂浮在地面的垃圾也对整体美观有很 ......
视频融合平台/安防视频平台EasyCVR配合AI技术可有效降低高危职业风险
在化工生产中，有八类特殊作业，包括动火作业、设备检维修内作业、高处安全作业、动土安全作业、断路安全作业、盲板抽堵安全作业、吊装安全作业和受限空间作业。这些作业相比一般行业具有更高的突然性、复杂性和危险性，由于环境易燃易爆且作业风险大，容易发生各类安全事故。另外，一些场景由于作业工具管理不善、缺乏风险 ......
【Qt6】列表模型——树形列表
QStandardItemModel 类作为标准模型，主打“类型通用”，前一篇水文中，老周还没提到树形结构的列表，本篇咱们就好好探讨一下这货。 还是老办法，咱们先做示例，然后再聊知识点。下面这个例子，使用 QTreeView 组件来显示数据，使用的列表模型比较简单，只有一列。 #include <Q ......
软件工程的生命周期和模型种类
同任何事物一样，一个软件产品或软件系统也要经历孕育、诞生、成长、成熟、衰亡等阶段，一般称为软件生命周期。根据GB8566-88（《软件工程国家标准——计算机软件开发规范》），可以将软件生命周期概括为 6个阶段：可行性研究、需求分析、设计、实现、测试和维护。 1、可行性研究阶段 此阶段是软件开发方与需 ......