模型 内存
win7 内存 待验证
1、禁用页面文件，当拥有512MB以上的内存时，页面文件的作用将不再明显，因此我们可以将它禁用，具体操作方法是：首先在运行对话框中输入regedit打开注册表，然后依次展开注册表编辑器“HKEY_LOCAL_MACHINE/System/CurrentControlSet/Control/Sessi ......
使用PyTorch实现混合专家(MoE)模型
Mixtral 8x7B 的推出在开放 AI 领域引发了广泛关注，特别是混合专家（Mixture-of-Experts：MoEs）这一概念被大家所认知。混合专家(MoE)概念是协作智能的象征，体现了“整体大于部分之和”的说法。MoE模型汇集了各种专家模型的优势，以提供更好的预测。它是围绕一个门控网络 ......
记录下在linux部署大语言模型和聊天服务、简历服务等
1、弄清楚外网、内网的区别 2、宝塔面板的使用。 命令行输入 bt 、 bt default（本质是linux开了个端口服务用于宝塔管理服务、代理服务等） 3、netstat -tuln 查看正在运行的端口。 4、服务都启动之后，用宝塔代理相关端口 ， 使用 ufw 、 iptables、 fire ......
unity3d修改模型位置
using System.Collections; using System.Collections.Generic; using UnityEngine; public class VCCameraWorkerController : MonoBehaviour { public Vector3 ......
Omics辅助育种统计方法：最小二乘与混合模型
此幻灯片是来自“Omics辅助育种统计方法”短期课程中的一节：Applications for Ordinary Least Squares and Mixed Models。作者Malachy Campbell，博后毕业于康奈尔大学，是一名计算生物学家，专注于统计基因组学和数量遗传学。热衷于从大规 ......
GS | 佛罗里达大学Salvador报告：数量遗传和育种中的混合模型
本报告来自佛罗里达大学Salvador A. Gezanboshi博士。Salvador是一位拥有20多年经验的育种家/数量遗传学家，在育种、统计分析和遗传改良咨询方面有着丰富的经验。同时，他也是VSN的国际顾问，没错，就是那个开发了大名鼎鼎的ASReml的VSN。在大学或研究机构任职期间，他主要集 ......
浦语书生大模型实战训练营01笔记
大模型总的发展趋势：单一模型处理单一任务到一个模型解决多个任务 书生.浦语大模型开源历程：internLM大模型发布-》全面商业、开源支持8k语境全链路开源体系》多模态预训练语料库开源发布-》1.1版本迭代升级，开源智能体框架支持语言模型到智能体升级转换-》增强版发布开源工具全线升级 书生.浦语大模 ......
R语言分布滞后非线性模型（DLNM）研究发病率，死亡率和空气污染示例|附代码数据
全文下载链接：http://tecdat.cn/?p=21317 最近我们被客户要求撰写关于分布滞后非线性模型（DLNM）的研究报告，包括一些图形和统计输出。 本文提供了运行分布滞后非线性模型的示例，同时描述了预测变量和结果之间的非线性和滞后效应，这种相互关系被定义为暴露-滞后-反应关联 数据集包含 ......
什么是大语言模型的“幻觉”
使用ChatGPT的朋友应该遇到过这样的情况，模型有时候会答非所问甚至自相矛盾，这种情况被成为大语言模型的“幻觉”，即在处理和生成文本时出现的一些特定的错误或误解。这些幻觉可能源于模型对现实世界的理解不足、数据训练的偏差、或者算法本身的局限性。 出现幻觉的原因有几个方面： 1、数据训练偏差 LLM通 ......
多模态大模型少样本自适应综述
前言 在医学成像和遥感等一些细粒度领域，多模态基础模型的性能往往不尽人意。因此，许多研究者开始探索这些模型的少样本适应方法，逐渐衍生出三种主要技术途径：1）基于提示的方法；2）基于适配器的方法；3）基于外部知识的方法。尽管如此，这一迅速发展的领域产生了大量结果，但尚无全面的综述来系统地整理研究进展。 ......
Linux 交换分区(虚拟内存) 笔记
交换空间(虚拟内存)： 虚拟内存是利用硬盘上的一块区域当作内存使用，windosw当作RAM使用，简单来说就是用硬盘的一部分当内存来使用，主要用于缓冲内存用量，缓解内存不足。 制作交换空间： 方法1:直接利用硬盘的分区，并将其格式化后充当交换空间，可将多个分区制作为交换空间也称交换分区。 方法2:创 ......
大模型RAG之向量检索技术-结合LSTM模型编码
本文将介绍两种编码方式，一种直接采用bert进行编码query与待匹配数据；另一种将待匹配数据构造成key-value的形式，key表示从每个待匹配数据的概念或者抽象描述，value是对应的待匹配数据，将query和key进行编码，lstm从过query查询到key之后，就可以获取对应的value ......
PV视角之3D检测模型Sparse4D系列
在自动驾驶视觉感知系统中，为了获得环绕车辆范围的感知结果，通常需要融合多摄像头的感知结果。比较早期的感知架构中，通常采用后融合的范式，即先获得每个摄像头的感知结果，再进行结果层面的融合。后融合范式主要的问题在于难以处理跨摄像头的目标（如大卡车），同时后处理的负担也比较大。而目前更加主流的感知架构则是 ......
内存、cpu 资源使用率过高原因分析
内存消耗过高，1，程序开的多2，程序服务多，占用大，3，访问量大，4，内存小5，程序有计算逻辑问题，产生消耗。6，应用多开，同一个服务，异常启动多次，7，系统中了病毒8，主机被黑，有挖矿程序导致， ......
什么是大模型RAG?RAG与funtionCalling的区别是什么？
大模型的RAG（Retrieval-Augmented Generation）与Function Calling都是用于增强大型语言模型（如GPT）的技术，但它们的工作原理和应用场景有所不同。 Retrieval-Augmented Generation (RAG): 原理：RAG结合了信息检索和文 ......
模型类序列化器
1 原来用的Serilizer跟表模型没有直接联系， 模型类序列化器ModelSerilizer，跟表模型有对应关系 2 使用 class BookModelSerializer(serializers.ModelSerializer): class Meta: model=表模型 # 跟哪个表模型 ......
【略读论文|大模型相关】Zero-Shot Relational Learning on Temporal Knowledge Graphs with Large Language Models
时间：2023 学校：慕尼黑大学 创新点： 1.据我们所知，这是第一个试图在TKGF背景下研究零射击关系学习的工作。 2.我们设计了一种基于llm的方法zrLLM，并设法在零射击关系推理中增强各种基于嵌入的TKGF模型。 3.实验结果表明，zrLLM有助于大大提高所有考虑的TKGF模型对包含未见零射 ......
OpenCL使用local内存优化矩阵乘法例子
本例是俩个768×768的矩阵相乘的例子，代码来自《OpenCL异构并行计算》这本书，有修改。下文代码在VS2017和OpenCV430和OpenCL3的环境下开发和测试的，CPU型号是Intel Core i5-7400，用的是核芯显卡。代码里的kernel1是普通OpenCL代码计算乘法，ker ......
星型模型&雪花模型
数据集市（Data Mart）也有称ADS（Application Data Store），数据集市将主题层和基础层的数据按照各业务的实际需求进行聚合，形成宽表或数据立方体（Cube），可直接供业务部门和数据分析团队使用。 数据集市中主要存在的是事实表（fact）和维度表（dimension）。 事 ......
R语言GARCH族模型：正态分布、t、GED分布EGARCH、TGARCH的VaR分析股票指数|附代码数据
全文链接：http://tecdat.cn/?p=31023 最近我们被客户要求撰写关于GARCH族模型的研究报告，包括一些图形和统计输出。 如何构建合适的模型以恰当的方法对风险进行测量是当前金融研究领域的一个热门话题 （ 点击文末“阅读原文”获取完整代码数据******** ）。 VaR方法作为当 ......
AI_NLP以及SAM的理解-分割模型
机器学习 一般机器学习分为有监督学习，无监督学习和强化学习 无监督学习 Unsupervised Learning Self-Supervised Learning，又称为自监督学习 -Self-Supervised Learning 的核心思想 Masked Autoencoders Are Sc ......
shell脚本监控cpu,内存,磁盘
#!/bin/bash free=$(free -h | grep "Mem" | awk '{print $4}' | cut -d "." -f 1) if [ -n "$free" ];then if [ $free -le 3 ];then echo "free height ......
用一张图片测试几个大模型的看图理解，文心一言表现不佳，通义千问了解最到位！
样图如下： 用上面的图片，在几个主流的AI大模型中进行识别理解，最终的理解各有不同。 不过最让我意外的是 文心一言 居然理解的最不到位！ 下图是文心一言的看图理解： 下图是通义千问的看图理解： 下图是讯飞星火的看图理解： 大家觉得哪一个理解的最到位？？？？？ ......
使用docker搭建deepspeed多机多卡分布式微调大模型环境
前置环境：两台可以互通的centos服务器（服务器1、服务器2），docker，NVIDIA驱动 docker创建overlay共享网络 1）选用服务器1作为manage节点进行初始化，执行docker swarm init Swarm initialized: current node (ly4d ......
公共仓库元模型(CWM)（转）
转自：https://www.jianshu.com/p/21207b50084a 一、什么是CWM？ 在我们学习一个新东西时，首先得弄懂明白它是用来干什么的？然后通过实例与理论交错学习，CWM——Common Warehouse Metamodel, 很明显翻译过来时公共仓库元模型，CWM的提出主 ......
Atlas关系型数据库元数据模型
[ { "category": "ENTITY", "guid": "00b4a314-1185-4cd4-84e9-20275990d58d", "createdBy": "hadoop", "updatedBy": "hadoop", "createTime": 1615973091411, " ......
Redis过期Key处理和内存淘汰策略
惰性删除 概述：当访问Key时，才去判断它是否过期，如果过期，直接干掉。这种方式对CPU很友好，但是一个key如果长期不用，一直存在内存里，会造成内存浪费。 set name xxxx 10 get name // 发现name过期了，直接删除 优点：对CPU友好，只会在使用该key时才会进行过期检 ......
使用知识图谱提高RAG的能力，减少大模型幻觉
在使用大型语言模型(llm)时，幻觉是一个常见的问题。LLM生成流畅连贯的文本，但往往生成不准确或不一致的信息。防止LLM产生幻觉的方法之一是使用提供事实信息的外部知识来源，如数据库或知识图谱。 向量数据库和知识图谱 向量数据库 向量数据库是表示实体或概念(如单词、短语或文档)的高维向量的集合。数据 ......
三维模型的几何坐标纠正应用探讨
三维工厂K3DMaker是一款三维模型浏览、分析、轻量化、顶层合并构建、几何校正、格式转换、调色裁切等功能专业处理软件。可以进行三维模型的网格简化、纹理压缩、层级优化等操作，从而实现三维模型轻量化。轻量化压缩比大，模型轻量化效率高，自动化处理能力高；采用多种算法对三维模型进行几何精纠正处理，精度高，... ......