526互联

模型llama a100 7b

怎么裁剪LLM（大语言模型）的vocab（词表）？

怎么裁剪LLM（大语言模型）的vocab（词表）？ Part1前言 对于一些多语言的大语言模型而言，它的词表往往很大。在下游使用这些模型的时候，可能我们不需要其它的一些语言，例如只需要中文和英文，此时，我们可以对其vocab进行裁剪，既可以大大减少参数量，也能够保留模型的性能，接下来以Bloom模型 ......
词表 模型 语言 vocab LLM

深度学习基础入门篇[六(1)]：模型调优：注意力机制[多头注意力、自注意力]，正则化【L1、L2，Dropout，Drop Connect】等

深度学习基础入门篇[六(1)]：模型调优：注意力机制[多头注意力、自注意力]，正则化【L1、L2，Dropout，Drop Connect】等 ......
注意力 正则 多头 深度 模型

零样本文本分类应用：基于UTC的医疗意图多分类，打通数据标注-模型训练-模型调优-预测部署全流程。

零样本文本分类应用：基于UTC的医疗意图多分类，打通数据标注-模型训练-模型调优-预测部署全流程。 1.通用文本分类技术UTC介绍 本项目提供基于通用文本分类 UTC（Universal Text Classification） 模型微调的文本分类端到端应用方案，打通数据标注-模型训练-模型调优-预 ......
模型 样本 意图 文本 流程

推荐系统的双塔模型，问答

想问一下各位大佬：1.推荐系统的双塔模型中，为什么用户向量和商品向量的内积可以表示用户对物品的兴趣呢？因为内积描述的是两个向量之间的相似度，而用户和物品的特征差别很大。2.即便用户和物品很相似，可以用相似度来刻画喜爱程度吗？ ......
模型 系统

《rv1109 部署yolov5训练模型汇总》

环境以及相关软件版本：yolov5(v5.0)、Ubuntu18.04、rknn-toolkit 1.7.3、rv1109 一.yolov5环境安装 1 conda安装 1.1 Anaconda 安装包： 在浏览器中打开 https://www.anaconda.com/products/indiv ......
模型 yolov5 yolov 1109 rv

分布滞后线性和非线性模型（DLNM）分析空气污染（臭氧）、温度对死亡率时间序列数据的影响|附代码数据

全文下载链接 http://tecdat.cn/?p=23947 最近我们被客户要求撰写关于分布滞后线性和非线性模型的研究报告，包括一些图形和统计输出。 分布滞后非线性模型（DLNM）表示一个建模框架，可以灵活地描述在时间序列数据中显示潜在非线性和滞后影响的关联。该方法论基于交叉基的定义，交叉基是由 ......
时间序列 数据 非线性 空气污染 死亡率

R语言神经网络模型预测多元时间序列数据可视化

全文链接：http://tecdat.cn/?p=32198 原文出处：拓端数据部落公众号 多元时间序列建模一直是吸引了来自经济，金融和交通等各个领域的研究人员的主题。多元时间序列预测的一个基本假设是，其变量相互依赖。 在本文中，我们使用了专门针对客户的多元时间序列数据设计的神经网络框架，拟合单隐层 ......
时间序列 神经网络 序列 模型 神经

地形模型贴正射影像图

一、GlobalMapper的DEM输出为dxf格式 1. 1加载tif格式的DEM，加载时注意选择yes elevation data。 1.2 Export elevation grid format-》DXF Mesh或DXF Point file， （1）选择DXF Mesh （2）输出DX ......
射影 地形 模型

linux安全模型

linux安全模型Linux是一个多用户、多任务的操作系统，具有很好的稳定性与安全性，在幕后保障Linux系统的安全则是一系列复杂的配置工作。本章将详细讲解文件的所有者、所属组以及其他人可对文件进行的读（r）、写（w）、执行（x）等操作，还可以在Linux系统中添加、删除、修改用户账户信息。我们还可 ......
模型 linux

深度学习基础入门篇[六]：模型调优，学习率设置（Warm Up、loss自适应衰减等），batch size调优技巧，基于方差放缩初始化方法。

深度学习基础入门篇[六]：模型调优，学习率设置（Warm Up、loss自适应衰减等），batch size调优技巧，基于方差放缩初始化方法。 ......
方差 深度 模型 技巧 基础

DyLoRA：使用动态无搜索低秩适应的预训练模型的参数有效微调

又一个针对LoRA的改进方法： DyLoRA: Parameter-Efficient Tuning of Pretrained Models using Dynamic Search-Free Low Rank Adaptation https://arxiv.org/pdf/2210.07558 ......
模型 参数 动态 DyLoRA

一些有意思的金融模型---施工行业没油水可榨了--施工企业生产得最终目的类似银行

起因 所在行业：建筑工程施工 钱的本质是等价交换，或者说经济的本质，在于印钱和流通，当钱被卡住多了，拿钱的就成了大爷。 机制需要得人 所以我们不妨设立一个这样机制。 这个机制需要几个人。 施工企业 银行 施工企业的合作老板 类似房地产金融模型机制 这个机制运转集中在于钱。而且这个钱是以贷款的形式。但 ......
油水 施工企业 模型 目的 银行

06-CSS盒模型详解

title: 06-CSS盒模型详解 publish: true 盒子模型 前言 盒子模型，英文即box model。无论是div、span、还是a都是盒子。 但是，图片、表单元素一律看作是文本，它们并不是盒子。这个很好理解，比如说，一张图片里并不能放东西，它自己就是自己的内容。 盒子中的区域 一个 ......
模型 CSS 06

如何训练你自己的大型语言模型

简介 像OpenAI的GPT-4和谷歌的PaLM这样的大型语言模型已经席卷了人工智能世界。然而，大多数公司目前还没有能力训练这些模型，完全依赖于少数几个大型科技公司提供技术。 在Replit，我们大力投资建设训练自己的大型语言模型所需的基础设施。在这篇博客文章中，我们将概述如何从原始数据到部署在面向 ......
模型 语言

#C. 加工制作模型

#C. 加工制作模型 【问题描述】 由苏州市科学技术协会创办的公益性质的青少年科学工作室,旨在通过参与、实践、体验的过程培养青少年的动手能力及创新意识。今年的夏令营安排了一个让营员动手实践的活动项目，要求利用该工作室提供的锯床和材料在辅导老师的指导下加工制作出各种不同的模型。 活动时两名营员组成一小 ......
加工制作 模型

前端封装 IndexedDB 存储和使用gltf模型文件的方法，以重复使用代码

以下是一个简单的封装IndexedDB存储和使用gltf模型文件的方法，可以重复使用代码： function saveModelToIndexedDB(modelName, modelData) { return new Promise((resolve, reject) => { const re ......
前端 IndexedDB 模型 代码 文件

JVM(Java内存模型)

CPU缓存模型： CPU缓存为了解决CPU处理速度和内存处理速度不对等的问题，内存缓存的是硬盘数据用于解决硬盘访问速度过慢的问题。 指令重排序： 为了提升执行速度/性能，系统在执行代码的时候并不一定是按照你写的代码的顺序依次执行。 编译器优化重排 ：编译器（包括 JVM、JIT 编译器等）在不改变单 ......
模型 内存 Java JVM

基于simulink的PMSM矢量控制系统的仿真,其中PMSM自己建模设计,不使用simulink自带模型

1.算法描述 永磁同步马达（permanent-magnetsynchronousmotor），即永磁同步电机，简称PMSM，是指一种转子用永久磁铁代替绕线的同步马达。永磁同步马达可依磁通方式分为径向、轴向或是横向几种，依其元件的布局而定，各种的永磁同步马达在效率、体积、重量及工作速度都有不同的表现 ......
simulink PMSM 矢量 控制系统 模型

LLaMA（Open and Efficient Foundation Language Models）学习

一、论文学习 原文链接：https://arxiv.org/pdf/2302.13971.pdf 0x1：引言 在大语料上训练得到的大语言模型(LLM)已经展示了它们的实力，在few-shot特性展现之后，有一系列的工作都关注于提高这些模型的规模。它们的努力是基于更多的参数可以带来更好的性能的假设之 ......
Foundation Efficient Language Models LLaMA

高斯混合模型疑点解析

高斯混合模型是EM算法的优秀实践，表达形式也十分简单，但是其推导确实有点复杂。 推荐几篇不错的文章： (26条消息) ML-朴素贝叶斯-先验分布/后验分布/似然估计_特征条件独立性假设_透明的胡萝卜的博客-CSDN博客 （此篇文章介绍了一些朴素贝叶斯基本知识，建议先看） 高斯混合模型（GMM）推导及 ......
疑点 模型

大模型入门（四）—— 大模型的训练方法

参考hugging face的文档介绍：https://huggingface.co/docs/transformers/perf_train_gpu_many#naive-model-parallelism-vertical-and-pipeline-parallelism，以下介绍聚焦在pyto ......
模型 方法

模型的收敛问题

模型的收敛究竟是什么意思 在机器学习中，模型的收敛是指模型训练过程中损失函数逐渐减小，最终收敛到一个稳定的状态。简单来说，模型的收敛就是指模型在训练过程中逐渐学习到数据的规律，最终达到最优表现的过程。 在训练模型时，我们通过反向传播算法不断更新模型的参数，使得模型的预测结果逐渐接近真实标签。如果模型 ......
模型 问题

osgb可以转3ds、obj、gltf或者dxf吗？然后在三维建模软件里对模型进行修改后再转回osgb？

参考：https://blog.csdn.net/qq_35996394/article/details/125440542 ......
osgb 模型 软件 gltf 3ds

设计模式-模板模式在Java中的使用示例-悍马模型制造示例

场景 设计模式-模板模式在Java中的使用示例： https://blog.csdn.net/BADAO_LIUMANG_QIZHI/article/details/130230732 上面整理了模板模式的使用示例，为加强理解特记录另一个使用示例， 以下示例摘自设计模式之禅第二版。 模板方法模式 定 ......
示例 模式 设计模式 模型 模板

DeepSpeed Chat: 一键式RLHF训练，让你的类ChatGPT千亿大模型提速省钱15倍

DeepSpeed Chat: 一键式RLHF训练，让你的类ChatGPT千亿大模型提速省钱15倍 1. 概述 近日来，ChatGPT及类似模型引发了人工智能（AI）领域的一场风潮。 这场风潮对数字世界产生了革命性影响。ChatGPT类模型具有惊人的泛用性，能够执行归纳、编程、翻译等任务，其结果与人 ......
DeepSpeed 模型 ChatGPT Chat RLHF

css盒子模型

1、介绍 所有HTML元素可以看作盒子，包括： 外边距margin 边框border 内边距（填充）padding 实际内容：显示文本和图像，指定元素的width和height属性实际就是内容的宽度和高度 2、边框 （1）border-style样式 none:默认无边框 dashed 虚线边框 s ......
盒子 模型 css

MATLAB用GARCH-EVT-Copula极值理论模型VaR预测分析股票投资组合|附代码数据

全文链接：http://tecdat.cn/?p=30426 最近我们被客户要求撰写关于GARCH-EVT-Copula的研究报告，包括一些图形和统计输出。 对VaR计算方法的改进，以更好的度量开放式基金的风险。本项目把基金所持股票看成是一个投资组合，引入Copula来描述多只股票间的非线性相关性， ......
极值 股票投资 GARCH-EVT-Copula 模型 理论

R语言多元（多变量）GARCH ：GO-GARCH、BEKK、DCC-GARCH和CCC-GARCH模型和可视化|附代码数据

全文链接：http://tecdat.cn/?p=30647 最近我们被客户要求撰写关于GARCH 的研究报告，包括一些图形和统计输出。 从Engle在1982发表自回归条件异方差(ARCH)模型的论文以来，金融时间序列数据的波动性就倍受关注。同时，近几年又出现了研究股票市场的波动传递性 多市场的多 ......
GARCH 变量 DCC-GARCH CCC-GARCH GO-GARCH

用COPULA模型进行蒙特卡洛(MONTE CARLO)模拟和拟合股票收益数据分析|附代码数据

全文下载链接：http://tecdat.cn/?p=24535 最近我们被客户要求撰写关于COPULA的研究报告，包括一些图形和统计输出。 最近，copula 在仿真模型中变得流行起来。Copulas 是描述变量之间依赖关系的函数，并提供了一种创建分布以对相关多元数据建模的方法 使用 copula ......
数据 数据分析 收益 模型 代码

Matlab基于SEIRD模型，NSIR预测模型，AHP层次分析法新冠肺炎预测与评估分析

全文链接：http://tecdat.cn/?p=32175 原文出处：拓端数据部落公众号 分析师：Jiahui Zhao 新型冠状病毒肺炎COVID-19 给中国乃至全世界都带来了深重的灾难，对世界经济也造成了不可逆的影响。该病毒传染性强、危害较大，需要我们高度警惕。国内目前疫情基本得到控制，但是 ......
模型 分析法 肺炎 层次 Matlab
共3520篇  :95/118页 首页上一页95下一页尾页