卷积 神经网络 深度 模型
怎么让英文大语言模型支持中文？（三）进行指令微调
前面已经讲过： 怎么让英文大语言模型支持中文？（一）构建中文tokenization 怎么让英文大语言模型支持中文？（二）继续预训练 这里是最后一部分了：怎么让英文大语言模型支持中文？（三）对预训练模型进行指令微调。 代码已上传到github： chinese_llm_sft Part1前言 在之前 ......
盘古天气大模型
摘要：ERA5数据训练。创新：1. 三维transformer 2. 层级结构的时间聚合算法，能够缓解误差累积 硬件：华为云 192个英伟达 Tesla-V100，100epoch训15天 方法：预训练任务就是预测 和Climax一样，没有采用迭代预测，而是指定Δt，直接进行预测。但是前者使用的是时 ......
ChatGLM-6B第二代模型开源，拿下LLM模型中文能力评估榜单第一名
ChatGLM-6B 自3月14日发布以来，深受广大开发者喜爱。截至 6 月24日，来自 Huggingface 上的下载量已经超过 300w。 为了更进一步促进大模型开源社区的发展，我们再次升级 ChatGLM-6B，发布 ChatGLM2-6B 。在主要评估LLM模型中文能力的 C-Eval 榜 ......
大语言模型的开发利器langchain
[toc] # 简介 最近随着chatgpt的兴起，人工智能和大语言模型又再次进入了人们的视野，不同的是这一次像是来真的，各大公司都在拼命投入，希望能在未来的AI赛道上占有一席之地。因为AI需要大规模的算力，尤其是对于大语言模型来说。大规模的算力就意味着需要大量金钱的投入。那么对于小公司或者个人来说 ......
会网络爬虫能干什么？
网络爬虫是一种自动化程序，用于浏览互联网并从网页中获取数据。它可以执行以下任务： 数据采集：网络爬虫可以访问网站，并从中提取所需的数据，例如新闻文章、产品信息、用户评论等。这些数据可以用于各种目的，如市场调研、数据分析、内容聚合等。 搜索引擎索引：搜索引擎使用爬虫来抓取网页，并将其加入搜索引擎的索引 ......
[渗透测试]—5.3 网络渗透测试技术和工具
在本章节中，我们将学习一些常用的网络渗透测试技术和工具，如Wireshark、Ettercap等。我们会尽量将内容讲解得详细、通俗易懂，并提供尽可能多的实例。 ### 5.1 Wireshark Wireshark是一款免费的开源数据包分析器，可以实时或离线捕获、分析和解码网络数据包。Wiresha ......
【网络】【TCP】TCP 序列号和确认号是如何变化的？
1 前言 这节我们来看看 TCP 头部的序列号的变化过程哈，在看连接、传输、挥手之前先把这个看了哈，了解一下序列号和确认号的变化，才能更好的理解哈。比如数据传输中 TCP 序列号和确认号的变化你知道么？ 我们来瞅瞅，TCP 序列号和确认号是如何变化的？ 三次握手中 TCP 序列号和确认号的变化 数据 ......
R语言使用多元AR-GARCH模型衡量市场风险|附代码数据
原文链接：http://tecdat.cn/?p=19118 最近我们被客户要求撰写关于GARCH的研究报告，包括一些图形和统计输出。 本文分析将用于制定管理客户和供应商关系的策略准则 假设： 贵公司拥有用于生产和分销聚戊二酸的设施，聚戊二酸是一种用于多个行业的化合物。 制造和分销过程的投入包括各种 ......
R语言JAGS贝叶斯回归模型分析博士生延期毕业完成论文时间|附代码数据
原文链接：http://tecdat.cn/?p=23652 最近我们被客户要求撰写关于贝叶斯回归的研究报告，包括一些图形和统计输出。 本文为读者提供了如何进行贝叶斯回归的基本教程。包括完成导入数据文件、探索汇总统计和回归分析 （ 点击文末“阅读原文”获取完整代码数据******** ）。 在本文中 ......
R语言广义加性混合模型(GAMM)分析长沙气象因子、空气污染、PM2.5浓度、显著性检验、逐日变化可视化
全文链接：https://tecdat.cn/?p=32981 原文出处：拓端数据部落公众号 气候变化和空气污染对现代社会产生了越来越大的影响。在这种背景下，研究气象和空气污染之间的关系以及其对PM2.5浓度的影响变得非常重要。为了更好地理解和解释这些关系，广义加性混合模型（GAMM）成为一种强大的 ......
强化学习从基础到进阶--案例与实践[7.1]：深度确定性策略梯度DDPG算法、双延迟深度确定性策略梯度TD3算法详解项目实战
强化学习从基础到进阶--案例与实践[7.1]：深度确定性策略梯度DDPG算法、双延迟深度确定性策略梯度TD3算法详解项目实战 ......
强化学习从基础到进阶-常见问题和面试必知必答[7]：深度确定性策略梯度DDPG算法、双延迟深度确定性策略梯度TD3算法详解
强化学习从基础到进阶-常见问题和面试必知必答[7]：深度确定性策略梯度DDPG算法、双延迟深度确定性策略梯度TD3算法详解 ......
行行AI人才直播第4期： 跟随占冰强老师走近《如何定制企业专属AI大模型？》
每个企业定制专属AI大模型的目的都不同，比如某企业希望通过AI技术提升其客户服务和销售效果。该企业面临着庞大的商品数据、用户评价和客户咨询等信息，传统的处理方法已经无法满足快速发展的需求。 ......
如何高度优化适用于企业的AI (三) 上传及微调模型
接下来, 我们就要上传我们的数据, 来训练我们自己的模型了 ```bash openai api fine_tunes.create -t XXXX_jsonl-m davinci ``` 这行命令的含义是, 我们调用openAI的api 通过微调的方式来创建一个模型, `-t`的含义是指定要使用的 ......
使用 Transformers 为多语种语音识别任务微调 Whisper 模型
本文提供了一个使用 Hugging Face 🤗 Transformers 在任意多语种语音识别 (ASR) 数据集上微调 Whisper 的分步指南。同时，我们还深入解释了 Whisper 模型、Common Voice 数据集以及微调等理论知识，并提供了数据准备和微调的相关代码。如果你想要一个 ......
yolov5实战之模型剪枝
续[yolov5实战之二维码检测](https://www.cnblogs.com/haoliuhust/p/15362819.html) [toc] # 前沿 在上一篇yolov5的博客中，我们用yolov5训练了一个二维码检测器，可以用来检测图像中是否有二维码，后续可以接一个二维码解码器，就可以 ......
Self-Instruct 论文解读：利用大模型自己给自己生成指令数据，指令数据自动生成
## 总览 大规模“指令调整”的语言模型，即**指令微调的LLM**，已经表现出非凡的**零样本能力**，尤其是推广**新任务上**。 然而，这些模型严重依赖于人类编写的指令数据，而这些数据通常在数量、多样性和创造力方面受到限制，因此阻碍了调整模型的通用性。 基于上述背景，作者提出了**Self-i ......
etcd网络模块解析
1. RaftHttp模块介绍 在etcd里raft模块和网络模块是分开的，raft模块主要负责实现共识算法，保证集群节点的一致性，消息的发送和接收则交给raftHttp网络模块来处理，由上层应用模块来进行协调交互和消息传递。 1.1. 整体结构图 （1）当raft模块发生了状态变化时，会把变化的消 ......
计算机网络那些事之 MTU 篇
哈喽大家好，我是咸鱼 今天我们来聊聊计算机网络中的 MTU （Maximum Transmission Unit） 什么是 MTU ? MTU（Maximum Transmission Unit）是指数据链路层中的最大传输单元 通俗点来讲，MTU 是指数据链路层能够传输的最大数据帧的大小（以字节为单 ......
[渗透测试]—5.2 网络协议漏洞
在这一章节中，我们将学习网络协议漏洞，如ARP欺骗、DNS欺骗等，并通过实例来讲解如何利用这些漏洞进行网络渗透测试。请放心，我们会尽量讲得详细、通俗易懂，并提供尽可能多的实例。 ### 5.1 网络协议漏洞 网络协议是计算机网络中设备之间通信的规则。然而，许多网络协议在设计时并未充分考虑安全性，因此 ......
AIGC时代，基于云原生 MLOps 构建属于你的大模型（上）
为了满足企业在数字化转型过程中对更新迭代生产力工具的需求，灵雀云近日推出了云原生 MLOps 解决方案，帮助企业快速落地AI技术、实现智能化应用和服务。 为什么要打造云原生MLOps解决方案？ 随着信息化技术的不断发展，企业在数字化转型的过程中，需要不断地更新迭代生产力工具，从最早的将物理世界的主要 ......
AIGC时代，基于云原生 MLOps 构建属于你的大模型（下）
为了满足企业在数字化转型过程中对更新迭代生产力工具的需求，灵雀云近日推出了Alauda MLOps 解决方案，帮助企业快速落地AI技术、实现智能化应用和服务。 ......
端侧AI模型优化
LeNet，第一个可商用的神经网络，仅有5个卷积层，51K参数量。 MIT的韩松老师在2015年提出了一些观测：预先训练好的AlexNet、VGGNet模型中，去掉大约90%的参数，它的精度还是无损的。因此韩松老师开始提出一些模型压缩的技术。 模型蒸馏：去掉原始模型中的光流模块，帮助我们解决稳定性的 ......
yum私有仓库实现及网络配置
# 1. yum私有仓库的实现及博客输出 ```bash #yum仓库端配置 #安装并启动httpd服务 [root@rocky9 ~]#yum install -y httpd [root@rocky9 ~]#systemctl enable --now httpd #挂载光盘，创建Base仓库目 ......
AI_Pytorch_卷积基本概念
###卷积的特征： 卷积--卷积计算--一种计算规则 滑窗式点乘求和操作 1.网络局部连接（Local Connectivity）2.卷积核参数共享（Parameter Sharing） 局部连接 权值共享 01.卷积层的节点仅仅和其前一层的局部节点相连接，只用来学习局部特征 02.权值共享,就是输 ......
m基于simulink的PID,模糊PID以及神经网络模糊PID三种控制器的控制性能对比仿真
1.算法仿真效果 matlab2013b仿真结果如下： 2.算法涉及理论知识概要 基于Simulink的神经网络模糊PID控制器的控制原理和工作步骤。首先，我们将介绍模糊控制和神经网络控制的基本原理，然后介绍如何将这两种控制策略结合起来实现更好的控制效果。最后，我们将详细描述基于Simulink的神 ......
关于在大模型战略资源储备的不同阶段，B端开发者的行动策略的一些思考
一、大模型产业链的终态猜想 我们先定义理想状态下，大模型应该具备哪些综合性能： 指令理解能力：能够理解并遵循指令，并按照指令完成相应的逻辑推理、知识抽取、概念总结、API调用等任务 多语言理解能力：能够同时理解包括中文、英文等主流语言 逻辑推理能力：能够将复杂任务分解为相互串联依赖的子任务，通过分治 ......
内存+磁盘+网络监控
内存+磁盘+网络监控 一、free -m命令内存监控 1.free使用方法 free以字节显示 free -m 以兆显示 2.数据解读 Total:表示系统总内存大小，used+free+buff/cache=total Used:表示已经使用的内存大小 Free:表示空闲的内存大小 Buff:表示 ......
【转】网络常用颜文字（文字表情）
网络常用颜文字： 本文纯属从阿林这里截取转帖的部分内容，只是为了使用方便，感谢原作者的收集。 【啊啊】 w(ﾟДﾟ)w 【擦眼泪】 (ノへ￣、) 【不屑】 (￣_,￣ ) 【好耶】 ヽ(✿ﾟ▽ﾟ)ノ 【棒】 (๑•̀ㅂ•́) ✧ 【抽】 (￣ε(#￣)☆╰╮o(￣皿￣///) 【亲】 （づ￣3￣）づ ......