模型 动力性 经济性 架构
语言大模型（LLMs）的特点
语言大模型(Large Language Models, LLMs)是近年来自然语言处理领域的重要发展之一。其主要特点是: 海量参数:LLMs包含了上十亿个参数,特别是GPT-3包含了1759亿个参数。这些大规模的参数使其可以学习非常复杂的模式和表征。 巨量数据集:LLMs通过海量数据进行预训练,例 ......
直播预约丨《实时湖仓实践五讲》第四讲：实时湖仓架构与技术选型
如今，大规模、高时效、智能化数据处理已是“刚需”，企业需要更强大的数据平台，来应对数据查询、数据处理、数据挖掘、数据展示以及多种计算模型并行的挑战，湖仓一体方案应运而生。 《实时湖仓实践五讲》是袋鼠云打造的系列直播活动，将围绕实时湖仓的建设趋势和通用问题，邀请奋战于企业数字化一线的核心产品&技术专家 ......
Quartz核心原理之架构及基本元素介绍
Quartz是一个作业调度框架，它可以与J2EE和J2SE应用相结合，也可以单独使用。它能够创建多个甚至数万个jobs这样复杂的程序，jobs可以做成标准的java组件或EJBS。Quartz很容易上手，创建一个任务仅需实现Job接口，该接口只有一个方法void execute(JobExecuti... ......
微服务架构介绍
微服务架构十二要素： 这十二要素可以说是微服务架构的方法论，有了思想，方法论和战术维度，我觉得就可以完整的描绘出一个微服务架构的全景图。然后，我将我理解的微服务架构总结成一句话：微服务架构是 一种去中心化的分布式服务架构，架构拥有服务寻址，故障容错，流量调度，控制访问和可观测性的服务治理能力，从而实 ......
聊聊神经网络模型流程与卷积神经网络的实现
神经网络模型流程 神经网络模型的搭建流程，整理下自己的思路，这个过程不会细分出来，而是主流程。 在这里我主要是把整个流程分为两个主流程，即预训练与推理。预训练过程主要是生成超参数文件与搭设神经网络结构；而推理过程就是在应用超参数与神经网络。 卷积神经网络的实现 在 聊聊卷积神经网络CNN中，将卷积神 ......
PyTorch造大模型“加速包”，不到1000行代码提速10倍！英伟达科学家：minGPT以来最好的教程式repo之一
前言 PyTorch团队让大模型推理速度加快了10倍。且只用了不到1000行的纯原生PyTorch代码！ 本文转载自量子位 仅用于学术分享，若侵权请联系删除 欢迎关注公众号CV技术指南，专注于计算机视觉的技术总结、最新技术跟踪、经典论文解读、CV招聘信息。 CV各大方向专栏与各个部署框架最全教程整理 ......
网络编程之IO模型
我们讨论网络编程中的IO模型时，需要先明确什么是IO以及IO操作为什么在程序开发中是很关键的一部分，首先我们看下IO的定义。 IO的定义 IO操作（Input/Output操作）是计算机系统中的一种重要操作，用于数据的输入和输出，通常涉及到计算机与外部设备（如硬盘、网卡、键盘、鼠标、打印机等）之间的 ......
新来个架构师，把Xxl-Job原理讲的炉火纯青
大家好，我是三友~~ 今天来继续探秘系列，扒一扒轻量级的分布式任务调度平台Xxl-Job背后的架构原理 公众号：三友的java日记 核心概念 这里还是老样子，为了保证文章的完整性和连贯性，方便那些没有使用过的小伙伴更加容易接受文章的内容，快速讲一讲Xxl-Job中的概念和使用 如果你已经使用过了，可 ......
三-select模型
select模型是对简单C/S模型的优化，他解决了accept函数阻塞等待连接的问题。并且允许应用程序同时监视多个套接字，从而实现简单的并发请求。通过调用select函数确认一个或多个套接字当前的状态，并根据当前状态进行相应操作。在select模型模型中，select函数是最关键的。 select模 ......
HTTPS处于OSI模型中哪个层？
HTTPS（Hypertext Transfer Protocol Secure）位于 OSI（Open Systems Interconnection）模型的应用层和传输层之间。 在 OSI 模型中，从底层到顶层依次是：物理层、数据链路层、网络层、传输层、会话层、表示层和应用层。HTTPS 是在应 ......
关于三维模型几何坐标校正的技术方法探讨
三维工厂K3DMaker是一款三维模型浏览、分析、轻量化、顶层合并构建、几何校正、格式转换、调色裁切等功能专业处理软件。可以进行三维模型的网格简化、纹理压缩、层级优化等操作，从而实现三维模型轻量化。轻量化压缩比大，模型轻量化效率高，自动化处理能力高；采用多种算法对三维模型进行几何精纠正处理，精度高，... ......
使用Huggingface创建大语言模型RLHF训练流程的完整教程
ChatGPT已经成为家喻户晓的名字，而大语言模型在ChatGPT刺激下也得到了快速发展，这使得我们可以基于这些技术来改进我们的业务。 但是大语言模型像所有机器/深度学习模型一样，从数据中学习。因此也会有garbage in garbage out的规则。也就是说如果我们在低质量的数据上训练模型，那 ......
.NET CORE架构分层2
在一个项目中同时存在MVC控制器、API接口和Service层是很常见的情况，尤其是在企业级应用中。这种设计通常意味着你的应用需要同时支持页面渲染和API调用，可能是为了服务于不同的客户端，例如浏览器、移动应用或第三方集成。以下是一些建议来设计这样一个系统：### 分层架构1. **Controll ......
.NET CORE架构分层3
前端直接访问API是完全可行的，实际上这种架构模式在现代Web应用程序中非常普遍，尤其是在单页应用（SPA）和基于微服务的系统中。这种模式通常被称为前后端分离架构，在这种架构中，前端和后端通过定义良好的API接口进行通信。### 前后端分离架构的优点：1. **解耦合**：前端和后端的开发可以相互独 ......
因果推断9-18 链状结构、叉状结构、对撞结构、D-分割、模型检验和等价类
https://www.bilibili.com/video/BV1tk4y127L1/?spm_id_from=333.788&vd_source=3ad05e655a5ea14063a9fd1c0dcdee3e 所以得到一个结论，如果在一个链结构里面，比如X->Y->Z，condition到中间 ......
使用 PyTorch 完全分片数据并行技术加速大模型训练
本文，我们将了解如何基于 PyTorch 最新的 完全分片数据并行 (Fully Sharded Data Parallel，FSDP) 功能用 Accelerate 库来训练大模型。 动机 🤗 随着机器学习 (ML) 模型的规模、大小和参数量的不断增加，ML 从业者发现在自己的硬件上训练甚至加载 ......
MySQL系列之读写分离架构——Atlas介绍、安装配置、Atlas功能测试、生产用户要求、Atlas基本管理、自动分表、关于读写分离建议
文章目录 1. Atlas介绍2.安装配置3. Atlas功能测试4. 生产用户要求5. Atlas基本管理6. 自动分表7. 关于读写分离建议 1. Atlas介绍 Atlas是由 Qihoo 360, Web平台部基础架构团队开发维护的一个基于MySQL协议的数据中间层项目。 它是在mysql- ......
Day12 jvm 内存模型JMM
1. jvm 内存模型 JMM 原帖链接 JMM控制 Java 线程之间的通信，决定一个线程对共享变量的写入何时对另一个线程可见。 每条线程在自己的工作内存中对共享变量（副本）进行操作，JMM再负责把这些操作同步到主内存中 JVM1.8 用Meta space（元空间）（在JVM外的本地内存中）取代 ......
做算力的浪潮信息为什么还要再卷大模型？
避免重复造轮子，前提是轮子已经造得很好。 大模型有多卷？ 现在国内已经有180个以上生成式大模型，科技大厂、互联网大厂纷纷入局，既有百度、浪潮信息、阿里、腾讯等一众巨头，也有专攻AI的讯飞、商汤等垂直领域小巨头，以及“日日新”的创业企业。 今天A厂商发布大模型，各种参数对比下来堪称最强，第二天B厂商 ......
从HumanEval到CoderEval: 你的代码生成模型真的work吗？
本文主要介绍了一个名为CoderEval的代码生成大模型评估基准，并对三个代码生成模型（CodeGen、PanGu-Coder和ChatGPT）在该基准上的表现进行了评估和比较。 ......
人工智能的新篇章：深入了解大型语言模型(LLM)的应用与前景
人工智能的新篇章：深入了解大型语言模型(LLM)的应用与前景 LLM（Large Language Model）技术是一种基于深度学习的自然语言处理技术，旨在训练能够处理和生成自然语言文本的大型模型。 LLM 技术的核心思想是使用深度神经网络，通过大规模的文本数据预训练模型，并利用这些预训练模型进行 ......
.NET CORE架构分层
在.NET Core项目中，分层架构是一种常见的设计模式，它有助于将应用程序划分为独立的区域，每个区域负责处理特定的开发任务。这种方法可以提高代码的可维护性、可测试性和可扩展性。以下是.NET Core项目分层时常见的命名约定：1. **Presentation Layer**（表示层）: - `Y ......
LangChain调用本地模型
学习LangChain参考 https://python.langchain.com.cn/docs/get_started/quickstart 调用本地下载的模型参考 https://blog.csdn.net/qq_43692950/article/details/131743987 在Jup ......
从Hugging Face下载模型到本地并调用
不同的模型需要的显存不同，下载前先查一下自己GPU能支持什么模型 1. 用如下脚本可以下载HuggingFace上的各种模型， 网址 https://huggingface.co/models download.py #coding=gbk import time from huggingface_ ......
他山之石，可以攻玉｜银行业数据中心数字化转型之模型篇 04（完结）
导语： 银行业数据中心数字化转型是一项系统性工程既涉及管理层面转型——包括数字化转型战略、基础架构和技术架构转型、技术创新和知识体系转型，又涉及执行层面转型——包括人员管理（P）、流程管理（P）、技术管理（T）、资源管理（R）等。数据中心数字化转型作为一项宏大的系统性工程，必须要依据一个模型或标 ......
OSI七层模型
physical layer 物理层data link layer 数据链路层network layer 网络层transport layer 传输层session layer 会话层presentation layer 表示层application layer 应用层——————————————— ......
3.计算机硬件和基础架构
现在的计算机和移动设备都遵循冯诺依曼架构 冯诺依曼架构： 输入设备：键盘，鼠标，触屏 （CPU）运算器 + 控制器： 运算器：负责运算 控制器：负责控制语句（顺序，循环，条件） 输出设备：显示屏，打印机 内部存储器：内存条 外部存储器：硬盘，光盘，U盘 CPU与显卡的关系： 处理器CPU（中央处理器 ......
大型网络游戏任务系统的架构与设计
在网路游戏中做任务已经成为游戏很重要的一个核心功能和玩法，如何做好一个灵活可扩展的任务系统的架构与设计，今天来给大家分享一些我们的设计经验。接下来我把整个的任务系统分成以下6个模块: (1) 任务配置表设计与管理; (2) 游戏任务的解锁与生成; (3) 任务完成判定; (4) 任务完成后的奖励生成 ......
11月推荐阅读的12篇大语言模型相关论文
现在已经是12月了，距离2024年只有一个月了，本文总结了11月的一些比较不错的大语言模型相关论文 https://avoid.overfit.cn/post/ca7d20ae68dd4f54a69d7d2d5df51e8d ......
倾斜摄影三维模型的根节点合并的优势分析
三维工厂K3DMaker是一款三维模型浏览、分析、轻量化、顶层合并构建、几何校正、格式转换、调色裁切等功能专业处理软件。可以进行三维模型的网格简化、纹理压缩、层级优化等操作，从而实现三维模型轻量化。轻量化压缩比大，模型轻量化效率高，自动化处理能力高；采用多种算法对三维模型进行几何精纠正处理，精度高，... ......