526互联

评估指标 模型 性能 指标

【自己搭建一个：端到端的语音+大模型聊天机器人】

概要 发篇文章记录一下最近搞的语音+大模型聊天机器人的搭建过程，供交流学习。有正反馈的话会继续优化。 整体架构流程 注意：借传统的基于RASA的对话机器人的图一用，本博会把NLU（Natural Language Understanding）和 Dialogue Management这两个组件，用大 ......
机器人 语音 模型 机器 端的

pytorch强制转换模型的所有参数都变成统一类型

可以调用模型的父类Module中的type方法，例如model.type(torch.float64)，将网络模型model的参数和缓冲区强制转换为torch.float64类型，这样就可以训练torch.float64类型的数据了，还可以指定其他类型。另外还有一些强制转换为某一种类型的方法：flo ......
模型 参数 pytorch 类型

大模型环境搭建（二）

二：Conda 安装 1.下载链接:https://repo.anaconda.com/miniconda/Miniconda3-latest-Windows-x86_64.exe 2.安装完之后,要修改以下他的执行策略！点开始菜单，打开：Anaconda Powershell Prompt (mi ......
模型 环境

大模型环境搭建（一）

一：Python 安装 安装简介： 电脑系统:Win11 安装Python版本：3.10.11 第一步,下载Python 打开官网：https://www.python.org/ 国内镜像：https://mirrors.huaweicloud.com/python/ 第三步,确认Python,pi ......
模型 环境

使用Stopwatch调试程序的性能

Stopwatch stopWatch = new Stopwatch(); stopWatch.Start(); DoSomething(); stopWatch.Stop(); Console.WriteLine("耗时时间（毫秒）：" + stopWatch.Elapsed.TotalMill ......
Stopwatch 性能 程序

Vue 应用程序性能优化：代码压缩、加密和混淆配置详解

​ 简介在 Vue 应用程序的开发中，代码压缩、加密和混淆是优化应用程序性能和提高安全性的重要步骤。 Vue CLI 是一个功能强大的开发工具，它提供了方便的配置选项来实现这些功能。本文将介绍如何使用 Vue CLI 配置代码压缩、加密和混淆功能，以提高应用程序的性能和安全性。 一、配置代码压缩Vu ......
应用程序 性能 代码 程序 Vue

大语言模型底层架构丨带你认识Transformer

本文分享自华为云社区《大语言模型底层架构你了解多少？大语言模型底层架构之一Transfomer的介绍和python代码实现》，作者： 码上开花_Lancer 。 语言模型目标是建模自然语言的概率分布，在自然语言处理研究中具有重要的作用，是自然语言处理基础任务之一。大量的研究从n 元语言模型（n-gr ......
底层 Transformer 架构 模型 语言

JFrog Artifactory—高性能软件制品管理仓库

JFrog Artifactory是一个可扩展的通用二进制存储库管理器，可在整个应用程序开发和交付过程中自动管理工件和依赖项。JFrog Artifactory支持大多数开发语言，是整个DevOps流水线中大多数软件包、容器映像和Helm图表的单一数据源。Artifactory对元数据和资产具有丰富... ......
高性能 Artifactory 仓库 制品 JFrog

三维模型的顶层合并构建的优势方面浅析

三维工厂K3DMaker是一款三维模型浏览、分析、轻量化、顶层合并构建、几何校正、格式转换、调色裁切等功能专业处理软件。可以进行三维模型的网格简化、纹理压缩、层级优化等操作，从而实现三维模型轻量化。轻量化压缩比大，模型轻量化效率高，自动化处理能力高；采用多种算法对三维模型进行几何精纠正处理，精度高，... ......
顶层 模型 方面 优势

oracle 性能排查与锁表处理

在 Oracle 数据库中，查看 SQL 语句的执行计划可以帮助我们理解查询的执行方式，以及如何优化查询性能。以下是几种常用的方法来查看 Oracle 执行计划： 使用 EXPLAIN PLAN 使用 EXPLAIN PLAN 语句可以查看 SQL 查询的执行计划。执行以下步骤： * 首先，执行 ` ......
性能 oracle

第二章 若依JFlow流程模型设计

这篇文章主要讲解了如何使用JFlow框架创建业务场景和流程模型，绘制流程图及注意事项，以及单节点的表单绘制和需要注意的细节 ......
模型 流程 第二章 JFlow

性能测试必备基础知识(二)

1. CPU 使用率 除了空闲时间外的其他时间占总 CPU 时间的百分比，就是CPU 使用率，即 1- 空闲时间/CPU 总时间。 当计算 CPU 使用率时，我们通常使用 /proc/stat 文件中的数据。该文件提供了有关 CPU 的计数器信息，包括各种状态下的节拍数。通过 cat /proc/s ......
基础知识 性能 基础 知识

语言大模型（LLMs）的特点

语言大模型(Large Language Models, LLMs)是近年来自然语言处理领域的重要发展之一。其主要特点是: 海量参数:LLMs包含了上十亿个参数,特别是GPT-3包含了1759亿个参数。这些大规模的参数使其可以学习非常复杂的模式和表征。 巨量数据集:LLMs通过海量数据进行预训练,例 ......
模型 特点 语言 LLMs

Beyond Compare 4 30天评估到期 解决方法

Beyond Compare 4 30天评估到期 解决方法 Beyond Compare 4 用习惯了，突然提示评估到期了，糟心😄 该方法将通过修改注册表，使BeyondCompare 版本4可以恢复到未评估状态，使其可以持续使用30天评估😄。 修改注册表 第一步：打开注册表。 在搜索栏中输入 ......
Compare 方法 Beyond

Nim 枚举类型 对性能的影响

继上一篇文章《Nim 概念 Concept 对性能的影响》后，我在想，既然 method 虚方法造成性能的影响很大，那么有没有更快的方法实现，本文就尝试 Nim 语言中更快的方法。 ......
性能 类型 Nim

基于ConcurrentDictionary 定时刷新基础数据，提高性能

1 public interface ICacheManager 2 { 3 object GetFromCache(string key); 4 void AddToCache(string key, TimeSpan expireTimeSpan, RefreshObjectDelegate r ......
ConcurrentDictionary 性能 基础 数据

聊聊神经网络模型流程与卷积神经网络的实现

神经网络模型流程 神经网络模型的搭建流程，整理下自己的思路，这个过程不会细分出来，而是主流程。 在这里我主要是把整个流程分为两个主流程，即预训练与推理。预训练过程主要是生成超参数文件与搭设神经网络结构；而推理过程就是在应用超参数与神经网络。 卷积神经网络的实现 在 聊聊卷积神经网络CNN中，将卷积神 ......
神经网络 卷积 神经 网络 模型

PyTorch造大模型“加速包”，不到1000行代码提速10倍！英伟达科学家：minGPT以来最好的教程式repo之一

前言 PyTorch团队让大模型推理速度加快了10倍。且只用了不到1000行的纯原生PyTorch代码！ 本文转载自量子位 仅用于学术分享，若侵权请联系删除 欢迎关注公众号CV技术指南，专注于计算机视觉的技术总结、最新技术跟踪、经典论文解读、CV招聘信息。 CV各大方向专栏与各个部署框架最全教程整理 ......
程式 科学家 模型 PyTorch 代码

网络编程之IO模型

我们讨论网络编程中的IO模型时，需要先明确什么是IO以及IO操作为什么在程序开发中是很关键的一部分，首先我们看下IO的定义。 IO的定义 IO操作（Input/Output操作）是计算机系统中的一种重要操作，用于数据的输入和输出，通常涉及到计算机与外部设备（如硬盘、网卡、键盘、鼠标、打印机等）之间的 ......
网络编程 模型 网络

.NET8 极致性能优化 AOT

前言 .NET8 对于性能的优化是方方面面的，所以 AOT 预编译机器码也是不例外的。本篇来看下对于 AOT 的优化。 概述 首先要明确一个概念，.NET 里面的 AOT 它是原生的。什么意思呢？也就是说通过 ILC 编译器 (AOT 编译器，参考:.Net 7 新编译器 ILC 简析) 编译出来的 ......
极致 性能 NET8 NET AOT

.NET8极致性能优化AOT

前言 .NET8对于性能的优化是方方面面的，所以AOT预编译机器码也是不例外的。本篇来看下对于AOT的优化。原文:.NET8极致性能优化AOT 详述 首先明确一个概念，.NET里面的AOT它是原生的。什么意思呢？也就是说通过ILC编译器(AOT编译器，参考:.Net 7 新编译器 ILC 简析)编译 ......
极致 性能 NET8 NET AOT

7、虚拟机性能监控、虚拟机快照以及宿主机上的虚拟机迁移到另一个宿主机

摘自：https://blog.51cto.com/mfc001/6410333 虚拟机性能监控 图形管理页面--Edit--preferences--polling--全部开启--close 关掉管理页面并重新virt-manager启动 图形管理页面--View中选项全部开启 虚拟机快照 点击虚 ......
宿主 宿主机 快照 性能

Nim 概念 Concept 对性能的影响

继上一篇文章《C# 泛型编译特性对性能的影响》后，我又研究了 Nim 语言相关的设计，由于 Nim 语言与 C# 语言有些差异，比如Nim 没有接口，也没有直接的 class 关键字，所以某些实现是变通的办法。 ......
概念 性能 Concept Nim

三-select模型

select模型是对简单C/S模型的优化，他解决了accept函数阻塞等待连接的问题。并且允许应用程序同时监视多个套接字，从而实现简单的并发请求。通过调用select函数确认一个或多个套接字当前的状态，并根据当前状态进行相应操作。在select模型模型中，select函数是最关键的。 select模 ......
模型 select

HTTPS处于OSI模型中哪个层？

HTTPS（Hypertext Transfer Protocol Secure）位于 OSI（Open Systems Interconnection）模型的应用层和传输层之间。 在 OSI 模型中，从底层到顶层依次是：物理层、数据链路层、网络层、传输层、会话层、表示层和应用层。HTTPS 是在应 ......
模型 HTTPS OSI

关于三维模型几何坐标校正的技术方法探讨

三维工厂K3DMaker是一款三维模型浏览、分析、轻量化、顶层合并构建、几何校正、格式转换、调色裁切等功能专业处理软件。可以进行三维模型的网格简化、纹理压缩、层级优化等操作，从而实现三维模型轻量化。轻量化压缩比大，模型轻量化效率高，自动化处理能力高；采用多种算法对三维模型进行几何精纠正处理，精度高，... ......
坐标 几何 模型 方法 技术

使用Huggingface创建大语言模型RLHF训练流程的完整教程

ChatGPT已经成为家喻户晓的名字，而大语言模型在ChatGPT刺激下也得到了快速发展，这使得我们可以基于这些技术来改进我们的业务。 但是大语言模型像所有机器/深度学习模型一样，从数据中学习。因此也会有garbage in garbage out的规则。也就是说如果我们在低质量的数据上训练模型，那 ......
Huggingface 模型 流程 语言 教程

Unity DOTS系列之托管/非托管Component的区别与性能分析

最近DOTS发布了正式的版本, 我们来分享一下DOTS里面托管与非托管Component的区别与性能分析，方便大家上手学习掌握Unity DOTS开发。托管与非托管的区别在于是不是基于自动垃圾回收的。托管是由垃圾回收器来负责自动回收，非托管需要我们手动来做相关内存管理，不被垃圾回收系统来处理。 对啦 ......
性能分析 Component 性能 Unity DOTS

因果推断9-18 链状结构、叉状结构、对撞结构、D-分割、模型检验和等价类

https://www.bilibili.com/video/BV1tk4y127L1/?spm_id_from=333.788&vd_source=3ad05e655a5ea14063a9fd1c0dcdee3e 所以得到一个结论，如果在一个链结构里面，比如X->Y->Z，condition到中间 ......
结构 链状 等价 因果 模型

使用 PyTorch 完全分片数据并行技术加速大模型训练

本文，我们将了解如何基于 PyTorch 最新的 完全分片数据并行 (Fully Sharded Data Parallel，FSDP) 功能用 Accelerate 库来训练大模型。 动机 🤗 随着机器学习 (ML) 模型的规模、大小和参数量的不断增加，ML 从业者发现在自己的硬件上训练甚至加载 ......
模型 PyTorch 数据 技术
共6100篇  :20/204页 首页上一页20下一页尾页