526互联

模型 环境llm

我的语言模型应该有多大？

本文发表于 2020 年 6 月 8 日，虽然时间较久远，但现在看起来仍然是非常有价值的一篇文章。 在这个全民 LLM 的狂欢里，想测测你拿到的预算够训一个多大的模型吗？本文会给你一个答案，至少给你一个计算公式。 在自然语言处理领域，有时候我们恍惚觉得大家是为了搏头条而在模型尺寸上不断进行军备竞赛。 ......
模型 语言

Optimum + ONNX Runtime: 更容易、更快地训练你的 Hugging Face 模型

介绍 基于语言、视觉和语音的 Transformer 模型越来越大，以支持终端用户复杂的多模态用例。增加模型大小直接影响训练这些模型所需的资源，并随着模型大小的增加而扩展它们。Hugging Face 和微软的 ONNX Runtime 团队正在一起努力，在微调大型语言、语音和视觉模型方面取得进步。 ......
更快 模型 Optimum Hugging Runtime

ATC：一个能将主流开源框架模型转换为昇腾模型的神奇工具

摘要：本文介绍了昇腾CANN提供的模型转换工具ATC，介绍了其功能、架构，并以具体样例介绍了该工具的基本使用方法以及常用设置。 本文分享自华为云社区《使用ATC工具将主流开源框架模型转换为昇腾模型》，作者： 昇腾CANN。 什么是ATC，它能做什么？ 昇腾张量编译器（Ascend Tensor Co ......
模型 框架 主流 工具 ATC

深入了解视觉语言模型

人类学习本质上是多模态 (multi-modal) 的，因为联合利用多种感官有助于我们更好地理解和分析新信息。理所当然地，多模态学习的最新进展即是从这一人类学习过程的有效性中汲取灵感，创建可以利用图像、视频、文本、音频、肢体语言、面部表情和生理信号等各种模态信息来处理和链接信息的模型。 自 2021 ......
模型 视觉 语言

在线文本翻译能力新增14个直译模型，打造以中文为轴心语言的翻译系统

经济全球化的今天，人们在工作和生活中经常会与外语打交道。相较传播性较广的英语而言，其他语种的识别和阅读对大多数人来说是一件难事，此时就需要借助语言翻译软件来帮助理解。 华为 HMS Core 机器学习服务（ML Kit）翻译功能提供了多种翻译模式，不仅可以满足应用出行购物、网络社交等日常场景，还提供 ......
直译 以中 轴心 模型 文本

从宏观上理解计算机网络模型-坐在直升机上看网络

大家好，我是风筝 今天是轻解计算机网络系列第一解，从宏观上了解网络。主要介绍网络分成模型、基本传输过程。 学习任何一种新技术都应该是这样的顺序，先从宏观上了解这门技术的基本原理和作用。这就好像生物学家研究一种生物，不能上来就解刨吧，一定是从整体上观察了这种生物的体貌和形态。这里的宏观就像是一具动物骨 ......
计算机网络 宏观 模型 网络

《爆肝整理》保姆级系列教程-玩转Charles抓包神器教程(11)-Charles如何模拟弱网环境

1.前言 张三：“我写的软件好奇怪啊，在网络好的时候一点问题也没有，但是信号差的时候明显卡顿，看来我只能一直蹲在卫生间、电梯或者地铁（信号差）调bug了”。 Charles：“哈哈哈，傻孩子，我就自带弱网工具呀，在Proxy-->Throttle Setting下，使用前要记得勾选Enable Th ......
Charles 教程 神器 保姆 环境

高并发环境下生成序列编码重复问题分析

一、背景 有个业务系统（订单系统），通过后台日志和监控观察，系统偶尔会出现重复唯一索引问题，例如：后台日志片段 Duplicate entry 'service_no' for key 'idx_service_no' .... 也就是说写入数据与数据库已有数据发生重复。 下面我们分析一下问题出现在 ......
序列 编码 环境 问题

生产环境Java应用服务内存泄漏分析与解决

有个生产环境CRM业务应用服务，情况有些奇怪，监控数据显示内存异常。内存使用率99.%多。通过生产监控看板发现，CRM内存超配或内存泄漏的现象，下面分析一下这个问题过程记录。 1、服务器硬件配置部署情况 生产服务器采用阿里云ECS机器，配置是2HZ、8GB，单个应用服务独占，CRM应用独立部署，即单 ......
应用服务 内存 环境 Java

深度学习模型压缩方法概述

我们知道，一定程度上，网络越深，参数越多，模型也会越复杂，但其最终效果也越好，而模型压缩算法是旨在将一个庞大而复杂的大模型转化为一个精简的小模型。之所以必须做模型压缩，是因为嵌入式设备的算力和内存有限，经过压缩后的模型方才能部署到嵌入式设备上。工业界的模型压缩方法有：知识蒸馏、轻量化模型架构、剪枝、... ......
深度 模型 方法

pip换源和制作虚拟环境操作步骤讲解

一、pip换源及虚拟环境 我们Python的强大之处就是有非常多的牛逼的第三方模块，后面的程序员只需要下载第三方模块，然后站在大佬们的肩膀上开发，第三方开发者，开发了第三方模块，把模块打包传到了pypi上根据名字，把这个打包好的模块下载下来了在公司中出现的情如果不能上外网 xx.whl 文件提交下好 ......
步骤 环境 pip

EF7创建模型入门篇

在EF7中，创建一个模型是非常重要的步骤。本文将使用微软官方文档中的指南，来学习EF7中的创建模型篇，外加一点点个人理解。 实体类型 在 EF7 中，你需要使用 modelBuilder.Entity() 方法来告诉 EF7 你要包含哪些类型。默认情况下，EF7 会将实体类型的名称设置为表的名称。但 ......
模型 EF7 EF

EF7创建模型继承映射篇

Entity Framework 7 (EF7)中的继承映射允许您将类层次结构映射到数据库中的表层次结构。具体而言，这意味着您可以创建一个基类，然后从该基类派生多个子类，并将这些子类映射到不同的数据库表。这使得在数据库中存储不同类型的数据变得更加方便，同时还能保持面向对象编程的优雅性。 EF7提供了 ......
模型 EF7 EF

EF7创建模型值生成篇

在 EF7 中，生成的值是非常重要的，因为它们决定了数据库表中的数据。在本文中，我们将以人员为例，使用 Fluent API 展示所有 EF7 生成值的功能。 我们先来看一下人员表的属性： public class Person { public Guid Id { get; set; } publ ......
模型 EF7 EF

驱动开发：配置Visual Studio驱动开发环境

在正式开始驱动开发之前，需要自行搭建驱动开发的必要环境，首先我们需要安装`Visual Studio 2013`这款功能强大的程序开发工具，在课件内请双击`ISO`文件并运行内部的`vs_ultimate.exe`安装包，`Visual Studio`的安装非常的简单，您只需要按照提示全部选择默认参... ......
环境 Visual Studio

取出预训练模型中间层的输出(pytorch)

1 遍历子模块直接提取 对于简单的模型，可以采用直接遍历子模块的方法，取出相应name模块的输出，不对模型做任何改动。该方法的缺点在于，只能得到其子模块的输出，而对于使用nn.Sequensial()中包含很多层的模型，无法获得其指定层的输出。 示例 resnet18取出layer1的输出 from ......
中间层 模型 pytorch

基于minikube快速搭建kubernetes单节点环境

一、说明 本文主要介绍在 Centos7 环境下基于 Minikube 来快速部署 Kubernetes 单节点集群环境，并在浏览器上访问部署在 k8s 上的 dashboard 服务。 二、Minikube 介绍 Minikube 是一个基于go语言开发，易于在本地运行 Kubernetes 的工 ......
节点 kubernetes minikube 环境

搭个ChatGPT算法模型，离Java程序员有多远？

这一篇文章先给我自己以及大家对 ChatGPT 开个门，让对此感兴趣的编程爱好者可以参与进去学习。在我感觉 ChatGPT 的出现会打破某些平衡，对一些事项进行秩序重置。因此也让更多的人获得了大量的机会。 ......
程序员 算法 模型 ChatGPT 程序

C4模型，架构设计图的脚手架，你值得拥有

hi，我是熵减，见字如面。 对于软件开发团队来说，写软件设计文档，花架构图，是日常工作中的关键一项。 而其中，如何画好系统设计的架构图呢？ Simon Brown 就 提出 C4 模型，来解决这个问题。 基于C4模型的脚手架，架构师们就可以统一团队内的不同层级的视角，交付一个成体系的架构设计。 下面 ......
脚手架 设计图 架构 模型

模型预处理层介绍（1） - Discretization

预处理的作用主要在于将难以表达的string或者数组转换成模型容易训练的向量表示，其中转化过程大多是形成一张查询表用来查询。 常见的预处理方式包括： class Discretization: Buckets data into discrete ranges. class Hashing: Imp ......
Discretization 模型

美团点评CAT部署了各种环境不下10次，遇到的坑整理

CAT是什么 我的理解是一个收集服务调用等运行情况的监控系统。 相信你能搜到这篇博客我就不多介绍了，这里有链接 传送门 本博客仅仅只帮助大家解决部署方面的问题 来自一个用户的吐槽 1.部署真他娘的困难，坑点太多了。 2.初期部署经常被难住点：源代码拉下来编译不通过 3.mysql版本要求5.7及以下 ......
环境 CAT

Java 调用 PaddleDetection 模型

文章地址 介绍 训练好的模型要给业务调用，deepjavalibrary/djl：Java 中与引擎无关的深度学习框架 (github.com) 可以完成这件事，它支持使用 Java 调用 PyTorch、TensorFlow、MXNet、ONNX、PaddlePaddle 等引擎的模型（也支持部分 ......
PaddleDetection 模型 Java

slate源码解析（二）- 基本框架与数据模型

源码架构 首先来看下最核心的slate包下的目录： 可以看到，作为一个开源富文本库，其源码是相当之少。在第一篇文章中说过，Slate没有任何开箱即用的功能，只提供给开发者用于构建富文本所需的最基本的一套schema及操作API。因此源码的体量自然就要少许多。 我们来预览上图中各个目录下文件所负责的功 ......
源码 框架 模型 数据 slate

Python绘制神经网络模型图

本文介绍基于Python语言，对神经网络模型的结构进行可视化绘图的方法。 最近需要进行神经网络结构模型的可视化绘图工作。查阅多种方法后，看到很多方法都比较麻烦，例如单纯利用graphviz模块，就需要手动用DOT语言进行图片描述，比较花时间；最终，发现利用第三方的ann_visualizer模块，可 ......
神经网络 模型 神经 Python 网络

随机森林RF模型超参数的优化：Python实现

本文介绍基于Python的随机森林（Random Forest，RF）回归代码，以及模型超参数（包括决策树个数与最大深度、最小分离样本数、最小叶子节点样本数、最大分离特征数等）自动优化的代码~ ......
模型 森林 参数 Python

生产者消费者模型

生产者消费者模型 什么是生产者消费者模型 我们可以把这个模型想象成工厂里的两条流水线，我们管他们叫生产者流水线和消费者流水线，生产者流水线生产出来的产品给消费者流水线使用，其中生产者流水线先把生产出来的产品放在仓库，然后消费者流水线再去仓库拿。这个仓库就叫做阻塞队列。 那么，这个仓库的实现有什么要求 ......
生产者 模型 消费者

好消息！微信小程序开发环境自带vConsole

背景介绍 事情是这样子的，我们在开发小程序的时候，需要在真机上把相关的日志打出来以便进行问题定位和回溯，于是在编程界就有个今天这个新闻。 好消息！广东某男子发现微信小程序开发环境自带vConsole. 同学，你看到这个新闻不震惊不兴奋打鸡血吗？你开发小程序都少装一个vConsole包呢！！！ 基于D ......
好消息 vConsole 环境

自己动手从零写桌面操作系统GrapeOS系列教程——4.GrapeOS开发环境介绍

学习操作系统原理最好的方法是自己写一个简单的操作系统。 1. 开发环境简介 为了减少开发过程中不必要的麻烦，希望大家的开发环境尽量与我的保持一致。 我的开发环境如下： Windows10电脑一台 Visual Studio Code（最好是最新版） VirtualBox 6.0.24 CentOS ......
GrapeOS 桌面 环境 教程 系统

自己动手从零写桌面操作系统GrapeOS系列教程——5.GrapeOS开发环境测试

学习操作系统原理最好的方法是自己写一个简单的操作系统。 在上一讲中我们已经安装配置了开发环境，在本讲中我们来测试一下开发环境是否正常。 我们的测试流程如下： 1.在Visual Studio Code中编写GrapeOS代码； 2.在CentOS中编译GrapeOS代码； 3.在QEMU中运行Gra ......
GrapeOS 桌面 环境 教程 系统

模型压缩-剪枝算法详解

近年来主流的模型压缩方法包括：数值量化（Data Quantization，也叫模型量化），模型稀疏化（Model sparsification，也叫模型剪枝 Model Pruning），知识蒸馏（Knowledge Distillation）， 轻量化网络设计（Lightweight Netwo... ......
算法 模型
共6800篇  :223/227页 首页上一页223下一页尾页