526互联

transformer模型gpt

千亿参数开源大模型 BLOOM 背后的技术

假设你现在有了数据，也搞到了预算，一切就绪，准备开始训练一个大模型，一显身手了，“一朝看尽长安花”似乎近在眼前 …… 且慢！训练可不仅仅像这两个字的发音那么简单，看看 BLOOM 的训练或许对你有帮助。 近年来，语言模型越训越大已成为常态。大家通常会诟病这些大模型本身的信息未被公开以供研究，但很少关 ......
模型 背后 参数 BLOOM 技术

GPT-4 来了！这些开源的 GPT 应用又要变强了

近日，在 GPT-3.5 发布的半年后，OpenAI 正式推出了大版本的 GPT-4，不同于 GPT-3 到 GPT-3.5 耗时两年，这次版本升级只用了半年。如果你对 OpenAI 不熟悉，答应我读下这篇《ChatGPT 会开源吗？》 ，它详细介绍了 OpenAI 这家公司及其产品。 为了让你快速 ......
GPT

重新定义性价比!人工智能AI聊天ChatGPT新接口模型gpt-3.5-turbo闪电更新,成本降90%,Python3.10接入

北国春迟，春寒料峭略带阴霾，但ChatGPT新接口模型gpt-3.5-turbo的更新为我们带来了一丝暖意，使用成本更加亲民，比高端产品ChatGPT Plus更实惠也更方便，毕竟ChatGPT Plus依然是通过网页端来输出，Api接口是以token的数量来计算价格的，0.002刀每1000个to... ......
人工智能 性价比 人工 模型 接口

我的语言模型应该有多大？

本文发表于 2020 年 6 月 8 日，虽然时间较久远，但现在看起来仍然是非常有价值的一篇文章。 在这个全民 LLM 的狂欢里，想测测你拿到的预算够训一个多大的模型吗？本文会给你一个答案，至少给你一个计算公式。 在自然语言处理领域，有时候我们恍惚觉得大家是为了搏头条而在模型尺寸上不断进行军备竞赛。 ......
模型 语言

Optimum + ONNX Runtime: 更容易、更快地训练你的 Hugging Face 模型

介绍 基于语言、视觉和语音的 Transformer 模型越来越大，以支持终端用户复杂的多模态用例。增加模型大小直接影响训练这些模型所需的资源，并随着模型大小的增加而扩展它们。Hugging Face 和微软的 ONNX Runtime 团队正在一起努力，在微调大型语言、语音和视觉模型方面取得进步。 ......
更快 模型 Optimum Hugging Runtime

ATC：一个能将主流开源框架模型转换为昇腾模型的神奇工具

摘要：本文介绍了昇腾CANN提供的模型转换工具ATC，介绍了其功能、架构，并以具体样例介绍了该工具的基本使用方法以及常用设置。 本文分享自华为云社区《使用ATC工具将主流开源框架模型转换为昇腾模型》，作者： 昇腾CANN。 什么是ATC，它能做什么？ 昇腾张量编译器（Ascend Tensor Co ......
模型 框架 主流 工具 ATC

深入了解视觉语言模型

人类学习本质上是多模态 (multi-modal) 的，因为联合利用多种感官有助于我们更好地理解和分析新信息。理所当然地，多模态学习的最新进展即是从这一人类学习过程的有效性中汲取灵感，创建可以利用图像、视频、文本、音频、肢体语言、面部表情和生理信号等各种模态信息来处理和链接信息的模型。 自 2021 ......
模型 视觉 语言

在线文本翻译能力新增14个直译模型，打造以中文为轴心语言的翻译系统

经济全球化的今天，人们在工作和生活中经常会与外语打交道。相较传播性较广的英语而言，其他语种的识别和阅读对大多数人来说是一件难事，此时就需要借助语言翻译软件来帮助理解。 华为 HMS Core 机器学习服务（ML Kit）翻译功能提供了多种翻译模式，不仅可以满足应用出行购物、网络社交等日常场景，还提供 ......
直译 以中 轴心 模型 文本

从宏观上理解计算机网络模型-坐在直升机上看网络

大家好，我是风筝 今天是轻解计算机网络系列第一解，从宏观上了解网络。主要介绍网络分成模型、基本传输过程。 学习任何一种新技术都应该是这样的顺序，先从宏观上了解这门技术的基本原理和作用。这就好像生物学家研究一种生物，不能上来就解刨吧，一定是从整体上观察了这种生物的体貌和形态。这里的宏观就像是一具动物骨 ......
计算机网络 宏观 模型 网络

OpenAI Java SDK——chatgpt-java-v1.0.4更新支持GPT-3.5-Turbo，支持语音转文字，语音翻译。

简介 chatgpt-java是一个OpenAI的Java版SDK，支持开箱即用。目前以支持官网全部Api。支持最新版本GPT-3.5-Turbo模型以及whisper-1模型。增加chat聊天对话以及语音文件转文字，语音翻译。 开源地址：https://github.com/Grt1228/cha ......
语音 chatgpt-java-v chatgpt 文字 OpenAI

深度学习模型压缩方法概述

我们知道，一定程度上，网络越深，参数越多，模型也会越复杂，但其最终效果也越好，而模型压缩算法是旨在将一个庞大而复杂的大模型转化为一个精简的小模型。之所以必须做模型压缩，是因为嵌入式设备的算力和内存有限，经过压缩后的模型方才能部署到嵌入式设备上。工业界的模型压缩方法有：知识蒸馏、轻量化模型架构、剪枝、... ......
深度 模型 方法

EF7创建模型入门篇

在EF7中，创建一个模型是非常重要的步骤。本文将使用微软官方文档中的指南，来学习EF7中的创建模型篇，外加一点点个人理解。 实体类型 在 EF7 中，你需要使用 modelBuilder.Entity() 方法来告诉 EF7 你要包含哪些类型。默认情况下，EF7 会将实体类型的名称设置为表的名称。但 ......
模型 EF7 EF

EF7创建模型继承映射篇

Entity Framework 7 (EF7)中的继承映射允许您将类层次结构映射到数据库中的表层次结构。具体而言，这意味着您可以创建一个基类，然后从该基类派生多个子类，并将这些子类映射到不同的数据库表。这使得在数据库中存储不同类型的数据变得更加方便，同时还能保持面向对象编程的优雅性。 EF7提供了 ......
模型 EF7 EF

EF7创建模型值生成篇

在 EF7 中，生成的值是非常重要的，因为它们决定了数据库表中的数据。在本文中，我们将以人员为例，使用 Fluent API 展示所有 EF7 生成值的功能。 我们先来看一下人员表的属性： public class Person { public Guid Id { get; set; } publ ......
模型 EF7 EF

取出预训练模型中间层的输出(pytorch)

1 遍历子模块直接提取 对于简单的模型，可以采用直接遍历子模块的方法，取出相应name模块的输出，不对模型做任何改动。该方法的缺点在于，只能得到其子模块的输出，而对于使用nn.Sequensial()中包含很多层的模型，无法获得其指定层的输出。 示例 resnet18取出layer1的输出 from ......
中间层 模型 pytorch

搭个ChatGPT算法模型，离Java程序员有多远？

这一篇文章先给我自己以及大家对 ChatGPT 开个门，让对此感兴趣的编程爱好者可以参与进去学习。在我感觉 ChatGPT 的出现会打破某些平衡，对一些事项进行秩序重置。因此也让更多的人获得了大量的机会。 ......
程序员 算法 模型 ChatGPT 程序

ViT简述【Transformer】

Transformer在NLP任务中表现很好，但是在CV任务中应用还很有限，基本都是作为CNN的一个辅助，Vit尝试使用纯Transformer结构解决CV的任务，并成功将其应用到了CV的基本任务--图像分类中。 因此，简单而言，这篇论文的主旨就是，用Transformer结构完成图像分类任务。 图 ......
Transformer ViT

C4模型，架构设计图的脚手架，你值得拥有

hi，我是熵减，见字如面。 对于软件开发团队来说，写软件设计文档，花架构图，是日常工作中的关键一项。 而其中，如何画好系统设计的架构图呢？ Simon Brown 就 提出 C4 模型，来解决这个问题。 基于C4模型的脚手架，架构师们就可以统一团队内的不同层级的视角，交付一个成体系的架构设计。 下面 ......
脚手架 设计图 架构 模型

模型预处理层介绍（1） - Discretization

预处理的作用主要在于将难以表达的string或者数组转换成模型容易训练的向量表示，其中转化过程大多是形成一张查询表用来查询。 常见的预处理方式包括： class Discretization: Buckets data into discrete ranges. class Hashing: Imp ......
Discretization 模型

GPT接入飞书

GPT接入飞书 在体验ChatGPT这方面，我算是晚的。使用下来，更多的是对于这种应用形式感到兴奋，而不是ChatGPT的专业能力。 得知OpenAI提供GPT3的Api接口后，我想到了将其接入团队飞书中，便于日常调用。 于是，使用Python从实现了一个飞书机器人后端，不依赖其他机器人框架，并将G ......
GPT

下篇 | 使用 🤗 Transformers 进行概率时间序列预测

在《使用 🤗 Transformers 进行概率时间序列预测》的第一部分里，我们为大家介绍了传统时间序列预测和基于 Transformers 的方法，也一步步准备好了训练所需的数据集并定义了环境、模型、转换和 InstanceSplitter。本篇内容将包含从数据加载器，到前向传播、训练、推理和展 ......
时间序列 下篇 序列 概率 Transformers

基于 Hugging Face Datasets 和 Transformers 的图像相似性搜索

基于 HuggingFace Datasets 和 Transformers 的图像相似性搜索 通过本文，你将学习使用 🤗 Transformers 构建图像相似性搜索系统。找出查询图像和潜在候选图像之间的相似性是信息检索系统的一个重要用例，例如反向图像搜索 (即找出查询图像的原图)。此类系统试图 ......
相似性 Transformers Datasets 图像 Hugging

Java 调用 PaddleDetection 模型

文章地址 介绍 训练好的模型要给业务调用，deepjavalibrary/djl：Java 中与引擎无关的深度学习框架 (github.com) 可以完成这件事，它支持使用 Java 调用 PyTorch、TensorFlow、MXNet、ONNX、PaddlePaddle 等引擎的模型（也支持部分 ......
PaddleDetection 模型 Java

slate源码解析（二）- 基本框架与数据模型

源码架构 首先来看下最核心的slate包下的目录： 可以看到，作为一个开源富文本库，其源码是相当之少。在第一篇文章中说过，Slate没有任何开箱即用的功能，只提供给开发者用于构建富文本所需的最基本的一套schema及操作API。因此源码的体量自然就要少许多。 我们来预览上图中各个目录下文件所负责的功 ......
源码 框架 模型 数据 slate

Python绘制神经网络模型图

本文介绍基于Python语言，对神经网络模型的结构进行可视化绘图的方法。 最近需要进行神经网络结构模型的可视化绘图工作。查阅多种方法后，看到很多方法都比较麻烦，例如单纯利用graphviz模块，就需要手动用DOT语言进行图片描述，比较花时间；最终，发现利用第三方的ann_visualizer模块，可 ......
神经网络 模型 神经 Python 网络

随机森林RF模型超参数的优化：Python实现

本文介绍基于Python的随机森林（Random Forest，RF）回归代码，以及模型超参数（包括决策树个数与最大深度、最小分离样本数、最小叶子节点样本数、最大分离特征数等）自动优化的代码~ ......
模型 森林 参数 Python

生产者消费者模型

生产者消费者模型 什么是生产者消费者模型 我们可以把这个模型想象成工厂里的两条流水线，我们管他们叫生产者流水线和消费者流水线，生产者流水线生产出来的产品给消费者流水线使用，其中生产者流水线先把生产出来的产品放在仓库，然后消费者流水线再去仓库拿。这个仓库就叫做阻塞队列。 那么，这个仓库的实现有什么要求 ......
生产者 模型 消费者

模型压缩-剪枝算法详解

近年来主流的模型压缩方法包括：数值量化（Data Quantization，也叫模型量化），模型稀疏化（Model sparsification，也叫模型剪枝 Model Pruning），知识蒸馏（Knowledge Distillation）， 轻量化网络设计（Lightweight Netwo... ......
算法 模型

基于pytorch实现模型剪枝

所谓模型剪枝，其实是一种从神经网络中移除"不必要"权重或偏差（weigths/bias）的模型压缩技术。本文深入描述了 pytorch 框架的几种剪枝 API，包括函数功能和参数定义，并给出示例代码。 ......
模型 pytorch

【Oculus Interaction SDK】（九）使用控制器时显示手的模型

前言 前段时间 Oculus 的 SDK 频繁更新，很多已有的教程都不再适用于现在的版本了。本系列文章的主要目的是记录现版本常见功能的实现方法，便于自己后续开发。当然，不排除我文章刚写完 SDK 又变了的可能性，所以如果有人发现文章的内容已经不适用于新版本了，也可以留评论或者私信我，我会持续更新文章 ......
控制器 Interaction 模型 Oculus SDK
共4200篇  :138/140页 首页上一页138下一页尾页