Generative

GPT-1论文《Improving Language Understanding by Generative Pre-Training》解读

背景 GPT-1 采用了两阶段训练的方式: 1. 第一阶段 pre-training,在海量文本上训练,无需label,根据前k-1个词预测第k个单词是什么,第一阶段的训练让模型拥有了很多的先验知识,模型具有非常强的泛化性 2. 第二阶段在特定任务上fine-tuning,让模型能适应不同的任务,提 ......

POLIR-Int-Generative AI in 2024: The 6 most important consumer tech trends for next year

Generative AI in 2024: The 6 most important consumer tech trends for next year Qualcomm executives reveal key trends in AI, consumer technology and mo ......

Generative AI generates tricky choices for managers

Generative AI generates tricky choices for managers Transformational technologies can be very trying THE REMARKABLE capabilities of generative artific ......
Generative generates managers choices tricky

论文阅读-Self-supervised and Interpretable Data Cleaning with Sequence Generative Adversarial Networks

1. GARF 简介 代码地址:https://github.com/PJinfeng/Garf-master 基于 SeqGAN 提出了一种自监督、数据驱动的数据清洗框架——GARF。 GARF 的数据清洗分为两个步骤: 规则生成 (Rule generation with SeqGAN):利用 ......

generative AI

Welcome to generative AI for everyone. Since the release of ChatGPT, AI specifically, generative AI has caught the attention of many individuals, corp ......
generative AI

Generative AI: Friend or Foe?

Generative AI: Friend or Foe? Introduction Artificial intelligence (AI) is rapidly changing the world around us, and the writing and publishing indust ......
Generative Friend Foe AI or

GMMSeg: Gaussian Mixture based Generative Semantic Segmentation Models

前置知识:【EM算法深度解析 - CSDN App】http://t.csdnimg.cn/r6TXM Motivation 目前的语义分割通常采用判别式分类器,然而这存在三个问题:这种方式仅仅学习了决策边界,而没有对数据分布进行建模;每个类仅学习一个向量,没有考虑到类内差异;OOD数据效果不好。生 ......

Class-Incremental Learning with Generative Classifiers(CVPR2021W)

前置知识:VAE(可以参考https://zhuanlan.zhihu.com/p/348498294) Motivation 之前的方法通常使用判别式分类器,对条件分布\(p(y|\textbf{x})\)进行建模(classifier+softmax+ce)。其问题在于分类器会偏向最新学的类别, ......

Generative-Contrastive Graph Learning for Recommendation论文阅读笔记

Abstract 首先介绍了一下GCL的一些缺点,GCL是通过数据增强来构造对比视图,然后通过最大化对比视图之间的互信息来提供自监督信号。但是目前的数据增强技术都有着一定的缺点 结构增强随机退出节点或边,容易破坏用户项目的内在本质 特征增强对每个节点施加相同的尺度噪声增强,忽略的节点的独特特征 所以 ......

乘风破浪,遇见生成式人工智能(Generative AI)洪流之初学者入门课程,十二章系列By微软云技术布道师团队

课程资源 https://github.com/microsoft/generative-ai-for-beginners 课程学习环境设置 Fork课程仓库到自己的账号 https://github.com/microsoft/generative-ai-for-beginners/fork 点击 ......

【论文阅读】Improving language understanding by generative pre-training

原始题目:Improving language understanding by generative pre-training 中文翻译:通过生成预训练提高语言理解能力 发表时间:2018年 平台:Preprint 文章链接:https://www.mikecaptain.com/resource ......

study of 'Missing data imputation framework for bridge structural health monitoring based on slim generative adversarial networks'

the Stochastic Gradient Descent (SGD):为了提高鲁棒性,SGAIN框架的优化器采用了随机梯度下降(SGD) 一,SGAIN框架有两个重要目的:鉴别器D的目的是最大化正确预测M矩阵的概率;生成器的目的是最小化D预测M矩阵的概率。此外,利用反向传播算法对发生器和鉴别器 ......

Generative AI 新世界 | Falcon 40B 开源大模型的部署方式分析

在上期文章,我们探讨了如何在自定义数据集上来微调(fine-tuned)模型。本期文章,我们将重新回到文本生成的大模型部署场景,探讨如何在 Amazon SageMaker 上部署具有 400 亿参数的 Falcon 40B 开源大模型。 ......
Generative 模型 方式 Falcon 40B

GPT-GNN: Generative Pre-Training of Graph Neural Networks

目录概符号说明GPT-GNN代码 Hu Z., Dong Y., Wang K., Chang K. and Sun Y. GPT-GNN: Generative pre-training of graph neural networks. KDD, 2020. 概 比较早的一篇图预训练模型. 符号 ......

Generative AI 新世界 | 大模型参数高效微调和量化原理概述

在上期文章,我们对比了在 Amazon SageMaker 上部署大模型的两种不同的部署方式。本期文章,我们将探讨两个目前大语言模型领域的开发者们都关注的两个热门话题:大型语言模型(LLM)的高效微调和量化。 ......
Generative 模型 原理 参数 AI

Paper Reading: Drag Your GAN: Interactive Point-based Manipulation on the Generative Image Manifold

为了实现基于 GAN 的交互式的基于点的操作,本文提出了 DragGAN,它解决了监督手柄点向目标移动和跟踪手柄点两个子问题,以便在每个编辑步骤中知道它们的位置。本文模型是建立在 GAN 的特征空间具有足够的区分力以实现运动监督和精确点跟踪的特性之上的,运动监督通过优化潜在代码的移位特征损失来实现的... ......

Generative AI 新世界 | 文生图领域动手实践:预训练模型的微调

在上期文章,我们探讨了预训练模型的部署和推理,包括运行环境准备、角色权限配置、支持的主要推理参数、图像的压缩输出、提示工程 (Prompt Engineering)、反向提示 (Negative Prompting) 等内容。 亚马逊云科技开发者社区为开发者们提供全球的开发技术资源。这里有技术文档、 ......
Generative 模型 领域 AI

GAN(生成对抗网络,Generative Adversarial Network)

生成对抗网络(GAN)是一种深度学习模型架构,由生成器(Generator)和判别器(Discriminator)两个神经网络组成。这两个网络之间进行博弈式训练。 生成器(Generator):生成器是一个神经网络模型,它接收一个随机噪声向量作为输入,并试图生成与训练数据相似的新数据样本。生成器的目 ......
Adversarial Generative Network 网络 GAN

Generative AI 新世界 | 扩散模型原理的代码实践之采样篇

在上一期的文章中,探讨了在 Amazon SageMaker Studio 上使用 QLoRA 等量化技术微调 Falcon 40B 大语言模型。而从本期开始,我们将一起尝试在更深的知识维度,继续探究生成式 AI 这一火热的新知识领域。 亚马逊云科技开发者社区为开发者们提供全球的开发技术资源。这里有 ......
Generative 模型 原理 代码 AI

PULSE: Self-Supervised Photo Upsampling via Latent Space Exploration of Generative Models

PULSE: Self-Supervised Photo Upsampling via Latent Space Exploration of Generative Models 阅读笔记(11.2) 摘要:优化MSE指标通常会导致模糊,特别是在高方差(详细)区域。我们提出了一种基于创建正确降尺度的 ......

Latent generative landscapes as maps of functional diversity in protein sequence space

## 0. foreword 最近看了一篇比较有意思的文章,而且要讲组会了,认真学习一下顺便做个随笔当做我讲组会的草稿 (文章并不是直接翻译,文章的内容按照自己的理解进行了些改动) ## 1. Abstract 变分自编码器是一种无监督的生成模型,当把它应用在蛋白质数据上的时候,可以利用它按照系统发 ......

《Generative Agents: Interactive Simulacra of Human Behavior》论文学习

一、论文基本思想 Figure 1: Generative agents create believable simulacra of human behavior for interactive applications. In this work, we demonstrate generati ......

Generative AI 新世界:过去、现在和未来

人类善于分析事物。但是现在看来,机器很有可能做得更好。机器可以不知疲倦夜以继日地分析数据,不断从中找到很多人类场景用例的模式:信用卡欺诈预警、垃圾邮件检测,股票价格预测、以及个性化地推荐商品和视频等等。他们在这些任务上变得越来越聪明了。这被称为 “分析人工智能(Analytical AI)” 或”传 ......
Generative AI

Generative AI 新世界 | 大型语言模型(LLMs)概述

在上一篇《Generative AI 新世界:文本生成领域论文解读》中,我带领大家一起梳理了文本生成领域(Text Generation)的主要几篇论文:InstructGPT,RLHF,PPO,GPT-3,以及 GPT-4。本期文章我将帮助大家一起梳理另一个目前炙手可热的话题:大型语言模型(Lar ......
Generative 模型 语言 LLMs AI

Generative AI 新世界 | 大语言模型(LLMs)在 Amazon SageMaker 上的动手实践

在上一篇《Generative AI 新世界:大型语言模型(LLMs)概述》中,我们一起探讨了大型语言模型的发展历史、语料来源、数据预处理流程策略、训练使用的网络架构、最新研究方向分析(Amazon Titan、LLaMA、PaLM-E 等),以及在亚马逊云科技上进行大型语言模型训练的一些最佳落地实 ......
Generative SageMaker 模型 语言 Amazon

Generative AI 新世界 | 走进文生图(Text-to-Image)领域

在之前的四篇 “Generative AI 新世界” 中,我们带领大家一起探索了生成式 AI(Generative AI),以及大型语言模型(LLMs)的全新世界概览。并在文本生成(Text Generation)领域做了一些概述、相关论文解读、以及在亚马逊云科技的落地实践和动手实验。 亚马逊云科技 ......
Text-to-Image Generative 领域 Image Text

[论文速览] MAGE@MAsked Generative Encoder to Unify Representation Learning and Image Synthesis

## Pre title: MAGE: MAsked Generative Encoder to Unify Representation Learning and Image Synthesis accepted: CVPR2023 paper: https://arxiv.org/abs/221 ......

[论文阅读] DGFont++ Robust Deformable Generative Networks for Unsupervised Font Generation

## Pre title: DGFont++: Robust Deformable Generative Networks for Unsupervised Font Generation accepted: Arxiv 2022 paper: https://arxiv.org/abs/2212. ......

Permutation Invariant Graph Generation via Score-Based Generative Modeling

[TOC] > [Niu C., Song Y., Song J., Zhao S., Grover A. and Ermon S. Permutation invariant graph generation via score-based generative modeling. AISTATS ......

181家海外最新Generative AI创业公司

来源:嘉程资本 01 内容生成类 02 协同工具类 03 科技研究类 04 智能搜索类 05 游戏辅助类 06 元宇宙类 07 智能客服类 ......
Generative 公司 181
共34篇  :1/2页 首页上一页1下一页尾页