tensorflow pytorch keras 3.0

feature map-CAM 和 利用pytorch-hook注册实现CAM可视化

什么是CAM CAM的全称是Class Activation Mapping或Class Activation Map,即类激活映射或类激活图。 论文《Learning Deep Features for Discriminative Localization》发现了CNN分类模型的一个有趣的现象: ......
pytorch-hook CAM feature map-CAM pytorch

centos 7 手动编译升级gcc9.3.0

1、下载gcc9.3.0源码包 wget https://mirrors.tuna.tsinghua.edu.cn/gnu/gcc/gcc-9.3.0/gcc-9.3.0.tar.gz sudo tar xvf gcc-9.3.0.tar.gz ./contrib/download_prerequi ......
手动 centos gcc9 3.0 gcc

Pytorch构建超分辨率模型——常用模块

Import required libraries: import torch import torch.nn as nn import torch.optim as optim from torch.utils.data import DataLoader from torchvision imp ......
模块 模型 分辨率 常用 Pytorch

用Python和Pytorch使用softmax和cross-entropy

softmax激活函数 softmax激活函数将包含K个元素的向量转换到(0,1)之间,并且和为1,因此它们可以用来表示概率。 python: def softmax(x): return np.exp(x) / np.sum(np.exp(x), axis=0) x=np.array([0.1, ......
cross-entropy Pytorch softmax entropy Python

Pytorch中DDP,端口冲突(Address already in use)解决方法

参考:端口冲突(Address already in use)解决方法 ......
端口 Pytorch Address already 方法

一文详解vue-cli2.0与vue-cli3.0之间的区别

我们之所以介绍vue-cli2和vue-cli3的使用和区别,是因为VUE脚手架工具从vue-cli3版本开始,在项目结构等诸多方面开始与vue-cli2版本相比, 有较大的优化与调整。因此,在学习和工作中,我们需要了解一下版本更替之后,在哪些方面有变动。 1. 项目目录结构 可以明显的看出来,vu ......
vue-cli vue cli 之间 2.0

pyTorch 导入预训练词向量 2023

# 测试 Embedding import torch import gensim import torch.nn as nn wvmodel = gensim.models.KeyedVectors.load_word2vec_format("./data/vector.txt",binary=F ......
向量 pyTorch 2023

TensorFlow2.6和bert4keras0.11.4在Ubuntu22.04中使用

如题,基本环境和版本信息如下 ubuntu==22.04 tensorflow==2.6.0 bert4keras==0.11.4 python==3.9.13 在使用中,需要指定TensorFlow为2.0,即Keras使用tf.keras import os os.environ['TF_KER ......

问题:tensorflow指定了gpu运行,依旧使用cpu

1、首先检查当前环境的cpu,gpu设备信息 from tensorflow.python.client import device_lib as _device_lib local_device_protos = _device_lib.list_local_devices() devices = ......
tensorflow 问题 gpu cpu

从 TDengine 存储引擎的变化探讨——为何大家应尽快切换 3.0 版本?

流是一个有方向感的汉字,并且给人轻便迅捷的感觉。TDengine( Time Series Database ,TSDB) 产品最初的灵感之一,便是和“流”字相关:一台物联网设备便是一条数据流,十万台设备便是十万条数据流。它们像溪河汇聚一样,每秒每分源源不断地流向了数据处理平台。 面对这样规模的大数 ......
TDengine 版本 引擎 3.0

使用Pytorch构建LSTM网络实现对时间序列的预测

使用Python构建LSTM网络实现对时间序列的预测 1. LSTM网络神经元结构 LSTM网络 神经元结构示意图 在任一时刻 $t$,LSTM网络神经元接收该时刻输入信息 $x_t$,输出此时刻的隐藏状态 $h_t$,而 $h_t$ 不仅取决于 $x_t$,还受到 $t-1$ 时刻细胞状态 (ce ......
时间序列 序列 Pytorch 时间 网络

Kruise Rollout v0.3.0:教你玩转 Deployment 分批发布和流量灰度

在最新发布的 Kruise Rollout 0.3.0 版本中,我们为大家带来了几个非常有趣的新特性:一是针对 Kubernetes 社区应用最为广泛的 Deployment 工作负载的发布能力进行了重磅增强;二是对流量灰度能力进行了进一步扩展;三是支持以插入 Lua 脚本的方式来支持更多网关协议的... ......
灰度 Deployment 流量 Rollout Kruise

tf2&keras 遇到的坑和记录

Q: 在执行某些操作时遇到error: Can't find libdevice directory ${CUDA_DIR}/nvvm/libdevice # 首先找到cuda的路径,比如大多数ubuntu服务器的路径为/usr/lib/cuda export XLA_FLAGS xla_gpu_c ......
keras tf2 amp tf

DDPG强化学习的PyTorch代码实现和逐步讲解

深度确定性策略梯度(Deep Deterministic Policy Gradient, DDPG)是受Deep Q-Network启发的无模型、非策略深度强化算法,是基于使用策略梯度的Actor-Critic,本文将使用pytorch对其进行完整的实现和讲解 DDPG的关键组成部分是 Repla ......
PyTorch 代码 DDPG

Pytorch安装与基础知识

Pytorch安装与基础知识 安装环境:Win10专业版 显卡:Nviida Geforce GTX 1660 Ti 安装 Anacodna 官网下载安装 安装 Cuda Cuda 官网下载安装包。 进入 CMD,使用命令 nvcc -V 测试安装是否成功。 安装 cuDNN 虽然不知道为什么要安装 ......
基础知识 Pytorch 基础 知识

tensorflow 随机种子

graph-level random seed 依靠随机种子的操作实际上来自两个种子:图级(graph-level)和操作级(operation-level)种子。 这设置了图层面的种子。它与操作级种子的相互作用如下 ......
tensorflow 种子

Colab安装pytorch

如果不能更换pytorch版本需要先卸载。 因为平台是linux所以需要安装linux系统。 !pip3 install torch torchvision torchaudio --index-url https://download.pytorch.org/whl/cu118 import to ......
pytorch Colab

Tensorflow TFRecord 的使用

TODO ......
Tensorflow TFRecord

keras图片数字识别入门AI机器学习

通过使用mnist(AI界的helloworld)手写数字模型训练集,了解下AI工作的基本流程。 本例子,要基于mnist数据集(该数据集包含了【0-9】的模型训练数据集和测试数据集)来完成一个手写数字识别的小demo。 mnist数据集,图片大小是28*28的黑白。包含了6w 训练数据和1w验证数 ......
机器 数字 图片 keras

人工智能,丹青圣手,全平台(原生/Docker)构建Stable-Diffusion-Webui的AI绘画库教程(Python3.10/Pytorch1.13.0)

世间无限丹青手,遇上AI画不成。最近一段时间,可能所有人类画师都得发出一句“既生瑜,何生亮”的感叹,因为AI 绘画通用算法Stable Diffusion已然超神,无需美术基础,也不用经年累月的刻苦练习,只需要一台电脑,人人都可以是丹青圣手。 本次我们全平台构建基于Stable-Diffusion算 ......

在昇腾平台上对TensorFlow网络进行性能调优

摘要:本文就带大家了解在昇腾平台上对TensorFlow训练网络进行性能调优的常用手段。 本文分享自华为云社区《在昇腾平台上对TensorFlow网络进行性能调优》,作者:昇腾CANN 。 用户将TensorFlow训练网络迁移到昇腾平台后,如果存在性能不达标的问题,就需要进行调优。本文就带大家了解 ......
TensorFlow 性能 平台 网络

取出预训练模型中间层的输出(pytorch)

1 遍历子模块直接提取 对于简单的模型,可以采用直接遍历子模块的方法,取出相应name模块的输出,不对模型做任何改动。该方法的缺点在于,只能得到其子模块的输出,而对于使用nn.Sequensial()中包含很多层的模型,无法获得其指定层的输出。 示例 resnet18取出layer1的输出 from ......
中间层 模型 pytorch

登峰造极,师出造化,Pytorch人工智能AI图像增强框架ControlNet绘画实践,基于Python3.10

人工智能太疯狂,传统劳动力和内容创作平台被AI枪毙,弃尸尘埃。并非空穴来风,也不是危言耸听,人工智能AI图像增强框架ControlNet正在疯狂地改写绘画艺术的发展进程,你问我绘画行业未来的样子?我只好指着ControlNet的方向。本次我们在M1/M2芯片的Mac系统下,体验人工智能登峰造极的绘画... ......

图卷积神经网络分类的pytorch实现

图神经网络(GNN)目前的主流实现方式就是节点之间的信息汇聚,也就是类似于卷积网络的邻域加权和,比如图卷积网络(GCN)、图注意力网络(GAT)等。下面根据GCN的实现原理使用Pytorch张量,和调用torch_geometric包,分别对Cora数据集进行节点分类实验。 Cora是关于科学文献之 ......
图卷 神经网络 神经 pytorch 网络

分布式机器学习:异步SGD和Hogwild!算法(Pytorch)

同步算法的共性是所有的节点会以一定的频率进行全局同步。然而,当工作节点的计算性能存在差异,或者某些工作节点无法正常工作(比如死机)的时候,分布式系统的整体运行效率不好,甚至无法完成训练任务。为了解决此问题,人们提出了异步的并行算法。在异步的通信模式下,各个工作节点不需要互相等待,而是以一个或多个全局... ......
分布式 算法 机器 Hogwild Pytorch

从 PyTorch DDP 到 Accelerate 到 Trainer,轻松掌握分布式训练

概述 本教程假定你已经对于 PyToch 训练一个简单模型有一定的基础理解。本教程将展示使用 3 种封装层级不同的方法调用 DDP (DistributedDataParallel) 进程,在多个 GPU 上训练同一个模型: 使用 pytorch.distributed 模块的原生 PyTorch ......
分布式 Accelerate PyTorch Trainer DDP

Pytorch之Embedding与Linear的爱恨纠葛

最近遇到的网络模型许多都已Embedding层作为第一层,但回想前几年的网络,多以Linear层作为第一层。两者有什么区别呢? ......
纠葛 爱恨 Embedding Pytorch Linear

基于pytorch实现模型剪枝

所谓模型剪枝,其实是一种从神经网络中移除"不必要"权重或偏差(weigths/bias)的模型压缩技术。本文深入描述了 pytorch 框架的几种剪枝 API,包括函数功能和参数定义,并给出示例代码。 ......
模型 pytorch

Python TensorFlow深度神经网络回归:keras.Sequential

本文介绍基于Python语言中TensorFlow的Keras接口,实现深度神经网络回归的方法。 1 写在前面 前期一篇文章Python TensorFlow深度学习回归代码:DNNRegressor详细介绍了基于TensorFlow tf.estimator接口的深度学习网络;而在TensorFl ......

Python TensorFlow深度学习回归代码:DNNRegressor

本文介绍基于Python语言中TensorFlow的tf.estimator接口,实现深度学习神经网络回归的具体方法。 () 1 写在前面 1. 本文介绍的是基于TensorFlow tf.estimator接口的深度学习网络,而非TensorFlow 2.0中常用的Keras接口;关于Keras接 ......
DNNRegressor TensorFlow 深度 代码 Python