长短 实战 记忆pytorch
《动手学深度学习 Pytorch版》 4.9 环境和分布偏移
# 4.9.1 分布偏移的类型 整节理论，详见书本。 # 4.9.2 分布偏移示例 整节理论，详见书本。 # 4.9.3 分布偏移纠正 整节理论，详见书本。 # 4.9.4 学习问题的分类法 整节理论，详见书本。 # 4.9.5 机器学习中的公平、责任和透明度 整节理论，详见书本。 # 练习 （1） ......
《动手学深度学习 Pytorch版》 4.8 数值稳定性和模型初始化
# 4.8.1 梯度消失和梯度爆炸 整节理论，详见书本。 1. 梯度消失 ```python %matplotlib inline import torch from d2l import torch as d2l x = torch.arange(-8.0, 8.0, 0.1, requires_ ......
《动手学深度学习 Pytorch版》 4.7 前向传播、反向传播和计算图
# 4.7.1 前向传播 整节理论，详见书本。 # 4.7.2 前向传播计算图 整节理论，详见书本。 # 4.7.3 反向传播 整节理论，详见书本。 # 4.7.4 训练神经网络 整节理论，详见书本。 # 练习 （1）假设一些标量函数 $X$ 的输入 $X$ 是 $n\times m$ 矩阵。$f$ ......
《动手学深度学习 Pytorch版》 4.6 暂退法
```python import torch from torch import nn from d2l import torch as d2l ``` # 4.6.1 重新审视过拟合 整节理论，详见书本。 # 4.6.2 扰动的稳健性 整节理论，详见书本。 # 4.6.3 实践中的暂退法 整节理论 ......
《动手学深度学习 Pytorch版》 4.5 权重衰减
# 4.5.1 范数与权重衰减 整节理论，详见书本。 # 4.5.2 高维线性回归 ```python %matplotlib inline import torch from torch import nn from d2l import torch as d2l ``` ```python # ......
关于包mamba安装和官网pytorch安装顺序的问题（基于anaconda）
如题，有以下几点需要特别注意： 1.对于anaconda，base环境旨在维护依赖关系，所以强烈建议不要在base环境中安装任何其他东西，因为可能会中断安装或者出现别的问题。实践证明，在base环境中安装mamba包，就算安装到天荒地老，也装不上，哈哈！！！ 2.在虚拟环境中如果要用官方代码安装最新 ......
pytorch分布式训练报错：Duplicate GPU detected : rank 1 and rank 0 both on CUDA device 35000
之前使用的比较老的torch 1.8.1，换到torch 2.0后报错 "rank 1 and rank 0 both on CUDA device 35000" 将main函数开头部分的初始化 ```python distributed.init_process_group(backend='nc ......
《C++并发编程实战》读书笔记(4)：原子变量
## 1、标准原子类型 标准原子类型的定义位于头文件``内。原子操作的关键用途是取代需要互斥的同步方式，但假设原子操作本身也在内部使用了互斥，就很可能无法达到期望的性能提升。有三种方法来判断一个原子类型是否属于无锁数据结构： - 所有标准原子类型（`std::atomic_flag`除外，因为它必须 ......
循环神经网络--基于pytorch框架
import matplotlib.pyplot as plt import math import torch from torch import nn from torch.nn import functional as f from d2l import torch as d2l batch_ ......
pytorch优化器
#torch.optim.SGD 常用参数列表： params 需要学习的参数 lr 学习率 momentum 冲量 加入冲量后权重更新公式由v=−dx∗lr+v变成v=−dx∗lr+v∗momemtum weight_decay 权重衰减 防止过拟合，原理见[这里](https://zhuanla ......
JMX Exporter 介绍与实战操作（Trino）
[TOC] ## 一、概述 `JMX Exporter` 是一个用于将 `Java` 应用程序的 `JMX（Java Management Extensions）`指标导出为 `Prometheus` 格式的度量数据的开源工具。`Prometheus` 是一种流行的开源监控和告警工具，它使用 `Pu ......
《C++并发编程实战》读书笔记(3)：并发操作的同步
## 1、条件变量 当线程需要等待特定事件发生、或是某个条件成立时，可以使用条件变量`std::condition_variable`，它在标准库头文件``内声明。 ```c++ std::mutex mut; std::queue data_queue; std::condition_variab ......
数仓资源管控理论已掌握，是时候实战了
本文分享自华为云社区《直播回顾 | 数仓资源管控理论已掌握，是时候实战了》，作者：胡辣汤 。 混合负载场景下，如何高效运维数据库，防止数据库系统过载？GaussDB(DWS)资源管控为数据库平稳可靠运行提供了哪些助力？本期《数仓专家手把手教您资源管控与运维实战》的主题直播中，我们邀请到华为云Gaus ......
量化自定义PyTorch模型入门教程
在以前Pytorch只有一种量化的方法，叫做“eager mode qunatization”，在量化我们自定定义模型时经常会产生奇怪的错误，并且很难解决。但是最近，PyTorch发布了一种称为“fx-graph-mode-qunatization”的方方法。在本文中我们将研究这个fx-graph- ......
【腾讯云 Cloud Studio 实战训练营】使用在线编程的方式用Nuxt3开发一个后台管理系统（附源码）
## 前言 大家好，我是刘明，开源技术爱好者，十年创业老兵。 CSDN近期联合腾讯云、Coding、CloudStudio组织了【腾讯云Cloud Studio实战训练营活动】，苦于前些日子一直在备考注册会计师，没有很好的体验Cloud Studio的云IDE产品。现在考试结束了，体验了一把云IDE ......
VulnStack - ATT&CK红队评估实战(四) Writeup
# VulnStack - ATT&CK红队评估实战(四) Writeup ## VulnStack(四)环境搭建 ### 1、项目地址 http://vulnstack.qiyuanxuetang.net/vuln/detail/6/ ### 2、网络拓扑 ![image-202309021452 ......
什么是 JMX？（Trino JMX 实战讲解）
[TOC] ## 一、概述 `JMX` 是 `Java Management Extensions`（**Java管理扩展**） 的缩写，它是 Java 平台上用于管理和监控应用程序、系统和网络资源的一种标准化的管理和监控框架。`JMX` 提供了一种标准的方式，通过这种方式，开发人员可以暴露应用程序 ......
大数据实战-Hive-技巧实战_2LgaeiFwLs7mCTwG5T3c9M
# 大数据实战-Hive-技巧实战_2LgaeiFwLs7mCTwG5T3c9M # 大数据实战-Hive-技巧实战 # 1.union 和 union all - 前者可以去重 ```sql select sex,address from test where dt='20210218' unio ......
自定义CUDA实现PyTorch算子的四种简单方法
### 背景 在探索新的深度学习算法的时候，我们可能会遇到PyTorch提供的算子不能满足需求的情况，这时候就需要自定义PyTorch算子，将我们的算法集成到PyTorch的工作流中。同时，为了提高运算效率，算子往往都需要使用CUDA实现。所幸，PyTorch及很多其他Python库都提供了简化这一 ......
《C++并发编程实战》读书笔记(2)：线程间共享数据
## 1、使用互斥量 在C++中，我们通过构造`std::mutex`的实例来创建互斥量，调用成员函数`lock()`对其加锁，调用`unlock()`解锁。但通常更推荐的做法是使用标准库提供的类模板`std::lock_guard`，它针对互斥量实现了RAII手法：在构造时给互斥量加锁，析构时解锁 ......
大模型算力推演优化实战
第一部分为看清：大模型的训练及推理过程是如何的，以及内部逻辑
第二部分为理解：大模型的训练及推理和算力的关系
第三部分为推演：用简单的公式量化大模型算力的需求
第四部分为优化：我们如何提高算力利用率 ......
一个.NET 7 + DDD + CQRS +React+Vite的实战项目
## 项目简介 基于SignalR实现聊天通信，支持横向扩展，可支撑上万用户同时在线聊天 ## 快速体验 http://server.tokengo.top:8888/ 可在这里快速体验使用，请注意目前只适配了PC端，请勿使用手机访问，可能出现样式不适应的情况， 当然如果你想要自己部署也可以，目前提 ......
《C++并发编程实战》读书笔记(1)：线程管控
## 1、线程的基本管控 包含头文件``后，通过构建`std::thread`对象启动线程，任何可调用类型都适用于`std::thread`。 ```c++ void do_some_work(); struct BackgroundTask { void operator()() const; } ......
Proj CDeepFuzz Paper Reading: Automatic differentiation in PyTorch
## Abstract 本文：描述automatic differentiation module of PyTorch 包括：Lua Torch, Chainer, HIPS Autograd Task: Provides a high-performance environment on dif ......
YC2023:《实战笔记》第二章 顺序结构 题解-基础篇
**不要相信这篇题解的任何一个字，包括标题和这句话。** 省流-恶搞题目：A，B，C，M，Q。 [题目](https://vjudge.net/contest/578685) # [A](https://vjudge.net/contest/578685#problem/A) ## 思路 这道题实在 ......
字节青训营 x ShowMeBug：项目实战，弥补学用鸿沟
近期，ShowMeBug 与字节青训营联合举办针对技术人群的培训实践活动，该活动目前正如火如荼地进行中，并即将迎来尾声。 这是一次理念相契的合作。 字节青训营是稀土掘金社区发起的技术培训和人才选拔项目，面向在校大学生，旨在培养优秀且具有职业竞争力的开发工程师。在传统的教育视角中，知识被定义为事实和过 ......
《动手学深度学习 Pytorch版》 4.4 模型选择、欠拟合和过拟合
# 4.4.1 训练误差和泛化误差 整节理论，详见书本。 # 4.4.2 模型选择 整节理论，详见书本。 # 4.4.3 欠拟合还是过拟合 整节理论，详见书本。 # 4.4.4 多项回归 ```python import math import numpy as np import torch fr ......
《动手学深度学习 Pytorch版》 4.3 多层感知机的简洁实现
```python import torch from torch import nn from d2l import torch as d2l ``` # 模型 ```python net = nn.Sequential(nn.Flatten(), nn.Linear(784, 256), nn. ......
shell之ceph分布式存储OSD使用率监控实战脚本
ceph分布式存储集群中osd使用满了后，集群将无法提供存储服务，无法继续写入数据，只读。所以需要对osd使用率进行监控以便及时扩容或者迁移数据 ......
c++并发编程实战-第2章 线程管控-读书笔记
线程的基本管控 每个应用程序都至少拥有一个线程，即运行main函数的线程，称为主线程，它由c++运行时系统启动。我们可以在软件运行中产生其他线程，它们以指定的函数作为入口函数。当main函数返回后，程序会退出；同样，当入口函数返回后，与之对应的线程结束。 发起线程 线程是通过构造std::threa ......