深度tensorrt模型
课程二第一周：深度学习的实用层面
深度学习的实用层面 Train/Dev/Test sets 深度学习是一个典型的高度迭代的过程，需要不断地进行循环测试，来找到最适合当前网络的超参。一方面可以提升迭代的效率，另一方面可以避免过度拟合等问题。 在实践中，（合理的）高质量训练集、验证集和测试集，有助于提升迭代的效率。 Train/Dev ......
16GB显卡推理80G大模型
最近看到一篇推文是在不量化、不损失精度的情况下使用一张16G的显卡推理70B的大模型。方案来自于kaggle的一个方案，具体流程为： 1.创建一个空的（例如，没有权重的）模型 2.决定每一层将要去哪里（当有多个设备可用时） 3.在内存中加载其权重的一部分 4.在空模型中加载这些权重 5.将权重移动到 ......
提高倾斜摄影三维模型顶层合并构建效率的技术方法初探
三维工厂K3DMaker是一款三维模型浏览、分析、轻量化、顶层合并构建、几何校正、格式转换、调色裁切等功能专业处理软件。可以进行三维模型的网格简化、纹理压缩、层级优化等操作，从而实现三维模型轻量化。轻量化压缩比大，模型轻量化效率高，自动化处理能力高；采用多种算法对三维模型进行几何精纠正处理，精度高，... ......
《动手学深度学习 Pytorch版》 9.4 双向循环神经网络
之前的序列学习中假设的目标是在给定观测的情况下对下一个输出进行建模，然而也存在需要后文预测前文的情况。 9.4.1 隐马尔可夫模型中的动态规划 数学推导太复杂了，略。 9.4.2 双向模型 双向循环神经网络（bidirectional RNNs）添加了反向传递信息的隐藏层，以便更灵活地处理此类信息。 ......
LSTM-CRF模型详解和Pytorch代码实现
在快速发展的自然语言处理领域，Transformers 已经成为主导模型，在广泛的序列建模任务中表现出卓越的性能，包括词性标记、命名实体识别和分块。在Transformers之前，条件随机场(CRFs)是序列建模的首选工具，特别是线性链CRFs，它将序列建模为有向图，而CRFs更普遍地可以用于任意图 ......
CRM系统中的营销归因模型有哪些？
在市场营销预算缩减的环境下，需要企业在每个渠道展示可量化的结果。CRM客户管理系统的营销归因功能，让市场部的每一个决策都充满智慧。那么CRM系统中的营销归因模型有哪些？下面我们以Zoho CRM为例： ......
《动手学深度学习 Pytorch版》 9.3 深度循环神经网络
将多层循环神经网络堆叠在一起，通过对几个简单层的组合，产生一个灵活的机制。其中的数据可能与不同层的堆叠有关。 9.3.1 函数依赖关系 将深度架构中的函数依赖关系形式化，第 \(l\) 个隐藏层的隐状态表达式为： \[\boldsymbol{H}^{(l)}_t=\phi_l(\boldsymbol ......
近期AI模型重要工作综述
近期AI模型重要工作综述 自2022年末Chatgpt和Stable Diffusion横空出世以来，AI模型又进入了一个新的阶段，现就2023年出现的一些新颖模型，以及前几年被提出，现在作为某个领域的“基底”的重要工作，做一些总结和分析。 1. GPT-4 OpenAI在Chatgpt（GPT-3 ......
《动手学深度学习 Pytorch版》 9.2 长短期记忆网络（LSTM）
解决隐变量模型长期信息保存和短期输入缺失问题的最早方法之一是长短期存储器（long short-term memory，LSTM）。它与门控循环单元有许多一样的属性。长短期记忆网络的设计比门控循环单元稍微复杂一些，却比门控循环单元早诞生了近 20 年。 9.2.1 门控记忆元 为了记录附加的信息，长 ......
《自顶向下方法》1.7 协议层次和服务模型
协议层次 目的：向上层提供更好的服务 实现：通过层间的接口访问下层所提供的服务 本层服务：包括下层提供的服务 + 与对等层交互带来的新功能 服务 主体 服务用户 服务提供者 服务访问点：区分上层用户的信息 形式：原语 信息 类型 面向连接的服务 无连接的服务 数据单元（DU） head + SDU（ ......
R语言时变向量自回归（TV-VAR）模型分析时间序列和可视化|附代码数据
全文链接：http://tecdat.cn/?p=22350 最近我们被客户要求撰写关于时变向量自回归（TV-VAR）模型的研究报告，包括一些图形和统计输出。 在心理学研究中，个人主体的模型正变得越来越流行。原因之一是很难从人之间的数据推断出个人过程 另一个原因是，由于移动设备无处不在，从个人获得的 ......
大模型背景下软件工程的机遇与挑战
点击链接了解详情 本文作者：汪晟杰 导语:AISE（AI Software Engineering）有人说是软件工程 3.0，即基于大模型（LLM - Large Language Model）时代下的软件工程。那么究竟什么是 AISE，他的发展历程对软件工程产生怎样的变化。本次主题文章会分为五大部 ......
Generative AI 新世界 | 大模型参数高效微调和量化原理概述
在上期文章，我们对比了在 Amazon SageMaker 上部署大模型的两种不同的部署方式。本期文章，我们将探讨两个目前大语言模型领域的开发者们都关注的两个热门话题：大型语言模型（LLM）的高效微调和量化。 ......
【Python&RS】基于GDAL栅格数据/图片位深度（bit）转换
最近在用OpenCv库处理图片时发现cv库无法读取64位的tif影像，所有想通过Python将64位的图片转换成8位的。今天就跟大家分享一下如何利用Python的GDAL库，实现栅格数据/图片的位深度转换。 ......
深度学习基础认知简明梳理
深度学习基础简明梳理-基于李宏毅油管课程 前言 该内容为基于博主对深度学习的认知与实践经验的对李宏毅油管上课程的简要理解，有局限偏差之处，敬请谅解。后续随着学习的深入会进行一定修正。 本质概述 此处不会特意探讨机器学习与深度学习之间的差别，纵观这些领域，它们所构建的方法论为：寻找到一个模型（函数）， ......
深度学习模型_锁死种子
import torch import random import os import numpy as np def seed_setting(seed): random.seed(seed) # os.environ['']=str(seed) np.random.seed(seed) torc ......
大数据-拉链表模型
拉链表是一种维护历史状态，以及最新状态数据的一种表。拉链表根据拉链粒度的不同，去除了一部分不变的记录，通过拉链表可以很方便的还原出拉链时点的客户记录，实际上相当于快照。 拉链表特征 1）记录一个事物从开始，一直到当前状态的所有变化的信息； 2）每次上报的都是历史记录的最终状态，是记录在当前时刻的历史 ......
Cocos Creator 2D/3D基础/ 第003节3D模型的基本概念
3.1 计算机如何制作一个3D模型 讲述这个问题之前，我们先来看下现实生活中我们要做一个模型，应该如何做呢？首先我们要把模型的形状给雕刻构建出来，现实生活中的物体都是由分子组成的连续的表面，计算机是离散的无法做到这点，所以计算机通过微分的方式，把一个曲面分成”多个平面”来模拟实现连续的物体表面。常见 ......
提高三维模型数据的几何坐标精度需要采取方法浅析
三维工厂K3DMaker是一款三维模型浏览、分析、轻量化、顶层合并构建、几何校正、格式转换、调色裁切等功能专业处理软件。可以进行三维模型的网格简化、纹理压缩、层级优化等操作，从而实现三维模型轻量化。轻量化压缩比大，模型轻量化效率高，自动化处理能力高；采用多种算法对三维模型进行几何精纠正处理，精度高，... ......
神经网络入门篇：为什么深度学习会兴起？
为什么深度学习会兴起？ 这篇我们来讲故事，关于为什么深度学习会兴起的故事~ 深度学习和神经网络之前的基础技术理念已经存在大概几十年了，为什么它们现在才突然流行起来呢？ 因为多亏数字化社会的来临，现在的数据量都非常巨大，我们花了很多时间活动在这些数字的领域，比如在电脑网站上、在手机软件上以及其它数字化 ......
基于开源模型搭建实时人脸识别系统（四）：人脸质量
续人脸识别实战之基于开源模型搭建实时人脸识别系统（三）：人脸关键点、对齐模型概览与模型选型_CodingInCV的博客-CSDN博客 不论对于静态的人脸识别还是动态的人脸识别，我们都会面临一个问题，就是输入的人脸图像的质量可能会很差，比如人脸角度很大，人脸很模糊，人脸亮度很亮或很暗。这些质量低的图像 ......
《动手学深度学习 Pytorch版》 9.1 门控循环单元（GRU）
我们可能会遇到这样的情况： 早期观测值对预测所有未来观测值具有非常重要的意义。 考虑一个极端情况，其中第一个观测值包含一个校验和，目标是在序列的末尾辨别校验和是否正确。在这种情况下，第一个词元的影响至关重要。我们希望有某些机制能够在一个记忆元里存储重要的早期信息。如果没有这样的机制，我们将不得不给这 ......
贷后催收垂类大模型发布（主动发问，回答收敛）
没有鲜花，没有掌声；没有红地毯，没有直播；没有PR稿，没有人关注。我们的第一个真正带来业务结果的垂类大模型正式发布到了微信小程序了。作为程序员，我们一向做的比说的多。 山下问童小程序一开始都是别人的模型，大家一直在催我发布自己的模型。事实上，不是我不发布，或者说没训练好，而是真正在小程序上发布一个自 ......
R语言用CPV模型的房地产信贷信用风险的度量和预测|附代码数据
全文链接：http://tecdat.cn/?p=30401 最近我们被客户要求撰写关于CPV模型的研究报告，包括一些图形和统计输出。 本文基于 CPV 模型, 对房地产信贷风险进行了度量与预测。我们被客户要求撰写关于CPV模型的研究报告 结果表明, 该模型在度量和预测房地产信贷违约率方面具有较好的 ......
R语言时变面板平滑转换回归模型TV-PSTR分析债务水平对投资的影响|附代码数据
全文下载链接：http://tecdat.cn/?p=21506 最近我们被客户要求撰写关于TV-PSTR的研究报告，包括一些图形和统计输出。 在本文中，当采用两种状态时，单转换函数PSTR模型具有两个变量： 我们的经验方法的基础包括评估N个国家的资本流动性。相应的模型定义如下： 其中，Iit是第i ......
R语言武汉流动人口趋势预测：灰色模型GM（1，1）、ARIMA时间序列、logistic逻辑回归模型|附代码数据
全文链接：http://tecdat.cn/?p=32496 原文出处：拓端数据部落公众号 人口流动与迁移，作为人类产生以来就存在的一种社会现象，伴随着人类文明的不断进步从未间断。 人力资源是社会文明进步、人民富裕幸福、国家繁荣昌盛的核心推动力量。当前，我国经济正处于从以政府主导的投资驱动型的经济“ ......
Python随机波动性SV模型：贝叶斯推断马尔可夫链蒙特卡洛MCMC分析英镑/美元汇率时间序列数据
全文链接：https://tecdat.cn/?p=33885 原文出处：拓端数据部落公众号 本文描述了帮助客户使用马尔可夫链蒙特卡洛（MCMC）方法通过贝叶斯方法估计基本的单变量随机波动模型，就像Kim等人（1998年）所做的那样。 定义模型以及从条件后验中抽取样本的函数的代码也在Python脚本 ......
[pytorch] 训练时冻结一部分模型的参数 —— module.requires_grad_(False)
prologue title: [pytorch] 训练时冻结一部分模型的参数 —— module.requires_grad_(False) 代码用到一个解码器\(dec\)，希望用它预测生成结果\(g\)的counting encode并用以计算损失，以此约束生成器生成合理的结果（能解码出正确的 ......