megengine模型 性能 技巧
使用docker搭建deepspeed多机多卡分布式微调大模型环境
前置环境：两台可以互通的centos服务器（服务器1、服务器2），docker，NVIDIA驱动 docker创建overlay共享网络 1）选用服务器1作为manage节点进行初始化，执行docker swarm init Swarm initialized: current node (ly4d ......
UV映射技巧和窍门
在过去的 10 年里，电影和游戏行业在视觉真实感方面取得了巨大的飞跃。我们现在能够创建相当逼真的生物，从肌肉动力学到布料模拟，甚至精确的液体动力学，应有尽有。视觉特效工作已成为一门科学和一门艺术。 ......
公共仓库元模型(CWM)（转）
转自：https://www.jianshu.com/p/21207b50084a 一、什么是CWM？ 在我们学习一个新东西时，首先得弄懂明白它是用来干什么的？然后通过实例与理论交错学习，CWM——Common Warehouse Metamodel, 很明显翻译过来时公共仓库元模型，CWM的提出主 ......
redis的key越多，会影响性能吗？
1. 什么是Redis大key问题 Redis大key问题指的是某个key对应的value值所占的内存空间比较大，导致Redis的性能下降、内存不足、数据不均衡以及主从同步延迟等问题。 到底多大的数据量才算是大key？ 没有固定的判别标准，通常认为字符串类型的key对应的value值占用空间大于1M ......
Atlas关系型数据库元数据模型
[ { "category": "ENTITY", "guid": "00b4a314-1185-4cd4-84e9-20275990d58d", "createdBy": "hadoop", "updatedBy": "hadoop", "createTime": 1615973091411, " ......
SpringBoot 接口：响应时间优化9个技巧！
今天聊聊 SpringBoot接口：响应时间优化的9个技巧。在实际开发中，提升接口响应速度是一件挺重要的事，特别是在面临大量用户请求的时候。好了，咱们直接切入正题。 本文，已收录于，我的技术网站 ddkk.com，有大厂完整面经，工作技术，架构师成长之路，等经验分享 在SpringBoot应用中，接 ......
内外网文件交换系统实用技巧揭秘：有效保障数据安全
内外网文件交换系统是一种专门设计用于在企业内部网络（内网）与外部网络（外网）之间安全传输文件的技术解决方案。在企业环境中，出于安全考虑，内部网络通常与外部网络隔离，以防止未经授权的访问和潜在的网络攻击。然而，这种隔离也意味着内部网络中的员工和外部合作伙伴之间需要一种安全的方式来交换文件和数据。 使用 ......
使用知识图谱提高RAG的能力，减少大模型幻觉
在使用大型语言模型(llm)时，幻觉是一个常见的问题。LLM生成流畅连贯的文本，但往往生成不准确或不一致的信息。防止LLM产生幻觉的方法之一是使用提供事实信息的外部知识来源，如数据库或知识图谱。 向量数据库和知识图谱 向量数据库 向量数据库是表示实体或概念(如单词、短语或文档)的高维向量的集合。数据 ......
三维模型的几何坐标纠正应用探讨
三维工厂K3DMaker是一款三维模型浏览、分析、轻量化、顶层合并构建、几何校正、格式转换、调色裁切等功能专业处理软件。可以进行三维模型的网格简化、纹理压缩、层级优化等操作，从而实现三维模型轻量化。轻量化压缩比大，模型轻量化效率高，自动化处理能力高；采用多种算法对三维模型进行几何精纠正处理，精度高，... ......
多开工具对手机游戏性能的测试与评估
【多开工具对手机游戏性能的测试与评估】 随着移动游戏的兴起，越来越多的玩家开始在手机上体验各种精彩的游戏。然而，对于一些热衷于多款游戏的玩家来说，他们可能面临一个难题：手机上同时只能运行一个游戏的限制。为了解决这一问题，出现了各种多开工具，可以帮助玩家同时在手机上打开多个游戏。然而，人们也担心使用多 ......
css高级技巧
目录精灵图为什么需要精灵图使用精灵图核心原理精灵图（sprites）的使用使用精灵图核心使用精灵图核心总结字体图标字体图标的产生字体图标的优点字体图标使用步骤字体图标的下载字体图标的引入字体文件格式字体图标的追加字体图标加载的原理CSS 三角CSS 用户界面样式鼠标样式 cursor轮廓线 outl ......
鱼类识别系统Python+TensorFlow卷积神经网络算法模型+深度学习人工智能【计算机课设项目】
一、介绍 鱼类识别系统。使用Python作为主要编程语言开发，通过收集常见的30种鱼类（'墨鱼', '多宝鱼', '带鱼', '石斑鱼', '秋刀鱼', '章鱼', '红鱼', '罗非鱼', '胖头鱼', '草鱼', '银鱼', '青鱼', '马头鱼', '鱿鱼', '鲇鱼', '鲈鱼', '鲍鱼' ......
Windows11下私有化部署大语言模型实战 langchain+llama2
一、本机环境 1.硬件环境： CPU：锐龙5600X 显卡：GTX3070 内存：32G 注：硬件配置仅为博主的配置，不是最低要求配置，也不是推荐配置。 2.软件环境： Windows系统版本：Win11专业版23H2 Python版本：3.11 Cuda版本：12.3.2 VS版本：VS2022 ......
使用PyTorch实现去噪扩散模型
在深入研究去噪扩散概率模型(DDPM)如何工作的细节之前，让我们先看看生成式人工智能的一些发展，也就是DDPM的一些基础研究。 VAE VAE 采用了编码器、概率潜在空间和解码器。在训练过程中，编码器预测每个图像的均值和方差。然后从高斯分布中对这些值进行采样，并将其传递到解码器中，其中输入的图像预计 ......
根据语音生成全身姿态；基于变分贝叶斯框架的VAE模型；CFG是一种隐式的Perceptual Loss！
本文首发于公众号：机器感知 根据语音全身姿态；基于变分贝叶斯框架的VAE模型；CFG是一种隐式的Perceptual Loss！ Diffusion Model with Perceptual Loss 本文研究了扩散模型在生成样本时的质量问题，作者发现使用均方误差损失训练的模型生成的样本往往不真实 ......
首次引入大模型!Bert-vits2-Extra中文特化版40秒素材复刻巫师3叶奈法
Bert-vits2项目又更新了，更新了一个新的分支：中文特化，所谓中文特化，即针对中文音色的特殊优化版本，纯中文底模效果百尺竿头更进一步，同时首次引入了大模型，使用国产IDEA-CCNL/Erlangshen-MegatronBert-1.3B大模型作为Bert特征提取，基本上完全解决了发音的ba ......
一文搞懂什么是阻塞IO、信号驱动IO、Reactor模型、零拷贝
公众号《鲁大猿》，寻精品资料，帮你构建Java全栈知识体系 www.jiagoujishu.cn 基础IO 如何从数据传输方式理解IO流？ 从数据传输方式或者说是运输方式角度看，可以将 IO 类分为: 字节流, 字节流读取单个字节，字符流读取单个字符(一个字符根据编码的不同，对应的字节也不同，如 U ......
提升工作效率，掌握Line多开的技巧窍门
掌握Line多开，提升工作效率的技巧窍门 在当今快节奏的工作环境中，提高工作效率成为了许多人追求的目标。而掌握Line多开的技巧，可以帮助我们更好地管理沟通和任务，从而提升工作效率。下面将为大家分享一些掌握Line多开的技巧窍门，希望对大家有所帮助。 第一，利用分组功能。Line提供了分组功能，可以 ......
大模型安全｜绿盟
转载：大模型正在“记住”与“说出” 引言 「大模型」引领的创新变革正在发生身处技术爆炸时代，高光与隐忧共存。安全风险已成为发展中无法忽视的话题。 LLM在使用过程中包含敏感机密的数据或信息，可能会导致未授权的数据访问、隐私侵犯、安全漏洞等风险，随之造成敏感信息泄露。 2023年8月，全球开放应用软件 ......
畅行社交，掌握Line多开的妙用技巧
畅行社交，掌握Line多开的妙用技巧 导语：在当今数字化时代，社交成为了人们生活中不可或缺的一部分。而Line作为一款广受欢迎的即时通讯应用程序，为人们提供了便捷、高效的社交方式。今天，我们将介绍Line多开的妙用技巧，助你畅行社交。 第一部分：了解Line多开的概念与意义 在传统的使用方式下，我们 ......
书生浦语大模型全链开源体系介绍
Smiling & Weeping 以后隔着三千梨花树，六百湘水，你不必哽咽，我始终记得见你的第一面 2023大模型成为热门关键词 而通用大模型在大模型中适用范围和效率无疑会更高 那么书生·浦语20B开源大模型性能介绍 那么从模型到应用的主要流程大概 书生·浦语全链条开源开放体系 全链条开源开放体系 ......
8000字，程序性能优化的全能手册
8000字，程序性能优化的全能手册 2024-01-05 07:40 萤火架构 阅读(746) 评论(2) 编辑 收藏 举报 合集 - 编程思想(2) 1.8000字，程序性能优化的全能手册01-05 2.从菜鸟到大师：编程必须遵循的三个基本原则01-06 收起 8000字讲清楚程序性能优化。 本文 ......
聊聊 从源码来看ChatGLM-6B的模型结构
基于ChatGLM-6B第一版，要注意还有ChatGLM2-6B以及ChatGLM3-6B 概述 ChatGLM是transformer架构的神经网络模型，因此从transformer结构入手，分析其源码结构。 transformer结构： 转载请备注出处：https://www.cnblogs.c ......
NVMe Host Controller IP，高性能NVMe控制器IP
NVMe Host Controller IP 1 介绍 NVMe Host Controller IP可以连接高速存储PCIe SSD，无需CPU和外部存储器，自动加速处理所有的NVMe协议命令，具备独立的数据写入AXI4-Stream/FIFO接口和数据读取AXI4-Stream/FIFO接口， ......
首发！全志T527第一款核心板，高性能8核处理器带AI NPU
今天，米尔电子联合战略合作伙伴全志科技，隆重发布第一款T527核心板及开发板。基于全志T527高性能可选AI功能MPU，配备八核A55高性能处理器，RISC-V协处理器，支持2Tops NPU，满足边缘智能AI加速应用；支持丰富的通讯接口，包括2路千兆以太网、1路PCIE2.1、2路CAN、10路U ......
中国大学MOOC--英语演讲技巧与实训 speech
中国大学MOOC--英语演讲技巧与实训 【来源： | 发布日期：2023-05-24】 课程概述 张春敏教授（Alice Zhang），主讲《基础英语公众演讲》、《高级英语公众演讲》和《公众演讲与口译》课程，中南大学英语演讲比赛、口译比赛培训金牌教练，从事英语演讲与口译教学研究与竞赛培训十余年，20 ......
保证接口安全的11个小技巧
前言 最近知识星球中有位小伙伴问了我一个问题：如何保证接口的安全性？ 根据我多年的工作经验，这篇文章从11个方面给大家介绍一下保证接口安全的一些小技巧，希望对你会有所帮助 1 参数校验 保证接口安全的第一步，也是最重要的一步，需要对接口的请求参数做校验。 如果我们把接口请求参数的校验做好了，真的可以 ......
时序优化小技巧
时序优化小技巧 总结来自公众号 数字IC自修室 https://mp.weixin.qq.com/s/9-BBNo2nxS81t_WLn2FWBg 关键路径通常是指同步逻辑电路中，组合逻辑时延最大的路径（这里我认为还需要加上布线的延迟），也就是说关键路径是对设计性能起决定性影响的时序路径。 尽可能的 ......
[转帖]记一次听风扇声音来定位性能瓶颈
https://plantegg.github.io/2022/03/15/%E8%AE%B0%E4%B8%80%E6%AC%A1%E5%90%AC%E9%A3%8E%E6%89%87%E5%A3%B0%E9%9F%B3%E6%9D%A5%E5%AE%9A%E4%BD%8D%E6%80%A7%E8% ......