神经网络 中用 模型 神经
千亿参数开源大模型 BLOOM 背后的技术
假设你现在有了数据，也搞到了预算，一切就绪，准备开始训练一个大模型，一显身手了，“一朝看尽长安花”似乎近在眼前 …… 且慢！训练可不仅仅像这两个字的发音那么简单，看看 BLOOM 的训练或许对你有帮助。 近年来，语言模型越训越大已成为常态。大家通常会诟病这些大模型本身的信息未被公开以供研究，但很少关 ......
ARP协议：网络世界的临门一脚
大家好，我是风筝。 各位同学肯定见过关于网络的面试题，什么TCP协议和UDP的区别啦，IP协议工作在哪层啊等等，这都是网络中定义的各种协议。这些标准化的协议就是网络分层模型标准化的核心部分。要想搞懂网络，必须搞明白其中的几种主要的网络协议。 今天我们就开始介绍网络世界的协议。介绍的顺序大致是从网络模 ......
无处不在的边缘网络感知
01 引子 CDN 服务了互联网的大部分场景，是互联网业务背后重要的基础组件。CDN 的访问异常有可能造成大面积的互联网业务影响，如何应对访问异常是衡量 CDN 服务质量好坏的一个重要标准。比如某某电信大楼着火事件造成了某些地区的网络不可访问，阿里云 CDN 通过技术手段，保障了客户业务的正常运转。 ......
能快速构建和定制网络拓扑图的WPF开源项目-NodeNetwork
大家好，我是沙漠尽头的狼，今天介绍一个WPF开源项目-NodeNetwork，它可以帮助我们快速构建和定制网络拓扑图。 一、前言 在现代软件开发中，数据可视化和可交互性越来越受到关注。为了实现这一点，通常需要使用各种图表、表格、网络拓扑图等控件。然而，对于某些特殊的场景，这些控件可能无法满足需求，此 ......
几种类型神经网络学习笔记
跟随【导师不教？我来教！】同济计算机博士半小时就教会了我五大深度神经网络，CNN/RNN/GAN/transformer/LSTM一次学会，简直不要太强！_哔哩哔哩_bilibili了解的五大神经网络，整理笔记如下： 视频是唐宇迪博士讲解的，但是这个up主发的有一种东拼西凑的感觉，给人感觉不是很完整 ......
网络问题定位工具记录
网络问题定位工具记录 老王内网发了一篇使用各种工具定位网络丢包问题的文章。 里面的工具我发现都没用过。。。惭愧。。。赶紧补充linux命令知识。 linux的nstat命令是做什么的？输出格式是什么意思？ nstat是一个Linux命令行工具，用于显示网络接口的统计信息，包括TCP、UDP、IP和I ......
Flutter 下载篇 - 叁 | 网络库切换实践与思考
前言 本文是关于使用flutter_download_manager下载功能的实践和探索。我们将基于flutter_download_manager的功能扩展，改造成自己想要的样子。在阅读本文之前，建议先了解前两篇文章： Flutter 下载篇 - 壹 | flutter_download_mana ......
Flutter 下载篇 - 贰 | 当下载器遇上切换网络库
需求背景 继上篇《Flutter 下载篇 - 壹 | flutter_download_manager 源码解析》中详细介绍了 flutter_download_manager 用法和原理。在优缺点中提到，该库纯 Dart 实现，支持下载管理，暂停，恢复，取消和断点续传。其中有个缺点是网络库与 di ......
重新定义性价比!人工智能AI聊天ChatGPT新接口模型gpt-3.5-turbo闪电更新,成本降90%,Python3.10接入
北国春迟，春寒料峭略带阴霾，但ChatGPT新接口模型gpt-3.5-turbo的更新为我们带来了一丝暖意，使用成本更加亲民，比高端产品ChatGPT Plus更实惠也更方便，毕竟ChatGPT Plus依然是通过网页端来输出，Api接口是以token的数量来计算价格的，0.002刀每1000个to... ......
linux网络编程中的errno处理
在网络编程中，处理网络连接、连接收发数据等经常会涉及到errno的处理。经过查阅了很多资料，发现没有一个系统的讲解，在不同阶段会遇到哪些errno，以及对这些errno需要如何处理。因此，本文将分为三个部分来讲解。 ......
我的语言模型应该有多大？
本文发表于 2020 年 6 月 8 日，虽然时间较久远，但现在看起来仍然是非常有价值的一篇文章。 在这个全民 LLM 的狂欢里，想测测你拿到的预算够训一个多大的模型吗？本文会给你一个答案，至少给你一个计算公式。 在自然语言处理领域，有时候我们恍惚觉得大家是为了搏头条而在模型尺寸上不断进行军备竞赛。 ......
Optimum + ONNX Runtime: 更容易、更快地训练你的 Hugging Face 模型
介绍 基于语言、视觉和语音的 Transformer 模型越来越大，以支持终端用户复杂的多模态用例。增加模型大小直接影响训练这些模型所需的资源，并随着模型大小的增加而扩展它们。Hugging Face 和微软的 ONNX Runtime 团队正在一起努力，在微调大型语言、语音和视觉模型方面取得进步。 ......
ATC：一个能将主流开源框架模型转换为昇腾模型的神奇工具
摘要：本文介绍了昇腾CANN提供的模型转换工具ATC，介绍了其功能、架构，并以具体样例介绍了该工具的基本使用方法以及常用设置。 本文分享自华为云社区《使用ATC工具将主流开源框架模型转换为昇腾模型》，作者： 昇腾CANN。 什么是ATC，它能做什么？ 昇腾张量编译器（Ascend Tensor Co ......
深入了解视觉语言模型
人类学习本质上是多模态 (multi-modal) 的，因为联合利用多种感官有助于我们更好地理解和分析新信息。理所当然地，多模态学习的最新进展即是从这一人类学习过程的有效性中汲取灵感，创建可以利用图像、视频、文本、音频、肢体语言、面部表情和生理信号等各种模态信息来处理和链接信息的模型。 自 2021 ......
在昇腾平台上对TensorFlow网络进行性能调优
摘要：本文就带大家了解在昇腾平台上对TensorFlow训练网络进行性能调优的常用手段。 本文分享自华为云社区《在昇腾平台上对TensorFlow网络进行性能调优》，作者：昇腾CANN 。 用户将TensorFlow训练网络迁移到昇腾平台后，如果存在性能不达标的问题，就需要进行调优。本文就带大家了解 ......
在线文本翻译能力新增14个直译模型，打造以中文为轴心语言的翻译系统
经济全球化的今天，人们在工作和生活中经常会与外语打交道。相较传播性较广的英语而言，其他语种的识别和阅读对大多数人来说是一件难事，此时就需要借助语言翻译软件来帮助理解。 华为 HMS Core 机器学习服务（ML Kit）翻译功能提供了多种翻译模式，不仅可以满足应用出行购物、网络社交等日常场景，还提供 ......
网络爬虫流程总结
网络爬虫的大体流程其实就是解析网页，爬取网页，保存数据。三个方法，就完成了对网页的爬取，并不是很困难。以下是自己对流程的一些理解和总结，如有错误，欢迎指正。 一、解析网页，获取网页源代码 首先，我们要了解我们要爬取的网页，以豆瓣为例，我们要了解模拟浏览器头部信息，来伪装成浏览器。以及爬取的内容是什么 ......
从宏观上理解计算机网络模型-坐在直升机上看网络
大家好，我是风筝 今天是轻解计算机网络系列第一解，从宏观上了解网络。主要介绍网络分成模型、基本传输过程。 学习任何一种新技术都应该是这样的顺序，先从宏观上了解这门技术的基本原理和作用。这就好像生物学家研究一种生物，不能上来就解刨吧，一定是从整体上观察了这种生物的体貌和形态。这里的宏观就像是一具动物骨 ......
内容分发网络 CDN
内容分发网络（英语：Content Delivery Network 或 Content Distribution Network，缩写：CDN）将源站资源缓存到全国各地的边缘服务器，供用户就近获取，降低源站压力。 ......
深度学习模型压缩方法概述
我们知道，一定程度上，网络越深，参数越多，模型也会越复杂，但其最终效果也越好，而模型压缩算法是旨在将一个庞大而复杂的大模型转化为一个精简的小模型。之所以必须做模型压缩，是因为嵌入式设备的算力和内存有限，经过压缩后的模型方才能部署到嵌入式设备上。工业界的模型压缩方法有：知识蒸馏、轻量化模型架构、剪枝、... ......
EF7创建模型入门篇
在EF7中，创建一个模型是非常重要的步骤。本文将使用微软官方文档中的指南，来学习EF7中的创建模型篇，外加一点点个人理解。 实体类型 在 EF7 中，你需要使用 modelBuilder.Entity() 方法来告诉 EF7 你要包含哪些类型。默认情况下，EF7 会将实体类型的名称设置为表的名称。但 ......
EF7创建模型继承映射篇
Entity Framework 7 (EF7)中的继承映射允许您将类层次结构映射到数据库中的表层次结构。具体而言，这意味着您可以创建一个基类，然后从该基类派生多个子类，并将这些子类映射到不同的数据库表。这使得在数据库中存储不同类型的数据变得更加方便，同时还能保持面向对象编程的优雅性。 EF7提供了 ......
EF7创建模型值生成篇
在 EF7 中，生成的值是非常重要的，因为它们决定了数据库表中的数据。在本文中，我们将以人员为例，使用 Fluent API 展示所有 EF7 生成值的功能。 我们先来看一下人员表的属性： public class Person { public Guid Id { get; set; } publ ......
取出预训练模型中间层的输出(pytorch)
1 遍历子模块直接提取 对于简单的模型，可以采用直接遍历子模块的方法，取出相应name模块的输出，不对模型做任何改动。该方法的缺点在于，只能得到其子模块的输出，而对于使用nn.Sequensial()中包含很多层的模型，无法获得其指定层的输出。 示例 resnet18取出layer1的输出 from ......
搭个ChatGPT算法模型，离Java程序员有多远？
这一篇文章先给我自己以及大家对 ChatGPT 开个门，让对此感兴趣的编程爱好者可以参与进去学习。在我感觉 ChatGPT 的出现会打破某些平衡，对一些事项进行秩序重置。因此也让更多的人获得了大量的机会。 ......
【白话科普】聊聊网络架构变革的关键——SDN
最近二狗子在网上冲浪的时候，不小心将 CDN 搜索成了 SDN，结果跳出来了一大堆相关的知识点。 好学的二狗子当然不会随随便便糊弄过去，于是认认真真学习了好久，终于了解了 SDN 是什么。 原来，SDN 的全称是 Software Defined Networking，是一类将网络控制平面与数据平面 ......
图卷积神经网络分类的pytorch实现
图神经网络（GNN）目前的主流实现方式就是节点之间的信息汇聚，也就是类似于卷积网络的邻域加权和，比如图卷积网络（GCN）、图注意力网络（GAT）等。下面根据GCN的实现原理使用Pytorch张量，和调用torch_geometric包，分别对Cora数据集进行节点分类实验。 Cora是关于科学文献之 ......
C4模型，架构设计图的脚手架，你值得拥有
hi，我是熵减，见字如面。 对于软件开发团队来说，写软件设计文档，花架构图，是日常工作中的关键一项。 而其中，如何画好系统设计的架构图呢？ Simon Brown 就 提出 C4 模型，来解决这个问题。 基于C4模型的脚手架，架构师们就可以统一团队内的不同层级的视角，交付一个成体系的架构设计。 下面 ......
模型预处理层介绍（1） - Discretization
预处理的作用主要在于将难以表达的string或者数组转换成模型容易训练的向量表示，其中转化过程大多是形成一张查询表用来查询。 常见的预处理方式包括： class Discretization: Buckets data into discrete ranges. class Hashing: Imp ......
Java 调用 PaddleDetection 模型
文章地址 介绍 训练好的模型要给业务调用，deepjavalibrary/djl：Java 中与引擎无关的深度学习框架 (github.com) 可以完成这件事，它支持使用 Java 调用 PyTorch、TensorFlow、MXNet、ONNX、PaddlePaddle 等引擎的模型（也支持部分 ......