模型qlora技术lora
躬身入局,干货分享,2023年春招后端技术岗(Python)面试实战教程,Offer今始为君发
早春二月，研发倍忙，杂花生树，群鸥竟飞。为什么？因为春季招聘，无论是应届生，还是职场老鸟，都在摩拳擦掌，秣马厉兵，准备在面试场上一较身手，既分高下，也决Offer，本次我们打响春招第一炮，躬身入局，让2023年的第一个Offer来的比以往快那么一点点。 ......
国内“谁”能实现chatgpt，短期穷出的类ChatGPT简评（算法侧角度为主），以及对MOSS、ChatYuan给出简评，一文带你深入了解宏观技术路线。
国内“谁”能实现chatgpt，短期穷出的类ChatGPT简评（算法侧角度为主），以及对MOSS、ChatYuan给出简评，一文带你深入了解宏观技术路线。 ......
C4模型，架构设计图的脚手架，你值得拥有
hi，我是熵减，见字如面。 对于软件开发团队来说，写软件设计文档，花架构图，是日常工作中的关键一项。 而其中，如何画好系统设计的架构图呢？ Simon Brown 就 提出 C4 模型，来解决这个问题。 基于C4模型的脚手架，架构师们就可以统一团队内的不同层级的视角，交付一个成体系的架构设计。 下面 ......
模型预处理层介绍（1） - Discretization
预处理的作用主要在于将难以表达的string或者数组转换成模型容易训练的向量表示，其中转化过程大多是形成一张查询表用来查询。 常见的预处理方式包括： class Discretization: Buckets data into discrete ranges. class Hashing: Imp ......
基于深度学习的表格检测与识别技术的优势
引言： 信息时代的高速发展导致数据的大量产生与频繁传输，单单依靠人力很难处理这些数据。依托于人工智能的兴起与发展，数据的利用变得更加高效。表格作为数据的一种重要载体，是人们为了让数据的组织形式更加标准和结构化而使用的一种数据类型。 表格的特点： 信息高度精炼集中，方便信息的检索和比较。表格被广泛用于 ......
Java 调用 PaddleDetection 模型
文章地址 介绍 训练好的模型要给业务调用，deepjavalibrary/djl：Java 中与引擎无关的深度学习框架 (github.com) 可以完成这件事，它支持使用 Java 调用 PyTorch、TensorFlow、MXNet、ONNX、PaddlePaddle 等引擎的模型（也支持部分 ......
slate源码解析（二）- 基本框架与数据模型
源码架构 首先来看下最核心的slate包下的目录： 可以看到，作为一个开源富文本库，其源码是相当之少。在第一篇文章中说过，Slate没有任何开箱即用的功能，只提供给开发者用于构建富文本所需的最基本的一套schema及操作API。因此源码的体量自然就要少许多。 我们来预览上图中各个目录下文件所负责的功 ......
Python绘制神经网络模型图
本文介绍基于Python语言，对神经网络模型的结构进行可视化绘图的方法。 最近需要进行神经网络结构模型的可视化绘图工作。查阅多种方法后，看到很多方法都比较麻烦，例如单纯利用graphviz模块，就需要手动用DOT语言进行图片描述，比较花时间；最终，发现利用第三方的ann_visualizer模块，可 ......
随机森林RF模型超参数的优化：Python实现
本文介绍基于Python的随机森林（Random Forest，RF）回归代码，以及模型超参数（包括决策树个数与最大深度、最小分离样本数、最小叶子节点样本数、最大分离特征数等）自动优化的代码~ ......
生产者消费者模型
生产者消费者模型 什么是生产者消费者模型 我们可以把这个模型想象成工厂里的两条流水线，我们管他们叫生产者流水线和消费者流水线，生产者流水线生产出来的产品给消费者流水线使用，其中生产者流水线先把生产出来的产品放在仓库，然后消费者流水线再去仓库拿。这个仓库就叫做阻塞队列。 那么，这个仓库的实现有什么要求 ......
服务端技术方案模板参考
如何写好一个技术方案对于开发来说非常关键，这是一个工程类技术方案模板，基于我之前的一些积累，适合相对独立的业务需求承接。 实际开发中可以作为一个模板来套用，在这个基础上进行增加或者删减。 一、概要 很多时候，大家做项目的时候容易陷入为了上线而上线，尤其技术出身的同学，接到一个项目后，会陷入快速了解需 ......
模型压缩-剪枝算法详解
近年来主流的模型压缩方法包括：数值量化（Data Quantization，也叫模型量化），模型稀疏化（Model sparsification，也叫模型剪枝 Model Pruning），知识蒸馏（Knowledge Distillation）， 轻量化网络设计（Lightweight Netwo... ......
基于pytorch实现模型剪枝
所谓模型剪枝，其实是一种从神经网络中移除"不必要"权重或偏差（weigths/bias）的模型压缩技术。本文深入描述了 pytorch 框架的几种剪枝 API，包括函数功能和参数定义，并给出示例代码。 ......
互联网技术大佬独立博客推荐
1，bang's blog 17 年就是蚂蚁金服 P8 的前端大佬。博客质量基本都很高，看他的文章会让我得到些思考，比如文章中的 “心流”（我的叫法跟他的不一样，但内核一样）的描述，我之前也有过类似的状态，但只有一次，就是高三临场抱佛脚，花了 3 周让自己的排名进步了近 1000 名的复习经历，可惜 ......
我用ChatGPT做直播技术选型，卷死了同事
摘要 近两年即时通讯/直播产品炙手可热，市场上针对ToB的产品日益增多，企业该如何去选型呢？本文分享了笔者对于直播产品的思考，将从直播SDK实例功能特性、常见业务场景、注意事项及最佳实践等方面介绍如何进行实例选型，旨在帮助您了解应如何结合实际业务场景选购音视频产品。 前言 近期，ChatGPT火遍全 ......
【Oculus Interaction SDK】（九）使用控制器时显示手的模型
前言 前段时间 Oculus 的 SDK 频繁更新，很多已有的教程都不再适用于现在的版本了。本系列文章的主要目的是记录现版本常见功能的实现方法，便于自己后续开发。当然，不排除我文章刚写完 SDK 又变了的可能性，所以如果有人发现文章的内容已经不适用于新版本了，也可以留评论或者私信我，我会持续更新文章 ......
【技术与资本思维】技术创业如何看待融资
前言：有些意外，也很感激，上篇文章发布之后，还有朋友记得曾经的那个我，曾经的我们！因为经历的转变，角色的变化，尤其是投资的角色，很多园友私信和留言，想聊聊这方面。 这个话题背后的动机很明确：技术人员创业如何拿钱？技术型的产品的公司如何拿钱？ 说简单，也是很简单，说复杂，聊三天三夜，都不一定说的完。我 ......
【深入职场两茫茫，不思量自迷茫】技术流浪，职场漂泊
最近《流浪地球》火了，剧情或多或少大家都知道，其实我们每个人的也都是有类似的经历：为了生存，发展，或者梦想（现在谈梦想似乎是一个奢侈且遥远的事情），不断的辗转，当自己心中的太阳还没有找到的时候，就难以找到照亮自己的道路 ......
2023 年该学点什么技术？「GitHub 热点速览 v.23.03」
春节期间，小鱼干读了一篇万字回顾数据库行业的文章，在文字缝隙里我看见了两个词：AI+ 和数据两个词（当然数据是废话，毕竟是一个数据库的回顾文）。在 GitHub 上热点趋势上，可见到 AI+ 的身影，几乎百分之九十迅速蹿红的项目都同 AI 相关。所以在兔年的开头，本期收录一些入门 AI 的项目，希望 ......
如何避免让线程摸鱼，请用异步技术 async await 拿捏他~
发现问题 你点了外卖后，会一直不做其它事情，一直等外卖的到来么？ 当然不会拉！ 我们来看看代码世界的： public void Query(){ // 当前线程 向 数据库服务器 发起查询命令 // 在 数据库服务器 返回数据之前，当前线程 一直等待，不干活了！！！ var data = Datab ......
用户行为分析模型实践（三）——H5通用分析模型
本文从提升用户行为分析效率角度出发，详细介绍了H5埋点方案规划，埋点数据采集流程，提供可借鉴的用户行为数据采集方案；且完整呈现了针对页面分析，留存分析的数仓模型规划方案。 ......
面试官：什么是双亲委派模型？
双亲委派模型是 Java 类加载器的一种工作模式，通过这种工作模式，Java 虚拟机将类文件加载到内存中，这样就保证了 Java 程序能够正常的运行起来。那么双亲委派模型究竟说的是啥呢？接下来我们一起来看。 1.类加载器 双亲委派模型针对的是 Java 虚拟机中三个类加载器的，这三个类加载器分别是： ......
Node.js 应用全链路追踪技术——全链路信息存储
本文主要介绍在Node.js应用中， 如何用全链路信息存储技术把全链路追踪数据存储起来，并进行相应的展示，最终实现基于业界通用 OpenTracing 标准的 Zipkin 的 Node.js 方案。 ......
ChatGPT 背后核心技术的白话版
本文是关于ChatGPT 背后核心技术实现的一个通俗白话版，不涉及到的AI具体实现的技术细节哦。 在编排上增加了一些分割，内容具体如下： LLMs（大型语言模型） 如果将ChatGPT比作是动物，它就像一只饥饿的毛毛虫一样，毛毛虫喜欢啃食树叶，并不断的长大。 LLMs（大型语言模型）也喜欢吞噬大量的 ......
用GC的策略，管理团队的技术债务
在数字化时代，每一个组织的经营都是建立在数字化的系统之上的，而数字化系统的构建，必然就会带来技术债务，这是每一个数字化团队都要面临的一个问题，如何有效的管控技术债务。 技术债务的产生，是技术团队不断迭代构建系统过程中，无法一次性预设所有的需求，而随之产生了系统设计上的扭曲失真。 在了解了技术债务产生 ......
Node.js+Koa2+TypeScript技术概览
最近几年一直使用Node.js作为后端服务平台，通过Koa2框架中间件快速搭建Web服务，但是使用JavaScript开发大型后端服务时会使程序变得难以维护，继而使用TypeScript语言开发，使编译、调试、检查和代码管理变得更加容易。 下图是使用Koa2框架搭建后端服务的思维导图： 一、Node ......
使用 LoRA 进行 Stable Diffusion 的高效参数微调
LoRA: Low-Rank Adaptation of Large Language Models 是微软研究员引入的一项新技术，主要用于处理大模型微调的问题。目前超过数十亿以上参数的具有强能力的大模型 (例如 GPT-3) 通常在为了适应其下游任务的微调中会呈现出巨大开销。 LoRA 建议冻结预 ......
设计「业务」与「技术」方案
三天研发，两天设计； 01 【优先做设计方案】 职场中的那些魔幻操作，研发最烦的是哪个？ 作为一个数年且资深的互联网普通开发，可以来说明一下为什么是：缺乏设计； 面对业务需求的时候，可能都听过这样一句话： 这个很简单，直接开发，三天内上线； 产品听了流泪，测试见了崩溃，研发眉头一皱直呼什么鬼； 如果 ......
SpringBoot学习笔记 - 构建、简化原理、快速启动、配置文件与多环境配置、技术整合案例
【前置内容】Spring 学习笔记全系列传送门： Spring学习笔记 - 第一章 - IoC（控制反转）、IoC容器、Bean的实例化与生命周期、DI（依赖注入） Spring学习笔记 - 第二章 - 注解开发、配置管理第三方Bean、注解管理第三方Bean、Spring 整合 MyBatis 和 ......