模型 杀手 领域 时代
Ziya-LLaMA-13B 模型在GPU 上部署
# Ziya-LLaMA-13B 模型在GPU 上部署 Ziya-LLaMA-13B是IDEA-CCNL基于LLaMa的130亿参数的大规模预训练模型，具备翻译，编程，文本分类，信息抽取，摘要，文案生成，常识问答和数学计算等能力。目前姜子牙通用大模型已完成大规模预训练、多任务有监督微调和人类反馈学习 ......
聊聊HuggingFace如何处理大模型下海量数据集
翻译自： [Big data? 🤗 Datasets to the rescue!](https://huggingface.co/learn/nlp-course/chapter5/4?fw=pt#big-data-datasets-to-the-rescue "Big data? 🤗 Dat ......
量化自定义PyTorch模型入门教程
在以前Pytorch只有一种量化的方法，叫做“eager mode qunatization”，在量化我们自定定义模型时经常会产生奇怪的错误，并且很难解决。但是最近，PyTorch发布了一种称为“fx-graph-mode-qunatization”的方方法。在本文中我们将研究这个fx-graph- ......
领域建模的体系化思维与6种方法论
本文希望能够通过总结过去自己对领域建模的一点粗浅经验给需要的同学能有些许启发，少走弯路。 背景 软件工程师做的核心事情就是对现实世界的问题进行抽象然后用计算机的语言对其进行重新刻画，在通过信息化来提高生产力。而这其中一个关键环节就是如何对问题域进行建模，在过去的工作中经常遇到一个问题是前期因为业务比 ......
使用自动模型
本文通过文本分类任务演示了HuggingFace自动模型使用方法，既不需要手动计算loss，也不需要手动定义下游任务模型，通过阅读自动模型实现源码，提高NLP建模能力。 一.任务和数据集介绍 1.任务介绍 前面章节通过手动方式定义下游任务模型，HuggingFace也提供了一些常见的预定义下游任务模 ......
各类大模型的区别
LLama 词表扩展：Chinese LLaMa SwiGLU介绍PALMChatGLM-6BBLOOMtokenizer比较Layer Normalization激活函数位置编码高效参数微调方法 PEFTprompt tuningprefix tuning Adapter LLaMA-Adapte ......
Prism视图模型定位器（ViewModelLocator）
视图模型定位器（ViewModelLocator） 依照“标准命名约定”将 视图（View） 中的数据上下文链接到 视图模型（ViewModel） 的实例。 自动绑定视图模型 Prism 视图模型定位器 （ViewModelLocator） 有一个 AutoWireViewModel 属性：当设置为 ......
33页ppt《大语言模型综合能力测评报告（2023）》，文末附下载链接
ChatGPT的出现可以说是一股强劲的风潮，它开启了大型语言模型技术的繁荣时代。然而，自从2017年大型语言模型问世以来，OpenAI、微软、谷歌、Facebook、百度、华为等科技巨头一直在探索大型语言模型领域，持续不断地取得进展。ChatGPT只是将大型语言模型技术推向了一个爆炸式的发展阶段。当 ......
【专题】智能时代的生产力变革：AIGC产业应用实践报告PDF合集分享（附原数据表）
原文链接：https://tecdat.cn/?p=33544 自2022年11月ChatGPT发布以来，其超出预期的“涌现”能力彻底点燃了AIGC赛道。从人力资源角度来看，AIGC相关职位数量明显增加，并且人才对于这些职位的投递也更加积极。阅读原文，获取专题报告合集全文，解锁文末190份AIGC行 ......
【专题】AIGC时代的多模态知识工程思考与展望报告PDF合集分享（附原数据表）
原文链接：https://tecdat.cn/?p=33544 自2022年11月ChatGPT发布以来，其超出预期的“涌现”能力彻底点燃了AIGC赛道。从人力资源角度来看，AIGC相关职位数量明显增加，并且人才对于这些职位的投递也更加积极。阅读原文，获取专题报告合集全文，解锁文末190份AIGC行 ......
【专题】AI2.0时代如何通过AIGC打造爆款营销内容报告PDF合集分享（附原数据表）
原文链接：https://tecdat.cn/?p=33544 自2022年11月ChatGPT发布以来，其超出预期的“涌现”能力彻底点燃了AIGC赛道。从人力资源角度来看，AIGC相关职位数量明显增加，并且人才对于这些职位的投递也更加积极。阅读原文，获取专题报告合集全文，解锁文末190份AIGC行 ......
大模型算力推演优化实战
第一部分为看清：大模型的训练及推理过程是如何的，以及内部逻辑
第二部分为理解：大模型的训练及推理和算力的关系
第三部分为推演：用简单的公式量化大模型算力的需求
第四部分为优化：我们如何提高算力利用率 ......
共享模型之不可变
日期转换的问题 问题提出 下面的代码在运行时，由于 SimpleDateFormat 不是线程安全的 SimpleDateFormat sdf = new SimpleDateFormat("yyyy-MM-dd"); for (int i = 0; i < 10; i++) { new Threa ......
共享模型之无锁
CAS 有一个共享变量余额，多线程调用减余额方法 withdraw 减少这个共享的余额变量 balance 方法内会启动 1000 个线程，每个线程做 -10 元 的操作 * 如果初始余额为 10000 那么正确的结果应当是 0。结果却大于 0 加锁解决 class AccountUnsafe im ......
大模型和人一样需要 提高对 编程语言认知
今天在ChatGLM2-6B 的仓库里看到了这么一个issue： https://github.com/THUDM/ChatGLM2-6B/issues/122： 这位兄弟说的挺好，其中有点小错误：三星Tizen架构 其实不是架构，是属于arm架构 ，Tizen是 三星的一个操作系统。由此我想到了C ......
什么是敏捷开发中的scrum模型？
Scrum是一种敏捷软件开发的框架。敏捷开发是一种迭代和增量的开发方法，它强调灵活性、快速反应和客户协作。 Scrum特别适合于处理那些需求不断变化，或者不太清楚需求的复杂项目。它是一个轻量级的过程框架，用于管理复杂的创新性工作，它提高了团队之间的沟通和协作能力。 Scrum包括三个角色： 产品负责 ......
C++程序的内存模型--模型四区
C++中在程序运行前分为全局区和代码区 代码区特点是共享和只读 全局区中存放全局变量、静态变量、常量 常量区中存放const修饰的全局变量和字符串常量 //栈区//由编译器自动分配释放、存放函数的参数值、局部变量等//注意：不要返回局部变量的地址，栈区开辟的数据由编译器自动释放 /*堆区*/ //堆 ......
模型评估与选择
# 模型评估与选择 ## 数据集划分 > 留出法：直接将数据集划分为两个互斥集合 > K折交叉验证：“交叉验证法”(cross validation)先将数据集D划分为k个大小相似的互斥子集,每个子集D都尽可能保持数据分布的一致性,即从D中通过分层采样得到.然后，每次用k-1个子集的并集作为训练集, ......
《动手学深度学习 Pytorch版》 4.4 模型选择、欠拟合和过拟合
# 4.4.1 训练误差和泛化误差 整节理论，详见书本。 # 4.4.2 模型选择 整节理论，详见书本。 # 4.4.3 欠拟合还是过拟合 整节理论，详见书本。 # 4.4.4 多项回归 ```python import math import numpy as np import torch fr ......
COMP 636 BRMM模型算法
COMP 636: Python AssessmentDue: 5pm Monday 28 August 2023 Worth 40% of COMP636 grade Submit via Akoraka | LearnIntroductionThe Bankside-Rakaia Motorkh ......
智慧电力方案：安防监控/视频分析/智能分析网关AI识别技术在电力领域中的应用
电力巡检区域内部署的摄像头快速、便捷地接入，实现分散视频监控资源的统一汇聚与集中管理，并采用设备树进行分组、分级管理、角色与权限配置等，达到统一、集中、高效监管的目的。 ......
R语言随机波动模型SV：马尔可夫蒙特卡罗法MCMC、正则化广义矩估计和准最大似然估计上证指数收益时间序列|附代码数据
全文链接：http://tecdat.cn/?p=31162 最近我们被客户要求撰写关于SV模型的研究报告，包括一些图形和统计输出 本文做SV模型，选取马尔可夫蒙特卡罗法(MCMC)、正则化广义矩估计法和准最大似然估计法估计。 模拟SV模型的估计方法： sim <- svsim(1000,mu=-9 ......
三维模型OBJ格式轻量化顶点压缩主要技术方法分析
三维工厂K3DMaker是一款三维模型浏览、分析、轻量化、顶层合并构建、几何校正、格式转换、调色裁切等功能专业处理软件。可以进行三维模型的网格简化、纹理压缩、层级优化等操作，从而实现三维模型轻量化。轻量化压缩比大，模型轻量化效率高，自动化处理能力高；采用多种算法对三维模型进行几何精纠正处理，精度高，... ......
三维模型OBJ格式轻量化压缩在移动智能终端应用方面的重要性分析
三维工厂K3DMaker是一款三维模型浏览、分析、轻量化、顶层合并构建、几何校正、格式转换、调色裁切等功能专业处理软件。可以进行三维模型的网格简化、纹理压缩、层级优化等操作，从而实现三维模型轻量化。轻量化压缩比大，模型轻量化效率高，自动化处理能力高；采用多种算法对三维模型进行几何精纠正处理，精度高，... ......
MATLAB用GARCH模型对股票市场收益率时间序列波动的拟合与预测|附代码数据
全文链接：http://tecdat.cn/?p=24211 最近我们被客户要求撰写关于GARCH的研究报告，包括一些图形和统计输出。 使用 garch 指定一个单变量GARCH（广义自回归条件异方差）模型 （ 点击文末“阅读原文”获取完整代码数据******** ）。 garch 模型的关键参数包 ......
白话领域驱动设计DDD
容我找个借口先，日常工作太忙，写作略有荒废。一直想聊下领域驱动设计，以下简称DDD，之前也看过一些教程，公司今年两个项目--银行核心和信用卡核心，都深度运用DDD成功落地，有人说DDD挺难理解，在此讲下我的浅薄认知， 争取言简意赅的点明其核心要义。 先扔出几个名词：Domain领域对象--对照现实中 ......
未来芯片设计领域的药明康德——青芯如何在N个项目间游走平衡
总部位于上海张江的青芯半导体（CyanSemi），ASIC定制设计是其核心业务之一。 青芯在单纯的设计服务维度之上，打造了从设计到生产的一套完整ASIC定制业务，不仅做芯片设计，还提供封装、测试服务，也包括生产端的验厂和品控等环节，甚至能根据供应链和制造端的实际情况来反向调整和优化芯片设计阶段的工作 ......
跑AI大模型的K8s与普通K8s有什么不同？
在面对大模型AI火热的当下，咱们从程序员三大件“计算、存储、网络”出发，一起看看这种跑大模型AI的K8s与普通的K8s有什么区别？有哪些底层就可以构筑AI竞争的地方。 ......
一道小学一年级数学题，国产大模型全军覆没
让8个国产主流大模型做做小学一年级的数学题看看？ > 8月31日消息，首批大模型产品将陆续通过《生成式人工智能服务管理暂行办法》（以下简称《暂行办法》）备案，可正式上线面向公众提供服务。其中包括：百度文心一言、抖音云雀大模型、智谱AI的GLM大模型、中科院的紫东太初大模型、百川智能的百川大模型、商汤 ......
开放同飞，华为云发布盘古大模型全域协同生态
本文分享自华为云社区《开放同飞，华为云发布盘古大模型全域协同生态》，作者：华为云头条。 近日，主题为“开放同飞，共赢行业AI新时代”的华为云盘古大模型主题论坛在北京召开，华为云EI服务产品部部长尤鹏、多位华为云盘古大模型领域专家及客户、伙伴发表主旨演讲，就AI大模型发展趋势、技术创新实践、产业发展机 ......