上下文 显存 史诗flashattention
阿里云史诗级崩溃。。。
前言 昨天晚上阿里云史诗级崩溃了。 涉及到阿里云盘、淘宝、咸鱼、钉钉、语雀等等多条业务线产品。 “阿里云盘崩了”“淘宝又崩了”“闲鱼崩了”“钉钉崩了”等话题相继登上热搜，阿里系诸多产品受到影响。 这一次事故，影响范围之大，可以说是史诗级别的。 1 语雀出现异常 昨天那段时间，我正在使用语雀编辑知识星 ......
阿里云严重故障，钉钉、淘宝、闲鱼、阿里云盘都崩了，阿里系史诗级故障！！
大家好，我是栈长。 昨天 17 点多，栈长兴致来了，忙里偷闲正在看了一把 LOL S13 淘汰赛，没想到比赛还没看完朋友圈就已经炸锅了： 朋友圈有人开玩笑说，阿里 35 岁的人是不是都被优化了？还是双 11 后都松懈了？这大周末的还让加班？让不让人省心点。。 这我看完也有点懵 B ，大家还记得上次的 ......
input type="number" 时去除上下按钮样式
全局样式 /* 取消[type='number']的input的上下箭头 */ input::-webkit-inner-spin-button { -webkit-appearance: none !important; } input::-webkit-outer-spin-button { - ......
学习Spring-Data-Jpa(十九)---JPA的持久性上下文
学习Spring-Data-Jpa(十九) JPA的持久性上下文 1、持久化上下文 JPA中有持久化上下文存在，但是开发者不直接与之打交道，持久化上下文在应用程序中是透明的。 我们可以把持久化上下文理解成一个Map，该Map在事务开始的时候创建，在事务结束的时候销毁。在事务中，可以把对象关联到持久化 ......
上下文中找不到org.springframework.boot.web.servlet.server.ServletWebServerFactory bean
1.问题 报错如下： Description: Web application could not be started as there was no org.springframework.boot.web.servlet.server.ServletWebServerFactory bean ......
Tokio 在同步上下文中执行异步代码
从 spawn 说起 Tokio 库中有两个同名的量, 它们都叫 spawn, 但是却有着显著的区别: 其中一个是 tokio::runtime::Runtime 结构体的方法 (method), 另一个是 tokio::task 模块的一个函数, 同时也是你使用 tokio::spawn 时直接使 ......
自然语言处理历史史诗：NLP的范式演变与Python全实现
本文全面回顾了自然语言处理（NLP）从20世纪50年代至今的历史发展。从初创期的符号学派和随机学派，到理性主义时代的逻辑和规则范式，再到经验主义和深度学习时代的数据驱动方法，以及最近的大模型时代，NLP经历了多次技术革新和范式转换。文章不仅详细介绍了每个阶段的核心概念和技术，还提供了丰富的Pytho ......
Linux的中断上下文中不能睡眠
Understanding the Linux Kernel, 3rd Edition在4.3. Nested Execution of Exception and Interrupt Handlers提到中断处理中不能阻塞，原文如下， The price to pay for allowing n ......
vscode 怎么在 ctrl+p ( 转到文件 ) / ctrl+shift+o ( 转到编辑器中的符号 ) 时通过自定义按键上下移动 | 通过 jk 上下移动 | vscodevim | vim | 配置
解决方法： 使用 PowerToy ( microsoft/PowerToys: Windows system utilities to maximize productivity (github.com) ) 来进行按键映射。 ......
使用单卡v100 32g或更低显存的卡，使用peft工具qlora或lora混合精度训练大模型chatGLM2-6b，torch混合精度加速稳定训练,解决qlora loss变成nan的问题！
最近新换了工作，以后的工作内容会和大模型相关，所以先抽空跑了一下chatGLM2-6b的demo，使用Qlora或lora微调模型 今天简单写个文档记录一下，顺便也是一个简单的教程，并且踩了qlora loss变成nan训练不稳定的问题 本教程并没有写lora的原理，需要的话自行查阅 1.chatG ......
服务器常见问题排查（一）——cpu占用高、上下文频繁切换、频繁GC
一般而言cpu异常往往还是比较好定位的。原因包括业务逻辑问题(死循环)、频繁gc以及上下文切换过多。而最常见的往往是业务逻辑(或者框架逻辑)导致的，可以使用jstack来分析对应的堆栈情况。 ......
linux中执行uefi runtime service call的内存上下文切换
当linux kernel从UEFI启动之后尽管boot service退出了但是仍然可以使用runtime service。这就引发了一个问题：存在于uefi内存空间的code如何被kernel调用。 首先找一个调用efi runtime service的例子： static void efi_c ......
安信可开发环境构建-基于Ai-WB2系列 和 Ai-M61 或 Ai-M62 （环境上下文切换）
首先，对于Ai-WB2系列环境的构建官方文档已经讲的非常明白了，这里不做阐述如下链接所示https://blog.csdn.net/Boantong_/article/details/128480919 本人亲自测试可行，请严格follow官方的steps。 另外需要注意的是，为了避免错误，尽量不要 ......
【文心一言】百度千帆 Python 和 JavaScript 调用上下文 API
接口为：百度 ERNIE-Bot-4（邀测） 控制台直达链接 Javascript const AK = "ur AK" const SK = "ur SK" const axios = require("axios").default; let access_token = "ur token" ......
sqlserver 服务器主体 无法在当前安全上下文下访问数据库
SELECT name, database_id, is_trustworthy_on FROM sys.databases ALTER DATABASE bole_data SET TRUSTWORTHY ON ALTER AUTHORIZATION ON DATABASE::bole_data ......
FlashAttention 如何加速Attention计算？
代数聚合 计算向量\(\mathbf x^l \in \mathbb R^{1 \times d}\)的softmax值 \[m(\mathbf x^l) = max(x_i^{l}) \\ f(\mathbf x^l) = [e^{x_1^l-m(\mathbf x^l)}, \cdots, e^ ......
C语言数据类型占用字节大小+modport存在的意义+传输延迟和惯性延迟+上下拉+forwarding和bypass+流水线的冒险
C语言数据类型占用字节大小 最大整形宽度是8字节。 modport存在的意义 似乎modport的存在没有意义了。只是将信号变得更冗长。但是又是有意义的，因为modport里的赋值变化是没有延迟的，而clocking受到配置的影响。 https://blog.csdn.net/hh199203/ar ......
with 上下文管理器
with 上下文管理器 文件读取三步骤 # 读或写方式打开文件 f = open('python.txt','w') # 读或写文件 f.write('hello python') # 关闭文件 f.close() 文件使用完之后，必须关闭文件。因为文件对象会占用操作系统的资源，并且操作系统同一时间 ......
iOS scrollerView 嵌套tableview 上下滑动
self.bgScrollView.bounces = NO; ///和后边bottomCellOffset 正好相反 CGFloat maxH = (Screen_Height - self.bgScrollView.tableViewBottomFloat - Screen_NAV_Height ......
奇怪的需求之 echarts legend设置为scroll后，需要鼠标也能触发上下滚动
直接上解决代码： const myChart = this.$echarts.init(this.$refs[ref]) myChart.setOption(option) // 该监听器正在监听一个`zrender 事件`。 const legend = option.series[0].data ......
[学习笔记] 浏览器F12检查中应该如何判断margin的上下左右？
如下图所示，margin上下左右四个方向分别是1px, 2px, 3px, 4px。 而在浏览器F12检查时，margin显示如下图所示： 即浏览器检查时显示的margin值，是按照上、右、下、左的顺序来的。 该规律在padding也同样适用。 ......
函数调用栈-执行上下文栈
一 调用栈 我们知道栈的特点是，先进后出的。那么函数的执行上下文栈又是怎么样的呢？ 先看这段代码 var a = 2 function p2(b,c){ return b+c； } function p1(b,c){ var d = 10; result = p2(b,c); return a + ......
【分享】讯飞星火认知大模型Python调用上下文测评
一个很常用的用法，先是system提示 , 然后是user问题 {"role": "system", "content": "假设你是个程序员，你的微信是llike620"}, {"role": "user", "content": "微信多少"} openai测试 import openai # ......
【分享】百度千帆大模型Python调用上下文测评
一个很常用的用法，先是system提示 , 然后是user问题 {"role": "system", "content": "假设你是个程序员，你的微信是llike620"}, {"role": "user", "content": "微信多少"} openai测试 import openai # ......
vue实现高亮搜索查询加上下箭头移动定位的功能
在文档中查找 {{ num 0 ? "没有任何结果" : indexNum + 1 + "/" + num }} 上一个 下一个 < > --> <ul class="left-tools"> <li class="title">钢联数据智能版帮助手册</li> <li v-for="item in ......
Windows怎么查看英伟达显卡显存消耗
参考：https://zhidao.baidu.com/question/507196547206068124.html 使用命令 nvidia-smi ......
神经网络训练时，为什么loss值不稳定，测试集准确率上下浮动？
神经网络训练时，为什么loss值不稳定，测试集准确率上下浮动？ https://www.zhihu.com/question/600770126/answer/3027268624 神经网络训练时，loss值 不稳定往往是由于以下几个原因： 1. 数据集的噪声和不确定性会导致训练时的随机性 ，从而导 ......
在安全数字包裹机制下，汽车制造业如何安全可控地实现上下游协作？
随着互联网的发展，现在越来越多的企业通过传递电子文件的形式实现网上办公，提高便捷性的同时，也带了文件泄露的风险。尤其是一些机密文档，万一不小心外泄出去，对企业的造成的影响将是不可估量的。 2023年1月，小米官方发布“小米汽车保险杠设计图外泄”事件的处理结果，小米二级供应商北京某模塑科技有限公司因对 ......
flask上下文、g变量、current_app
在flask中的上下文分为两种 ： 请求上下文 (request context) 也就是和请求相关的上下文，记录一些请求相关的数据。 包含： 1、request请求对象 2、session会话 应用上下文 （app context） 记录一些和flask的应用（app=Flask(name)）的上 ......