32G
使用单卡v100 32g或更低显存的卡，使用peft工具qlora或lora混合精度训练大模型chatGLM2-6b，torch混合精度加速稳定训练,解决qlora loss变成nan的问题！
最近新换了工作，以后的工作内容会和大模型相关，所以先抽空跑了一下chatGLM2-6b的demo，使用Qlora或lora微调模型 今天简单写个文档记录一下，顺便也是一个简单的教程，并且踩了qlora loss变成nan训练不稳定的问题 本教程并没有写lora的原理，需要的话自行查阅 1.chatG ......
工作频率高达64MHz（嵌入式）STM32G0B1KCU6和STM32G0B1KEU6 闪存 32-UFQFPN 32位微控制器
产品详情：STM32G0 32位微控制器 (MCU) 适合用于消费、工业和家电领域的应用，并可随时用于物联网 (IoT) 解决方案。这些微控制器具有很高的集成度，基于高性能ARM® Cortex®-M0+ 32位RISC内核，工作频率高达64MHz。 STM32G0B1 微控制器具有最高达512KB ......
为什么显卡的显存是1G 3G 6G 11G 22G 是奇数的倍数，而内存条是4G 8G 16G 32G 是偶数的倍数
为什么显卡的显存是1G 3G 6G 11G 22G 是奇数的倍数，而内存条是4G 8G 16G 32G 是偶数的倍数 GPT4： 显卡的显存和内存条的容量之所以有这种差异，主要原因是它们的设计和使用场景不同。 内存条（RAM）通常使用二进制存储数据，因此其容量通常是2的整数次幂（如2、4、8、16、 ......