手记chatglm cpp
初步体验 llama.cpp
第1步，准备一台阿里云4核8G的服务器，操作系统用的是 ubuntu 22.04；第2步，签出 llama.cpp 源码进行 build；第3步，下载 4-bit 版本的 Vicuna-7B 模型，文件大小是3.6G；第4步，使用这个模型输入提示词 `Tell me about cnblogs`；第... ......
ubuntu上搭建ChatGLM2-6b环境及ptuing微调训练的坑
清华大学的chatGLM2-6B可以说是目前亚洲唯一能打的对中文支持不错的LLM大模型，网上已经有很多介绍如何在本机搭建环境的文章，就不再重复了，这里记录下最近踩的一些坑： 1、为啥要使用ubuntu? chatGLM2-6b项目里有很多.sh文件，在windows下要正常运行通常要折腾一番，最后能 ......
ChatGLM
ChatGLM 本人是做视觉模型的，后续大模型这块在自然语言的火起来，后续视觉大模型要发展也是结合多模态，突然发现语言模型逃不开，还是需要学习点。在语言大模型这块呢，因为金钱和能力限制，坐不了真正意义的大模型，模型参数估计限制在10B内，为此需要找到合适的技术方向进行学习。（太大参数模型还真搞不了， ......
生成式人工智能体验[2]-ChatGLM2
## 摘要 在macOS(Apple Silicon M2)上运行ChatGLM2-6B大模型. ## ChatGLM2 在线体验(需要审核,手机收个验证码很快就通过了)[https://chatglm.cn] [https://github.com/THUDM/ChatGLM2-6B] [http ......
cpp: 指针赋值
char* pp = new char[100]; char d[100] = "geovindu，涂聚文"; string ddstr= "geovindu，涂聚文"; char *dstr=nullptr; pp = d; dstr = &ddstr[0]; printf(dstr); prin ......
阿里云部署langchain+chatglm2-6b大模型
[https://mp.weixin.qq.com/s/uvKQUeL6bf2eNwKOLk7c0w](https://mp.weixin.qq.com/s/uvKQUeL6bf2eNwKOLk7c0w) * 基本上参考这篇文章就ok * 需要注意的点 1. git-lfs的安装 https://g ......
linux cpp g++ mysqlconnector
1.install mysql in ubuntu; 2install mysqlconnector; sudo apt install libmysqlclient-dev 3.complete code #include <algorithm> #include <chrono> #includ ......
cpp17关键新增特性理解
### 折叠表达式 折叠表达式（Fold Expression）是C++17标准中引入的一个特性，它是一种用于处理可变参数模板展开的简洁语法。折叠表达式允许在编译时对参数包中的参数进行折叠操作，从而产生一个单一的值。这种特性在处理模板元编程和可变参数模板时非常有用，可以显著简化代码并提高代码的可读性 ......
cpp14关键新增特性理解
### new/delete elision "new/delete elision" 是 C++ 中的一个优化技术，用于减少由于动态内存分配和释放而产生的性能开销。它发生在编译器优化的过程中，可以将某些动态内存分配和释放的操作消除，从而提高程序的执行效率。 具体来说，"new/delete eli ......
cpp generate uuid via rand() and test speed which is 4 times+ faster than libuuid
// main.cpp #include <algorithm> #include <chrono> #include <cstdio> #include <cstdlib> #include <cstdint> #include <ctime> #include <fstream> #includ ......
cpp generate uuid by random
#include <cstdio> #include <cstdlib> #include <ctime> #include <cstdint> uint32_t rand32() { return ((rand() & 0x3) << 30) | ((rand() & 0x7fff) << 15) ......
Helix-Editor一款类Vim的轻便编辑器——全套配置（cpp环境）
## Helix Helix-Editor编辑器，是一款用Rust语言编写的编辑器，操作体验继承了Vim的传统操作方式。 ### 一些必备的 1. 一个好看的字体 2. 一个新版的powershell 3. 一个oh-my-posh 4. 一个好看的Terminal 5. 一个helix 6. 一个 ......
cpp generate random array and then quick sort
#include <algorithm> #include <chrono> #include <ctime> #include <fstream> #include <iomanip> #include <iostream> #include <random> #include <sstream> ......
mongodb从库无法启动一例(replication_recovery.cpp)
环境:OS:centos 7mongodb:4.4.22 背景:1主1从1仲裁的环境,修改从库的集群ip后,执行如下操作后发现无法启动myrepl:PRIMARY> rs.remove("192.168.1.104:29001")myrepl:PRIMARY> conf=rs.conf()myrep ......
LangChain+ChatGLM2-6B搭建知识库
ChatGLM2-6B 介绍 ChatGLM2-6B 在保留了初代模型对话流畅、部署门槛较低等众多优秀特性的基础之上，引入了如下新特性： • 更强大的性能：基于 ChatGLM 初代模型的开发经验，全面升级了基座模型。ChatGLM2-6B 使用了 GLM 的混合目标函数，经过了 1.4T 中英标识 ......
cpp class constructor initialize list and override cout
//book.h#pragma once #include <iostream> class book { public: int idx; std::uint64_t id; std::string author; std::string content; std::string comment; ......
用googletest写cpp单测
## 框架概述 Google Test（也称为 googletest）是由 Google 开发的 C++ 单元测试框架。它的首个版本是在2004年发布的，作为 Google 内部的测试框架使用。随后，Google Test 在开源社区中得到广泛应用，并在许多项目和组织中成为首选的 C++ 单元测试框 ......
【HMS Core】AR Engine中，运行时出现../../../../src/main/cpp/world_ar_application.h:30:10: fatal error: 'glm.hpp' file not found错误
【问题描述】 1、AR Engine中，从官网下载的“NDK示例代码”，运行时出现../../../../src/main/cpp/world_ar_application.h:30:10: fatal error: 'glm.hpp' file not found，该如何解决？ 2、arengi ......
与 AI 同行，利用 ChatGLM 构建知识图谱
通过一些实践发现，ChatGPT 的确可以根据海量文本数据自动生成实体、属性和关系三元组等知识元素，从而快速构建大规模的知识图谱。 ......
ChatGLM2 部署全过程每一步超详细
打开autodl，创建实例Tesla T4 * 1卡使用miniconda镜像。 ## 方法一：从huggingface下载 这个步骤不稳定我们换种下载方式 ```bash apt-get update apt install git-lfs git lfs install git clone ht ......
java随手记
#### java中关于日期的转换 ```java Date nowTime=new Date();//获取系统时间; SimpleDateFormat adf=new SimpleDateFormat("yyyy-MM-dd HH:mm:ss SSS"); String nt=adf.format ......
（转载）C++头文件包含：cpp包含不同目录的同名头文件，实际使用哪个头文件？
**总结：** 1、cpp中使用哪个同名头文件由CMakeLists.txt中包含的先后顺序决定，使用前面的，后面的被忽略。 2、为避免麻烦，禁止定义同名头文件。 参考链接：https://blog.csdn.net/qq_33726635/article/details/115979696 ......
使用whisper批量生成字幕(whisper.cpp)
### 前言 最近发现了whisper这个语音生成字幕的本地工具，但是whisper速度不算快，然后在github上发现了whisper.cpp这个项目，执行速度更快，还可以在命令行使用，这样就可以自己定制了。 ### 命令行压缩包下载 命令行下载地址:https://github.com/Cons ......
centos7.6 搭建langchain-ChatGLM2-6B 超简易过程
刚接触这个大模型项目的时候，在两台笔记本上搞来搞去，花费3、4天时间，最后由于配置太低，没能跑得起来，无奈直接到阿里云买的服务器，装了一下午大概6、7个小时，中间遇到很多环境包的问题，无非是些gcc、python、ssl等。后来在社区群里学到conda，使用conda创建和管理虚拟环境，比较方便建立 ......
Unity3D高级编程主程手记 学习笔记五：网络通讯
1.C#实现TCP 1.1 实现所需API C#提供了TCP的Socket连接API。一般的游戏项目我们不会使用阻塞方式连接和接收。因为我们不会让游戏卡住等待传输链接，大多数情况下我们还是会使用更加平滑的异步操作作为网络连接和收发的操作。常用的API如下： BeginConnect : 开始连接 B ......
python3使用pip安装wordcloud报错error: Microsoft Visual C++ 14.0 or greater is required. Get it with "Microsoft C++ Build Tools": https://visualstudio.microsoft.com/visual-cpp-build-tools/
背景： 使用的是Anaconda集成环境，python版本是：3.10，安装wordcloud包，使用的命令是：pip install wordcloud，出现报错：error: Microsoft Visual C++ 14.0 or greater is required. Get it wit ......
ChatGLM-6B落地实践——Cpu模式
一、环境安装 1、安装Python 下载地址：https://www.python.org/downloads/release/python-3106 记得要勾选path 安装完成后，命令行里输入Python -V，如果返回Python 3.10.6那就是成功安装了 命令行里输入 python -m ......
Unity3D高级编程主程手记 学习笔记四：3D模型与动画
1.美术资源规范 一个项目中，资源的规范是非常重要的。资源不进行规范，会导致项目的性能变差，例如，模型过大，模型面数过多，压缩不够等都会导致加载变慢，游戏卡顿。所以，对与美术资源来说，并不是模型越精细就越好，应该是在一定条件的限制下努力做到更加好的美化。 美术资源的大小规范：通常可以根据行业经验来确 ......
BUUCTF simple Cpp
simple Cpp 有两个难点，第一个就是字节叠加的判断，第二个是一堆莫名其妙的运算的化简 还有一些其他稀碎的难点，例如第一次加密，以及程序流程的分析 整个程序很长，分析出flag的流程比较麻烦 比较常规的异或加密 判断长度 字节叠加的操作，第一次见 特征就是会不停累加，并且有左位移的操作 这里是 ......
ChatGLM-6B阿里云服务器部署及微调笔记
## 1、ChatGLM-6B阿里云服务器部署 整体参考 零基础，零成本，部署一个属于你的大模型 https://blog.csdn.net/qqxx6661/article/details/130311311?ops_request_misc=&request_id=&biz_id=102&utm ......