526互联

ggml

ggml教程|mnist手写体识别量化推理

title: ggml教程|mnist手写体识别量化推理 banner_img: https://cdn.studyinglover.com/pic/2023/11/fa14d6dfd95fb9d38276a50a5519e2d2.webp date: 2023-11-12 18:49:00 ggm ......
手写体 教程 mnist ggml

使用GGML和LangChain在CPU上运行量化的llama2

Meta AI 在本周二发布了最新一代开源大模型 Llama 2。对比于今年 2 月发布的 Llama 1，训练所用的 token 翻了一倍，已经达到了 2 万亿，对于使用大模型最重要的上下文长度限制，Llama 2 也翻了一倍。 在本文，我们将紧跟趋势介绍如何在本地CPU推理上运行量化版本的开源L ......
LangChain llama2 llama GGML CPU
共2篇  :1/1页 首页上一页1下一页尾页