top-K
Top-k compressor
在联邦学习中，"Top-k压缩机"（Top-k compressor）是一种用于压缩和传输梯度更新的算法。它被设计用于减小梯度更新的大小，从而减少在联邦学习中传输梯度所需的通信开销。 在传统的联邦学习设置中，参与方（例如设备或客户端）将本地模型的梯度计算结果发送给中央服务器进行聚合，以更新全局模型。 ......
LLM探索：GPT概念与几个常用参数 Top-k, Top-p, Temperature
## 前言 上一篇文章介绍了几个开源LLM的环境搭建和本地部署，在使用ChatGPT接口或者自己本地部署的LLM大模型的时候，经常会遇到这几个参数，本文简单介绍一下~ - temperature - top_p - top_k ### 关于LLM 上一篇也有介绍过，这次看到一个不错的图 >A rec ......