corpus

cleaning of llm corpus 大模型语料清洗 数据是人工智能领域发展的基础要素之一。随着大规模预训练模型及相关技术不断取得突破，在相应研究中使用高效数据处理工具提升数据质量变得越来越重要。llm_corpus_quality集成了包含清洗、敏感词过滤、广告词过滤、语料质量自动评估等功 ......

一、场景(用户交互)： 1. 用户发起新会话Session，初始化交互系统，等待 用户输入 或 传入任务文档； 2. 用户实时输入，触发实时交互，设当前输入句子为S: 当前输入句子 S 长度未定，并且可能是动态字符流式输入： 因此可以用 Sliding Window滑动窗口, 提取 当前输入单词Wo ......