MLPerf™ 推理基准套件- mlcommons-inference

发布时间 2024-01-12 03:49:12作者: 吴建明wujianming

MLPerf™ 推理基准套件- mlcommons-inference

MLPerf推理是一个基准套件,用于衡量系统在各种部署场景中运行模型的速度。

请参阅MLPerf推理基准文件,了解基准的详细描述以及基准套件背后的动机和指导原则。如使用此基准的任何部分(例如,参考实现、提交等),请引用以下内容:

@misc{reddi2019mlperf,

    title={MLPerf Inference Benchmark},

    author={Vijay Janapa Reddi and Christine Cheng and David Kanter and Peter Mattson and Guenther Schmuelling and Carole-Jean Wu and Brian Anderson and Maximilien Breughe and Mark Charlebois and William Chou and Ramesh Chukka and Cody Coleman and Sam Davis and Pan Deng and Greg Diamos and Jared Duke and Dave Fick and J. Scott Gardner and Itay Hubara and Sachin Idgunji and Thomas B. Jablin and Jeff Jiao and Tom St. John and Pankaj Kanwar and David Lee and Jeffery Liao and Anton Lokhmotov and Francisco Massa and Peng Meng and Paulius Micikevicius and Colin Osborne and Gennady Pekhimenko and Arun Tejusve Raghunath Rajan and Dilip Sequeira and Ashish Sirasao and Fei Sun and Hanlin Tang and Michael Thomson and Frank Wei and Ephrem Wu and Lingjie Xu and Koichi Yamada and Bing Yu and George Yuan and Aaron Zhong and Peizhao Zhang and Yuchen Zhou},

    year={2019},

    eprint={1911.02549},

    archivePrefix={arXiv},

    primaryClass={cs.LG}

}

MLPerf推理主机

下一个mlperf版本的开发在master分支中完成。目前的模型与mlperf-1.1中使用的模型相同,但该列表目前尚未最终确定。

有关详细信息,请参阅参考应用程序中的各个Readme文件。

 

MLPerf推理v1.1(提交日期:2021年8月13日)

如果想提交或重现v1.1版本的结果,请使用r1.1分支(gitcheckout r1.1)。

有关详细信息,请参阅参考应用程序中的各个Readme文件。

 

MLPerf推理v1.0(提交日期:2021年3月19日)

如果想提交或重现v1.0版本的结果,请使用r1.0分支(gitcheckout r1.0)。

有关详细信息,请参阅参考应用程序中的各个Readme文件。

 

MLPerf推理v0.7(提交日期:2020年9月18日)

如果要提交或重新生成v0.7结果,请使用r0.7分支(gitcheckout r0.7)。

有关详细信息,请参阅参考应用程序中的各个Readme文件。

 

MLPerf推理v0.5

如果想重现v0.5的结果,请使用r0.5分支(gitcheckout r0.5)。

有关详细信息,请参阅参考应用程序中的各个Readme文件。

参考文献链接:https://github.com/VeriSilicon/mlcommons-inference