ControlNet-trt

ControlNet-trt优化总结4：onnx图修改与重建 在这一节中，主要总结网络层面的优化，针对于算子插件优化，主要聚焦于以下几点： 修改onnx图，添加不支持的算子插件 增加前后处理部分，前后处理导出为onnx图 onnx图surgeon 原有的graph中存在大量的GN操作，正常fp32的 ......

ControlNet-trt优化总结3：使用multi-stream和cuda-graph构建并行流水线 上节谈到使用TRT-API来构建网络，在这一节中总结一些trick来提升模型的运行效率，这些trick在所有的trt优化中均可使用，主要有以下几点： 使用cuda_graph减少kernel间的 ......

ControlNet-trt优化总结2：使用TRT-API从零构建ControlNet网络 在上节讲到，可以通过手动搭建trt网络的方式来重新构造controlnet网络，这样可以避免onnx中间转换过程中的精度损失，也可避免onnx中间转化时的算子被拆解的细碎的情况，对于不支持的算子，也可通过添加 ......

# trt-hackthon2023 ControlNet-trt优化总结 ## 题目简介 本届赛题是模型优化赛，和上届的hackthon一样，也是借助于TensorRT工具，实现对深度模型的加速，本届赛题要优化的模型为controlNet，即为类SD的图像生成模型。 比赛地址： https://t ......