ncnn
ncnn的blob_vkallocator、workspace_vkallocator、staging_vkallocator区别
ncnn::Extractor中有三个成员函数： void set_blob_vkallocator(VkAllocator* allocator); void set_workspace_vkallocator(VkAllocator* allocator); void set_staging_v ......
使用Vulkan-Loader将ncnn代码改成Dynamic Loader Vulkan的形式
原本你写的程序是静态链接的系统的vulkan-1.dll，如果系统不存在vulkan-1.dll，则会直接崩溃。 关于将ncnn静态链接vulkan改成动态加载vulkan的形式，然后提供这两个函数 bool ncnn::has_vulkan(); void ncnn::use_vulkan(boo ......
NCNN推理ResNet18
前一篇实现了[OpenCV推理ResNet18](https://www.cnblogs.com/xiaxuexiaoab/p/17571626.html), 这一篇采用腾讯的NCNN框架实现ResNet18推理。 ### 一、准备 #### 1、 NCNN编译及安装 同OpenCV推理一样，首先需 ......
Flutter ncnn 使用
Flutter 实现手机端 App，如果想利用 AI 模型添加新颖的功能，那么 [ncnn](https://github.com/Tencent/ncnn) 就是一种可考虑的手机端推理模型的框架。 本文即是 Flutter 上使用 ncnn 做模型推理的实践分享。有如下内容： - ncnn 体验： ......
ncnn - vulkan 模式开启时，可能会遇到的问题
ncnn::Option dopt; dopt.num_threads = 4;// ncnn::get_big_cpu_count(); dopt.use_fp16_packed = false; dopt.use_fp16_storage = false; dopt.use_fp16_arith ......
基于ncnn构建 c++ benchmark
## 1 编译ncnn ### 1.1 依赖 1. [ncnn@20230517](https://github.com/Tencent/ncnn/tree/20230517) 2. [protobuf@3.20.x](https://github.com/protocolbuffers/proto ......
ncnn param文件格式
一、ncnn模型 可由ncnn库中的onnx2ncnn工具将onnx格式模型转换为ncnn格式的.param和.bin两个文件，其中param记录了各算子，param文件可直接由可视化工具Nerton打开查看，这里记录下param文件格式。ncnn模型的加载参考:ncnn加载模型的几种方式 二、pa ......
NCNN 模型推理详解及实战
本文首先描述了 ncnn 推理框架的依赖库的知识，及相关 cpu 和内存硬件特性描述。最后结合 shufflenet sample 解析了，模型推理的全部流程，详解了 sample 代码的每个细节。 ......