526互联

ncnn - vulkan 模式开启时，可能会遇到的问题

发布时间 2023-07-10 17:41:56作者: WenJXUST
ncnn::Option dopt;
    dopt.num_threads = 4;// ncnn::get_big_cpu_count();
    dopt.use_fp16_packed = false;
    dopt.use_fp16_storage = false;
    dopt.use_fp16_arithmetic = false;
    dopt.use_vulkan_compute = true;
    personDetNet.opt = dopt;

开始时，打开vulkan，在执行unarryOp中的sqrt操作时，输出的结果不对出现inf,后面把fp16关掉就正常了（如上）。