更可靠的ci任务取消机制
ci新增avx512和nvidia t4
修复python wheel发布脚本
更新ci lavapipe版本(ljtjerry)
更新ci webassembly支持nodejs v16
更新FAQ(zhaqu, Bright476, Rinfair-CSP-A016)
修正拼写错误(cmdbug)
New Contributors
* zhaqu made their first contribution in https://github.com/Tencent/ncnn/pull/3374
* ljtjerry made their first contribution in https://github.com/Tencent/ncnn/pull/3387
* Rinfair-CSP-A016 made their first contribution in https://github.com/Tencent/ncnn/pull/3399
**Full Changelog**: https://github.com/Tencent/ncnn/compare/20211122...20211208
20211122
编译版本，默认配置，android-ndk-r21d，xcode 12.4，ubuntu-18.04，ubuntu-20.04，vs2015，vs2017，vs2019，emscripten-2.0.8
| file | content | arch |
|---|---|---|
|ncnn-full-source.zip |包含全部 submodule 代码的完整源码 | |
|ncnn-android.zip | android 静态库/动态库 | armeabi-v7a + arm64-v8a + x86 + x86_64 |
|ncnn-android-vulkan.zip | android 静态库/动态库，支持 GPU | armeabi-v7a + arm64-v8a + x86 + x86_64 |
|ncnn-ios.zip | ios 静态库，with and w/o bitcode | armv7 + arm64 + arm64e + i386 + x86_64 |
|ncnn-ios-vulkan.zip | ios 静态库，支持 GPU，with and w/o bitcode | arm64 + arm64e + x86_64 |
|ncnn-macos.zip | macos 静态库 | x86_64 + arm64 |
|ncnn-macos-vulkan.zip | macos 静态库，支持 GPU | x86_64 + arm64 |
|ncnn-ubuntu.zip | ubuntu linux 静态库/动态库，支持 GPU，模型转换工具 | x86_64 |
|ncnn-windows.zip | windows 静态库/动态库，支持 GPU，模型转换工具 | x86 + x86_64 |
|ncnn-webassembly.zip | webassembly 静态库 | wasm32 + simd + threads + simd-threads |
PNNX(PyTorch Neural Network Exchange)是PyTorch模型部署的新方式，可以避开ONNX中间商，导出比较干净的高层OP
risc-v v binaryop, hardswish, hardsigmoid, prelu, selu, dropout, gru, softmax优化(thelastlin)
risc-v v conv1x1 fc优化
arm neon requantize leakyrelu优化
arm neon innerproduct gemm int8优化
针对c906 sgemm pack优化(yaobyPerfxlab, xianyi)
x86 avx 卷积激活优化(zhiliu6)
x86 sse convolution, convolutiondepthwise, pooling优化(Timen)
修正layernorm affine计算错误
修正pooling adaptive计算错误
修正deconvolution output padding在有bias时的计算错误
interp支持cubic aligncorner插值
interp支持对2维数据w方向拉伸
新增convolutiondepthwise1d和pnnx转换
rnn/lstm/gru支持不相等的输入输出个数
修正squeeze和expanddims层axes的处理
使用整数计算pooling adaptive参数上下界(Yutyrannus)
修复armv7 neon round模式差异
修复x86 sse/avx round模式差异
修复int8输入单元测试可能的越界读
修复在某些android平台无法获得auxv变量的问题
修正apple a11 a12检测armv8.2 dot扩展指令错误的问题
内存引用加载模型时不再拷贝到内存
修复pyncnn numpy转Mat时非对齐拷贝出错的问题
正确检测和支持apple a15和m1(zchrissirhcz)
修复AVX-only代码和用户提供opt时的单元测试逻辑(Timen)
hardswish激活合并入convolution和innerproduct(zhiliu6)
自动解耦extract的Mat数据与Net实例的内存池
Net的custom_layer_to_index移到public(Timen)
删除代码中的无用变量(Sinky-Yan)
cmake检测esp32的xtensa架构
cmake install安装ncnn工具(jinmingyi1998)
修正hardswish test beta参数(zhiliu6)
修复ncnnoptimize无法生成合理int8权重的问题
ncnnoptimize支持embd层
修正onnx2ncnn concat算子负数axis转换的问题
修复onnx2ncnn合并expand算子(grimoire)
修复某些arm kernel越界读数据的问题
修复NCNN_STDIO=OFF的编译问题
新增YOLOX例子, 更新预处理逻辑(FateScript)
新增RobustVideoMatting例子(FeiGeChuanShu)
新增scrfd croudhuman例子(MarsTechHAN)
新增YOLOv5 v6.0例子(zhiliu6)
新增CrowdCounting-P2PNet例子(FeiGeChuanShu)
readme添加yolox(Sinky-Yan)
更新readme文档(fzyzcjy)
修复msvc编译器警告(TianZerL)
一些拼写错误修正(cmdbug, huoshuai-dot)
更新faq文档(ncnnnnn, luqiang-guo, zhiqwang, cmdbug, CharlesHuan, Shiro-Nana, zmq175)
更新operators算子文档(soragotosann)
更新d1和ls2k编译文档
新增termux编译文档(Sinky-Yan)
更新msvc编译文档(ncnnnnn)
更新编译文档(dankernel, mlbo, xiguadong)
更新macos openmp安装方法(zhiqwang)
更新量化文档中的链接(ShiquanYu)
修正python编译文档路径错误(nixondutt)
benchmark新增m1数据(zhiqwang)
benchmark新增mbp数据(AnnYellow)
benchmark新增khadas vim3 amlogic a311d数据(elejke, FeiGeChuanShu)
benchmark新增Phytium FT-2000+/64数据
benchmark新增RK3568数据(BowShotDS)
benchmark新增RK3328数据(Liuyufanlyf)
benchmark新增Ingenic X2000和T40数据(MarsTechHAN)
ci更新swiftshader
ci新增基于lavapipe的gpu测试
ci删除travis arm32(Richuanwu)
ci更新xcode版本
New Contributors
* SinKy-Yan made their first contribution in https://github.com/Tencent/ncnn/pull/3124
* FateScript made their first contribution in https://github.com/Tencent/ncnn/pull/3110
* BowShotDS made their first contribution in https://github.com/Tencent/ncnn/pull/3145
* Liuyufanlyf made their first contribution in https://github.com/Tencent/ncnn/pull/3164
* yaobyPerfxlab made their first contribution in https://github.com/Tencent/ncnn/pull/3159
* TianZerL made their first contribution in https://github.com/Tencent/ncnn/pull/3188
* grimoire made their first contribution in https://github.com/Tencent/ncnn/pull/3189
* dankernel made their first contribution in https://github.com/Tencent/ncnn/pull/3248
* Richuanwu made their first contribution in https://github.com/Tencent/ncnn/pull/3279
* ShiquanYu made their first contribution in https://github.com/Tencent/ncnn/pull/3283
* nixondutt made their first contribution in https://github.com/Tencent/ncnn/pull/3293
* mlbo made their first contribution in https://github.com/Tencent/ncnn/pull/3314
* luqiang-guo made their first contribution in https://github.com/Tencent/ncnn/pull/3332
* Yutyrannus made their first contribution in https://github.com/Tencent/ncnn/pull/3333
* xiguadong made their first contribution in https://github.com/Tencent/ncnn/pull/3344
* soragotosann made their first contribution in https://github.com/Tencent/ncnn/pull/3345
* huoshuai-dot made their first contribution in https://github.com/Tencent/ncnn/pull/3348
* fzyzcjy made their first contribution in https://github.com/Tencent/ncnn/pull/3358
* CharlesHuan made their first contribution in https://github.com/Tencent/ncnn/pull/3361
* Shiro-Nana made their first contribution in https://github.com/Tencent/ncnn/pull/3368
* zmq175 made their first contribution in https://github.com/Tencent/ncnn/pull/3369
* AnnYellow made their first contribution in https://github.com/Tencent/ncnn/pull/3373
**Full Changelog**: https://github.com/Tencent/ncnn/compare/20210720...20211122
20210720
编译版本，默认配置，android-ndk-r21d，xcode 12.2，ubuntu-16.04，ubuntu-18.04，ubuntu-20.04，vs2015, vs2017，vs2019, emscripten-2.0.8
| file | content | arch |
|---|---|---|
|ncnn-full-source.zip |包含全部 submodule 代码的完整源码 | |
|ncnn-android.zip | android 静态库/动态库 | armeabi-v7a + arm64-v8a + x86 + x86_64 |
|ncnn-android-vulkan.zip | android 静态库/动态库，支持 GPU | armeabi-v7a + arm64-v8a + x86 + x86_64 |
|ncnn-ios.zip | ios 静态库，with and w/o bitcode | armv7 + arm64 + arm64e + i386 + x86_64 |
|ncnn-ios-vulkan.zip | ios 静态库，支持 GPU，with and w/o bitcode | arm64 + arm64e + x86_64 |
|ncnn-macos.zip | macos 静态库 | x86_64 + arm64 |
|ncnn-macos-vulkan.zip | macos 静态库，支持 GPU | x86_64 + arm64 |
|ncnn-ubuntu.zip | ubuntu linux 静态库/动态库，支持 GPU，模型转换工具 | x86_64 |
|ncnn-windows.zip | windows 静态库/动态库，支持 GPU，模型转换工具 | x86 + x86_64 |
|ncnn-webassembly.zip | webassembly 静态库 | wasm32 + simd + threads + simd-threads |
risc-v架构cpu的vector 0.7.1和1.0扩展的算子优化，包括fp32/fp16，支持可变vlen，运行时检测vector和半精度扩展与函数分发(absval, cast, clip, concat, convolution, convolutiondepthwise, crop, deconvolution, deconvolutiondepthwise, flatten, innerproduct, interp, mish, packing, padding, pooling, relu, sigmoid, swish, tanh, unaryop)
mips架构cpu的msa扩展的算子优化，运行时检测msa扩展与函数分发(absval, bias, binaryop, clip, concat, convolution, convolutiondepthwise, crop, deconvolution, deconvolutiondepthwise, dropout, eltwise, flatten, hardsigmoid, hardswish, innerproduct, interp, mish, packing, padding, pooling, prelu, relu, sigmoid, slice, softmax, swish, tanh, unaryop)
运行时检测avx，优化avx-only平台的性能(Timen)
支持loongarch64架构编译(tsuibin)
在apple设备上总是启用armv8.2 dot
可以不依赖opencv用simpleocv编译example示例
改善visual studio配合clang编译(Timen)
新增cmake选项NCNN_BF16，可禁止所有bf16相关代码减小库体积
大幅更新operators算子文档
arm neon数学函数fma优化
arm neon tanh优化(deepage)
AbsVal/ReLU的risc-v vector优化(thelastlin)
修正x86 requantize pack4to1计算错误
修正innerproduct gemm in8计算错误(lsdustc)
修正warpaffine_bilinear_yuv420sp uv变换矩阵错误(DaydreamCoding)
修正yuv420sp2rgb在armv7平台越界读数据问题(zchrissirhcz)
修正vulkan push_constant编码时的内存泄漏(chenxiemin)
darknet2ncnn支持sam层和letter_box检测(zhiliu6)
修复darknet2ncnn pad=0转换错误(zhiliu6)
修正ncnn2table工具解析命令行长数字错误
优化ncnn2table多线程效率
ncnn2table支持动态输入(jinmingyi1998)
修正ncnn2table easyquant方法文件索引错误(lsdustc)
修正ncnnoptimize丢失interp参数问题(jinmingyi1998)
修复ncnnoptimize在替换conv为fc算子后可能的段错误
修复ncnnoptimize在遇到孤立节点时可能的段错误
修复macos ci swiftshader编译
修正test_extractor.py的TypeError断言(zhiqwang)
修复macos的编译警告(proydakov)
risc-v ci升级qemu 6.0.0并支持rvv扩展
ci现在过滤更改文件，减少触发
新增c906工具链
更新visual studio编译中文文档(zchrissirhcz)
修正examples yolov4视频加载错误(uniartisan)
readme添加pocky群号(JuYanYan)
readme添加scrfd(ncnnnnn)
增加issue模板(tpoisonooo)
一些拼写错误修正(hwdef)
benchmark新增nanodet_m模型(BUG1989)
benchmark新增v1605b数据(kalcohol)
benchmark新增loongson 2k1000数据
benchmark更新jetson agx数据(zineos)
新增代码格式化ci，禁用restyled
New Contributors
* JuYanYan made their first contribution in https://github.com/Tencent/ncnn/pull/2956
* uniartisan made their first contribution in https://github.com/Tencent/ncnn/pull/3005
* hwdef made their first contribution in https://github.com/Tencent/ncnn/pull/3045
* DaydreamCoding made their first contribution in https://github.com/Tencent/ncnn/pull/3048
* sdli1995 made their first contribution in https://github.com/Tencent/ncnn/pull/3081
* chenxiemin made their first contribution in https://github.com/Tencent/ncnn/pull/3088
* tsuibin made their first contribution in https://github.com/Tencent/ncnn/pull/3094
**Full Changelog**: https://github.com/Tencent/ncnn/compare/20210525...20210720
20210525
编译版本，默认配置，android-ndk-r21d，xcode 12.2，ubuntu-16.04，ubuntu-18.04，ubuntu-20.04，vs2015, vs2017，vs2019, emscripten-2.0.8
| file | content | arch |
|---|---|---|
|ncnn-full-source.zip |包含全部 submodule 代码的完整源码 | |
|ncnn-android.zip | android 静态库/动态库 | armeabi-v7a + arm64-v8a + x86 + x86_64 |
|ncnn-android-vulkan.zip | android 静态库/动态库，支持 GPU | armeabi-v7a + arm64-v8a + x86 + x86_64 |
|ncnn-ios.zip | ios 静态库，with and w/o bitcode | armv7 + arm64 + arm64e + i386 + x86_64 |
|ncnn-ios-vulkan.zip | ios 静态库，支持 GPU，with and w/o bitcode | arm64 + arm64e + x86_64 |
|ncnn-macos.zip | macos 静态库 | x86_64 + arm64 |
|ncnn-macos-vulkan.zip | macos 静态库，支持 GPU | x86_64 + arm64 |
|ncnn-ubuntu.zip | ubuntu linux 静态库/动态库，支持 GPU，模型转换工具 | x86_64 |
|ncnn-windows.zip | windows 静态库/动态库，支持 GPU，模型转换工具 | x86 + x86_64 |
|ncnn-webassembly.zip | webassembly 静态库 | wasm32 + simd + threads + simd-threads |
绘图api，画框，画圆，画线，画字
simpleocv添加stb_image读写图片文件
运行时检测armv8.2 dotprod
未找到opencv时依然能编译量化工具
允许超过gpu硬件队列数限制并行提交任务
ncnnoptimize自动生成随机bin文件
修复convolutiondepthwise int8经过ncnnoptimize后权重错位问题
extract int8数据自动转换为fp32
添加获取模型输入输出blob接口(caishanli)
发布python预编译包(caishanli)
更新imx7d benchmark
risc-v v 优化数学函数
运行时检测 risc-v vlen
mlir2ncnn合并swish
benchmark添加efficientnetv2_b0
修正jetson cmake工具链错误定义android宏的问题
修正macos/ios glslang framework打包问题
webassembly预编译包启用simpleocv
添加scrfd人脸检测例子
添加scrfd人脸检测截图(ZHEQIUSHUI)
更新FAQ(deepage)
修正拼写错误(FusionBolt)
添加下载数badge
New Contributors
* FusionBolt made their first contribution in https://github.com/Tencent/ncnn/pull/2922
* ZHEQIUSHUI made their first contribution in https://github.com/Tencent/ncnn/pull/2925
**Full Changelog**: https://github.com/Tencent/ncnn/compare/20210507...20210525
20210507
编译版本，默认配置，android-ndk-r21d，xcode 12.2，ubuntu-16.04，ubuntu-18.04，ubuntu-20.04，vs2015, vs2017，vs2019, emscripten-2.0.8
| file | content | arch |
|---|---|---|
|ncnn-full-source.zip |包含全部 submodule 代码的完整源码 | |
|ncnn-android.zip | android 静态库/动态库 | armeabi-v7a + arm64-v8a + x86 + x86_64 |
|ncnn-android-vulkan.zip | android 静态库/动态库，支持 GPU | armeabi-v7a + arm64-v8a + x86 + x86_64 |
|ncnn-ios.zip | ios 静态库，with and w/o bitcode | armv7 + arm64 + arm64e + i386 + x86_64 |
|ncnn-ios-vulkan.zip | ios 静态库，支持 GPU，with and w/o bitcode | arm64 + arm64e + x86_64 |
|ncnn-macos.zip | macos 静态库 | x86_64 + arm64 |
|ncnn-macos-vulkan.zip | macos 静态库，支持 GPU | x86_64 + arm64 |
|ncnn-ubuntu.zip | ubuntu linux 静态库/动态库，支持 GPU，模型转换工具 | x86_64 |
|ncnn-windows.zip | windows 静态库/动态库，支持 GPU，模型转换工具 | x86 + x86_64 |
|ncnn-webassembly.zip | webassembly 静态库 | wasm32 + simd + threads + simd-threads |
int8 packing重构，自动转换packing，大幅优化int8 arm neon卷积实现，支持armv8.2 dot指令加速
重写ncnn量化工具，支持kl/aciq/easyquant三种量化策略，提升多线程效率
ncnn2int8 离线融合quantize-激活-dequantize为requantize，实现端到端int8
去除用于在线融合requantize功能的cmake NCNN_REQUANT编译选项
conv/fc int8支持全部激活组合
conv3x3s1 pack8 直接卷积x86 avx优化
conv3x3 conv1x1 pack8 x86优化(zhiliu6)
instancenorm arm neon优化
pixelshuffle arm neon优化
运行时检测risc-v cpu v扩展和函数分发
log/exp/sin/cos/tanh数学函数的risc-v v优化
packing/sigmoid/mish/tanh/swish/unaryop/cast risc-v v优化
动态库导出vkcommand和vkcompute api
binaryop新增三种broadcast类型
新增cmake编译选项NCNN_INT8，可禁用全部int8推理相关代码
为find_blob_index_by_name错误附加更有用的提示信息
新增检测cpu支持risc-v v扩展和fp16扩展的查询接口
新增c906编译支持
删除caffe2ncnn中早期遗留的fp16和int8量化功能
修正conv1x1s1 sgemm pack8to4 fp16sa有bias时arm neon计算错误的问题
修正lrn vulkan因fp16精度不足导致计算错误的问题
修正ncnn2int8解析过长行时出错
修正使用gpu时候，无法input extract同个blob的问题
修正macos使用集成显卡时初始化错误
修正tanh neon计算错误
修复启用NCNN_ARM82编译时在树莓派运行发生非法指令错误
修正caffe2ncnn input层1维2维的参数转换
修正onnx clip没有max导致转换出错的问题
mxnet2ncnn 支持channel pad
改善mxnet2ncnn有同名blob模型的兼容性
排序ncnn_add_layer_test(ncnnnnn)
为hardsigmoid/hardswish默认参数添加注释(songqun)
python打包去掉ppc64le(caishanli)
修复老版本gcc编译问题
修复NCNN_STRING=OFF时的编译问题(zhiliu6)
添加Apple M1 benchmark(DaChengTechnology)
修正文档拼写错误(cmdbug, proydakov)
更新ncnn量化推理文档
更新operation-param-weight-table(cmdbug)
添加新的faq文档(wwdok, zchrissirhcz, runrunrun1994, wblksheep, DaChengTechnology, ncnnnnn, 791136190, mmiirroo, cmdbug)
删除构建文档中有关cctools的部分
restyled机器人不触发ci
更新codecov版本
更新risc-v ci工具链，支持最新rvv-1.0
添加risc-v的代码覆盖率
更新qcom855+的benchmark数据
New Contributors
* wwdok made their first contribution in https://github.com/Tencent/ncnn/pull/2829
* runrunrun1994 made their first contribution in https://github.com/Tencent/ncnn/pull/2831
* wblksheep made their first contribution in https://github.com/Tencent/ncnn/pull/2835
* mmiirroo made their first contribution in https://github.com/Tencent/ncnn/pull/2851
* xianyi made their first contribution in https://github.com/Tencent/ncnn/pull/2868
**Full Changelog**: https://github.com/Tencent/ncnn/compare/20210322...20210507
20210322
编译版本，默认配置，android-ndk-r21d，xcode 12.2，ubuntu-16.04，ubuntu-18.04，ubuntu-20.04，vs2017，vs2019
| file | content | arch |
|---|---|---|
|ncnn-full-source.zip |包含全部 submodule 代码的完整源码 | |
|ncnn-android.zip | android 静态库/动态库 | armeabi-v7a + arm64-v8a + x86 + x86_64 |
|ncnn-android-vulkan.zip | android 静态库/动态库，支持 GPU | armeabi-v7a + arm64-v8a + x86 + x86_64 |
|ncnn-ios.zip | ios 静态库，w/o bitcode | armv7 + arm64 + arm64e + i386 + x86_64 |
|ncnn-ios-vulkan.zip | ios 静态库，支持 GPU，w/o bitcode | arm64 + arm64e + x86_64 |
|ncnn-macos.zip | macos 静态库 | x86_64 + arm64 |
|ncnn-macos-vulkan.zip | macos 静态库，支持 GPU | x86_64 + arm64 |
|ncnn-ubuntu.zip | ubuntu linux 静态库/动态库，支持 GPU，模型转换工具 | x86_64 |
|ncnn-windows.zip | windows 静态库/动态库，支持 GPU，模型转换工具 | x86 + x86_64 |
|ncnn-webassembly.zip | webassembly 静态库 | wasm32 + simd + threads |
warpaffine函数arm neon优化
新增multiheadattention和pytorch的转换
新增gelu(RBelogorodtsevFBase)
新增flush denormal选项并默认启用(leeys888)
新增adaptive_pooling vulkan实现(zylo117)
默认使用net局部的内存池
默认使用大核心的cpu作为线程数
在较新的adreno/mali gpu上启用fp16s/int8s
修正int8 armv7 conv1x1s1 requant无neon计算错误
conv3x3s1 winograd42 arm neon优化
通用convolution im2col sgemm的arm neon优化
常规的AVX2 convolution优化(zhiliu6)
优化ssd detectionoutput候选框计算(WeiChungChang)
在旧版adreno驱动时使用桥接的image上传下载
修复inplace forward(gdh1995)
消除NCNN_BENCHMARK启用时不必要的数据复制(yx9527)
改善megvii风格的shufflechannel转换
onnx2ncnn自动拓扑排序
改善onnx2ncnn layernorm转换
ncnnoptimize可以切分模型(chentyjpm)
mlir2ncnn设置自定义llvm/mlr路径(daquexian)
修复多输入模型使用gpu推理可能导致的数据错误
修复gpu image分配失败的回退cpu的问题
修复gpu buffer2host的问题
修复某些pipeline编译失败的问题(zchrissirhcz)
修复macos编译问题(leeys888)
修复onnx2ncnn转换某些memorydata shape错误
修复python model zoo下载(caishanli)
修复ncnnoptimize遇到多个自定义层崩溃问题
cmake寻找和链接thread库
更新glslang版本(proydakov)
int8量化工具支持adaptive pool(GuoxiaWang)
上传wheel到pypi(caishanli)
修复python net extractor销毁顺序的问题(caishanli)
新增python vulkan test(caishanli)
修正python setup.py缺失的import(zylo117)
更新convertmodel.com链接(daquexian)
更新mlir tf2 dialect
修正一些拼写错误(zchrissirhcz, caishanli, zhiqwang)
ios最低版本要求9.0(DaChengTechnology)
关于在自己项目使用ncnn的文档(zchrissirhcz)
readme新增nanodet(RangiLyu)
补充android cmake ninja编译方法(ncnnnnn)
readme更新各个算法链接(linser233)
修正how-to-build文档中benchncnn输出格式(ncnnnnn)
新增build-mlir2ncnn文档(zchrissirhcz)
修复nanodet示例代码的变量重名(RangiLyu)
修复yolact示例代码的越界问题(cmdbug)
新增nanodet python demo(caishanli)
新增有关nvidia gpu无法开启vulkan问题的文档(PENGUINLIONG)
20210124
编译版本，默认配置，android-ndk-r21d，xcode 12.2，ubuntu-16.04，ubuntu-18.04，ubuntu-20.04，vs2017，vs2019
| file | content | arch |
|---|---|---|
|ncnn-full-source.zip |包含全部 submodule 代码的完整源码 | |
|ncnn-android.zip | android 静态库/动态库 | armeabi-v7a + arm64-v8a + x86 + x86_64 |
|ncnn-android-vulkan.zip | android 静态库/动态库，支持 GPU | armeabi-v7a + arm64-v8a + x86 + x86_64 |
|ncnn-ios.zip | ios 静态库，w/o bitcode | armv7 + arm64 + arm64e + i386 + x86_64 |
|ncnn-ios-vulkan.zip | ios 静态库，支持 GPU，w/o bitcode | arm64 + arm64e + x86_64 |
|ncnn-macos.zip | macos 静态库 | x86_64 + arm64 |
|ncnn-macos-vulkan.zip | macos 静态库，支持 GPU | x86_64 + arm64 |
|ncnn-ubuntu.zip | ubuntu linux 静态库/动态库，支持 GPU，模型转换工具 | x86_64 |
|ncnn-windows.zip | windows 静态库/动态库，支持 GPU，模型转换工具 | x86 + x86_64 |
|ncnn-webassembly.zip | webassembly 静态库 | wasm32 + simd + threads |
添加python绑定，默认不编译(caishanli)
新增cmake选项NCNN_SHARED_LIB编译动态库，pimpl实现模式
新增cmake选项NCNN_PLATFORM_API控制是否调用平台相关的api
大幅更新 C api，增加底层 op 接口
Blob类的consumer成员改为单个
重构forward_layer逻辑为更加简短
warpaffine整数实现和 arm neon 优化
新增pooling的adaptive参数，支持pytorch AdaptiveAvgPool2d/AdaptiveMaxPool2d转换(GuoxiaWang)
新增gru和rnn，以及对应的 arm neon 优化
lstm arm neon 优化
innerproduct aarch64 int8 gemm优化(tpoisonooo)
padding支持1-3维，补充单元测试用例
packing pack8 arm neon 优化
重构onnx2ncnn和mlir2ncnn构图和优化逻辑，修复opset_version=12模型转换错误
改善onnx lsrm/gru/rnn的转换和算子融合
interp vulkan 支持 align_corner=True
innerproduct现支持2维gemm计算
简化innerproduct x86 arm的pack分类和优化代码
自定义层注册添加custom_layer_destroyer参数(caishanli)
Reorg/PixelShuffle层支持nhwc模式，onnx DepthToSpace mode DCR转换
减少不必要的unpack/pack(maxfy1992)
packing pack4 x86 sse 优化
conv1x1s1 pack4 x86 sse 优化
改善macos的arm64支持
修正 memorydata vulkan 没有packing的问题
单元测试检查layer的支持属性
onnx2ncnn跨batch的Transpose转换
mlir2ncnn使用更短的blob名字
ncnnoptimize中的aborted提示改为skipped
修复blob数量超出实际数量时ncnnoptimize崩溃的问题
android 平台自动链接 jnigraphics
当开启vulkan校验时会启用VK_LAYER_KHRONOS_validation扩展
更换pyncnn model zoo地址(mosheliv)
检查NCNN_MAX_PARAM_COUNT越界(zchrissirhcz)
simplepose例子添加提示(zchrissirhcz)
修复一些编译器警告(zchrissirhcz, ncnnnnn, proydakov)
修正一些代码的拼写错误(zchrissirhcz, ncnnnnn)
修复mingw-x64 simd编译错误(zchrissirhcz)
operators文档添加convolutiondepthwise/crop/sigmoid/tanh(cavalleria)
operators文档添加pooling(Sanster)
更新支持的平台矩阵(monkeyking)
新增github pull request文档(tpoisonooo)
增加 pytest option/allocator/net/extractor
V831工具链(sunnycase)
ci添加vs2015
ci添加python编译(caishanli)
release的windows预编译包包含32位库以及vs2015版本
release添加linux/windows/android动态库预编译包
20201218
编译版本，默认配置，android-ndk-r21d，xcode 12.2，ubuntu-16.04，ubuntu-18.04，ubuntu-20.04，vs2017，vs2019
| file | content | arch |
|---|---|---|
|ncnn-full-source.zip |包含全部 submodule 代码的完整源码 | |
|ncnn-android.zip | android 静态库 | armeabi-v7a + arm64-v8a + x86 + x86_64 |
|ncnn-android-vulkan.zip | android 静态库，支持 GPU | armeabi-v7a + arm64-v8a + x86 + x86_64 |
|ncnn-ios.zip | ios 静态库，w/o bitcode | armv7 + arm64 + arm64e + i386 + x86_64 |
|ncnn-ios-vulkan.zip | ios 静态库，支持 GPU，w/o bitcode | arm64 + arm64e + x86_64 |
|ncnn-macos.zip | macos 静态库 | x86_64 + arm64 |
|ncnn-macos-vulkan.zip | macos 静态库，支持 GPU | x86_64 + arm64 |
|ncnn-ubuntu.zip | ubuntu linux 静态库，支持 GPU，模型转换工具 | x86_64 |
|ncnn-windows.zip | windows 静态库，支持 GPU，模型转换工具 | x86_64 |
|ncnn-webassembly.zip | webassembly 静态库 | wasm32 + simd + threads |
ncnnoptimize和ncnn2mem自动处理自定义op
新增获取ncnn版本的API：const char* ncnn_version();
Eltwise层支持一维和二维输入
开启更多vulkan扩展，根据gpu厂商设定较可靠的subgroup size
修正macos/ios arm64 simpleomp崩溃
onnx2ncnn 转换gemm保留输入数据
采用github action编译openmp和预编译包，发布新版本
增加ios arm64e架构编译
修正gcc-4.4/gcc-4.8编译错误
修正一些编译警告(ncnnnnn, zchrissirhcz, proydakov)
修正 build.sh macos 编译参数(cavalleria)
更新 macos vulkan sdk(monkeyking)
benchmark新增3970X和RTX8000数据(BUG1989)
operators文档新增cast(xingxingRealzyx)
20201208
编译版本，默认配置，android-ndk-r21d，cctools-port 895 + ld64-274.2 + ios 10.2 sdk libc++
ncnn-android-lib 是 android 的静态库(armeabi-v7a + arm64-v8a + x86 + x86_64)
ncnn-android-vulkan-lib 是 android 的静态库(armeabi-v7a + arm64-v8a + x86 + x86_64，包含vulkan支持)
ncnn.framework.zip 是 ios 的静态库(armv7 + arm64 + i386 + x86_64)
ncnn-vulkan.framework.zip 是 ios 的静态库(arm64 + x86_64，包含vulkan支持，MoltenVK-1.1.82.0)
openmp.framework.zip 是 ios ncnn openmp 运行时静态库(armv7 + arm64 + i386 + x86_64)
glslang.framework.zip 是 ios ncnn glslang 运行时静态库(arm64 + x86_64)
新增Mat pixel affine任意角度旋转平移缩放函数
新增两组点计算warpaffine矩阵和逆变换函数
x86 SSE2的pack4架构更新和一些优化，包括BatchNorm/Bias/BinaryOp/Clip/Concat/Convolution/ConvolutionDepthWise/Dropout/Eltwise/Flatten/HardSigmoid/HardSwish/Innerproduct/Mish/Padding/Pooling/PReLU/ReLU/Scale/Sigmoid/Swish/TanH(PENGUINLIONG)
在支持vulkan 1.1驱动上自动检测subgroup信息
新增跨平台类thread-local-storage
新增simpleomp，实现最少的llvm openmp abi运行函数
新增获取cpu大小核信息的get_little_cpu_count()和get_big_cpu_count()(zchrissirhcz)
新增softplus层实现和onnx转换(ncnnnnn)
支持Apple M1芯片
支持Open Harmony OS(zchrissirhcz)
Concat/Slice/Softmax支持axis负数的参数(Ca0L)
新增NCNN_SSE2编译选项，可完全禁用x86和webassembly的SIMD优化
一些通用的x86 Convolution AVX2性能优化(zhiliu6)
vulkan支持Crop和Padding一维和二维blob
新增keras2ncnn模型转换工具(MarsTechHAN)
Interp支持align_corner=True并支持onnx Resize转换(maxfy1992)
新增yolov5例子(Zhengtq)
新增nanodet例子
vulkan image storage shader统一使用image3d存储类型
禁用NCNN_THREADS时的NCNN_XADD实现
老旧adreno驱动不再启用image类型，修复gpu推理错误
去除ncnnoptimize过时的aarch64自动调优和相关文档
ncnnoptimize合并Reduction为Global Pooling
ncnnoptimize替换单系数PReLU为Leaky ReLU
ncnnoptimize清理broadcasting BinaryOp前的冗余Expand
ncnnoptimize在shape推断后输出MAC和预计的内存足迹
有关opencv-mat转换和旋转文档的错误修正(ncnnnnn)
修正arm82 fp16s crop一维和二维错误的问题
Extractor::extract 支持第三个flag参数避免layout和存储类型转换(MarsTechHAN)
abs()替换为fabs()(zchrissirhcz)
大量的编译器警告修复(proydakov, ncnnnnn, zchrissirhcz, pH5)
ncnn可在c++03标准下编译
修复c++14标准的编译问题(nullptr-leo)
修复NCNN_PIXEL关闭时的编译(tpoisonooo, nullptr-leo)
修复protobuf旧版本编译错误(deepage)
cmake开关NCNN_OPENCV更名为NCNN_SIMPLEOCV
修正yolact例子的颜色越界(zchrissirhcz)
onnx2ncnn支持Max Min Pow与常数的转换
onnx2ncnn支持Pad channel参数
onnx2ncnn MatMul转换支持其中一个为MemoryData输入
修正onnx2ncnn Slice参数转换溢出的问题
修正onnx2ncnn和ncnnoptimize的groupnorm转换
mlir2ncnn适配新mlir api
mlir2ncnn合并keras风格的batchnorm和instancenorm
FAQ新增windows dll卸载崩溃的解决方案(qiqikit)
新增最小化编译ncnn二进制包的中文英文文档(songqun)
新增openmp最佳实践文档(youzainn)
改善编译步骤文档(baryluk)
一些文档和代码注释的拼写错误修正(HollowMan6, Zhengtq)
算子文档更新(xingxingRealzyx, LosReturn, Ca0L)
新增有关convertmodel.com的信息(daquexian)
ci新增webassembly-nosimd和webassembly-simpleomp编译
ci新增android ndk-r16b编译
ci新增vs2017 cpu gpu编译
ci新增macos arm64编译
ci新增codeql分析
20200916
编译版本，默认配置，android-ndk-r21d，cctools-port 895 + ld64-274.2 + ios 10.2 sdk libc++
ncnn-android-lib 是 android 的静态库(armeabi-v7a + arm64-v8a + x86 + x86_64)
ncnn-android-vulkan-lib 是 android 的静态库(armeabi-v7a + arm64-v8a + x86 + x86_64，包含vulkan支持)
ncnn.framework.zip 是 ios 的静态库(armv7 + arm64 + i386 + x86_64)
ncnn-vulkan.framework.zip 是 ios 的静态库(arm64 + x86_64，包含vulkan支持，MoltenVK-1.1.82.0)
openmp.framework.zip 是 ios ncnn openmp 运行时静态库(armv7 + arm64 + i386 + x86_64)
glslang.framework.zip 是 ios ncnn glslang 运行时静态库(arm64 + x86_64)
armv8.2 fp16s/fp16sa优化，包括batchnorm/binaryop/clip/convolution/convolutiondepthwise/deconvolution/deconvolutiondepthwise/eltwise/flatten/hardsigmoid/hardswish/innerproduct/interp/mish/packing/padding/pooling/prelu/relu/reshape/shufflechannel/sigmoid/slice/swish/tanh/unaryop以及对应的pack8优化实现
默认启用fp16计算功能
Mat from_pixels/from_pixels_resize接受ROI参数实现crop+resize
更精细的cpu绑定接口
新增gemm
新增groupnorm，支持pytorch groupnorm转换
新增layernorm
无affine的instancenorm/groupnorm
ncnnoptimize最后的flag设1表示转fp16模型(by zchrissirhcz)
simplestl新增list实现，完全去除libstdc++依赖(by nullptr-leo)
开放glsl编译spirv接口
interp允许接受第二个blob作为参考size
packing 遵守线程数设置
windows上寻找vulkan-sdk时给出提示信息(by zchrissirhcz)
yolov3detectionoutput层avx优化(by zhiliu6)
mxnet reduction 参数兼容数组和单个数字
ncnnoptimize自动合并binaryop-with-scalar
修正opencv 2.x/4 编译问题(by zchrissirhcz)
修复resize_bilinear_c4可能的crash
修正开启bf16s时extract可能没有转回fp32的问题
修正老编译器UINT64_MAX编译错误(by ncnnnnn)
修正vulkan conv1x1s1 pack1计算错误
修正onnx2ncnn在转换resize时可能的crash
load_param_mem的参数必须以\0结尾
更新mlir tf2 dialect
mlir2ncnn转换tf.Maximum/tf.Minimum/tf.ResizeBilinear
mlir2ncnn合并instancenorm
mlir2ncnn合并keras风格的Conv2d/Dense
修正yolov4例子bgr2rgb(by MarsTechHAN and qaz734913414)
修正darknet maxpool padding size转换(by ruru5697)
ncnn cmake target自动依赖glslang(by youzainn)
修正powerpc64编译问题，绕过interp altivec优化bug
修正armv7带stride参数from_pixels bus error
单元测试新增mat pixel resize
默认不编译ncnn单元测试(by caishanli)
ci最低编译环境为ubuntu-16.04，c++03
添加telegram群聊(by zchrissirhcz)
20200727
编译版本，默认配置，android-ndk-r21d，cctools-port 895 + ld64-274.2 + ios 10.2 sdk libc++
ncnn-android-lib 是 android 的静态库(armeabi-v7a + arm64-v8a + x86 + x86_64)
ncnn-android-vulkan-lib 是 android 的静态库(armeabi-v7a + arm64-v8a + x86 + x86_64，包含vulkan支持)
ncnn.framework.zip 是 ios 的静态库(armv7 + arm64 + i386 + x86_64)
ncnn-vulkan.framework.zip 是 ios 的静态库(arm64 + x86_64，包含vulkan支持，MoltenVK-1.1.82.0)
openmp.framework.zip 是 ios ncnn openmp 运行时静态库(armv7 + arm64 + i386 + x86_64)
glslang.framework.zip 是 ios ncnn glslang 运行时静态库(armv7 + arm64 + i386 + x86_64)
x86 avx优化，包括batchnorm/bias/binaryop/cast/clip/concat/convolution/convolutiondepthwise/crop/dropout/eltwise/flatten/hardsigmoid/hardswish/innerproduct/lrn/lstm/mish/packing/padding/pooling/prelu/relu/reshape/scale/sigmoid/slice/swish/tanh以及对应的pack8优化实现(by Timen)
arm lstm neon优化(by Timen)
附带中间状态输入输出的lstm(by Timen)
使用在线pipeline缓存大幅优化gpu推理的模型加载效率，默认启用
使用gpu推理时自动创建instance
全局开启armv8.2和avx编译，运行时判断cpu特性使用不同的优化代码
C api 上层封装和squeezenet_c_api例子
降低摄像头循环调用ncnn时openmp线程的cpu负载
新增darknet2ncnn教程，yolov4-tiny(by zhiliu6)
mlir2ncnn模型转换工具，可以转换常用分类模型/pix2pi2
修正use_packing_layout/use_bf16_storage选项打开时，int8推理错误
修正当输出层支持bf16s时，没有转换为fp32的错误
修正gpu out of allocator错误
onnx shufflechannel兼容megvii写法
改善onnx slice转换兼容性
改善onnx resize转换兼容性
改善onnx simplified后的normalize转换兼容性
改善reshape nhwc的兼容性
修正deconvolution output shape和padding的处理
修复conv3x3s1 pack1to4 bf16s计算错误
修正tanh mips计算错误
修正输入一维数据和mish激活时convolution计算错误
修正interp nearest计算错误
绕过nvidia显卡上normalize/softmax计算错误
绕过nvidia显卡上padding reflect计算错误
去掉priorbox fp16s的绕过手段
绕过qcom adreno老驱动winograd计算错误的问题
ios打包glslang
ci增加squeezenet/mat_pixels_rotate
ci新增riscv32/riscv64/mips32/mips64，包括riscv-v扩展和mips-msa扩展
新增yolov4例子(by zhiliu6)
FAQ新增jpg解码和resize章节(by zchrissirhcz)
benchmark新增jstson agx(by zineos)
20200616
编译版本，默认配置，android-ndk-r21d，cctools-port 895 + ld64-274.2 + ios 10.2 sdk libc++
ncnn-android-lib 是 android 的静态库(armeabi-v7a + arm64-v8a + x86 + x86_64)
ncnn-android-vulkan-lib 是 android 的静态库(armeabi-v7a + arm64-v8a + x86 + x86_64，包含vulkan支持)
ncnn.framework.zip 是 ios 的静态库(armv7 + arm64 + i386 + x86_64，bitcode)
ncnn-vulkan.framework.zip 是 ios 的静态库(arm64 + x86_64，bitcode，包含vulkan支持，MoltenVK-1.1.82.0)
openmp.framework.zip 是 ios ncnn openmp 运行时静态库(armv7 + arm64 + i386 + x86_64，bitcode)
adreno gpu image存储+fp16p/fp16s/fp16pa/fp16sa优化，在qcom855之前的高通芯片上默认启用，包括全部gpu shader
新增darknet转换器，支持yolov4和efficientnetb0-yolov3(by zhiliu6)
新增simplestl，可替代std::string/std::vector，默认不启用(by scarsty)
新增NCNN_LOGE宏，android自动在adb logcat输出信息(by maxint)
运行时生成spirv，大幅减小gpu库体积
新增python绑定链接
新增查询当前可用gpu显存接口
gpu fp16/fp32转换，buffer/image转换，全部融合入packing层
gpu device级别复用packing/unpacking管线
3d padding，新增blazeface benchmark(by Timen)
新增yuv420sp2rgbhalf快速实现(by tpoisonooo)
interp pack4 bf16s bf16s-pack4 neon优化
改善fbnetv2 hardsigmoid hardswish识别转换
修复ncnn作为sub project编译问题(by MarisaKirisame)
修复int8 pooling(by yx9527)
修复innerproduct arm sigmoid缺失的问题
修复mxnet slice None转换crop错误(by ddddwee1)
新增mish层(by zhiliu6)
新增swish层(by zhiliu6)
改善roialign detectron2转换兼容性(by wkcn)
新增语音相关的statisticspooling层(by Wang-Charles)
新增deepcopy工具层
改善mxnet gluon导出list类型参数的转换(by papercatnku)
改善onnx swish识别转换
更稳定的arm tanh_ps优化实现
cast bfloat16/float32转换的avx优化(by Timen)
ncnnoptimize合并scalar binaryop，包括sub/div
ncnnoptimize合并weighted sum
ncnnoptimize合并convolution + mish(by zhiliu6)
修正binaryop gpu special type 2/4的传播条件
修正ncnn2mem输出param.bin文件路径(by GuoxiaWang)
修复设置cpu affinity mask时可能的越界错误
修复老旧adreno/mali驱动image存储crash的问题
修复多国语系中param加载错误的问题
修复gpu convolution winograd在有shape hint时crop错误的问题
检查copy_cut_border参数(by tpoisonooo)
修正quantize文档的小错误(mengfu188)
树莓派4b benchmark(by elejke)
qcom865开启fp16计算功能
mali-t880/g51/g52/g71/g72开启fp16计算功能
更新qcom810/qcom660/qcom835/qcom855+/kirin970 benchmark数据
统一code style
单元测试新增全部op的image存储变种
github自动识别comp为GLSL
修复旧版vulkan-sdk编译(by xfan1024)
ios编译bitcode和native两种版本
20200413
编译版本，默认配置，android-ndk-r19c，cctools-port 895 + ld64-274.2 + ios 10.2 sdk libc++
ncnn-android-lib 是 android 的静态库(armeabi-v7a + arm64-v8a + x86 + x86_64)
ncnn-android-vulkan-lib 是 android 的静态库(armeabi-v7a + arm64-v8a + x86 + x86_64，包含vulkan支持)
ncnn.framework.zip 是 ios 的静态库(armv7 + arm64 + i386 + x86_64，bitcode)
ncnn-vulkan.framework.zip 是 ios 的静态库(arm64 + x86_64，bitcode，包含vulkan支持，MoltenVK-1.1.82.0)
openmp.framework.zip 是 ios ncnn openmp 运行时静态库(armv7 + arm64 + i386 + x86_64，bitcode)
bfloat16数据类型存储和算子优化实现，默认不启用，主要算子armv7/aarch64特化优化，packing布局的armv7/aarch64特化优化（包括BinaryOp/Cast/Clip/Concat/Convolution/ConvolutionDepthWise/Crop/Eltwise/Flatten/HardSigmoid/HardSwish/Innerproduct/Packing/Padding/Pooling/ReLU/ShuffleChannel/Sigmoid/Slice/TanH）
默认启用cpu packing_layout加速
Mat to_pixels/to_pixels_resize arm neon优化
mips算子优化absval/bias/clip/sigmoid/softmax/tanh(by nullptr-leo)
gpu shader按下标创建并自动获得specialization和pushconstant数量
android hardwarebuffer导入VkMat接口重构
为避免对齐问题，去除全部VkMat局部引用构造函数
VkMat和Command接口重构，去除staging成员，简化上传下载API
可指定cpu id的线程精准绑定接口
Mat PixelType 新增 BGRA 和相关转换类型
BinaryOp广播规则新增左值attention type 3/4
LSTM单向双向算子和onnx转换(支持chineseocrlite)
新增工具层DeepCopy
float32与bfloat16转换函数
命名enum类型(by caishanli)
benchncnn新增冷却时间开关(by kalcohol)
RK3288和RK3399 gpu开启fp16计算功能
visual studio 源码分组(by kalcohol)
修复innerproduct requant计算问题(by yx9527)
修复flatten gpu fp16p pack1to4/pack1to8某些shape运算错误
修复gpu非coherent显存不一致问题
改善onnx新版Pad/Resize/Clip/Slice转换兼容性
改善onnx hardsigmoid/hardswish识别转换
修复onnx模型某些BinaryOp输入丢失问题
docs文件夹自动同步wiki
单元测试增加到40个(by xieydd monkeyking)
单元测试增加gpu fp16p，gpu pack8和cpu bf16s变种
Travis CI新增arm32编译+单元测试+覆盖率
codecov代码覆盖率整合
ios编译开启bitcode
windows android库编译脚本(by kalcohol)
修复windows上的mingw编译(by qaz734913414)
cv::Mat与ncnn::Mat转换文档
高效roi/resize/rotate文档
protobuf安装问题FAQ(by tpoisonooo)
新增yolact实例分割例子
20200226
编译版本，默认配置，android-ndk-r19c，cctools-port 895 + ld64-274.2 + ios 10.2 sdk libc++
ncnn-android-lib 是 android 的静态库(armeabi-v7a + arm64-v8a + x86 + x86_64)
ncnn-android-vulkan-lib 是 android 的静态库(armeabi-v7a + arm64-v8a + x86 + x86_64，包含vulkan支持)
ncnn.framework.zip 是 ios 的静态库(armv7 + arm64 + i386 + x86_64)
ncnn-vulkan.framework.zip 是 ios 的静态库(arm64 + x86_64，包含vulkan支持，MoltenVK-1.1.82.0)
openmp.framework.zip 是 ios ncnn openmp 运行时静态库(armv7 + arm64 + i386 + x86_64)
实现全部pack8 shader，默认不启用
shader存取宏改为function-style
所有gpu算子加载时会尝试读取shape hint并调整localsize
单元测试增加到30个
ncnnoptimize离线shape推断
实现pixelshuffle的cpu/gpu推理
onnx pixelshuffle转换
im2col将遵循sgemm_convolution选项开关
改善qcom adreno老驱动兼容性
qcom855/855plus开启gpu fp16a功能
chgemm和int-requant计算错误修复(by tpoisonooo)
cmake生成VS工程分组(by kalcohol)
量化工具默认加入编译(by kalcohol)
fp32/fp16 avx2优化(by zhiliu6)
avx2卷积计算错误修正(by zhiliu6)
很多很多算子的bug修复
20200106
编译版本，默认配置，android-ndk-r19c，cctools-port 895 + ld64-274.2 + ios 10.2 sdk libc++
ncnn-android-lib 是 android 的静态库(armeabi-v7a + arm64-v8a + x86 + x86_64)
ncnn-android-vulkan-lib 是 android 的静态库(armeabi-v7a + arm64-v8a + x86 + x86_64，包含vulkan支持)
ncnn.framework.zip 是 ios 的静态库(armv7 + arm64 + i386 + x86_64)
ncnn-vulkan.framework.zip 是 ios 的静态库(arm64 + x86_64，包含vulkan支持，MoltenVK-1.1.82.0)
openmp.framework.zip 是 ios ncnn openmp 运行时静态库(armv7 + arm64 + i386 + x86_64)
pixel rotate api，8种90度角度旋转镜像翻转优化，支持stride参数和ROI
ncnn example model zoo提供下载
Mat from_pixels(_resize)/to_pixels(_resize)支持stride参数和ROI
android 8.0支持android hardware buffer转换vkmat
修复旧arm mali驱动兼容性问题
改善onnx prelu/flatten转换兼容性
pytorch normalize转换
normalize支持inplace
normalize vulkan
slice pack4优化
slice vulkan
per-channel padding
ncnnoptimizer删除无用的pooling 1x1s1
ncnnoptimizer删除无用的memorydata
修复deconvolution vulkan计算错误
修复pooling vulkan SAME pad, avgpool_count_include_pad
修复可能的 staging buffer data race
修正prelu gpu计算错误
优化yolov3 output性能
vulkan spatial attention broadcasting
修正fasterrcnn gpu fp16p计算错误
修正conv1x1s1 gpu fp16p计算错误
改善pytorch shufflenetv2模型转换
ci新增webassembly
20191113
编译版本，默认配置，android-ndk-r19c，cctools-port 895 + ld64-274.2 + ios 10.2 sdk libc++
ncnn-android-lib 是 android 的静态库(armeabi-v7a + arm64-v8a + x86 + x86_64)
ncnn-android-vulkan-lib 是 android 的静态库(armeabi-v7a + arm64-v8a + x86 + x86_64，包含vulkan支持)
ncnn.framework.zip 是 ios 的静态库(armv7 + arm64 + i386 + x86_64)
ncnn-vulkan.framework.zip 是 ios 的静态库(arm64 + x86_64，包含vulkan支持，MoltenVK-1.1.82.0)
openmp.framework.zip 是 ios ncnn openmp 运行时静态库(armv7 + arm64 + i386 + x86_64)
pack内存布局推断neon优化(armv7+aarch64)：conv1x1s1 conv1x1s2 conv3x3s1 conv3x3s1-winograd conv3x3s2 conv5x5s1 conv5x5s2 conv7x7s2 convdw3x3s1 convdw3x3s2 convdw5x5s1 convdw5x5s2 group-convolution/deconvolution pooling3x3s2-max pooling2x2s2-max padding relu hardsigmoid hardswish innerproduct reshape flatten shufflechannel
移除接口中的Option默认参数，预处理函数只使用1线程
mat输出新增颜色转换rgb2rgba/bgr2rgba/gray2rgba
新增android Bitmap与Mat直接转换函数
新增android Asset加载模型函数
新增NNIE ImageWatch插件
改善deconvolution pad/adj参数兼容性
新增Noop
新增convolution pad_value参数
unaryop vulkan实现tanh
修正radv驱动instancenorm crash
mxnet hardsigmoid/hardswish融合转换
onnx 1维batchnorm融合转换
onnx split转换
Reduction新增PROD/L1/L2/LogSum/LogSumExp以及keepdims参数
onnx ReduceMax/ReduceMin/ReduceMean/ReduceProd/ReduceSum/ReduceSumSquare/ReduceL1/ReduceL2/ReduceLogSum/ReduceLogSumExp转换
改善mxnet和onnx slice转换兼容性
onnx Unsqueeze/Squeeze转换
onnx Pooling ceil_mode转换
新增DataReader接口，方便从加密数据加载
修复某些手机无法识别大小核的问题
ncnnoptimize融合工具保留参数中的浮点精度
修复arm平台某些参数下im2col+gemm实现错误的问题
修复gpu推断使用fp16存储上传权重时可能的越界写问题
修复hisim100编译错误
int8 convolution winograd43精度提升
ncnn2table工具兼容性改善
ci新增windows-vs2017-gpu
cmake选项NCNN_DISABLE_PIC禁用PIC
新增retinaface人脸检测例子
新增mobilenetv3-ssd通用物体检测例子
benchmark新增shufflenet_v2
benchmark开启pack内存布局推断功能
新增android x86/x86_64预编译库
20190908
编译版本，默认配置，android-ndk-r19c，cctools-port 895 + ld64-274.2 + ios 10.2 sdk libc++
ncnn-android-lib 是 android 的静态库(armeabi-v7a + arm64-v8a)
ncnn-android-vulkan-lib 是 android 的静态库(armeabi-v7a + arm64-v8a，包含vulkan支持)
ncnn.framework.zip 是 ios 的静态库(armv7 + arm64 + i386 + x86_64)
ncnn-vulkan.framework.zip 是 ios 的静态库(arm64 + x86_64，包含vulkan支持，MoltenVK-1.1.82.0)
openmp.framework.zip 是 ios ncnn openmp 运行时静态库(armv7 + arm64 + i386 + x86_64)
搬运了很多很多wiki文档
新增实验性pack内存布局推断：absval batchnorm clip relu sigmoid packing convolution convolutiondepthwise innerproduct pooling flatten prelu scale dropout softmax binaryop deconvolution deconvolutiondepthwise concat eltwise cast split
新选项use_packing_layout控制是否cpu使用pack内存布局推理
conv1x1s1 pack4 sgemm arm neon优化
conv3x3s1 pack4 winograd arm neon优化
tanh arm neon优化
新增模型无finetune量化工具ncnn2table和readme(默认不编译)
ncnn2table新增swapRB参数
ncnnoptimize在armlinux自动卷积调优
ncnnoptimize自动删除binaryop前无用的reshape
新增hardsigmoid
新增selu，onnx 支持转换
新增hardswish
padding支持reflect模式
pooling avg新参数count_include_pad，mxnet/onnx支持转换
convolution deconvolution支持四个方向不等长padding
onnx autopad SAME_LOWER转换
deconvolution新参数output_adj和output_shape
onnx resize转换
onnx Div转换
mxnet BilinearResize2D转换
修正 mxnet onnx slice转换
pytorch onnx channelshuffle转换
pytorch onnx hardsigmoid hardswish转换
修正gpu多线程显存池共享问题
concat vulkan实现pack1to4 pack4to1to4
binaryop vulkan实现broadcast
instancenorm vulkan实现
crop vulkan实现pack1to4 pack4to1
可移植的thread/condition-variable类
添加hisiv600 hi3559V100工具链文件
cmake编译系统更新，头文件安装到include/ncnn
更新mobilenetv2_yolov3 benchmark
新增mobilenet_v3 benchmark
ncnn模型可在netron中可视化
新增人体关键点定位例子simplepose
更新android squeezencnn工程
20190611
编译版本，默认配置，android-ndk-r19c，cctools-port 895 + ld64-274.2 + ios 10.2 sdk libc++
ncnn-android-lib 是 android 的静态库(armeabi-v7a + arm64-v8a)
ncnn-android-vulkan-lib 是 android 的静态库(armeabi-v7a + arm64-v8a，包含vulkan支持)
ncnn.framework.zip 是 ios 的静态库(armv7 + arm64 + i386 + x86_64)
ncnn-vulkan.framework.zip 是 ios 的静态库(arm64 + x86_64，包含vulkan支持，MoltenVK-1.1.82.0)
openmp.framework.zip 是 ios ncnn openmp 运行时静态库(armv7 + arm64 + i386 + x86_64)
新增算子融合工具 ncnnoptimize (bn + scale / conv + bn / deconv + bn / innerproduct + bn / conv + relu 等)
armv7/arm64 conv1x1s2
armv7/arm64 其他卷积的 sgemm 优化
int8 requantize 层融合实现全int8存储
修复旧版本 cmake openmp 兼容性
option api 变动，移除全局option
from_pixels_resize 越界读修正
x86 convolution avx2 优化
x86 convolution sse2 优化
interp resize bicubic 插值
gpu convolution/padding 支持 SAME pad
gpu conv1x1s1 优化
gpu conv3x3s1 winograd-f23 优化
gpu fp16 packed 优化，支持全部gpu
gpu fp16 storage 优化，支持绝大多数桌面gpu
gpu fp16 arithmetic 优化，默认关闭
允许创建自定义 vulkan compute pipeline 并嵌入推断过程
gpu 各层耗时统计
vulkan layer 架构调整
gpu fp16p fp16s fp16a int8s in8a 控制开关
更简单的多卡 gpu 设置 api
新的分割例子 pelee ssd segmentation
benchmark fp32 算子融合
20190320
编译版本，默认配置，android-ndk-r18b，cctools-port 895 + ld64-274.2 + ios 10.2 sdk libc++
ncnn-android-lib 是 android 的静态库(armeabi-v7a + arm64-v8a)
ncnn-android-vulkan-lib 是 android 的静态库(armeabi-v7a + arm64-v8a，包含vulkan支持)
ncnn.framework.zip 是 ios 的静态库(armv7 + arm64 + i386 + x86_64)
ncnn-vulkan.framework.zip 是 ios 的静态库(arm64 + x86_64，包含vulkan支持，MoltenVK-1.1.82.0)
openmp.framework.zip 是 ios ncnn openmp 运行时静态库(armv7 + arm64 + i386 + x86_64)
新增实验性gpu推断：AbsVal, BatchNorm, BinaryOp(no broadcasting), Clip, Concat, Convolution(pad -233 not supported), ConvolutionDepthWise(pad -233 not supported), Crop, Deconvolution, DeconvolutionDepthWise, Dropout, Eltwise, Flatten, InnerProduct, Interp, LRN, Packing, Padding, Permute, Pooling(pad SAME not supported), PReLU, PriorBox, ReLU, Reorg, Reshape, Scale, ShuffleChannel, Sigmoid, Softmax, TanH, UnaryOp
支持gpu/cpu混合推断
无溢出的int8卷积计算
精度更好的int8量化方法
element packing数据存储
conv3x3s1 int8 aarch64优化
conv3x3s2 int8 armv7/aarch64优化
conv1x1s1 int8 aarch64优化
convdw3x3s1 int8 aarch64优化
convdw3x3s2 int8 aarch64优化
修正armv7-without-neon编译
example例子全部支持gpu运算
兼容onnx/mxnet的upsample和slice转换
squeezencnn增加gpu识别按钮
benchmark新增gpu推断
benchmark新增resnet50以及int8模型