我使用的是MxNetCpp.h的API。
1.在cpu()下使用多线程预测能够正常运行并返回正确结果，gpu()多线程下时，使用NDrray进行图片的归一化和标准化出现内存泄漏，其他涉及到我自己写的NDArry运算也都造成了内存泄露。
2.我向通过自己编写逻辑来代替NDArray的操作，但是在图片的转置这边出现了问题，我打印出预处理后的图片数组和使用NDArray的运算结果相比，数字基本一样，但是数字的位置变了，代码在下方。
3.gpu下家在一个模型使用了1689M的显存，计算一个模型时显存到了3072M，加载两个模型并计算显存稳定在4234M计算第三个模型时out of memory程序退出，我在使用C API测试时发现计算三个模型也没有超过2g显存。
4.使用C API预测模型时，得到的置信度时10多，座标大部分都是0
这是预处理部分代码
https://discuss.gluon.ai/t/topic/17336