在线性能测试
adb shell ./data/local/tmp/benchmark_model --graph=/data/local/tmp/lite-model_deeplabv3_1_metadata_2.tflite --num_threads=1 --num_runs=50 --enable_op_profiling=true --nnapi_accelerator_name=unisoc-npu --use_nnapi=true --profiling_output_csv_file=/data/local/tmp/lite-model_deeplabv3_1_metadata_2_profiling.csv --printf_inference_timing=false
离线性能测试
将量化模型转换到 UIR
./model_convertor -f tflite -p ./lite-model_deeplabv3_1_metadata_2.tflite -o deeplabv3.uir
注：
背景虚化场景 所涉及的模型众多，不同的模型结构会导致性能各异。如果您选用其他模型，请采纳以下建议：
•保证所选模型的算子在UNISOC AISDK的支持列表中
•优先支持TFLITE量化模型，ONNX模型后续开发中
UNIAI-SDK模型NPU、CPU异构推理
adb shell "/data/local/tmp/uniai_testbench --model_path=/data/local/tmp/deeplabv3.uir --input_shape=4,1,257,257,3 --compute_device=NPU,CPU --dynamic_backend=/vendor/lib64/ --data_layerout=0 --multidata_output_path=/data/local/tmp/deeplabv3_output --multidata_path=/data/local/tmp/deeplabv3_f32 --input_datatype=1"
背景虚化DeepLabV3简介及部署教程
视频教程
|
下载
|
文件描述
|
文件大小
|
|---|---|---|
|
https://tfhub.dev/tensorflow/lite-model/deeplabv3/1/metadata/2
license遵循原作者
|
2.45MB
|
|
下载
|
|
|---|---|
|
文件描述
|
https://tfhub.dev/tensorflow/lite-model/deeplabv3/1/metadata/2
license遵循原作者
|
|
文件大小
|
2.45MB
|
锐迪科微电子（上海）有限公司 中国（上海）自由贸易试验区祖冲之路2288弄3号335室 沪ICP备2020036161号-1
