一、框架选择
计划采用百度paddlepaddle的FastDeploy框架来进行推理,此套框架目前实现了多类硬件的支持,从cuda、openvino、npu、tpu、cpu等均能良好支持,而且支持快速部署。
二、硬件选择
硬件首选intel下 gpu、cpu,其次基于成本考虑可以选择rk3588的方案来实现,工程化,产品化比较好的选择,后面还有RK3576,学习来看的话可以考虑intel N100cpu的小主机 可以利用openvino进行加速和推理。
三、开发语言选择
肯定首选python了,但是这玩意不适合工程化,平时拿来学习和训练使用python快速方便,如果涉及工程化产品化的话 还是建议C&C++、golang之类的语言。
四、工程化需要
步骤:
视频接入->视频解码->图片缩放(预处理)->AI推理->图片编码(后处理)->视频编码->视频推流
视频接入:一般考虑通过Onvif 、rtsp方式来进行视频接入,可以使用ffmpeg进行解复用,拿到视频帧(H.264、H.265),然后交给解码步骤
待补充。。。。