部署 SDK
推理 SDK 的调用方式是 DLL,支持 C 和 C++ 等语言。支持的操作系统是 Windows 10 以上。
图像传输的格式是 OpenCV 的 cv::Mat 格式,推理结果是 nlohmann::json 格式。
部署 AI 模型需要使用显卡。由于吞吐量和延迟的需求不同,对于硬件的需求也不同。推荐使用 NVIDIA GeForce RTX 3060 及以上的显卡。
推理样例代码
// 加载模型
auto model = dlcv::model::Model(LR"(C:\Users\Administrator\Desktop\测试模型\det.dvt)");
// 读取图片
cv::Mat img = cv::imread(R"(C:\Users\Administrator\Desktop\balloon.jpg)");
// 推理结果
auto result = model.inference(data, img);