OpenVino.Runtime.TRT
1.0.16
dotnet add package OpenVino.Runtime.TRT --version 1.0.16
NuGet\Install-Package OpenVino.Runtime.TRT -Version 1.0.16
<PackageReference Include="OpenVino.Runtime.TRT" Version="1.0.16" />
<PackageVersion Include="OpenVino.Runtime.TRT" Version="1.0.16" />
<PackageReference Include="OpenVino.Runtime.TRT" />
paket add OpenVino.Runtime.TRT --version 1.0.16
#r "nuget: OpenVino.Runtime.TRT, 1.0.16"
#:package OpenVino.Runtime.TRT@1.0.16
#addin nuget:?package=OpenVino.Runtime.TRT&version=1.0.16
#tool nuget:?package=OpenVino.Runtime.TRT&version=1.0.16
OpenVINO + TensorRT 推理运行时。v1.0.16:基于 v1.0.14 彻底移除 PDB 调试符号并精简瘦身。通用 SC.PVK 支持单图 ROI-SAHI 真多 Batch 推理;修复 YOLO26 检测头固定显式 Batch 的 Reshape 映射,支持尾批零图补齐与掩码截断;追加 fixed_explicit_v26_v1 契约校验;保持 Native C API v4、双模型融合、旧版 TRTJJC.dll 及 VC++ 19.44 自动部署兼容。nvinfer.dll(约200MB)因 NuGet 包大小限制未包含,需手动复制到 runtime_trt。
| Product | Versions Compatible and additional computed target framework versions. |
|---|---|
| .NET | net8.0 is compatible. net8.0-android was computed. net8.0-browser was computed. net8.0-ios was computed. net8.0-maccatalyst was computed. net8.0-macos was computed. net8.0-tvos was computed. net8.0-windows was computed. net9.0 was computed. net9.0-android was computed. net9.0-browser was computed. net9.0-ios was computed. net9.0-maccatalyst was computed. net9.0-macos was computed. net9.0-tvos was computed. net9.0-windows was computed. net10.0 was computed. net10.0-android was computed. net10.0-browser was computed. net10.0-ios was computed. net10.0-maccatalyst was computed. net10.0-macos was computed. net10.0-tvos was computed. net10.0-windows was computed. |
-
net8.0
- Emgu.runtime.windows.msvc.rt.x64 (= 19.44.35215)
NuGet packages
This package is not used by any NuGet packages.
GitHub repositories
This package is not used by any popular GitHub repositories.
| Version | Downloads | Last Updated |
|---|---|---|
| 1.0.16 | 75 | 9/29/2026 |
| 1.0.15 | 75 | 9/29/2026 |
| 1.0.14 | 111 | 9/18/2026 |
| 1.0.13 | 95 | 9/17/2026 |
| 1.0.12 | 96 | 9/16/2026 |
| 1.0.11 | 118 | 9/8/2026 |
| 1.0.10 | 125 | 6/5/2026 |
| 1.0.9 | 134 | 5/28/2026 |
| 1.0.8 | 126 | 4/14/2026 |
| 1.0.7 | 127 | 4/2/2026 |
| 1.0.6 | 121 | 3/17/2026 |
| 1.0.5 | 119 | 3/17/2026 |
| 1.0.4 | 113 | 3/15/2026 |
| 1.0.3 | 432 | 11/19/2025 |
| 1.0.2 | 428 | 11/18/2025 |
| 1.0.1 | 328 | 11/17/2025 |
| 1.0.0 | 330 | 11/17/2025 |
v1.0.16 变更说明 (重要:本版本直接基于 v1.0.14 进行 PDB 调试符号清理与安全精简发布):
- 版本基线来源:继承并延续 v1.0.14 全部特性(包含 YOLO26 单图 ROI-SAHI 真多 Batch 推理、尾批零图补齐与掩码截断、fixed_explicit_v26_v1 契约校验、Native C API v4 批处理推理引擎及双模型融合等)
- 彻底移除调试符号:完全清理 runtime_trt 下全部 PDB 调试符号(包括 TRTJJC.pdb、trtvino.pdb 及 TBB *.pdb),杜绝 C++ 函数名、结构体内存布局及源码物理路径被逆向分析的安全隐患
- 包体大幅精简瘦身:剔除约 27.4MB 冗余 PDB 调试符号文件,包体积精简至 55MB 左右,显著加快 NuGet 分发、下载与 CI/CD 还原速度
- 工程级防御配置:在 csproj 打包配置中配置 Exclude="runtime_trt\**\*.pdb",杜绝后续本地编译生成产物误打包再次泄露
v1.0.15 变更说明 (注:v1.0.15 为基于 v1.0.3 经典基线的脱敏过渡版本):
- 基于经广泛生产验证的 v1.0.3 经典版本,移除全部 PDB 调试符号后发布
v1.0.14 相比 v1.0.13 变更:
- 通用 SC.PVK 支持单图 ROI-SAHI 场景下的真多 Batch 推理,突破此前仅支持 Batch=1 的限制
- 修复 YOLO26(model_26.cpp)检测头 6 处写死 Batch=1 的 Reshape 维度(3 处 {1, numClass, -1} 与 3 处 {1, 4, -1}),改为动态获取 ModelConfig::GetBatchSize()
- 新增单图 ROI-SAHI 切片尾批“零图补齐(Zero Padding)与掩码结果截断”机制,以固定显式 Batch 满载运行并在后处理精准丢弃补位结果,消除尾批显存越界风险与伪缺陷扩散
- 模型转换 checked 接口追加 fixed_explicit_v26_v1 契约标识和输入/输出/配方 Batch 一致性验证,增强模型构建自检
- 保持 LineMerge 连续多相机多 Batch 调度、保活机制、Detection ABI 90001 及 VC++ 19.44 运行时自动部署完全向后兼容
v1.0.13 相比 v1.0.12 变更:
- 修复 buildTransitive\OpenVino.Runtime.TRT.targets 中 _OpenVinoMsvcRuntimeRoot 路径拼接缺少反斜杠的 bug(使用 EnsureTrailingSlash 规范化 NuGetPackageRoot),解决 dotnet publish/build 时误报“找不到 Emgu.runtime.windows.msvc.rt.x64 19.44.35215,请重新执行 NuGet 还原”的问题
- 保持 v1.0.12 所有 Native C API v4 checked 接口、双模型融合、旧版 TRTJJC.dll 兼容链路及 VC++ 19.44 运行时自动部署功能不变
v1.0.12 相比 v1.0.11 变更:
- JJCAI 公共参数更新不再触碰 TensorRT 单例,避免 OpenVINO ONNX/XML/BIN 初始化或参数更新误改 CUDA/Engine 状态
- 主线 SC.PVK 使用 Native C API v4 的 checked 初始化、参数绑定、单图推理、错误读取和模型转换接口
- 保留旧 TensorRTService、TRTJJC.dll、旧 CUDA runtime、OpenVINO 传统链路及原 runtime_trt 复制结构
- 统一依赖 Emgu.runtime.windows.msvc.rt.x64 19.44.35215,并将 vcomp140.dll 作为 win-x64 native 资产部署到应用根目录;runtime_trt 不再携带重复 VC++ Runtime
v1.0.11 相比 v1.0.10 变更:
- trtvino.dll 升级至 Native C API v4,检测结构体验证并兼容 Detection ABI 90001/89001;旧版 Engine 按 89-float 步长解码并补零 angle,避免显存与内存越界
- 新增受控 C 接口导出:initialize_jjcai_engine_configured(支持一次性注入 batch 容量与任务配置)、configure_jjcai_engine(支持动态更新推理参数与保活控制)、infer_jjcai_engine_checked(返回规范状态码)
- 错误处理与安全性增强:CUDA_CHECK 改为 std::runtime_error 异常抛出,并通过 get_jjcai_last_error 传回结构化 UTF-8 错误描述,避免驱动异常直接导致宿主崩溃
- GPU 持续保活机制重构:保活线程使用独立 context 并支持安全同步 join 退出,与正式推理通过条件变量和原子状态严格互斥,解决并发资源冲突
- 新增 infer_jjcai_engine_batch 多图批推理及 get_jjcai_engine_capabilities 运行时能力查询接口
- SAHI 切片去重与性能优化:修复切片覆盖算法避免生成重复切片(4096x256 图像从 44 切片精简为 21 个唯一切片),优化批处理预处理与端到端耗时
- 保持向后兼容:runtime_trt 继续保留 TRTJJC.dll 与 OpenVINO 全套依赖,保持旧 TensorRT/OpenVINO 类别读取与模型转换兼容
- nvinfer.dll(约200MB)仍因 NuGet 包大小限制未包含,需按部署环境手动复制到 runtime_trt
v1.0.10 相比 v1.0.9 变更:
- runtime_trt 包内容补充 TRTJJC.dll,支持依赖旧 TensorRT DLL 的 SCPVK 工程继续使用原有类别读取、模型转换和推理入口
- trtvino.dll 保持 v1.0.9 native 行为不变,继续提供 YOLOSeg、C API v2 和 getclassnames_json 接口
- 支持 SCPVK 采用“优先 TRTJJC.dll,失败后 trtvino.dll”的 engine 类别读取兜底策略,避免缺少 TRTJJC.dll 时读取类别失败后覆盖配方 DetectionJson
- ONNX/OpenVINO 模型类别读取逻辑不依赖 TRTJJC.dll,本版本不改变该路径
- nvinfer.dll(约200MB)仍因 NuGet 包大小限制未包含,需按部署环境手动复制到 runtime_trt
v1.0.9 相比 v1.0.8 变更:
- 新增 YOLOSeg 实例分割推理:OpenVINO 通过输出张量 shape 自动识别 YOLOSeg 模型(det [1,C,N] + proto [1,32,H,W]),推理输出包含 polygon 顶点坐标
- 新增 TensorRT YOLOSeg 推理:prepare_buffer_yoloseg 分配 proto 缓冲区,Infer_batchtile_yoloseg / Infer_batchtile_resizeroi_yoloseg 完整管线
- JJCDetection 结构体新增 points 字段,C API 新增 num_points/points 传递 polygon 数据
- C# JJCAIapi 使用 free_detect_batch_results 统一释放内存,修复潜在泄漏
- TensorRT freeEngine() 补充释放 proto_buffer_device/proto_buffer_host,修复 YOLOSeg 推理后内存泄漏
- 新增 serialize_engine_with_task 导出接口,支持指定 model_task(detect/seg)进行引擎序列化
- 向后兼容 v1.0.8 所有功能和接口