OpenVino.Runtime.TRT 1.0.16

dotnet add package OpenVino.Runtime.TRT --version 1.0.16
                    
NuGet\Install-Package OpenVino.Runtime.TRT -Version 1.0.16
                    
This command is intended to be used within the Package Manager Console in Visual Studio, as it uses the NuGet module's version of Install-Package.
<PackageReference Include="OpenVino.Runtime.TRT" Version="1.0.16" />
                    
For projects that support PackageReference, copy this XML node into the project file to reference the package.
<PackageVersion Include="OpenVino.Runtime.TRT" Version="1.0.16" />
                    
Directory.Packages.props
<PackageReference Include="OpenVino.Runtime.TRT" />
                    
Project file
For projects that support Central Package Management (CPM), copy this XML node into the solution Directory.Packages.props file to version the package.
paket add OpenVino.Runtime.TRT --version 1.0.16
                    
#r "nuget: OpenVino.Runtime.TRT, 1.0.16"
                    
#r directive can be used in F# Interactive and Polyglot Notebooks. Copy this into the interactive tool or source code of the script to reference the package.
#:package OpenVino.Runtime.TRT@1.0.16
                    
#:package directive can be used in C# file-based apps starting in .NET 10 preview 4. Copy this into a .cs file before any lines of code to reference the package.
#addin nuget:?package=OpenVino.Runtime.TRT&version=1.0.16
                    
Install as a Cake Addin
#tool nuget:?package=OpenVino.Runtime.TRT&version=1.0.16
                    
Install as a Cake Tool

OpenVINO + TensorRT 推理运行时。v1.0.16:基于 v1.0.14 彻底移除 PDB 调试符号并精简瘦身。通用 SC.PVK 支持单图 ROI-SAHI 真多 Batch 推理;修复 YOLO26 检测头固定显式 Batch 的 Reshape 映射,支持尾批零图补齐与掩码截断;追加 fixed_explicit_v26_v1 契约校验;保持 Native C API v4、双模型融合、旧版 TRTJJC.dll 及 VC++ 19.44 自动部署兼容。nvinfer.dll(约200MB)因 NuGet 包大小限制未包含,需手动复制到 runtime_trt。

Product Compatible and additional computed target framework versions.
.NET net8.0 is compatible.  net8.0-android was computed.  net8.0-browser was computed.  net8.0-ios was computed.  net8.0-maccatalyst was computed.  net8.0-macos was computed.  net8.0-tvos was computed.  net8.0-windows was computed.  net9.0 was computed.  net9.0-android was computed.  net9.0-browser was computed.  net9.0-ios was computed.  net9.0-maccatalyst was computed.  net9.0-macos was computed.  net9.0-tvos was computed.  net9.0-windows was computed.  net10.0 was computed.  net10.0-android was computed.  net10.0-browser was computed.  net10.0-ios was computed.  net10.0-maccatalyst was computed.  net10.0-macos was computed.  net10.0-tvos was computed.  net10.0-windows was computed. 
Compatible target framework(s)
Included target framework(s) (in package)
Learn more about Target Frameworks and .NET Standard.

NuGet packages

This package is not used by any NuGet packages.

GitHub repositories

This package is not used by any popular GitHub repositories.

Version Downloads Last Updated
1.0.16 75 9/29/2026
1.0.15 75 9/29/2026
1.0.14 111 9/18/2026
1.0.13 95 9/17/2026
1.0.12 96 9/16/2026
1.0.11 118 9/8/2026
1.0.10 125 6/5/2026
1.0.9 134 5/28/2026
1.0.8 126 4/14/2026
1.0.7 127 4/2/2026
1.0.6 121 3/17/2026
1.0.5 119 3/17/2026
1.0.4 113 3/15/2026
1.0.3 432 11/19/2025
1.0.2 428 11/18/2025
1.0.1 328 11/17/2025
1.0.0 330 11/17/2025

v1.0.16 变更说明 (重要:本版本直接基于 v1.0.14 进行 PDB 调试符号清理与安全精简发布):
- 版本基线来源:继承并延续 v1.0.14 全部特性(包含 YOLO26 单图 ROI-SAHI 真多 Batch 推理、尾批零图补齐与掩码截断、fixed_explicit_v26_v1 契约校验、Native C API v4 批处理推理引擎及双模型融合等)
- 彻底移除调试符号:完全清理 runtime_trt 下全部 PDB 调试符号(包括 TRTJJC.pdb、trtvino.pdb 及 TBB *.pdb),杜绝 C++ 函数名、结构体内存布局及源码物理路径被逆向分析的安全隐患
- 包体大幅精简瘦身:剔除约 27.4MB 冗余 PDB 调试符号文件,包体积精简至 55MB 左右,显著加快 NuGet 分发、下载与 CI/CD 还原速度
- 工程级防御配置:在 csproj 打包配置中配置 Exclude="runtime_trt\**\*.pdb",杜绝后续本地编译生成产物误打包再次泄露

v1.0.15 变更说明 (注:v1.0.15 为基于 v1.0.3 经典基线的脱敏过渡版本):
- 基于经广泛生产验证的 v1.0.3 经典版本,移除全部 PDB 调试符号后发布

v1.0.14 相比 v1.0.13 变更:
- 通用 SC.PVK 支持单图 ROI-SAHI 场景下的真多 Batch 推理,突破此前仅支持 Batch=1 的限制
- 修复 YOLO26(model_26.cpp)检测头 6 处写死 Batch=1 的 Reshape 维度(3 处 {1, numClass, -1} 与 3 处 {1, 4, -1}),改为动态获取 ModelConfig::GetBatchSize()
- 新增单图 ROI-SAHI 切片尾批“零图补齐(Zero Padding)与掩码结果截断”机制,以固定显式 Batch 满载运行并在后处理精准丢弃补位结果,消除尾批显存越界风险与伪缺陷扩散
- 模型转换 checked 接口追加 fixed_explicit_v26_v1 契约标识和输入/输出/配方 Batch 一致性验证,增强模型构建自检
- 保持 LineMerge 连续多相机多 Batch 调度、保活机制、Detection ABI 90001 及 VC++ 19.44 运行时自动部署完全向后兼容

v1.0.13 相比 v1.0.12 变更:
- 修复 buildTransitive\OpenVino.Runtime.TRT.targets 中 _OpenVinoMsvcRuntimeRoot 路径拼接缺少反斜杠的 bug(使用 EnsureTrailingSlash 规范化 NuGetPackageRoot),解决 dotnet publish/build 时误报“找不到 Emgu.runtime.windows.msvc.rt.x64 19.44.35215,请重新执行 NuGet 还原”的问题
- 保持 v1.0.12 所有 Native C API v4 checked 接口、双模型融合、旧版 TRTJJC.dll 兼容链路及 VC++ 19.44 运行时自动部署功能不变

v1.0.12 相比 v1.0.11 变更:
- JJCAI 公共参数更新不再触碰 TensorRT 单例,避免 OpenVINO ONNX/XML/BIN 初始化或参数更新误改 CUDA/Engine 状态
- 主线 SC.PVK 使用 Native C API v4 的 checked 初始化、参数绑定、单图推理、错误读取和模型转换接口
- 保留旧 TensorRTService、TRTJJC.dll、旧 CUDA runtime、OpenVINO 传统链路及原 runtime_trt 复制结构
- 统一依赖 Emgu.runtime.windows.msvc.rt.x64 19.44.35215,并将 vcomp140.dll 作为 win-x64 native 资产部署到应用根目录;runtime_trt 不再携带重复 VC++ Runtime

v1.0.11 相比 v1.0.10 变更:
- trtvino.dll 升级至 Native C API v4,检测结构体验证并兼容 Detection ABI 90001/89001;旧版 Engine 按 89-float 步长解码并补零 angle,避免显存与内存越界
- 新增受控 C 接口导出:initialize_jjcai_engine_configured(支持一次性注入 batch 容量与任务配置)、configure_jjcai_engine(支持动态更新推理参数与保活控制)、infer_jjcai_engine_checked(返回规范状态码)
- 错误处理与安全性增强:CUDA_CHECK 改为 std::runtime_error 异常抛出,并通过 get_jjcai_last_error 传回结构化 UTF-8 错误描述,避免驱动异常直接导致宿主崩溃
- GPU 持续保活机制重构:保活线程使用独立 context 并支持安全同步 join 退出,与正式推理通过条件变量和原子状态严格互斥,解决并发资源冲突
- 新增 infer_jjcai_engine_batch 多图批推理及 get_jjcai_engine_capabilities 运行时能力查询接口
- SAHI 切片去重与性能优化:修复切片覆盖算法避免生成重复切片(4096x256 图像从 44 切片精简为 21 个唯一切片),优化批处理预处理与端到端耗时
- 保持向后兼容:runtime_trt 继续保留 TRTJJC.dll 与 OpenVINO 全套依赖,保持旧 TensorRT/OpenVINO 类别读取与模型转换兼容
- nvinfer.dll(约200MB)仍因 NuGet 包大小限制未包含,需按部署环境手动复制到 runtime_trt

v1.0.10 相比 v1.0.9 变更:
- runtime_trt 包内容补充 TRTJJC.dll,支持依赖旧 TensorRT DLL 的 SCPVK 工程继续使用原有类别读取、模型转换和推理入口
- trtvino.dll 保持 v1.0.9 native 行为不变,继续提供 YOLOSeg、C API v2 和 getclassnames_json 接口
- 支持 SCPVK 采用“优先 TRTJJC.dll,失败后 trtvino.dll”的 engine 类别读取兜底策略,避免缺少 TRTJJC.dll 时读取类别失败后覆盖配方 DetectionJson
- ONNX/OpenVINO 模型类别读取逻辑不依赖 TRTJJC.dll,本版本不改变该路径
- nvinfer.dll(约200MB)仍因 NuGet 包大小限制未包含,需按部署环境手动复制到 runtime_trt

v1.0.9 相比 v1.0.8 变更:
- 新增 YOLOSeg 实例分割推理:OpenVINO 通过输出张量 shape 自动识别 YOLOSeg 模型(det [1,C,N] + proto [1,32,H,W]),推理输出包含 polygon 顶点坐标
- 新增 TensorRT YOLOSeg 推理:prepare_buffer_yoloseg 分配 proto 缓冲区,Infer_batchtile_yoloseg / Infer_batchtile_resizeroi_yoloseg 完整管线
- JJCDetection 结构体新增 points 字段,C API 新增 num_points/points 传递 polygon 数据
- C# JJCAIapi 使用 free_detect_batch_results 统一释放内存,修复潜在泄漏
- TensorRT freeEngine() 补充释放 proto_buffer_device/proto_buffer_host,修复 YOLOSeg 推理后内存泄漏
- 新增 serialize_engine_with_task 导出接口,支持指定 model_task(detect/seg)进行引擎序列化
- 向后兼容 v1.0.8 所有功能和接口