深度学习模型试跑(十九):depth-anything-tensorrt(c++,vs2022版,点云)

随着深度学习模型在计算机视觉任务中的应用日益广泛，深度估计任务作为其中的重要一环，广泛应用于自动驾驶、机器人和增强现实等领域。是一种高效的深度估计模型，其推理速度和准确性在众多应用场景中表现出色。然而，为了在实际应用中更好地发挥其性能，我们可以通过将模型部署在TensorRT上，从而进一步加速推理过程。本文将介绍如何将模型转换为TensorRT格式，并在实际应用中进行推理。

最新的深度估计方法，源码是python和桌面级GPU运行，如果实现在嵌入式设备jetson Orin上用C++实时运行一定很有意思。

深度转点云 点云着色

ComfyUI-Depth-Anything-TensorRT：加速深度图生成的强大工具 项目介绍 ComfyUI-Depth-Anything-TensorRT 是一个开源项目，它为 ComfyUI 提供了一个自定义节点，以实现基于 TensorRT 加速的深度图生成。该项目利用深度学习模型 Depth-Anything，通过 Python 实现了深度图生成的优化，使得处理速度得到大幅提升，最高...

Depth-Anything推理详解及部署实现（下）

DepthAnything是一种能在任何情况下处理任何图像的简单却又强大的深度估计模型。 TensorRT是NVIDIA推出的运行在NV平台上的推理加速框架，我们常用的TX2、Jetson Nano、Jetson Xavier NX以及Jetson Orin系列均可通过TensorRT实现推理加速。TensorRT 基于 C++ 语言开发，能够实现高性能推理，TensorRT 推理应用程序与英伟达的 GPU 结合可以提供最大的吞吐量和较低的延迟速度。

试跑PIPNet模型遇到了很多问题，浅浅地记录一下

再用TensorRT-LLM将其compile为TensorRT engine；然后可用TensorRT-LLM的C++ runtime来跑推理（或者模型放到Triton Repo上，并指定TensorRT-LLM为backend）Input的Tokenizing和Output的De-Tokenizing，视作前处理、后处理，创建"Python Model"；整个流程用一个"Ensemble Model"来表示，包含以上两个"Model"以及真正的GPT-Model;

最近小虎在cpu上试跑了detection任务的程序没什么问题，但是在gpu上运行时发生了关于cuda的一些报错，发现解决问题的精华就一句话。下面给出问题解决的例子和代码。

训练之前没注意在txt文件里面多了一个空行，所以总的字符就是1+10+26+1=38，在训练阶段会被自动在起始位填充一个blank字段，在解析输出的时候，需要排除第一个位置的预测的原因就在这里。另外的字符的解析，例如把输出存为40行39列的图片，则按行找最大值的位置索引，一共有40个索引值，判断第一个位置索引值是不是零（为零表示预测为blank字段），如果不是则保留索引，从第二个开始依次和前面的索引比较，如果和前一个索引值不同，则保留索引，当遍历完40个索引的时候就得到了最后的索引表。

官方AnomalyGPT本地试跑过程

Depth-Anything的精华部分基本是在代码里面，论文只是做了相对简要的介绍，看了几篇公众号上的讲解，绝大部分就是照着论文里的内容翻译了一遍，很多比较牛的地方都没发掘出来。根据项目的星标⭐数量，决定是否写。

C++26标准引入了带删除说明的=delete语法，允许开发者在使用=delete时附加原因说明，提升了代码可读性和维护性。文章对比了C++98、C++11和C++26三种标准下删除函数的实现方式，展示了新语法的优势。同时指出该功能存在使用限制，如不能应用于纯虚函数、override标记函数等场景。这一改进虽小，但体现了标准库对开发者友好性的持续优化。

运算符重载是C++支持多态性的核心特性之一，允许程序员为自定义类型赋予运算符的语义化操作能力。其本质是通过函数重载机制实现的，编译器会根据操作数类型选择最匹配的运算符函数。+=

本文介绍了C++标准模板库(STL)的基本概念和常用容器vector的操作方法。STL由容器、算法和迭代器三大组件构成，其中vector是动态数组容器。文章详细讲解了vector的四种创建方法、元素增删改查操作（push_back、erase、insert等）以及常用函数如reverse翻转。通过示例代码展示了如何实现向量的基本操作，包括在指定位置插入元素、删除特定下标元素等。这些操作都通过vector的迭代器（begin、end）来完成，体现了STL模板化编程的灵活性。

介绍C++中std::vector的使用技巧与底层机制。重点包括：1）vector的动态数组特性与基本操作；2）容量管理（size/capacity区别、预分配优化）；3）底层实现（连续存储、扩容机制）；4）特殊用法（swap回收内存、emplace高效构造）；5）vector<bool>的特化实现与陷阱；6）开发注意事项（迭代器失效、性能优化等）。适合有一定基础的开发者掌握vector的进阶特性，提升使用效率与规避常见错误。

定义一个独立的比较函数，签名需为bool(T, T)// 降序排序// 结果为 {9, 5, 5, 2, 1}当排序对象是自定义结构体或类时，可以结合上述方法。// 按名字字典序排序});