
人工智能AI
文章平均质量分 85
人工智能AI
MARS.QZ
这个作者很懒,什么都没留下…
展开
专栏收录文章
- 默认排序
- 最新发布
- 最早发布
- 最多阅读
- 最少阅读
-
AI 玩具机器人视觉避障方案评估:两条落地路线(单目/双目)、人天估算与算力/量化清单
摘要:本文针对RK3562/RV1106G3平台提出两种视觉避障方案:路线A采用单目摄像头实现15FPS以上的障碍检测(可选深度估计),需40人天,重点解决数据标注与NPU优化;路线B基于双目/OAK-D等深度相机实现25FPS检测融合,仅需24人天,稳定性更优。方案详细对比了算力预算(YOLOv8n约5-6Gops/帧)、内存占用(80-180MB)及量化策略(INT8 PTQ为主),推荐商业算法供应商组合,并强调NPU配置对单目方案的决定性影响。最终建议:追求快速落地选路线B,成本优先则选路线A但需加强原创 2025-08-12 08:00:00 · 1019 阅读 · 0 评论 -
未来物联网技术与产品发展方向(B端):系统方案、平台与模组
智能制造通过物联网、大数据等技术实现工厂生产的数字化、网络化和智能化,被视为“工业4.0”的核心。工业物联网(IIoT)将传感器、机器设备与互联网连接,实时收集和分析生产数据,用于优化设备维护、提高生产效率和产品质量。麦肯锡研究表明,借助IIoT实现。原创 2025-08-07 08:00:00 · 973 阅读 · 0 评论 -
以C语言中char和int型变量为示例来理解GPU和NPU里面的算子
在 GPU 和 NPU(神经网络处理器)等深度学习加速器中,“算子”(Operator) 是指实现特定数学运算或神经网络层功能的最小计算单元。可以用 C 语言中的基本数据类型和运算符类比,将其看作一个“简化版”的算子体系,然后再把它扩展到 GPU/NPU 上的深度学习算子。下面用 char(8 位整数)和 int(通常 32 位整数)这两种变量类型举例,帮助你从熟悉的 C 语言角度理解 GPU/NPU 里的算子。原创 2025-06-10 08:00:00 · 959 阅读 · 0 评论 -
GPU和NPU里面有那些类型的算子?是不是在每一款芯片上的算子类型都不同?
深度学习加速器(GPU/NPU)中的"算子"是构成神经网络的基本计算单元。本文详细分析了GPU(以NVIDIA为例)和NPU(以RKNN兼容NPU为例)对不同类型算子的支持情况及其技术实现差异。GPU通过cuDNN/TensorRT提供全面的算子支持,包括卷积、归一化、RNN等,并具备强大的低精度计算和算子融合能力。端侧NPU则采用Dataflow架构,主要优化INT8定点运算,支持基础算子但高级算子(如Attention)可能需拆分或回退CPU处理。不同NPU芯片在算子支持范围、量化精原创 2025-06-09 08:00:00 · 1383 阅读 · 0 评论 -
将大象装进冰箱里需要几步?- Edge AI模组的部署
本文详细介绍了将视频处理大模型部署到边缘设备GPU/NPU的技术流程和资源评估方法。部署过程分为需求与硬件选型、模型分析与预评估、模型优化与转换、跨平台验证与性能调优、集成与部署五个阶段。关键评估指标包括算力与吞吐、延迟与实时性、内存占用与带宽、功耗与热设计、精度与可接受降级等。文章以ONNX模型在NVIDIA Jetson Nano和RK3399Pro NPU上的部署为例,具体说明了模型转换、量化、性能测试和集成应用的方法,并提示了算子兼容性、精度损失、内存带宽等常见风险。通过系统化的流程和资源评估,可确原创 2025-06-07 08:00:00 · 1057 阅读 · 0 评论 -
从GPU加速到深度学习革命 —— AlexNet论文概述
ImageNet Classification with Deep Convolutional Neural Networks》论文以其创新的网络结构、引入 ReLU 激活、数据增强、Dropout 和局部响应归一化等技术,以及成功利用 GPU 加速训练,为深度学习的发展提供了坚实基础。AlexNet 的成功不仅极大地提升了图像分类的准确率,也开启了利用 GPU 进行大规模神经网络训练的新时代,从而深刻地改变了人工智能领域的研究和应用格局。原创 2025-04-07 20:00:00 · 1426 阅读 · 0 评论 -
算子:定义、作用与在深度学习中的应用
在数学中,算子(Operator)通常被定义为一种映射或函数,它将一个函数或向量转换为另一个函数或向量。最常见的例子包括线性变换、微分算子和积分算子等。例如,在微分方程中,微分算子 D 可以将一个函数 f(x) 映射为其导数 f′(x)。在计算机科学和硬件设计领域,CPU 的基本运算单位是“指令”,指令由操作码和操作数组成,执行诸如数据传输、算术运算、逻辑运算和控制流操作等。原创 2025-04-08 08:00:00 · 1181 阅读 · 0 评论 -
深度学习中的算子及其优化技术概述
自定义算子(Custom Operator)是开发者根据特定业务需求或硬件要求,自行设计和实现的算子。这类算子通常用于扩展现有深度学习框架的功能,或者替换性能不足的原生算子。作用与优势:可以添加框架中未提供的特殊功能,满足特定场景的需求。为目标硬件或应用场景进行高度定制化,充分利用硬件特性,从而达到更高的计算效率。当训练过程中使用的算子在推理环境中不支持时,自定义算子可以提供等效功能,保证模型在不同平台上的正常运行。开发注意事项:自定义算子需要遵循目标推理框架的接口规范,确保能够被调度和调用。原创 2025-04-08 08:00:00 · 1032 阅读 · 0 评论 -
Sam Altman 被 OpenAI 解雇事件背后的真实故事
这六个人分别是:Altman 本人,他的亲密盟友 Brockman,另一位联合创始人 Ilya Sutskever,以及三位独立董事:Adam D’Angelo(问答网站 Quora 的 CEO,曾在 Facebook 担任高管)、Helen Toner(乔治城大学安全与新兴技术中心战略主管,曾任职于慈善机构 Open Philanthropy)、Tasha McCauley(前科技公司 CEO,同时也是英国 EA 慈善组织 Effective Ventures 董事)。Altman 看到后暴跳如雷。原创 2025-04-02 08:00:00 · 787 阅读 · 0 评论 -
图解 Transformer【译】
在处理矩阵时,我们可以用一个公式来简化自注意力层输出计算的第二步到第六步的过程。自注意力计算的矩阵表示形式。原创 2025-04-02 08:00:00 · 1150 阅读 · 0 评论 -
在 i.MX8MP 上用 C++ 调用豆包 AI 大模型实现图像问答
我们将详细讲解代码实现的各个步骤,包括文件读取、Base64 编码、构造 JSON 请求体、使用 libcurl 进行 HTTP POST 请求以及解析响应数据等。豆包 AI 大模型提供了一套 API 接口,可以通过 HTTP 请求将图像信息发送给模型,返回图像内容的问答结果。代码使用 nlohmann::json 对响应进行解析,并提取出模型回复的内容(位于 JSON 的 "choices" 数组中)。库,我们构造了一个与豆包 AI 模型 API 要求一致的 JSON 请求体。原创 2025-03-28 16:45:59 · 1182 阅读 · 0 评论 -
OpenAI放出大招!GPT-4o图像生成功能上线
3月25日凌晨,OpenAI终于放出了憋了一年的大招——GPT-4o图像生成功能正式上线了,目前正开始在ChatGPT和Sora中向所有Plus、Pro、Team和Free用户推出。GPT-4o生成的图片达到了以假乱真的程度,让人乍一看还以为是真人在黑板上写的,下图是由GPT-4o生成的。原创 2025-03-26 20:20:05 · 529 阅读 · 0 评论 -
使用自然语言搭建智能体
你可以通过自然语言描述你的智能体创建需求,例如创建一个夸夸机器人,你也可以详细描述智能体的功能和应用场景,扣子会根据你的描述,自动创建一个专属于你的智能体。原创 2025-03-22 20:53:56 · 503 阅读 · 0 评论 -
为扣子智能体接入 DeepSeek
扣子现已推出满血版 DeepSeek 全家桶,支持免费体验 R1、V3 模型。除此之外,扣子支持 DeepSeek 思维链(Chain-of-Thought,CoT)和 Function Calling 能力,为你的智能体添加私有知识和多种技能,拓展智能体的能力边界,一键满足多种场景需求。原创 2025-03-22 20:46:54 · 878 阅读 · 0 评论 -
搭建一个 AI 助手智能体
论你是否有编程基础,你都可以在扣子平台快速搭建一个 AI 智能体。本文以一个夸夸机器人为例演示如何在扣子平台搭建智能体。和夸夸机器人对话时,它可以给你正向的鼓励,抚慰你的情绪。参考以下步骤快速搭建一个夸夸机器人。你也可以切换到 AI 创建,通过自然语言描述你的智能体创建需求,扣子根据你的描述自动创建一个专属于你的智能体。详细请参考通过AI创建智能体创建智能体后,你会直接进入智能体编排页面。你可以:配置智能体的第一步就是编写提示词,也就是智能体的人设与回复逻辑。智能体的人设与回复逻辑定义了智能体的基本人设,此原创 2025-03-22 20:28:15 · 996 阅读 · 0 评论 -
什么是扣子?
扣子是新一代 AI 应用开发平台。无论你是否有编程基础,都可以在扣子上快速搭建基于大模型的各类 AI 应用,并将 AI 应用发布到各个社交平台、通讯软件,也可以通过 API 或 SDK 将 AI 应用集成到你的业务系统中。原创 2025-03-22 19:57:43 · 584 阅读 · 0 评论