当前位置: 首页 > news >正文

【山东大学-丛润民组-AAAI26】通过对齐器和提示器增强DINO表征用于水下实例分割


文章:Empowering DINO Representations for Underwater Instance Segmentation via Aligner and Prompter

代码:https://github.com/ettof/Diveseg

单位:山东大学


一、问题背景:水下场景的AI“识别困境”

水下成像远比陆地复杂:光线被水吸收散射导致颜色失真(多偏蓝绿)、对比度低、能见度有限,再加上鱼群重叠、珊瑚密集等情况,传统技术很难精准分割目标。

此前的解决方案主要有两类短板:

  1. 传统卷积神经网络(CNN):能力有限,面对水下复杂场景时分割精度差,边界模糊;

  2. 现有视觉基础模型(如SAM):虽有强大泛化能力,但需要海量水下标注数据适配,且对水下高目标密度、视觉多变性的适配不足,性能提升有限。

而DINOv2这类先进的自监督视觉模型,虽在自然图像任务中表现出色,但因“领域差异过大”(没见过多少水下场景),直接套用会受背景噪声干扰,甚至漏检目标。如何让DINOv2“读懂”水下世界,成为关键突破口。

二、方法创新:两大核心模块破解适配难题

山东大学团队提出的DiveSeg框架,以DINOv2为基础,通过两个“专属工具”实现精准适配,整体架构简洁高效:

1. AquaStyle Aligner(水下风格对齐器):解决“颜色失真”问题

水下图片和自然图片的核心差异是颜色风格,这个模块专门负责“校准”这种差异:

  • 先通过傅里叶分解技术,提取水下图片的颜色风格特征(保留频率域的振幅信息,固定平均相位),过滤掉物体本身的干扰,只保留水下独有的色调特性;

  • 再通过跨注意力机制,将提取的风格特征注入DINOv2模型,用少量参数微调就让模型快速适应水下视觉风格,避免颜色失真导致的识别偏差。

2. ObjectPrior Prompter(目标先验提示器):解决“物体难寻”问题

DINOv2没见过太多水下特有物体(如珊瑚、水母),直接识别难度大。这个模块相当于给AI“划重点”:

  • 先生成一张“黑白掩码图”,用简单的二进制标记(黑色=背景,白色=物体)告诉模型“哪里有物体”;

  • 再将这张掩码图作为“提示信号”,通过跨注意力机制引导DINOv2聚焦目标区域,先学会区分“物体和背景”,再细分手下每个实例,大大降低学习难度。

两个模块协同工作,既让模型适应了水下的“视觉风格”,又帮模型找准了“关注重点”,完美解决了DINOv2的水下适配问题。

三、实验结果:双数据集刷新SOTA,性能全面领先

团队在UIIS和USIS10K两大主流水下实例分割数据集上做了全面测试,结果堪称“碾压级”:

1. 定量指标(核心性能参数)

2. 定性效果(视觉层面)

四、优势与局限

核心优势

  1. 性能顶尖:目前在两大数据集上都是最优表现,分割精度和边界准确性远超现有方法;

  2. 效率很高:仅用少量参数微调(DINOv2主干冻结),参数量比同类模型少40%以上,运行更高效;

  3. 通用性强:适配水下多种场景(海洋勘探、生态监测),支持7类常见水下物体识别。

现存局限

  1. 对极深水域、极低能见度的图片适配效果有待验证(现有数据集未覆盖此类极端场景);

  2. 依赖二进制掩码图作为提示,若掩码生成不准确,可能影响最终分割效果;

  3. 暂未支持实时视频分割,在水下机器人实时作业场景的应用还需优化。

五、一句话总结

DiveSeg框架首次将DINOv2模型成功应用于水下实例分割,通过风格对齐和目标提示两大创新,用更少参数实现了更高精度的分割效果,为海洋资源勘探、水下机器人作业等场景提供了更可靠的AI视觉解决方案。

http://www.cnnetsun.cn/news/75953.html

相关文章:

  • ComfyUI与TensorRT加速集成:最大化GPU利用率
  • AutoGPT支持代码执行吗?实测Python与C#脚本自动运行能力
  • 基于EmotiVoice的多情感TTS系统实战:打造富有表现力的AI语音应用
  • Docker Swarm集群部署LLama-Factory生产环境最佳实践
  • AutoGPT与Neo4j图数据库整合:构建智能关系网络的知识图谱
  • 【2025最新】基于SpringBoot+Vue的福泰轴承股份有限公司进销存系统管理系统源码+MyBatis+MySQL
  • LSTM模型在LobeChat上下文理解中的潜在应用
  • ComfyUI条件控制门限设置Qwen-Image-Edit-2509触发逻辑
  • Kotaemon框架支持SSCOM串口通信扩展?工业场景新玩法设想
  • 如何用现代化技术栈构建高效可靠的企业级后台管理系统
  • SpringBoot+Vue 福泰轴承股份有限公司进销存系统平台完整项目源码+SQL脚本+接口文档【Java Web毕设】
  • 火山引擎AI大模型生态新增Qwen-Image镜像支持
  • JDK下载后必备工具:Seed-Coder-8B-Base提升Java编码速度5倍
  • 2、开启数字娱乐新体验:Windows XP Media Center Edition PC 全解析
  • AutoGPT是否需要GPU加速?算力需求与Token消耗实测报告
  • AutoGPT能否接入百度地图API?位置服务相关功能开发实践
  • LobeChat在金融客服场景中的落地案例分析
  • 40、深入解析Oracle数据库在Unix和Linux系统中的内存与性能监控
  • 47、Oracle数据库迁移与Java集成全解析
  • EmotiVoice高性能语音合成背后的神经网络架构剖析
  • 智能分层技术:layerdivider让图像处理迈入自动化时代
  • 如何在浏览器中直接调试硬件设备?零安装串口工具全面指南
  • 38、PyQt 高级编程:模型视图、在线帮助与国际化
  • 13、对话框与主窗口开发全解析
  • 如何快速配置微信防撤回补丁:新手完整教程
  • 16、使用Qt Designer创建和实现对话框
  • 17、PyQt开发:Qt Designer使用与数据处理
  • Lostlife2.0玩家行为预测:LLama-Factory训练游戏内决策模型
  • 17、软件RAID与硬件RAID配置全解析
  • 18、硬件RAID配置与使用指南