DerailYourself:AI大模型在多轮对话场景下的安全风险与应对策略本文作者团队来自上海交通大学、北京航空航天大学以及上海人工智能实验室(AILab)。文章的核心贡献者包括上海交大博士生任麒冰以及马利庄教授等。在当前人工智能(AI)飞速发展的时代,以OpenAI的GPT-4等大模型为代表的AI系统展现出了惊人的推理能力,在代码...
2024-11-07 23:30:23
SegmentAnythingModel2(SAM2)的挑战与SAM2Long的创新策略一、引言随着视频处理技术的不断进步,视频目标分割任务逐渐成为了计算机视觉领域的重要研究焦点。最近,SegmentAnythingModel2(SAM2)由于其出色的性能在学术界和工业界引起了广泛的关注。针对传统视频目标分割任务,SAM2在长视频序列...
2024-11-05 23:39:34
摘要:本文主要介绍了一种强大的3D大语言模型——Robin3D,该模型通过鲁棒指令数据生成引擎(RIG)生成的大规模数据进行训练,以提高模型在3D场景理解中的鲁棒性和泛化能力。Robin3D在多模态大语言模型的基础上,通过融合多种特征和关系增强投射器(RAP)等技术,实现了对3D物体和复杂场景的理解、推理和自由对话。与以往的方法相比,...
2024-10-16 02:15:03
类人智能的实现,深度学习中人类判断与神经网络的对齐研究新智元报道编辑,LRS,新智元导读,近日,DeepMind等研究机构在人工智能领域取得重要突破,提出了一种名为AligNet的新框架,该框架通过模拟人类判断来训练教师模型,并将类人结构迁移到预训练的视觉基础模型中,从而提高了模型在多种任务上的表现,增强了模型的泛化性和鲁棒性,这一突...。
2024-09-22 21:42:40
拓扑物态与人工量子系统的前沿探索,中国科学院物理研究所的突破性成果IT之家9月17日消息,拓扑物态,这一在凝聚态物理和量子信息科学领域的前沿热点课题,近年来吸引了众多科研团队的目光,拓扑物态具有受保护的拓扑边界模式,对局域扰动展现出鲁棒性,是量子计算与量子信息处理的理想平台,而人工量子系统凭借其结构的可定制性和参数的可调性,已成为研究...。
2024-09-18 00:35:52