JoyAI-VL-Interaction:实时视觉-语言交互智能模型发布
JoyAI-VL-Interaction 是一个 80 亿参数、视觉优先的模型,能够无需用户提示自主决策响应或委托,旨在像人类一样感知环境变化并互动。该系统通过流式持续视频实现实时交互,配备可插拔的 ASR/TTS 模块和后台大脑。人类评估者在多种场景下更偏好该模型,而非现有的视频通话助手。该开源模型和系统代表了一种交互建模的新范式,用于始终在线的感知智能体。
Thinkgap 信息流
页面仅读取已加工的 items 表,并以中英双语呈现。
23 条内容
JoyAI-VL-Interaction 是一个 80 亿参数、视觉优先的模型,能够无需用户提示自主决策响应或委托,旨在像人类一样感知环境变化并互动。该系统通过流式持续视频实现实时交互,配备可插拔的 ASR/TTS 模块和后台大脑。人类评估者在多种场景下更偏好该模型,而非现有的视频通话助手。该开源模型和系统代表了一种交互建模的新范式,用于始终在线的感知智能体。
该论文提出了Data2Story,一个通过模拟虚拟新闻编辑室中不同角色的多智能体框架,来自动化数据新闻生产。它能够生成基于证据的多格式新闻故事,包括文字报道、交互地图和音频,并链接数据源以确保可验证性。在与人类专家记者的对比评估中,Data2Story展现出有竞争力的表现,尤其在透明度和可审计性方面突出,但人类记者在编辑角度和创意设计方面仍占优势。该系统被定位为记者的协作工具。
FastContext 将仓库探索与代码求解解耦,避免无关代码片段消耗大量 token。它使用专门的探索模型作为子智能体,并行调用工具并仅提供精确的文件路径与行号范围作为上下文。该方法可将 token 消耗降低高达 60%,同时将任务解决率提升最多 5.5%。
APPO 是一种新的智能体强化学习方法,旨在增强大语言模型智能体的多轮工具调用能力。它通过关注细粒度的 token 级别决策点而非粗粒度的交互单元,改进分支选择与功劳分配。该方法利用 token 不确定性和策略诱导的似然增益来选择分支位置,从而实现更精准的探索,并在分支展开间更合理地分配功劳。在 13 个基准测试中,APPO 相较于现有智能体强化学习方法平均提升约 4 个百分点,同时确保高效的工具调用并保持行为可解释性。
HarnessX 是一个实现可组合、自适应、可进化的智能体运行时框架的平台。它引入了组合原语和 AEGIS(一种基于执行反馈的轨迹驱动进化引擎)以迭代优化框架设计。该平台通过代换代数取代了传统静态、手工编写的框架,实现动态适配。在多个基准测试中,HarnessX 相比传统框架平均性能提升了 +14.5%,证明在模型规模之外,运行时接口的进化同样关键。完整代码库将于未来发布。
研究者提出了MRAgent框架,通过关联记忆图与主动重构机制提升LLM智能体的长程记忆推理。它采用Cue-Tag-Content图表示和动态记忆路径探索与剪枝,突破静态检索-推理的局限,使记忆访问能适应推理过程中的中间证据。实验显示相比强基线性能提升最高23%,并降低了token和运行时间消耗,验证了在高复杂性任务中记忆重构的有效性。