
SERVICE PHONE
363050.com发布时间:2025-06-27 22:56:17 点击量:
爱游戏,爱游戏体育,爱游戏平台,爱游戏娱乐,爱游戏官网,爱游戏官方网站,ayx爱游戏平台,爱游戏app,爱游戏体育app,爱游戏app下载,爱游戏体育官网,爱游戏体育app下载,爱游戏体育网页版当前,多模态大模型在根据复杂文本提示生成高保真、语义一致的图像方面取得了显著进展,但在处理包含精确空间关系、多对象属性及复杂组合的指令时,仍面临挑战。
该新框架通过引入强化学习,显著增强了多模态大模型在视觉生成任务中的语义 - 空间推理能力,使其能够超越预定义模板,自主探索和学习更优的推理策略。GoT 和 GoT-R1 已全面开源。
GoT 框架首先通过引入显式的语言推理过程,在生成图像前对语义内容和空间布局进行规划,从而提升了生成图像的准确性和可控性 。然而,GoT 的推理要源于基于人工定义模板的监督微调数据,这在一定程度上限制了模型自主发现更优推理策略的潜力,有时可能导致生成的推理链条未能完全忠实于用户复杂的文本提示 。
GoT-R1 的提出,旨在克服上述局限。它将强化学习(RL)创新性地应用于视觉生成的语义 - 空间推理过程,赋予模型自主学习和优化推理路径的能力。
理解 GoT-R1 之前,有必要回顾其基础框架 GoT 。传统的文本到图像模型,如Stable Diffusion,FLUX 等,通常采用直接特征映射的方式,从文本嵌入到视觉特征,缺乏对场景内对象间复杂关系和空间布局的显式推理过程 。这使得它们在面对包含多个实体、精确空间指令和细致属性描述的复杂文本时,生成效果往往未达预期。
GoT 框架旨在应对这一挑战,其核心思想是将 “直接生成” 模式转变为 “先推理规划,后引导生成” 的两阶段过程 。具体而言,GoT 首先将用户输入的文本提示(Prompt)解析并扩展为一个详尽的 “生成思维链”(Generation Chain-of-Thought)。此思维链不仅包含对场景中各个构成元素的语义描述(例如,“一个现代风格的客厅,带有 shabby chic 风格的触感”)和具体物体(例如,“一个华丽的枝形吊灯”,“一个带框的镜子”),还附带了这些物体在图像中的精确空间坐标信息(例如,吊灯位于 (372,0), (613,254),镜子位于 (157,251), (285,519)) 。随后,这条融合了语义规划与空间布局的思维链将作为精细化指令,指导后续的图像扩散模型进行图像生成,确保最终输出与预先规划高度吻合 。
GoT 框架的实现,依赖于构建的大规模推理链图文对数据集(超过 900 万样本,包括 840 万图像生成样本和 92 万图像编辑样本 )以及先进的多模态大模型(如 Qwen2.5-VL )进行推理链的生成。此外,其独创的语义 - 空间指导模块(Semantic-Spatial Guidance Module, SSGM)进一步增强了扩散模型遵循推理链进行精确生成的能力 。
尽管 GoT 在提升复杂场景生成方面取得了显著成效,但其主要依赖监督学习范式,模型推理能力的提升受限于标注数据的模板和质量 。GoT-R1 则引入了强化学习,旨在突破这一瓶颈,赋予模型更强的自主学习和泛化能力。
GoT-R1 面临的关键挑战之一是为视觉生成任务设计一个全面且有效的奖励(Reward)机制。该机制需要能够准确评估生成结果的多个维度:不仅包括最终图像与文本提示的语义一致性、空间布局的准确性、对象属性的正确绑定以及图像的整体美学质量 ,更重要的是,还需要对中间生成的 “思维链” 本身的质量进行监督,避免出现推理过程存在谬误或与最终图像不一致的情况 。
针对此,GoT-R1 构建了一个基于 MLLM 的双阶段、多维度奖励框架,具体包含:
语义对齐奖励 (Rsem):利用 MLLM 评估所生成的 GoT 推理链在语义层面是否完整、是否忠实于原始输入文本,以及是否存在内在逻辑矛盾或表述不清晰等问题 。空间对齐奖励 (Rspa):此为 GoT-R1 的核心创新点。鉴于多数 LLM 或 MLLM 对于直接处理文本形式的坐标数据并判断其空间关系的能力有限 ,GoT-R1 提出将 GoT 推理链中规划的对象坐标信息,在虚拟的空白画布上渲染为包含具体边界框的可视化图像。随后,将此图像输入 MLLM 进行判断,评估其所展现的空间布局是否与原始文本提示中的空间关系描述(例如 “A 在 B 的左侧”)相符 。这种 “文本坐标 ->
可视化布局 ->
MLLM 评估” 的转换,显著提升了空间关系奖励信号的准确性和鲁棒性 。
旨在确保最终生成的图像能够忠实地执行 GoT 推理链中的规划。具体实现方式是,利用 MLLM 在生成的图像中定位出推理链中规划的每一个对象,并获取其在图像中的实际边界框。然后,通过计算规划边界框与图像中实际边界框之间的交并比(Intersection over Union, IoU),来量化图像对推理链的遵循程度 。
作为最终结果的评估,由 MLLM 从对象、属性、布局等多个维度,综合评价生成的图像与原始输入文本提示的整体一致性与符合度 。
这些精心设计的多维度奖励信号,与高效的组相对策略优化(Group Relative Policy Optimization, GRPO)强化学习算法相结合 ,使得 GoT-R1 模型(例如,基于 Janus-Pro 模型 )在训练过程中能够主动探索并学习到更优质、更符合复杂指令的推理策略,而不仅仅是重复训练数据中的固定模式。
GoT-R1 的效果如何?研究团队在极具挑战性的 T2I-CompBench 上进行了全面评估。
评估结果显示,GoT-R1-7B 模型在该基准测试上确立了新的 SOTA 性能 。其强大之处体现在多个方面:首先,它在 T2I-CompBench 的六个评估类别中的五个(色彩、形状、纹理、非空间属性、复杂组合)取得了最高分 。尤其是在由混合自然语言组合提示构成的 “Complex” 基准测试中,GoT-R1 展现出显著优势,证明了其在处理复杂、多层次指令上的卓越能力 。
更重要的是,该成果清晰地展示了强化学习带来的提升。与仅使用 GoT 数据集进行监督微调的基线模型(Janus-Pro-7B-GoT)相比,经过强化学习优化的 GoT-R1-7B 模型在评估指标上实现了高达 15% 的提升。例如,在纹理(Texture)和形状(Shape)等类别的保线B 相较于 GoT 微调模型取得了大幅度的进步 。这些显著的性能增益,有力地证明了 GoT-R1 通过强化学习引导模型自主优化推理路径的策略,对于解决复杂的组合式图像生成任务是切实有效的。
为了验证强化学习是否真正提升了模型内在的推理能力,而非仅仅优化了最终的图像输出,研究团队还对模型核心的 “思考过程”—— 即 “生成思维链”(Generation Chain-of-Thought)的质量本身进行了深入分析 。为此,团队采用 GPT-4o 作为第三方评估者 ,对 GoT-R1-7B 自主探索生成的推理链与仅经 GoT 监督微调的基线模型(Janus-Pro-7B-GoT)生成的推理链进行了一对一的比较。
评估结果具有压倒性的说服力。GPT-4o 在所有评估类别中均明确地偏好由 GoT-R1 生成的推理链。例如,在对空间关系理解要求极高的 “Spatial” 类别提示中,GoT-R1 获得了 84 票,而基线 票 。这一结果强有力地证明,GoT-R1 框架通过强化学习,不仅提升了最终图像的生成质量,更从根本上优化了模型自身的推理能力,使其能够生成更准确、更忠实于用户意图、逻辑更清晰的 “思维链”,而这正是其在复杂组合任务中取得成功的关键所在。
06月17日,海口出台人才落户新政广揽英才,杏耀平台官方网站,博发网址,特狗app官网,beplau体育
06月17日,“一人食”爆火的背后,沙巴体育网址沙巴体育网址,北京合法德州俱乐部,千赢88,波音网站
06月17日,外媒:达沃斯“今日最大故事”是中国庞大的代表团,赢家体育app,bg真人网址,爱体育官网app,2019年欧洲杯赛程直播
06月17日2024文昌国际航空航天论坛在海南文昌开幕威尼斯人vip线路一日博体育在哪玩伟德betvlctor体育365bet体育滚球正规
06月17日【高质量发展调研行】滇池东岸卧龙古渔村焕新生 游客“Country Walk”松弛感拉满百乐国际真人娱乐官网蓝月亮料asiAGame官方网站开元体育官网登录入口
06月17日乌克兰外交部回应泽连斯基遭俄通缉:毫无价值顶级贵宾厅713网址pg电子双喜临门超级大奖扎金花游戏厅双赢棋牌娱乐……
06月17日,【巴黎奥运会】邓雅文回乡分享感悟:走下领奖台,一切归零,365bet手机注册,申搏官网入口,网络ag线日,粤港澳大湾区中欧班列开行数量连续11年创新高,立博体育官网的网址,爱赢体育全站,杏彩平台网页登录,CQ9跳高高怎么卡免费旋转
06月17日浙江大部气温腰斩 多地空气质量转好365体育手机版app下载12bet备用网站送彩金平台游戏老新濠天地开户官网
06月17日,(两会速递)全国人大代表黄林:加强基层文化遗产保护和传承,优德体育推荐网址,永利体育手机版,千赢国际登录官网下载app,杏彩网站登录平台
06月17日,中国驻美大使谢锋:警惕麦卡锡主义的幽灵复活、 奥本海默的悲剧重演,aoa体育平台app下载,波克捕鱼达人官方正版下载,旗开棋牌,线日,盖“被子”帮冰块度夏 从哈尔滨存冰有道看科技保温妙招,韦德体育体育,天娱国际线bet快速登陆,澳门永利手机网页
06月17日香港举办“双城青年文化人才交流计划”威尼斯人网址多少啊365体育滚球试玩进入威尼斯官方网站登录下载快三官网app
06月17日中外艺术家齐聚河北 共探艺术与科学融合bet9app下载网址乐投国际百老汇娱乐官网澳门有抢庄牛牛
06月17日危地马拉当选总统因国会争议推迟任职fun88官方网站9号赌城ope体育APP官网多宝官网地址
国足vs黎巴嫩出线生死战,免责声明四川:提升“税务服务”水平助企扬帆出海老街华纳官网网址澳博世界杯功率亚星在线元
我爱上的人是奇葩 第五季,瑙鲁宣布同台湾“断交” 外交部回应北京八达岭夜长城将于春节期间开放开元棋盘软件破解版pc蛋蛋网址大全威尼斯在线娱乐云顶娱乐官方登录入口
布莱泽奥特曼,远离肠癌4种食物要少吃韩国一工厂发生火灾2名消防员遇难 尹锡悦表示哀悼am8亚美app手机澳门皇冠玩的吗内部透密玄机送四肖四码有没有手机斗地主赢钱
世卫组织称烟草使用率在下降,浩新型citywalk2024“天府建造节”开幕 两岸和香港师生成都同台竞技艾弗森代言的BB球赛平台im体育线金宝搏官网下载贝博app体育
24岁国企副总经理大专毕业引质疑,孙杨重走来时路外交部:中国节日消费旺、冰雪经济热为全球旅游市场注入强劲动力水果连连看2威尼斯人唯一官方凯时网上国际官方888集团官方网站welcome
如何评价成龙20本签名书变两本?,逆水寒 新衣服中国团队最新研究:草原火灾位居全球碳排放贡献首位线上真钱电子万博官网网站bbin手机客户端官网色系999澳门国际真人