动态列表

  • 2027万亿视频市场将爆发!AI十年如何重塑内容产业?|新智元十周年峰会
  • GPT-5是口袋博士?诺奖得主哈萨比斯怒怼奥特曼:博士级AI纯属扯淡!
  • 微软用「光」跑AI登上Nature!100倍能效颠覆GPU,华人首席研究员扛鼎
  • 缺钱但不缺洞见:刚刚,陶哲轩揭秘AI如何吞噬数学项目的灵魂!
  • 马斯克深夜挥刀,Grok幕后员工1/3失业!谷歌AI靠人肉堆起,血汗工厂曝光
  • 全景呈现大模型开源技术路线和生态,蚂蚁开源在2025外滩大会发布全新报告
  • 抢先实测美团首个AI Agent,让我体验一把「懒人点餐」的快乐
  • 将KV Cache预算降至1.5%!他们用进化算法把大模型内存占用砍下来了
  • LLaSO 横空出世:逻辑智能推出全球首个完全开源语音大模型框架,定义 LSLM 研究新基准
  • 为这一个Tab键,我愿意单独付费:Cursor用在线强化学习优化代码建议,护城河有了?
  • 小红书智创音频技术团队:SOTA对话生成模型FireRedTTS-2来了,轻松做出AI播客!
  • 大模型碰到真难题了,测了500道,o3 Pro仅通过15%
  • INFFUS 25 | FS-Diff:一步到位,用扩散模型同时实现多模态图像融合与超分辨率
  • iPhone 17 全系上线拼多多,5099 起;「罗西大战」后续,传「预制菜国标」过审;小米蔚来小鹏抵制「车圈黑公关」
  • 突发!苹果AI大失血:Siri前掌门离职,核心团队被挖角,新功能延期到2026
  • 对Transformer说不!清华刘嘉:2045数字永生降临|新智元十年峰会
  • 急诊室生死逆转!酒后呕吐,GPT-5一眼锁定食管穿孔
  • 周周996,顿顿预制餐!美国AI界00后卷疯了: 住「棺材房」一周工作92小时
  • 学历越高,越怕熬夜!2.3万人10年研究实锤:睡得越晚,智力下降越快
  • Arm拥抱AI:五倍性能,三倍能效
  • Meta开源MobileLLM-R1模型,不到1B参数,用1/10的训练就超越了Qwen3
  • 清华、上海AI Lab等顶级团队发布推理模型RL超全综述,探索通往超级智能之路
  • 快手可灵团队提出MIDAS:压缩比64倍、延迟低于500ms,多模态互动数字人框架实现交互生成新突破
  • 成本不足60美元!开源U-ARM:让机器人模仿学习更亲民的通用遥操作界面
  • 让机器人“大脑”更轻更快:SQAP-VLA首次实现VLA模型量化与剪枝协同加速
  • 数据与AI双引擎驱动智能未来,2025外滩大会论数据进化之道
  • iPhone 17 Air 在华发售延期;罗永浩直播回应西贝;《流浪地球》第三部剧本完稿,共计十五万字|极客早知道
  • 刚刚,谷歌发布71页AI科研报告!6大领域全面超越专家,几小时顶几个月
  • 一夜刷屏!27岁姚顺雨离职OpenAI,清华姚班天才转型做产品经理?
  • 王小川押注下个十年:为人类造医生,为生命建模型|新智元十周年峰会
  • 一刀砍掉90%训练成本!Qwen3-Next用1/10算力练成「长文推理利器」
  • AI意识「觉醒」!图灵得主Bengio重磅发声:AI正接近人类意识临界点
  • 扩散语言模型也有MoE版本了!蚂蚁&人大从头训练LLaDA-MoE,即将完全开源
  • 如何为LLM智能体编写工具?Anthropic官方教程来了
  • 腾讯优图重磅开源Youtu-GraphRAG,实现图检索增强技术新突破
  • 北京/上海内推 | 小红书智能审核算法团队招聘NLP/多模态内容理解算法工程师/实习生
  • 「做笔记」的RAG来了!告别噪声与骨牌效应,EviNote-RAG稳住长链推理
  • KDD 2025最佳论文亚军:参数不同还能共训?异构知识迁移框架HtFLlib全面开源
  • Adam的Update RMS为何总是0.2?噪声模拟到理论近似全讲透
  • 我苦寻的「库乐队」,叫 MiniMax Music 1.5
  • Science Advances | AI for Earth:聆听海洋的「脉搏」,新一代AI大模型精准预测十年气候脉动
  • 外滩大会嘉宾锐评AGI即将“撞墙”,正在向数字与物理世界进化
  • 港科大 X MiniMax:高质量数据、小模型挑战复杂网络搜索难题
  • 为了网罗 AI 创新者,上海搞了场万人科创大赛
  • 蚂蚁集团数字蚂力首批专家级“AI数字员工团队”亮相外滩大会
  • “IIFAA数字卡包”上线支付宝:目前已支持多类身份申领
  • 蚂蚁集团加码AGI等青年人才培育,2025蚂蚁InTech奖在外滩大会揭晓
  • 重塑药物研发,哈佛医学院等开源全新AI模型,用「图神经网络」破解疾病驱动因素多元难题
  • 全球最懂智能体的创业者齐聚外滩大会,未来三年怎么做聊透了
  • 马上上岛|云栖大会「新世代 AI 创想岛」即将揭幕
  • ICRA 2025 | TANGO:机器人告别3D地图,仅靠RGB摄像头实现零样本长距离导航
  • 挑战主流认知!蚂蚁、人大在2025外滩大会发布行业首个原生MoE扩散语言模型
  • 姚顺雨离职OpenAI,「亿元入职腾讯」传闻引爆AI圈,鹅厂辟谣了
  • 全新MoE架构!阿里开源Qwen3-Next,训练成本直降9成
  • 告别错误累计与噪声干扰,EviNote-RAG 开启 RAG 新范式
  • 西贝贾国龙称一定起诉罗永浩;支付宝推出「AI 付」服务;iPhone 17 京东、天猫预订量比上代大增|极客早知道
  • 刚刚,ChatGPT支持MCP了!一句Prompt即可全自动化
  • 百度CTO王海峰:AGI曙光已现,Scaling Law仍有效|新智元十周年峰会
  • 通用Agent是伪命题?昆仑万维方汉现场拆解:垂直推理才是胜负手|新智元十年峰会
  • 文心X1.1三大能力狂飙,海内外实测还挺惊艳!
  • 超越90%城市规划师!清华、MIT等提出人机协作新范式 | Nature子刊
  • 慕尼黑车展,当冷静遇上冷静
  • 别再狂刷CoT了!港科广DIGAI Lab发布隐式推理全景综述,静默思考开启新范式
  • 博士申请 | 新加坡国立大学计算机系卞亚涛老师招收2026 Fall人工智能全奖博士/博后
  • 继首创“AI打赏”服务之后,支付宝再推国内首个“AI付”
  • 蚂蚁百宝箱新品Tbox超级智能体亮相外滩大会,5分钟即可完成专业教学素材
  • 量子宇宙模拟竞赛开启:量子计算机可以模拟并阐明复杂物理现象
  • 3000亿美元OpenAI大单,让世界首富位置换人了
  • 攻克大模型「表格盲区」!ST-Raptor框架发布,实现复杂半结构化表格的精准理解与信息抽取
  • 港大马毅外滩大会演讲:人工智能应从“黑箱”走向“白箱”
  • 兼顾准确率与可解释性,DeepSEA实现抗生素耐药蛋白注释范式转变
  • 交互扩展时代来临:创智复旦字节重磅发布AgentGym-RL,昇腾加持,开创智能体训练新范式
  • RewardDance:字节跳动提出视觉生成奖励扩展新范式,破解“奖励劫持”难题
  • 刚刚,Thinking Machines Lab首次发长文,揭开LLM推理不确定性真相
  • 英伟达的AI已经开始接管整个项目了?SATLUTION自主进化代码库登顶SAT竞赛
  • 大模型智能体不止能写代码,还能被训练成白帽黑客
  • 高德扫街榜,能不能做成中国的「Google Map」?
  • 开启MPV家庭新时代,魏牌高山7正式启动预售
  • ACL最佳论文幕后的北大人!北大张铭带出顶会常胜军和百亿CEO天团|新智元十周年峰会
  • 刚刚,这款Agent浏览器力压OpenAI,72%成功率全球第一!还能免费用
  • =COPILOT()函数横空出世!AI自动写公式效率起飞,网友:让Excel再次伟大
  • 当智能醒于物理世界,英伟达副总裁: 下一个十年属于物理AI!|新智元十周年峰会
  • 刚刚,英伟达祭出下一代GPU!狂飙百万token巨兽,投1亿爆赚50亿
  • 00后挑大梁!近20国选手激战外滩大会,AI科创赛三赛道冠军诞生
  • CoRL 2025 | 港大InfoBodied AI团队首发具身表征新范式,构建任务自适应的感知框架
  • 英伟达下一代GPU登场,Rubin CPX一次推理数百万Token,网友:这是头野兽
  • 谷歌AI新里程碑:一个能「做研究」的系统诞生了,用LLM+树搜索编写专家级软件
  • 爱诗科技完成6000万美元B轮融资,阿里巴巴领投,达晨财智、深创投、北京市AI基金、巨人网络、Antler等跟投
  • 当人工智能「看见」量子世界:AI如何改变对复杂量子系统的认知,南洋理工、上交等发布量子系统学习综述
  • 北京内推 | AMD北京AI算法团队招聘模型量化/剪枝算法实习生(可远程)
  • SFT真不如RL?MIT团队抛出“RL的剃刀”,砍掉遗忘直通终身学习
  • 院士领衔!从智能算网到司法AI:顶尖学者直播解读AI与工程前沿趋势
  • DeepSeek、Gemini都不行?AgenTracer锁定多智能体“背锅侠”,8B小模型反超闭源巨模
  • AI应用元年,这场标杆赛事见证了中国创新速度与野心
  • AI胡说八道这事,终于有人管了?
  • 人人都能炼专属Agent,上海交大开源端侧Agent全栈工具链,真实场景性能超GPT-5!
  • TPAMI 2025 | H2OT:分层沙漏型Tokenizer,重塑高效视频姿态Transformer
  • 史上最贵「打工皇帝」!马斯克解锁1万亿美金工资,拢共分几步?
  • 500 块的「电子宠物」,治好了我的「路怒症」|New Things
  • 苹果发布会:耳机测心率、手表听音乐、iPhone Air超级薄
  • 5999 元起,苹果发布eSIM、超薄 iPhone;王腾再辟谣离职原因谣言;反恶性补贴,主要外卖平台被约谈|极客早知道
  • 不到10天,国产「香蕉」突袭!一次7图逼真还原,合成大法惊呆歪果仁
  • 再也不怕面瘫脸!YouTube黑科技:AI帮你「永久微笑」,连僵尸都咧嘴笑
  • OpenAI真正王牌,不是Ilya!刚刚,奥特曼罕见致谢这两人
  • 缔造OpenAI的秘密,竟只有一个词!新智元十年峰会圆桌,七位大咖激辩
  • Hinton预言失灵?掌握AI技能涨薪23%,比读硕士更赚钱
  • 最薄 iPhone 登场,eSIM 正式落地|苹果秋季发布会新品回顾
  • 文心新出的推理大模型,给了我们信心
  • SFT远不如RL?永不过时的剃刀原则打开「终身学习」大模型训练的大门
  • 从第一性原理出发的RAG推理新范式来了,蚂蚁DIVER登顶权威基准
  • 击败多个行业巨头,优必选自研人形机器人最强大脑 Thinker 斩获全球四项第一
  • 字节跳动发布 Seedream 4.0 图像创作模型,豆包、即梦可免费体验
  • 从科幻到产业元年 | 「脑机接口」系统综述发布:全景解析理论、技术、挑战、趋势
  • 硅谷也996实锤了?AI的火,烧掉了硅谷的周末
  • DPad: 扩散大语言模型的中庸之道,杜克大学陈怡然团队免训推理加速61倍
  • Altman亲自发博客点赞,这两大杰出人才是谁?
  • 自变量机器人完成近 10 亿元 A+ 轮融资,多元资本押注共同布局具身智能未来
  • 不止综述!多模态大模型持续学习全链路:Benchmark、方法与Codebase一网打尽
  • 报名启动!西湖大学云谷青年学者论坛·人工智能分论坛诚邀全球英才
  • 科研实习 | 北京大学计算机学院潘亮铭老师课题组招收NLP/大模型方向科研实习生
  • ICML 2025 | 别再只拼CoT了!不完备信息下的主动推理,LLM普遍掉线
  • 时空壶发布 W4:用「硬核」技术,打赢一场 AI 翻译的「标准」之战
  • Science | 西奈山伊坎医学院新AI算法为1600种变异定量「风险」,解析疾病外显率难题
  • TPAMI 2025 | IGEV++:迭代多范围几何编码,刷新立体匹配技术新高度
  • 原来你是这样的外滩大会!
  • 小米通报王腾因泄密被辞退,本人发微博回应;传 IPO 估值 500 亿,宇树回应 ;辛顿自曝被女友用 AI 分手 | 极客早知道
  • Hinton自曝:前女友提分手,用ChatGPT列出自己「七宗罪」
  • 从「会说」迈向「会做」,LLM下半场:Agentic强化学习范式综述
  • 字节Seedream 4.0将全量开放!抢先评测来了,我们摸索出AI生图20种「邪修」玩法
  • 全球图生视频榜单第一,爱诗科技PixVerse V5如何改变一亿用户的视频创作
  • 扎克伯格的豪赌初见成效?Meta新方法让LLM长上下文处理提速30倍
  • 具身VLA后训练:TeleAI提出潜空间引导的VLA跨本体泛化方法
  • 上海AI Lab重磅综述:AI实现自主科学发现时代已经到来
  • 6 个月估值暴涨 5 倍突破 100 亿美元,三个「00后」逼急 Scale AI
  • 深圳内推 | 腾讯音乐天琴实验室招聘音乐生成算法研究员(社招/校招)
  • 给RL装上“防抖器”!GRPO稳化版来了:更高熵、更低KL、更稳更新
  • Focal Loss也能无监督?北大×港中文团队用“双重不确定性优化”提升鲁棒3D感知
  • 导师放养真的会毁掉一个人……
  • 上汽通用五菱与华为深化合作,推出首款车型宝骏华境S
  • IEEE TPAMI | M²Diffuser: 让机器人学会“脑补”,在复杂3D场景中实现精准移动操作
  • 国行版苹果 AI 推迟至年底上线;视频平台广告被曝「偷时间」;美国计划限制进口中国无人机和重型载具 | 极客早知道|极客早知道

耗资15000个A100 GPU日!港中文、阿里等发布600万规模T2I推理数据集与基准

CV君 2025-09-14 11:30 江苏

近年来,文生图(Text-to-Image, T2I)技术取得了飞速发展,但开源模型在处理需要复杂推理能力的提示词时,其性能仍与顶尖的闭源系统存在差距。这背后的核心挑战在于,社区缺乏大规模、以推理为中心的训练数据集和全面、对齐人类判断的评测基准。

为了应对这一挑战,来自香港中文大学、香港大学、北京航空航天大学和阿里巴巴的研究者们联合推出了 FLUX-Reason-6M 数据集和 PRISM-Bench 评测基准。这项工作旨在为T2I领域提供前所未有的高质量资源,推动模型在复杂场景理解和生成能力上的发展。其中,FLUX-Reason-6M是一个包含600万张高质量图像和2000万条双语描述的庞大数据集;PRISM-Bench则是一个全新的、包含七个不同赛道的评测标准,其名称意为“精确鲁棒的图像合成评测基准”(Precise and Robust Image Synthesis Measurement Benchmark)。

研究背景与意义

当前的开源文生图模型,尽管在生成普通图像上表现出色,但在面对包含复杂空间关系、多对象属性绑定、文本渲染、乃至抽象逻辑和背景知识的提示词时,往往会“力不从心”。例如,我们很难让模型准确生成“三只蓝色的鸟在两只红色的小狗左边”这样的场景。

造成这一瓶颈的主要原因有二:

  1. 缺乏高质量的训练数据: 现有的大规模图文数据集多是从网络爬取,质量参差不齐,且缺乏专门用于训练“推理”能力的结构化信息。它们通常只描述了“图像里有什么”,而没有解释“为什么这样布局”或“如何构成这个场景”。

  2. 缺乏全面的评测标准: 已有的评测基准(Benchmark)大多维度有限,或依赖于简单的CLIP分数和目标检测,难以区分顶尖模型之间的细微差异,也无法全面评估模型的想象力、情感表达等高级能力。

因此,构建一个大规模、高质量、专注于推理能力的数据集,并设计一个能准确反映人类偏好的评测基准,对于推动整个T2I领域的发展至关重要。这正是本项研究的核心动机。

FLUX-Reason-6M:一个为推理而生的里程碑式数据集

为了解决数据难题,研究团队构建了 FLUX-Reason-6M。这不仅仅是一个简单的图文对集合,而是一个精心设计的、旨在教授模型如何“思考”和“推理”的系统性框架。整个数据构建流程耗时4个月,使用了128块A100 GPU,总计 15,000个A100 GPU日,堪称目前最昂贵的开源数据集之一。

数据集的六大核心特征

数据集围绕六个核心特征进行组织,这些特征经过特意设计,存在相互重叠,以模拟真实世界中复杂场景的多面性。

  • 想象力(Imagination): 描述超现实、奇幻或抽象的概念,挑战模型的创造力。

  • 实体(Entity): 关注真实世界中特定物体、生物或知名实体的准确描绘。

  • 文本渲染(Text rendering): 专门解决在图像中准确生成指定文字的难题。

  • 风格(Style): 包含大量艺术风格、摄影技巧和著名艺术家美学特征的样本。

  • 情感(Affection): 旨在将抽象的情感、氛围或情绪转化为具体的视觉表达。

  • 构图(Composition): 侧重于场景内物体间的精确空间布局和相互关系。

首创“生成思想链”(GCoT)

该数据集最大的创新之一是引入了 生成思想链(Generation Chain-of-Thought, GCoT)。传统的图像描述(caption)只是简单描述内容,而GCoT则提供了一个详细的、分步的推理链条,阐述了图像是如何被构思和组合出来的。它不仅解释了场景中的元素,还揭示了这些元素间的相互作用、布局逻辑以及整体的构图和语义原则。这种“思想链”为模型提供了强大的中间监督信号,使其能学习到图像背后更深层次的结构和艺术选择。

数据构建流程

研究者们设计了一套复杂且严谨的数据管理流程,以确保数据集的规模、质量和多样性。

该流程主要包括:

  1. 构建高质量视觉基础: 使用强大的FLUX.1-dev模型作为图像合成引擎,并结合多种策略(如重写Laion标题、渐进式想象力培育、文本渲染数据挖掘)来生成一个包含800万张图像的初始池。

  2. VLM驱动的质量过滤和多维评分: 利用先进的视觉语言模型(VLM,如Qwen-VL)作为自动质检员,对图像进行清晰度、结构一致性等基础质量过滤,并根据前述的六大特征为每张图片进行多标签分类和打分。

  3. VLM驱动的密集描述和GCoT构建: 对通过筛选的600万张高质量图像,再次利用VLM生成针对不同特征类别的密集描述,并最终综合所有信息,构建核心的GCoT。

  4. 双语化发布: 为了扩大数据集的可用性,所有2000万条描述(包括原始描述、分类描述和GCoT)都被完整翻译成了中文。

PRISM-Bench:一个更懂推理能力的评测基准

有了高质量的数据集,还需要一个同样高质量的评测工具。为此,研究团队设计了 PRISM-Bench。它克服了现有基准的局限,提供了一个多维度、细粒度的评估框架。

评测设计

PRISM-Bench包含七个评测赛道,与FLUX-Reason-6M的六大特征一一对应,并额外增加了一个极具挑战性的 长文本(Long Text) 赛道,该赛道使用GCoT作为提示词,专门测试模型遵循复杂、多层次指令的能力。

每个赛道包含100个精心设计和挑选的提示词,一半通过语义聚类从数据集中采样以保证代表性,另一半则由人工精心构建以探测模型的能力边界。该基准同时提供中文版本 PRISM-Bench-ZH

评估协议

PRISM-Bench的核心创新在于其评估方式。它不再依赖简单的分数,而是利用 顶尖VLM(GPT-4.1和Qwen2.5-VL-72B)作为“代理裁判”,从两个关键维度对生成的图像进行打分:

  1. 图文对齐度(Alignment): 评估图像在多大程度上遵循了提示词的指令。评估标准是针对每个赛道的特点定制的,例如,在“构图”赛道中,VLM会重点检查空间关系是否正确。

  2. 美学质量(Aesthetic): 评估图像的整体视觉吸引力,包括光照、色彩、细节和构图等。

这种方法能够提供更接近人类判断的、细致入微的评估结果。

实验与结果分析

研究团队在PRISM-Bench上对19个当前领先的文生图模型(包括闭源的GPT-Image-1, Gemini2.5-Flash-Image和开源的Qwen-Image, SDXL, FLUX.1等)进行了大规模的横向评测。

英文评测(PRISM-Bench)

以下是由GPT-4.1和Qwen2.5-VL-72B评估的部分结果:

主要发现:

  • 闭源模型优势明显: GPT-Image-1和Gemini2.5-Flash-Image在几乎所有赛道上都处于领先地位,展现了强大的综合能力。

  • 开源模型正在追赶: 以Qwen-Image为首的开源模型表现出色,在某些方面(如构图)已能与顶级闭源模型媲美,显示出开源社区的巨大潜力。

  • 共同的短板:文本渲染长文本理解 是几乎所有模型的“阿喀琉斯之踵”,得分普遍偏低,这凸显了当前T2I技术在精确控制和深度指令遵循方面的核心挑战。

  • 模型演进显著: 从SD1.5到SDXL再到SD3.5-Large,Stable Diffusion系列模型的性能提升清晰可见,证明了模型架构和训练方法的持续进步。

中文评测(PRISM-Bench-ZH)

在中文评测中,同样观察到了有趣的现象。

主要发现:

  • 中文文本渲染是亮点: 与英文文本渲染的普遍困境形成鲜明对比,像SEEDream 3.0和Qwen-Image等模型在处理中文排版上表现出令人惊讶的强大能力,生成的汉字质量很高。这可能得益于它们在原生中文语料上的深度训练。

  • GPT-Image-1依旧强大: 即使在中文环境中,GPT-Image-1依然在多个维度上保持领先,显示了其强大的跨语言泛化能力。

总结与贡献

这项工作通过推出FLUX-Reason-6M和PRISM-Bench,为文生图领域带来了两大核心贡献:

  1. 创建了首个为推理而设计的百万级T2I数据集(FLUX-Reason-6M): 它包含600万张高质量图像、2000万条双语描述,并首创了“生成思想链”(GCoT),为训练更“聪明”的T2I模型提供了宝贵的燃料。

  2. 建立了一个全新的、更接近人类判断的评测标准(PRISM-Bench): 通过七个赛道和基于VLM的细粒度评估,它能够更准确地衡量和区分当前最先进模型在复杂推理任务上的能力,并揭示了行业当前的核心技术瓶颈。

最重要的是,研究团队 公开发布了完整的数据集、评测基准和评估代码,极大地降低了研究门槛,使全球的研究者都能在此基础上构建和测试更强大的生成模型。这项工作无疑将催化文生图技术的下一波浪潮,推动模型从简单的“看图说话”迈向真正的“理解与创造”。

CV君认为,这项研究的价值不仅在于其产出的高质量资源,更在于它清晰地指出了当前T2I技术发展的核心痛点——推理能力,并提供了一套行之有效的解决方案和评估体系。对于所有致力于提升生成模型智能水平的研究者和开发者来说,这都是一份不容错过的宝贵财富。_

了解最新 AI 进展,欢迎关注公众号:我爱计算机视觉投稿寻求报道请发邮件至:amos@52cv.net欢迎点赞、分享、收藏、评论。

阅读原文

跳转微信打开

联系我们