FLUX 3 – Black Forest Labs 推出的多模态基础模型

AI资讯5小时前发布 灵境行者
4 0 0

FLUX 3是什么

FLUX 3 是 Black Forest Labs 推出的多模态基础模型,首次在统一架构下联合学习图像、视频与音频。模型基于 Self-Flow 技术,将生成与理解对齐于同一框架,能单次生成最长 20 秒带原生音频的视频,支持文生视频、图生视频、视频生视频及关键帧转视频。模型通过模态间的物理约束学习世界表征,在机器人操控等任务上表现优异。

FLUX 3的主要功能

  • 多模态视频生成:单次生成最长 20 秒带原生音频的多样化视频,支持文生视频、图生视频(动画延续/视觉参考)、视频生视频、关键帧转视频及多语言对话。
  • 统一模态理解与生成:基于 Self-Flow 架构,将生成与理解对齐于同一底层框架,支持图像、视频+音频的联合生成,可从纯文本或参考图像/视频输入进行创作。
  • 智能片段串联:支持将多个独立片段智能串联为更长多镜头序列,覆盖从手持摄像机实录到动画、电影级的广泛视觉风格。
  • 可扩展动作预测:架构预留 Action 编码器/解码器扩展位,原生支持物理 AI 与机器人控制任务。

FLUX 3的技术原理

  • Self-Flow 架构:在 Flow Matching 基础上引入自对齐机制,将多模态生成与理解统一于同一框架,实现生成质量与世界理解的双提升。
  • 多模态 Transformer:文本、图像、视频、音频分别经独立编码器处理后汇入统一 Transformer,各模态信息交互融合后由对应解码器输出。
  • 联合训练范式:同时 scaling 计算与数据资源,对视频、图像、音频进行联合训练,用模态间物理约束学习更准确的世界模型。
  • 模态互约束学习:声音需匹配冲击、运动需遵守质量、未来需遵循过去,通过多模态联合约束构建对物理世界的统一表征。

如何使用FLUX 3

  • 获取访问权限:访问 Black Forest Labs 官网(https://bfl.ai/)申请 Early Access 早期体验资格。
  • 选择使用方式:通过浏览器 Playground 即时体验,或通过 API 及第三方平台(Replicate、fal.ai、Together AI)集成调用。
  • 输入创作指令:在 Playground 或 API 中输入文本提示,或上传参考图像/视频作为创作输入。
  • 配置生成参数:选择目标模态(图像/视频/音频)、设置风格、宽高比及输出时长等参数。
  • 获取生成结果:模型自动完成多模态生成,下载或集成输出的图像、带音频视频等内容。

FLUX 3的核心优势

  • 生成与理解双提升:Self-Flow 架构统一生成与理解,机器人操控任务成功率达 47%,学习速度为传统 Flow Matching 的 2 倍。
  • 用户偏好领先:720p 带音频视频盲测中,对 Runway Gen-4.5 偏好率 77%,对 Luma Ray 3.2 达 93%。
  • 原生音频视频联合生成:单次生成长达 20 秒带原生音频的视频,无需后期配音即可实现声画同步。
  • 统一多模态架构:图像、视频、音频在统一框架下联合训练,模态间物理约束使世界模型更准确。
  • 风格多样性:覆盖手持摄像机实录到动画、电影级的广泛风格,支持强排版生成与动态设计。
  • 可扩展至物理 AI:架构预留 Action 编码器/解码器,原生支持机器人控制等物理世界交互任务。

FLUX 3的项目地址

  • 项目官网:https://bfl.ai/blog/flux-3

FLUX 3的同类竞品对比

维度FLUX 3Seedance 2.0
模态覆盖图像+视频+音频+动作预测(统一架构)文本+图像+视频+音频(四模态输入)
单次生成时长最长 20 秒带音频视频未明确
用户偏好率与 Seedance 2.0 持平(52%)与 FLUX 3 持平(52%)
架构特点Self-Flow 统一生成与理解Universal Reference 系统
动作预测原生支持(架构预留)未明确
开源策略提供 Open Weights闭源 API

FLUX 3的应用场景

  • 影视预演与广告创意:快速生成带音频的视频分镜与动态概念片,降低前期制作成本。
  • 多模态内容创作:一键产出风格统一的图文音视频素材,适配社交媒体与营销传播。
  • 虚拟角色与动画:基于参考图像保持角色一致性,跨场景生成连贯的动画视频。
  • 物理 AI 与机器人:利用动作预测能力训练机器人操控策略,加速具身智能研发。
  • 动态设计与排版:生成强文字排版与动画设计内容,赋能品牌视觉与数字广告。
© 版权声明

相关文章

暂无评论

none
暂无评论...