返回首页

Qwen3.5-Omni:AI 从视频生成代码

Qwen3.5-Omni — Alibaba 的多模态模型,支持文本、图像、音频和视频。在音视频基准测试中达到 SOTA,从屏幕录像生成代码。256K 令牌上下文,并改进了实时 TTS/ASR。

从视频生成代码:来自 Alibaba 的 Qwen3.5-Omni
Advertisement 728x90

# Qwen3.5-Omni:阿里云的多模态模型,可从屏幕视频生成代码

阿里云的多模态模型 Qwen3.5-Omni 可处理文本、图像、音频和视频,并实时输出文本和语音。通过 Offline API 和 Realtime API 提供 Plus、Flash 和 Light 三个版本。上下文窗口扩展至 256,000 个令牌——每个请求可分析多达 10 小时的音频或 400 秒的 720p 视频。

规模与架构改进

Qwen3.5-Omni 在性能上大幅超越前代 Qwen3-Omni。语音识别支持扩展至 113 种语言和方言(此前为 19 种),语音合成支持 36 种(此前为 10 种)。Thinker 和 Talker 组件采用 Hybrid-Attention MoE 架构。预训练数据超过 1 亿小时的多模态音视频数据。

ARIA 技术(自适应速率交错对齐)在流式传输中动态同步文本和语音令牌,最大限度减少单词跳过和数字发音瑕疵。

Google AdInline article slot

基准测试结果

Plus 版本在 36 个音频和音视频基准测试中达到最先进水平,同时在数十种语言的语音识别和翻译任务中领先。在音频理解、识别、翻译和对话方面,该模型超越 Gemini 3.1 Pro。在音视频任务中——与 Gemini 相当。语音生成在 20 种语言上的稳定性优于 ElevenLabs、GPT-Audio 和 Minimax。

文本和视觉能力保持在同等规模的单模态 Qwen3.5 模型水平。

关键指标对比:

Google AdInline article slot
  • 上下文窗口:256K 令牌(对比 32K)。
  • 音频:每个请求 >10 小时。
  • 视频:约 400 秒 720p。
  • 语音识别语言:113。
  • 语音合成语言:36。
  • 预训练数据:>100M 小时。

开发者新功能

该模型支持语义中断:可区分用户语音与噪声。支持声音克隆,以及 TTS 中的语速、音量和情感控制。集成 WebSearch 和 FunctionCall 以扩展功能。

新兴能力 Audio-Visual Vibe Coding 可从带有音频指令的屏幕视频录像生成代码——无需文本提示。这一功能作为规模扩大的副产品自然出现,无需针对性训练。

关键要点

  • 256K 令牌上下文可处理长视频/音频序列。
  • Thinker/Talker 中的 Hybrid-Attention MoE 提升多模态推理效率。
  • 在 36 个基准测试中最先进,音频任务超越 Gemini 3.1 Pro。
  • 新兴视频编码:从屏幕录像和语音生成可运行代码。
  • ARIA 实时消除流式传输瑕疵。

集成到应用中

对于中高级开发者,Qwen3.5-Omni 非常适合实时任务:语音助手、视频分析、多模态代理。API 可嵌入自定义函数的流水线中。在 20+ 语言上的 TTS 稳定性简化全球部署。

Google AdInline article slot

示例场景:传入带音频的编程视频——模型提取逻辑并编写代码。适用于自动化教程、审查屏幕会话,或从演示生成脚本。

— Editorial Team

Advertisement 728x90

继续阅读