2026年10月13日研究

Fish Audio Drama 3:我们打造的情感表现力最强的文本转语音模型

Fish Audio Drama 3:我们打造的情感表现力最强的文本转语音模型

Drama 3 是 Fish Audio 迄今为止情感表现力最强的文本转语音模型:其情感丰富度远超 S2.1 Pro,并在 Artificial Analysis 的发音稳健性(Pronunciation Robustness)基准测试中名列第一。

2026 年 10 月 13 日 | Drama 3 今日已在 fish.audio 网页端、Fish Audio 移动端应用(iOS 和 Android)以及 API 同步上线。截至 11 月 12 日:API 享 2 折优惠,新订阅创作者计划享 5 折优惠。

简而言之:

  • 同样的指令,更强大的表现。 像指导 S2.1 Pro 一样给 Drama 3 指令,你会听到真实的哭腔、隐忍的愤怒,以及在强装镇定时忍不住的笑声。
  • 精准遵循指令。 细语保持低声,笑声准确落位,语气随你而变,即便是在一句话的中间也能切换自如。
  • 字字精准。 Drama 3 在 Artificial Analysis 的独立发音稳健性基准测试中排名第一:在针对生僻词、数字和代码的测试中,其准确率达到 93.2%,而 S2.1 Pro 为 88.1%。
  • 权重开源。 你可以从 Hugging Face 自行运行 Drama 3。如果您及其关联实体的年收入低于 50 万美元,则可免费用于商业用途(遵循 Fish Audio Community License v1.0)。

立即在文本转语音中使用 Drama 3 →

在我们的发布视频中,Uncle Roger 亲自指导了他本人声音的 AI 克隆。该克隆已获得其许可制作并使用。

现在轮到你了。Uncle Roger 的声音已上线 Fish Audio,你可以亲自指导他。

在 Drama 3 中指导 Uncle Roger →


同样的指令,更丰富的情感

指令写在方括号中,书写方式就像你对演员说话一样。以下是同一句台词、同一配音员和相同指令,在 S2.1 Pro 和 Drama 3 上的对比。

S2.1 Pro

-:--

Drama 3

[barely holding it together, forcing a smile] I'm fine. [shaky breath] Really. [small laugh] [whispering] Go on without me.

请留意声音颤抖时努力维持的微笑感,以及呼吸声、笑声和耳语是如何准确地出现在标记位置的。

泪水、愤怒、笑声

这些情感通常是语音模型最容易磨平的。在每段音频中,请注意第二个指令:那是声音哽咽、转为寂静或迸发出笑声的时刻。

泣不成声

[choked up, crying quietly] I left his jacket by the door. [voice breaking] I keep thinking he'll walk in and ask for it.

压抑愤怒

[through gritted teeth, keeping his voice down] I asked you to do one thing tonight. [slow, dangerously quiet] Just one.

忍俊不禁

[straight-faced, trying very hard to stay serious] No, I love it, it really suits you. [cracking up despite herself] I'm sorry, it's just a very brave haircut.

精准遵循你的指令

在情绪变化处添加新指令,演绎风格就会随之改变。

[breathless, speaking fast] Just turn off the lights. Stay away from the windows. [voice drops to a terrified whisper] And whatever you hear out there… [slow, deadly serious] <emphasis>do not open that door.</emphasis>

最后几个词位于成对标签 <emphasis>…</emphasis> 中,这只会引导起始和结束标签之间的单词。在“文本转语音”中,选中文字并从“标签”菜单中选择一个标签即可。

Drama 3 支持 83 种语言。你可以用任何你习惯的语言编写指令,指令语言不必与台词语言一致。

中文指令

[像是在强忍着眼泪,却努力笑着] I'm fine. Really. Go on without me.

西班牙语指令

[conteniendo las lágrimas, pero sonriendo] I'm fine. Really. Go on without me.

日语指令

[涙をこらえながら、無理に笑って] I'm fine. Really. Go on without me.

字字精准

只有当单词被准确还原时,丰富的情感才有意义。Artificial Analysis 独立测试了这一点:其发音稳健性基准测试将生僻词放入英语句子中(数字、代码、品牌名称以及读音取决于语境的单词),并由人类听众检查每个生僻词。Drama 3 正确读取了 93.2% 的单词,荣登排行榜榜首,而 S2.1 Pro 为 88.1%。

Artificial Analysis Pronunciation Robustness leaderboard (English): Fish Audio Drama 3 Preview is first at 93.2%; Fish Audio S2.1 Pro (Oct 2026) is at 88.1%

读取内容Drama 3Fish Audio S2.1 Pro
品牌名、地名和专业术语95.9%87.3%
读音取决于语境的单词95.3%86.1%
速记法:数字、日期、单位、符号93.6%92.7%
精确序列:代码、路径、电子邮件86.3%79.4%
总体93.2%88.1%

相比 S2.1 Pro,Drama 3 进步最大的是品牌名、地名、专业术语以及多音词;文件路径和电子邮件地址等精确序列的准确率也有所提升,从 79.4% 提高到 86.3%。

查看发音稳健性排行榜 →

Drama 3 如何学会听从指挥

语音模型——包括我们自己的 S2——通常以“易于转录”和“听起来像参考音频”作为奖励进行微调,而笑声或耳语往往会被这些评分标准扣分。Drama 3 则改用一种新的奖励方式:一个基于“人类偏好”的模型。该模型同样会处理脚本和语音,因此准确度和相似度依然重要,但它不会再因为你要求的笑声而惩罚模型。技术报告中包含更多细节。

Drama 3 的应用场景

Drama 3 在处理需要一次生成并永久保存的剧本台词时表现最佳。

  • 有声书与旁白。 Drama 3 能平稳地阅读章节,并在需要的情感爆发处让声音哽咽,同时依然能准确读出“第十七章”。
  • 广播剧与小说播客。 单句台词可以像上面的“开门”范例一样,从惊慌转为低语再到威胁。
  • 游戏与动画。 每一句对白都能拥有专属指令:咬牙切齿的愤怒,或是忍不住的笑声。
  • 短视频。 故事类视频和喜剧小品可以在网页端或 Fish Audio App 中,根据提示随时展现泪水或笑料。

“语音 AI 在生成语音方面已经非常出色。下一步是指导表演。Drama 3 是我们迄今为止最具有情感表现力和可控性的模型。它让创作者坐到了导演椅上:用通俗的语言描述你想要的效果,试听,然后只调整不满意的瞬间。这在长篇项目中尤为重要,比如有声书和多语言配音,在那类场景中,一个错词不应该意味着要重新生成整个章节。”

—— Rissa Cao,Fish Audio 联合创始人兼 CEO

自行运行 Drama 3

与 S2 一样,Drama 3 以权重开源的形式发布,因此你可以自行运行。它采用了新的许可协议 Fish Audio Community License v1.0:对于研究和非商业用途免费;如果您的年收入低于 50 万美元,则商业用途免费。超出此限额,或将 Drama 3 作为 TTS、语音克隆或推理服务/API 提供给他人,则需要获得 Fish Audio 的许可 (business@fish.audio)。该许可还禁止在未经同意的情况下克隆真实人物的声音。S2 依然遵循 Fish Audio Research License。权重和完整许可已上传至 Hugging Face,代码已上传至 GitHub。

大多数商业语音模型并不公开其构建方式。以下是 Drama 3 的运作原理:它是一个超大型模型,但每步仅使用其中的一小部分,并配有适合长剧本和多个语音片段的记忆机制。全新的音频解码器(codebook-MTP 解码器)在填充每个声音的精细纹理时,会回溯目前为止的所有内容(包括你的参考语音)。如上所述,它经过了人类偏好模型的微调。

面向开发者与研究人员

Fish Audio Drama 3 architecture (Figure 2 of the technical report)

技术报告图 2。骨干网络读取系统提示、目标文本,然后是其自身的音频帧,每一帧都作为其代码 0 和 1 的融合嵌入进入。codebook-MTP 解码器在骨干网络隐藏状态的顶层运行。其四个共享层接收该状态、预测的代码 0 以及输入帧的代码 2-9(这些代码跳过骨干网络),然后 MTP 层 1-9 逐个预测剩余的代码。在下一个标记为音频帧的位置预测代码,每一层沿时间轴进行因果关注,音频分词解码器将十个代码转换为波形。

  • 骨干网络(Backbone)。 35B 参数混合专家模型(MoE),每个 token 激活约 3B 参数(256 个路由专家中的 8 个加上 1 个共享专家),基于 Qwen3.5-35B-A3B 语言模型初始化。
  • 混合注意力(Hybrid attention)。 40 层,由 3 个 Gated DeltaNet 层和 1 个 Gated 全注意力层组成的块构成。DeltaNet 层以恒定大小的状态携带历史信息;每四层中只有一层保留 KV 缓存。
  • Codebook-MTP 解码器。 取代了 S2 的逐帧 Fast AR。四个共享层馈送九个全宽度层,每个层对应一个声学码本(1-9),且每一层在整个序列上进行因果关注,包括参考音频的精细代码。
  • 部分码本融合(Partial codebook fusion)。 只有码本 0 和 1 被反馈到骨干网络(S2 反馈了全部十个),以限制曝光偏差。代码 2-9 直接进入解码器。
  • 分词器(Tokenizer)。 沿用 S2 的分词器,基于 Descript Audio Codec 构建:44.1 kHz,十个码本(一个语义,九个残差),约每秒 21.5 帧,完全因果。
  • 训练。 三个预训练阶段、指令微调、随后是强化学习(RL)。每个任务都以相同的 ChatML 风格格式编写为对话。
  • 强化学习(RL)。 采用一个学习到的人类偏好奖励模型,无基于规则的奖励。使用不带 KL 惩罚的 GRPO,每步 1,536 个提示 × 8 个生成结果。
  • 推理。 在单块 H200 上,推理引擎以每秒 271 帧的速度解码单流,而 S2 为 177 帧,尽管 Drama 3 的参数量是其七倍多。推理可通过 SGLang-Omni 实现。

技术报告中包含完整细节。

API 中的 Drama 3

本文中的所有脚本在 API 中均可直接使用。将 model 标头设置为 drama-3,并将包含标签的脚本放入 text:

curl https://api.fish.audio/v1/tts \
  -H "Authorization: Bearer <your-api-key>" \
  -H "Content-Type: application/json" \
  -H "model: drama-3" \
  -d '{
    "text": "[breathless, speaking fast] Just turn off the lights. Stay away from the windows. [voice drops to a terrified whisper] And whatever you hear out there… [slow, deadly serious] <emphasis>do not open that door.</emphasis>",
    "reference_id": "536d3a5e000945adb7038665781a4aca",
    "format": "mp3"
  }' \
  -o door.mp3

它使用与 S2.1 Pro 相同的端点,因此切换现有集成只需更改一个标头。标签和参数详见 Drama 3 文档。

获取 API 密钥 →

即将推出

两款编辑工具正在进行小范围的邀测,编辑 API 也即将推出。以下是抢先体验。

交互式编辑

听一段生成效果,告诉 Drama 3 需要改变什么,它会结合之前的生成效果重新演绎该行。指令可以是相对的(“比那个再柔和一点”)或完全全新的。

台词:The results just came in. We didn't make it.

版本 1:沉重、沮丧的忧伤

-:--

版本 2:“比上一个更柔和、更温暖”

-:--

版本 3:“比之前更有趣一点;去掉伤感”

-:--

音频补全 (Audio Inpainting)

如果你满意某次生成,但脚本发生了变化。只需标记单词,输入新词,Drama 3 就会仅重新生成该词,并使其完美融入前后的音色、情绪和节奏中。其余部分依然是你认可的那个版本。以下是上述哭腔台词在修改一个词后的效果:

我把他的夹克 围巾 留在门口了。我总觉得他会走进来问我要。

The original take and the edited take: only the word "jacket", now "scarf", is regenerated; the rest of the take is kept

原版本

-:--

编辑后(仅“围巾”是新生成的)

-:--

发布优惠

面向开发者: 10 月 13 日至 11 月 12 日,Drama 3 API 价格为每百万字符 10 美元,较 50 美元的原价享受 2 折优惠。

面向创作者: Drama 3 消耗的额度与 S2.1 Pro 相同。在 11 月 12 日之前,新订阅 Plus、Pro 或 Max 计划 享 5 折优惠:包括月度计划的首月,或年度计划的首年。在前 48 小时内评论我们的发布帖子,我们将赠送一个月的 Fish Audio Plus。

每次生成的效果会有所不同,建议多生成几次并保留效果最好的一条。如果生成效果没有达到你的指令要求,请在 Discord 上发布脚本;这是我们最需要的反馈。

带上你的剧本。带上你的导演思路。

在 Drama 3 中指导你的第一句台词 →

常见问题解答

什么是 Fish Audio Drama 3?
Drama 3 是 Fish Audio 最新的文本转语音模型,其每行台词的情感表现力超过了我们以往发布的任何产品。你可以用通俗的英语或母语给出指令,它会按照你的描述进行演绎。它专为有声书、广播剧、游戏/动画对白以及短视频等需要精细打磨的场景而设计。它支持 83 种语言,现已在 fish.audio 的文本转语音功能、iOS/Android 应用以及 API(模型标头为 drama-3)中上线。
Drama 3 支持哪些语言?
Drama 3 支持 83 种语言。你可以用你习惯的任何语言编写指令,指令语言无需与台词语言一致。
Drama 3 比 S2.1 Pro 好在哪里?
两者的操作方式相同,均使用方括号内的指令。Drama 3 的情感表现力显著增强,对指令的遵循更加严密,且生僻词的读取更准确:在 Artificial Analysis 的发音稳健性基准测试中,它以 93.2% 的高分夺冠,而 S2.1 Pro 为 88.1%。
我该如何指导台词,或仅指导其中的部分单词?
在行首使用方括号添加指令,例如 [强忍泪水,挤出一丝微笑],即可设定整行台词的演绎方式。在行中添加新指令可从该点起改变风格,而 [颤抖的呼吸声] 等声音将出现在你放置的位置。若要仅改变几个词,请使用成对标签如 <whisper>…</whisper> 将其包裹;在文本转语音界面,选中单词并从“标签”菜单中选择即可。
我现在可以使用交互式编辑或音频补全功能吗?
目前尚未对所有用户开放。这两项功能正处于小范围邀测阶段,编辑 API 即将推出。目前,请通过修改指令并重新生成来调整效果。
如何通过 API 使用 Drama 3?
向 POST https://api.fish.audio/v1/tts 发送请求,并将标头 model 设置为 drama-3。端点与 S2.1 Pro 相同,标签直接写在 text 字段中。详见 docs.fish.audio 的文档。
Drama 3 是开源的吗?可以商用吗?
Drama 3 是权重开源而非完全开源。它遵循新的 Fish Audio Community License v1.0:科研和非商业用途免费;年收入低于 50 万美元的实体可免费商用。超过此限额或将其作为 TTS/克隆/推理服务提供给他人,需联系 Fish Audio (business@fish.audio) 获取许可。此外,许可禁止未经许可克隆真实人物声音。S2 继续遵循 Fish Audio Research License。权重和完整许可可见于 Hugging Face,代码可见于 GitHub。
Drama 3 的价格是多少?
在 API 方面,Drama 3 标准价为每百万字符 50 美元,10 月 13 日至 11 月 12 日期间享 2 折优惠,仅需 10 美元/百万字符。对于创作者订阅用户,消耗额度与 S2.1 Pro 相同,且在 11 月 12 日前订阅新计划享 5 折首月(月付)或首年(年付)优惠。
Shijia Liao

Shijia LiaoX

Founder & Chief-Scientist of Fish Audio.

阅读Shijia Liao的更多内容
Rissa Cao

Rissa CaoX

Rissa is the CEO and co-founder of Fish Audio, pushing breakthroughs in AI voice technology. Find her latest work at @rissa_cao.

阅读Rissa Cao的更多内容
Jiahua Liu

Jiahua Liu

Jiahua Liu is the CTO and co-founder of Fish Audio, pushing breakthroughs in AI voice technology.

阅读Jiahua Liu的更多内容

创造真实感的声音

立即开始生成最高质量的音频。

已有账号? 登录