AI 音乐欺诈：0 粉丝狂卷数十亿播放，非法获利近亿

AI资讯
1

AI音乐欺诈盛行，不法分子利用AI生成歌曲并刷量，非法牟利。平台反击无效，法律监管缺失，行业亟需寻找应对之策。

原文标题：0粉丝狂卷数十亿播放，靠AI流量欺诈获利近亿！网友：这“刑”得离谱

原文作者：AI前线

冷月清谈：

文章揭露了利用 AI 技术进行流媒体欺诈的新型犯罪模式。不法分子通过 AI 生成大量歌曲，并使用自动账户伪造播放量，从而非法获取巨额版税。美国和丹麦已出现相关案件，涉案人员面临指控和判刑。各大流媒体平台虽已采取措施，但防御技术仍显不足，难以有效阻止 AI 音乐欺诈行为。文章还探讨了法律监管的缺失以及人工智能公司对版权问题的辩护，并呼吁业界以负责任的态度对待生成式人工智能，维护音乐创作者的权益。

怜星夜思：

1、AI 批量生成歌曲的质量参差不齐，为什么还能骗到那么多播放量？除了肉鸡刷量，是否存在其他推广手段？
2、平台在打击 AI 音乐欺诈方面面临哪些技术和法律上的挑战？除了文中提到的，还有什么更好的解决方案？
3、如果AI生成音乐被认定为侵权，那么责任应该由谁承担？是AI开发者、使用者，还是平台方？

原文内容

本播客由扣子空间（coze.cn）一键生成
整理｜冬梅、核子可乐

2024 年，全球录制音乐市场迎来里程碑时刻，总收入飙升至 296 亿美元。其中，流媒体经济贡献突出，年收入首次突破 200 亿美元大关。然而，这一蓬勃发展的领域，却因 AI 技术的火爆成为了犯罪分子眼中的 “肥肉”，利用 AI 技术进行的流媒体欺诈问题日益严峻。

利用 AI 诈骗流量，获利千万美元

近日，《连线》报道的一起涉嫌利用 AI 欺诈的案件引发热议。

在这起涉及 AI 生成音乐的开创性刑事案件中，一名 52 岁的北卡罗来纳州男子被控利用 AI 创作虚假歌曲，并在 Amazon Music、苹果音乐、Spotify 及 YouTube Music 等音乐平台上进行欺诈性传播以获取非法版税。

去年 9 月 4 日，检察官 Damian Williams 正式对被告人 Michael Smith 提起诉讼，指控其策划一项骗局，共从各热门流媒体平台上非法 获取千万美元版税。

检察官 Damian Williams 表示，“据称 Michael Smith 以欺诈方式用 AI 创作歌曲，其播 放总量已达数十亿次，产生巨额版税收入。通过明目张胆的欺诈手段，Smith 窃取了大量本应支付给合法音乐家、词曲作者及其他权利人的版税。如今，在联邦调查局及本院检察官的共同努力下，是时候让 Smith 承担责任了。”

Smith 被 指控利用 AI 创作了数十万首歌曲，并在多个主流音乐平台上发布。之后，他又使用自动账户（即「肉鸡」账户）伪造歌曲播放量。

检察官声称，Smith 的欺诈行为开始于 2017 年。他创建了数千个自动账户，通过编程方式使其持续播放 AI 生成的歌曲。他还买下大量电子邮箱地址，并招募一众海外人员在各种平台上创建听众账户。

起诉书称，“自 2017 年左右至 2024 年，被告人 Michael Smith 策划一项计划，通过欺诈方式增加其 AI 生成作品在 Amazon Music、苹果音乐、Spotify 以及 YouTube Music 等数字流媒体平台（以下简称流媒体平台）的音乐播放量，非法获取数巨额音乐版税。”

“Smith 从同谋手中购买了数十万首通过 AI 创作的歌曲，而后上传至流媒体平台。Smith 使用「肉鸡」（自动程序）将这些 AI 生成歌曲播放了数十亿次。”

从起诉书来看，利用这些自动账户外加虚拟专用网络（VPN）模拟不同地理位置，被告人恶意操纵流媒体数据，造成了全球用户都在收听他歌曲的假象。

Smith 承认，他每天可以产生约 66 万 1440 次流媒体播放，每年版税收入超过 120 万美元。为了避免被平台管理员发现，他还将刻意将流量分摊到大量曲目当中。

为了进一步增加利润，Smith 意识到他需要创作更多歌曲。2018 年 12 月 26 日，他给两名同谋发去电子邮件，宣称：“我们需要大量歌曲，才能绕过目前平台上通行的反欺诈政策。”

Smith 开始使用 AI 生成音乐来扩展自己的曲目库。他与一家 AI 音乐公司的 CEO 及一位音乐推广人合作，制作了数十万首 AI 生成的曲目。之后，Smith 可以使用“肉鸡”账户以欺诈方式反复播放这些曲目。

刑事诉讼文件显示，该 CEO 知晓这项计划的欺诈意图，但仍定期向 Smith 批量提供 AI 生成的歌曲。这些歌曲往往以随机字母加数字的形式命名。之后，Smith 会为这些曲目指定随机名称，让它们看起来像是由真人、而非 AI 创作。

检察官还强调，被告方会使用高度相似、几乎难以区分的歌曲与艺术家名称来掩盖其行为的恶意本质。

Smith 本人已经于去年 9 月 4 日被捕，预计将在北卡罗来纳州地方法院出庭受审。他面临着电信欺诈共谋、电信欺诈及共谋洗钱等多项指控，任何一项成立都可能判处其最高 20 年监禁。

类似事件还很多

过去，一些不法分子常将少量曲目上传至流媒体平台，依靠自动机器人循环播放来骗取版税。可这种手段存在明显漏洞 —— 不知名艺术家的冷门作品，突然斩获数百万播放量，如此异常的数据极易触发平台的警惕。

如今，诈骗者借助 AI 歌曲生成器，向流媒体平台批量投放数百万首假歌曲。不同于以往的 “集中式” 欺诈，这些假歌曲单首播放量仅几千次。这一播放量级，既足以让诈骗者从每首歌中获取版税收益，又因数据表现 “低调”，不易引起平台怀疑与侦查，极大地增加了版权保护与欺诈防范的难度。

Deezer 估计，每天上传到该平台的内容中有 18% 是由人工智能生成的。

国际唱片业联合会（IFPI）全球内容保护与执法总监梅丽莎·莫吉亚（Melissa Morgia）在 2025 年 2 月世界知识产权组织执法咨询委员会（ACE）第十七届会议场外的一个小组讨论会上表示，“人工智能是流媒体欺诈的最终推动者”，因为它可以让不法分子“躲过监管，但仍然可以达到足够的规模，从而使他们的活动有利可图”。

无独有偶， 丹麦媒体去年也披露了一起 “历史性” 案件，一名来自丹麦东日德兰地区的 53 岁男子，因涉嫌通过音乐流媒体网站骗取版税，已经被法院判处一年零六个月有期徒刑，其中三个月需在监狱服刑。

这是丹麦首例此类案件，出于保护隐私，媒体未透露其姓名。

检察官指出，该男子在 2014 年至 2017 年期间，通过人工生成 “数百首” 音乐曲目流，赚取至少 200 万丹麦克朗（约 229,676 英镑）。如此庞大的流量不可能由真实用户产生，极有可能使用了未经授权的技术。

因此奥胡斯法院进一步判定，他侵犯了 37 首曲目的版权，这些曲目均为其他音乐家作品的剪辑版本。

据悉，他盗用其他艺术家的作品，改变其长度和节奏后，以自己的名义出版发行。凭借这些不正当手段，他甚至一度成为丹麦流媒体收入第 46 位最高的作曲家。

除了有期徒刑，法官还没收了 200 万丹麦克朗（约合人民币 209 万元），一半来自于他本人，一半来自于他的公司，并对其另外处以 20 万丹麦克朗（约合人民币 21 万元）的罚款。

这一判决受到音乐家、艺术家、作曲家和版权活动家的广泛欢迎。

丹麦权利联盟首席执行官玛丽亚·弗雷登斯伦德（Maria Fredenslund）评论了此案，她表示：“我们很高兴法院确认流媒体欺诈是严重的犯罪行为。这是一项历史性的判决，它强烈表明了流媒体操纵的严重性。该案还表明，此类欺诈行为是可以发现的，并且版权所有者和相关机构都非常重视这个问题。”

她说，这也为未来树立了一个重要的先例。“这将是一个重要的起点，可以防止未来再次发生类似案件，尤其是在人工智能蓬勃发展的今天。”

丹麦最大的作曲家、词曲作者、作词家和制作人协会 Autor 主席安娜·利德尔 (Anna Lidell) 表示：“这确实是一个重要且具有历史意义的案例，它传达了一个信息：你不能侵犯我们作为词曲作者的权利。”

她补充道：“这个人用作弊手段获得了数百万的收听量，却又通过加速发布歌曲侵犯了版权。这简直是对于那些每天辛苦创作音乐却收入微薄的人来说是一种嘲讽。”

平台不作为？

既然此类事件如此频繁，相关平台就没有反击过吗？答案是反击过，但成效甚微。

由 Suno 和 Udio 等人工智能工具生成的歌曲充斥着 Deezer， Deezer 当然也在试图打击这种欺诈行为。

Deezer 今年 2 月表示，用户每天在其平台上添加超过 2 万首完全由人工智能生成的曲目。这些机器人制作的音频目前占“总上传内容”的 18%——几乎是该公司 1 月份公布的 10% 的两倍。

Deezer 首席创新官 Aurelian Herault 表示，人工智能生成的粗俗歌曲泛滥是一个“没有减缓迹象”的问题。

今年 1 月，Deezer 推出了一款检测 AI 生成音乐的工具。该算法可以识别使用几种流行的生成 AI 模型（包括 Suno 和 Udio）创作的歌曲，这些模型可以将基本的文本提示转化为“音乐”。

Herault 表示，得益于该工具，Deezer 已经“从算法推荐中移除了完全由人工智能生成的内容”。该公司在一月份表示，还计划开发一套针对完全由人工智能生成的内容的标签系统。

在业界看来，Deezer 的工具基本上没什么大用，不够强大的防御技术无法抵抗先进的 AI 生成技术带来的攻击。

Deezer 竞争对手平台 Spotify 尚未推出任何类似的工具来追踪 AI 生成的音乐。它也没有尝试对此类内容进行标记，至少没有公开这样做。

Spotify 首席执行官 Daniel Ek 此前曾表示，AI 创作的歌曲在该平台上是可以接受的——除非它们模仿的是真正的艺术家。然而，据多份报告显示，Spotify 在识别和移除这些 AI 模仿作品方面似乎做得很糟糕。

其他音乐流媒体平台，包括 Apple Music、Amazon Music 和 Tidal，对这个话题几乎保持沉默。

流行音乐流媒体平台对此束手无策或许并不令人意外。目前还没有法律来规范人工智能生成歌曲的传播，也没有就哪些类型的人工音乐可以接受或不可接受达成共识。

去年，一群美国唱片公司起诉了 Suno 和 Udio，指控其“大规模”侵犯版权。然而，这两家公司声称，使用受版权保护的音乐来训练他们的模型符合“合理使用”的原则，这是人工智能公司 常见的辩护理由 。

Herault 表示：“生成式人工智能有可能对音乐创作和消费产生积极影响，但我们需要以负责任和谨慎的态度对待这一发展，以维护艺术家和词曲作者的权利和收入，同时为粉丝保持透明度。”

参考链接：

https://www.bitdefender.com/en-gb/blog/hotforsecurity/north-carolina-man-charged-with-ai-generated-music-fraud-taking-royalties-of-10-million

https://www.wipo.int/web/wipo-magazine/articles/how-ai-generated-songs-are-fueling-the-rise-of-streaming-farms-74310

声明：本文为 AI 前线翻译整理，不代表平台观点，未经许可禁止转载。

活动推荐

6 月 27～28 日的 AICon 北京站将继续聚焦 AI 技术的前沿突破与产业落地，围绕 AI Agent 构建、多模态应用、大模型推理性能优化、数据智能实践、AI 产品创新等热门议题，深入探讨技术与应用融合的最新趋势。欢迎持续关注，和我们一起探索 AI 应用的无限可能！
今日荐文

图片

你也「在看」吗？👇

2

这问题问的好！AI批量生成的音乐，很多听起来确实很“罐头”，没啥灵魂。但能骗到播放量，我觉得有几个原因：

* 数量优势：量变引起质变嘛！几百万首歌铺天盖地，总有那么几首能蒙对一部分人的口味。
* 算法推荐：现在音乐平台都搞算法推荐，就算你搜“周杰伦”，它也可能给你推一首AI口水歌，没准儿你就顺手点了一下。
* 大众审美：不得不承认，有些AI生成的音乐，旋律简单洗脑，反而更容易被大众接受。专业的音乐人可能觉得low，但架不住听的人多。

至于推广手段，除了刷量，我觉得还有：

* 病毒营销：有些AI音乐故意搞怪，或者蹭热点，容易在社交媒体上火起来，比如之前很火的AI孙燕姿。
* 低成本合作：跟一些小网红或者视频UP主合作，让他们在视频里用这些AI音乐当背景音乐，也能增加曝光。

说白了，AI音乐欺诈就是利用了技术的便利和人性的弱点。

3

关于 “如果AI生成音乐被认定为侵权，那么责任应该由谁承担？是AI开发者、使用者，还是平台方？”这个问题，我的看法是：

这是一个非常复杂的问题，涉及到 AI 音乐版权的归属和责任认定。目前，法律界和学术界对此尚无定论。

我的观点是：应该根据具体情况，综合考虑各方的责任。

1. AI 开发者：如果 AI 开发者明知其开发的 AI 音乐生成工具会侵犯他人版权，或者未采取合理的措施防止侵权行为的发生，那么 AI 开发者应承担相应的责任。

2. AI 使用者：如果 AI 使用者利用 AI 音乐生成工具创作了侵权作品，且使用者明知或应知其行为会侵犯他人版权，那么 AI 使用者应承担相应的责任。比如，使用者故意使用 AI 生成与他人作品高度相似的音乐，并用于商业用途。

3. 平台方：如果平台方未尽到合理的审核义务，放任侵权作品在其平台上传播，或者在接到版权方的侵权通知后未及时采取措施，那么平台方应承担相应的责任。平台方有义务建立完善的版权保护机制，防止侵权作品的传播。

在实际操作中，责任的承担可能会更加复杂。例如，如果 AI 音乐生成工具是开源的，那么很难追究 AI 开发者的责任。又如，如果 AI 使用者并非故意侵权，而是因为对 AI 音乐版权的认知不足，那么可以适当减轻其责任。

总之，AI 音乐版权的责任认定是一个需要深入探讨的问题。在未来的法律实践中，需要根据具体情况，综合考虑各方的利益，做出公正合理的判决。

4

谢邀，人在工位，刚听完一首 AI 孙燕姿。

我觉得这个问题可以从两个角度来看：

1. 从“骗”的角度：

* 欺骗算法： 现在的音乐平台推荐算法虽然很智能，但还是存在漏洞。通过模拟用户行为、购买虚假流量等手段，可以欺骗算法，让 AI 歌曲获得更高的曝光率。
* 欺骗用户： 有些 AI 歌曲会模仿知名歌手的风格，或者使用热门的音乐元素，吸引用户点击。用户可能一开始没听出来是 AI 歌曲，但点击之后就算一次播放量。

2. 从“听”的角度：

* 猎奇心理： 很多人对 AI 歌曲感到好奇，想听听 AI 到底能做出什么样的音乐。这种猎奇心理会导致一定的播放量。
* 审美差异： 萝卜青菜各有所爱，有些人可能就是喜欢听 AI 歌曲。虽然 AI 歌曲缺乏情感和灵魂，但有些旋律确实比较洗脑。

至于推广手段，除了刷量之外：

* 病毒式传播： 一些 AI 歌曲会故意制作成鬼畜视频或恶搞作品，通过社交媒体的病毒式传播来吸引用户。
* 低价推广： 由于 AI 歌曲的制作成本很低，因此可以进行低价推广，吸引更多的用户点击。

总之，AI 歌曲能够骗到播放量，是多种因素共同作用的结果。既有技术上的欺骗，也有用户心理上的因素。

5

关于“AI批量生成歌曲的质量参差不齐，为什么还能骗到那么多播放量？除了肉鸡刷量，是否存在其他推广手段？”，我的看法是：

1. 肉鸡刷量是核心原因：AI 生成的歌曲本身质量可能不高，但刷量行为的关键在于模拟真实用户的播放行为。通过大量“肉鸡”账户，模拟不同地理位置的用户进行播放，使数据看起来更真实，从而迷惑平台算法。

2. 低成本是关键：AI 降低了音乐创作的门槛和成本，使得批量生产歌曲成为可能。即使每首歌的质量不高，但只要数量足够多，总能覆盖到一部分喜欢这种风格的用户，从而产生一定的自然播放量。

3. 其他可能的推广手段：
* 购买低质量的推广服务：一些黑市推广服务，可能通过不合规的手段增加歌曲的曝光度。
* 蹭热点和关键词优化：通过分析热门音乐的关键词和风格，AI 生成类似的歌曲，以期在用户搜索时获得更高的排名。
* 合作分成：与一些小型音乐平台或 App 合作，通过分成的方式增加歌曲的播放量。

总之，AI 音乐欺诈能成功，根本原因在于利用技术漏洞和低成本优势，通过各种手段伪造数据，从而骗取版税。打击这种行为，需要平台、监管部门和创作者共同努力。

6

来来来，聊点更“刑”的！

技术挑战：

* AI 进化速度 > 平台反作弊速度： 你以为平台学了深度学习，AI 就不会变异了吗？图样！AI 每天都在进化，说不定明天就能写出连贝多芬都分不清的曲子。
* “千人千面”的 AI： 现在的 AI 已经可以根据你的喜好定制音乐了，平台想抓作弊，还得先搞懂每个用户的 unique taste，臣妾做不到啊！

法律挑战：

* “AI 权责”真空地带： AI 犯事儿，谁来背锅？是程序员？是算法？还是训练 AI 的数据？这锅不好甩啊！
* “国际反诈”难度 MAX： 你以为骗子只在国内刷量？Too naive！人家可能在非洲、拉美、东欧都有据点，跨国追捕，难度堪比抓本拉登。

解决方案（脑洞大开版）：

* “AI 互相伤害”： 用 AI 开发反作弊系统，专门识别 AI 音乐，让 AI 之间互相 battle，看谁更厉害！
* “全民鉴赏官”： 搞一个“AI 音乐鉴赏 App”，让用户来投票，选出最 genuine 的音乐，给用户发 token 奖励。
* “赛博警察叔叔”： 成立一个专门的“AI 音乐警察”部门，配备最先进的技术装备，专门打击 AI 音乐犯罪。

总之，打击 AI 音乐欺诈，不能只靠技术和法律，还得有点“赛博朋克”精神！

7

这问题问到点子上了！AI 侵权，谁来负责？这确实是个烫手山芋。

我个人觉得，应该分情况讨论：

* AI 开发者：如果开发者故意开发出能大量复制他人作品的 AI，或者对用户上传的内容不加限制，那肯定要承担主要责任。
* AI 使用者：如果你明知 AI 生成的音乐侵权，还拿去商用，那也跑不了干系。但如果你只是自己玩玩，或者用于非盈利目的，可能责任会轻一些。
* 平台方：平台有审核的义务，如果明知或应知 AI 音乐侵权，却不采取措施，那也要承担一定的责任。

当然，现实情况可能更复杂。比如，AI 生成的音乐只是借鉴了别人的风格，没有直接复制，那算不算侵权？这还需要法律界进一步明确。

总之，AI 侵权责任的认定，需要综合考虑技术、法律、道德等因素，不能一概而论。

8

这个问题我来抖个机灵：

如果 AI 生成音乐侵权了，责任谁负？

* AI 说： “我只是个工具，代码是人写的，数据是人喂的，要怪就怪我的 creator 吧！”
* 开发者说： “我只是提供了个平台，用户怎么用我管不着，而且我的 AI 可是有 ‘免责声明’ 的！”
* 使用者说： “我只是觉得这歌好听，又不知道是 AI 抄的，我也是受害者啊！”
* 平台说： “我们每天上传几百万首歌，哪有时间一一审核？而且 AI 音乐的版权问题还没定论呢！”

所以，最后的结果很可能是：

大家一起甩锅，谁也说不清楚。

但从法律角度来说，我觉得：

* 开发者 如果开发者故意放纵 AI 侵权，或者从中渔利，那肯定要承担责任。
* 使用者 如果使用者明知 AI 音乐侵权，还用于商业用途，那也要承担责任。
* 平台 作为内容分发平台，有审核的义务，如果放任侵权内容传播，也要承担一定的责任。

总之，AI 侵权责任的认定，是个复杂的法律问题，需要具体情况具体分析。

9

针对“平台在打击 AI 音乐欺诈方面面临哪些技术和法律上的挑战？除了文中提到的，还有什么更好的解决方案？”这个问题，我谈谈我的看法：

技术挑战：

1. AI 生成音乐的识别难度：AI 技术不断进步，生成的音乐越来越逼真，与真人创作的音乐之间的界限越来越模糊，这使得平台难以准确识别 AI 生成的音乐。
2. 欺诈手段的不断升级：欺诈者也在不断改进其技术手段，比如使用更高级的 VPN 模拟更真实的地理位置，或者采用更复杂的算法来伪造用户行为，这给平台的反欺诈工作带来了更大的挑战。
3. 大规模数据处理的压力：流媒体平台每天都会产生海量的数据，如何从中快速、准确地识别出可疑的欺诈行为，对平台的数据处理能力提出了很高的要求。

法律挑战：

1. AI 音乐版权的界定：AI 生成音乐的版权归属问题尚不明确，这使得平台在处理侵权纠纷时面临法律上的不确定性。
2. 缺乏明确的法律法规：目前，针对 AI 音乐欺诈行为，缺乏明确的法律法规进行约束和惩罚，这使得平台在打击欺诈行为时缺乏法律依据。
3. 跨国执法的困难：一些欺诈者可能位于不同的国家或地区，这使得平台在进行跨国调查和执法时面临更大的困难。

更好的解决方案：

1. 加强技术研发：平台应加大对 AI 音乐识别技术的研发投入，提高识别的准确性和效率。可以尝试使用深度学习等技术，对 AI 音乐进行更深入的分析和识别。
2. 建立行业联盟：平台可以与其他音乐平台、版权机构等合作，建立行业联盟，共同打击 AI 音乐欺诈行为。共享数据和技术，共同应对挑战。
3. 加强法律合作：平台应与政府部门、执法机构等加强合作，推动相关法律法规的制定和完善。共同打击 AI 音乐欺诈行为，维护音乐行业的健康发展。
4. 提高用户意识：平台可以通过宣传教育等方式，提高用户对 AI 音乐欺诈行为的认识，鼓励用户积极举报可疑行为。形成全社会共同打击欺诈行为的良好氛围。

总之，打击 AI 音乐欺诈是一项长期而艰巨的任务，需要平台、政府、行业和用户共同努力，才能取得更好的效果。

10

技术法律双重挑战啊，这个问题很尖锐！

* 技术上，AI 音乐越来越真假难辨，平台光靠算法很难100%识别。而且道高一尺魔高一丈，骗子也在不断升级技术。
* 法律上，AI 音乐的版权归属、责任认定还是一笔糊涂账。平台想告骗子，都不知道该告谁，该怎么告。

我觉得除了文里说的，还可以试试这些方法：

* “实名制”：要求上传音乐的人进行实名认证，增加欺诈成本。
* “人工审核”：对于新上传的音乐，进行一定的人工审核，防止AI垃圾音乐混进来。
* “用户举报”：鼓励用户举报疑似AI欺诈的音乐，发挥群众的力量。
* “版权追踪”：利用区块链等技术，追踪音乐的版权信息，防止盗版和侵权。

总之，打击AI音乐欺诈需要技术、法律、行业、用户多方联动，形成合力。