▲ 点击订阅，抓住风口

你好，我是王煜全，这里是王煜全要闻评论。

AI能够提高内容创作的效率，但也会带来低质量作品泛滥问题，亚马逊就开始出台各种限制措施了。

9月19日，亚马逊宣布，将加强对旗下自助出版平台的监管，用户使用Kindle Direct Publishing平台发布新书时将受到数量限制，虽然平台公告上没有明确具体数量，但亚马孙告诉《卫报》，现阶段每人每天最多发3本书，未来还有可能调整。

不仅如此，一周前，亚马逊还要求作者在发布新书的时候，必须向亚马逊披露哪些内容是AI生成的，或者是否通篇都是AI写出来的，不只是文字内容，还包括封面和内部图像。

除了亚马逊这样的书籍出版平台，短视频分享平台Tik Tok也制定了相似的规则，要求所有包含AI生成的图像、音频或视频的内容，都要打上“AI-generated”的标签，避免误导用户，如果不按规定打标签，就可能被删除。

那么，这些平台为什么要针对AI生成内容做各种限制呢？

要知道，Kindle Direct Publishing原本是亚马逊为个人创作者打造的出版平台，目的是降低出版门槛，让作者方便快捷地出版书籍，也就是鼓励大家多做创作。

但是，随着生成式AI的成熟，图书创作的门槛进一步降低，短短几个月时间，亚马逊上已经有2000多本由GPT署名的AI生成图书。一位名叫Frank White的作者说，他用AI一天就可以写完119页的小说，每年可以写300多本书。

比如，一位在出版行业工作多年的作者Jane Friedman，撰写过《出版101：首次作者指南》等面向作者的指导书籍，她就向亚马逊举报了5本造假书籍，她认为这些书是根据她以前的博客文章用AI改写出来的，还未经同意署上了她的名字。

更重要的是，书的内容质量很差，并没有体现出她的创作水平，读者却难以分辨真假，这就会让读者误以为她的水平下降了，损害她个人的口碑，之后那5本造假书就被下架了。

Tik Tok也遇到过类似的问题，比如，一位Tik Tok用户Ghostwriter977用AI模拟了Drake和The Weeknd的声音，演唱了一首名叫《Heart on My Sleeve》的歌曲，在TikTok上点击量超过1500万次，但两位歌手的音乐版权方环球音乐认为违反了版权法，向平台提起了申诉，歌曲随后就被平台删除了。

亚马逊出版平台和Tik Tok都是内容平台，他们的核心竞争力就是内容质量，如果低质量作品过于泛滥，很可能稀释高质量作品的价值，而造假内容增多会影响平台整体公信力，所以，他们在发现类似苗头之后，就开始制定各种平台规则来加强监管。

但是，限制数量和要求作者加标签就够了吗？事情可能没那么简单，实际上，生成式AI对内容平台来说将是旷日持久的技术挑战！

其实，从亚马逊和Tik Tok现在公布的规则来看，基本类似于“君子协定”，要作者自发贴标签，如果人家故意不贴标签，那么考验的就是平台方鉴别造假作品的技术能力。

当然，也有不少公司在开发深度造假检测工具，比如，英特尔的FakeCatcher，微软的Video Authenticator等等，而且， Facebook还发起过Deepfake检测挑战赛，吸引全世界的优秀技术团队都参与进来，开发最先进的对AI生成内容的检测技术。

亚马逊和Tik Tok都有强大的技术团队和技术储备，也可以开发类似的深度造假检测工具。但问题是，虽然平台方的技术可以更新换代，但生成式AI也有技术调优的空间，它的模仿能力可能不断提升，别有用心的人甚至可能会用新技术来造假获利。

所以，只靠一两个规则和检测技术，可能很难一劳永逸地解决问题，而是需要做好长期技术创新的准备。

更重要的是，并不是每个平台都具备亚马逊和Tik Tok的技术实力，有些平台也不一定会从严监管，所以，AI造假现象有可能长期存在。

不光对平台方，这对每个普通人来说都构成了巨大的挑战！其中一个关键解决方案就是提高个人信息素养，为什么这么说呢？

在纸媒时代，有一整套鉴别信息真实性的系统：信息在公布于众之前，需要经过层层审核，出版社、报社、电视台都是如此。也就是说，用专业人士的信息素养来帮助人们远离虚假信息，虽然也不时有各种纰漏，但理论上相当于为人们打造了一个虚假信息的防火墙。

但是，随着新媒体平台的成熟，挤占了传统媒体的空间，新媒体遵循另一套审核与推荐机制，点赞、转发、评论成为评价内容质量的核心标准，但是，点赞注重引爆情绪价值，却忽视了信息质量和真实性。

这就导致有些自媒体作者为了吸引眼球和煽动情绪，会故意制造假信息，相关案例不胜枚举。

现在，又来了生成式AI工具，这实际上是一把双刃剑，一方面会激发新的创意和优质作品，另一方面也会促进低质作品甚至假信息的泛滥。

也就是说，传统媒介的假信息防火墙逐渐失效，新媒介却容易成为假信息爆火的温床。

在这种情况下，就需要每个人培养自己的信息素养，在越来越复杂的海量信息中，学会辨别优质与低劣、虚假与真实。

也许有一些人宁愿沉浸在虚假信息中，随波逐流地发泄情绪，但是，必然有更多的人会保持清醒和理智，追求真实。

培养信息素养的方式有很多，既可以做纵向的追本溯源，也可以做横向的交叉对比，但关键是要培养自己的思辨能力，不轻易相信表面信息，尤其是那些非常情绪化的信息，学会提问、分析和评估。

在全社会的信息素养逐渐提升的同时，也会出现更加强调信息信用，而不是一味突出信息的煽动性、传播性的新的媒体平台。这也许是社会化媒体的下一个大机会。

而信息素养也是我们做科技特训营的基本要求，我会持续帮助大家，对科技和产业信息做出客观冷静的分析，进而做出有价值的评估和判断。

以上是今天的内容，更多详细的产业分析和底层逻辑，我会在科技特训营里分享。欢迎关注全球风口微信号，报名加入！

王煜全要闻评论，我们明天见！

1. 前哨科技特训营直播课程第四季（2023年）共50讲+，除此之外还有5节加餐+公开课。

2. 每讲承诺为1小时视频内容，实际平均时长为2小时。

3. 每周四晚八点准时直播，会员可无限次观看回放。

4. 新入会员，可以无限次回看之前所有视频课程。

5. 成为会员即可使用【AI王煜全】，最新AI大模型开发的专属科技分析助手

6. 每周组织【前哨·创新启发局】，链接科技/产业一线人士，打开技术/应用前沿视野

7. 优先获取全球科技产业一线游学、访问机会，接触科技/产业专家，获取最新、最前沿的趋势洞察，人脉链接

8. 本课程为虚拟内容服务，年费订阅服务制。一经订阅概不退款，线下活动需另行支付差旅成本，请您理解。