GameLook 报道/生成性 AI 技术的飞速进步向我们许下诺言：创意门槛在未来的大幅降低将带来艺术生产民主化，让未经艺术和编程训练的普通人都可轻松将脑中的创意变为现实。这自然是一幅如梦似幻的美好图景。但在光明到来的同时，黑暗也从不缺席——新科技的兴起的背后，不怀好意的逐利者同样会搭上这趟顺风车，他们从不惜将破坏规则作为代价，借助新技术带来的高效率大肆收割利益。
还记得在搜索引擎兴起的年代，我们在享受信息一触即达便利的同时却深受“内容农场”的毒害——这是一类本身并不贡献内容，完全利用算法快速自动化聚合全网内容的网站。凭借 SEO 和域名优势，内容农场们用海量的低质量内容污染我们的搜索引擎结果，自动化的高效产出让他们在这一搬运过程中吸走不菲的广告收入。
还不等我们完全领略 AI 技术带来的高效生产能力，动歪心思的逐利者们却已迅速就位。新时代的“内容农场”似乎已经崭露头角。
在科幻圈，一则新闻引起了轰动。老牌科幻杂志 Clarkesworld 的主编 Neil Clarke 在最近公开表示，由于近期收到的 AI 稿件爆炸式增长，他们不得不暂时关闭投稿渠道。这让 Clarkesworld 成为了 AI 技术最早一批“受害者”之一。
Clarkesworld 成立于 2006 年，以月刊形式发行，至今已出版近 200 期。凭借优质的内容出版能力，Clarkesworld 在科幻文学爱好者之中广受好评，其主编 Neil Clarke 也在 2022 年荣获了雨果奖的最佳职业编辑奖项。Clarkesworld 不仅发表过多位中国科幻作家的作品，还曾和中国出版社合作，出品中译本系列。
Clarkesworld 之所以能够长期呈现优质的内容，这与他们对作者的尊重与高待遇有直接的原因。科幻作者 Craig Shackleton 针对本次事件在推特上评论道：“Clarkesworld 是业界对待投稿最快速、最高效的出版商，他们的稿费标准也是业界一流水准。”Clarkesworld 长期打着开放的旗帜，对外广泛接受各国的作品。此外，为了避免将生活困难的创作者拒之门外，他们还抗拒如美国科幻和奇幻作家协会等出版商所使用的“付费投稿”模式。
然而，正是这种坦诚相待让他们将自己暴露为 AI 攻击的首要对象。
所谓天下熙熙，皆为利来，这些 AI 使用者的目的显然是利益，他们正是看准了 Clarkesworld 的优厚待遇才对其发动了攻势。AI 生成的高效率让滥用者可以快速产出大量文章，并通过广撒网的战术换取稿费。据 Neil Clarke 表示，此前便有不少人通过剽窃，盗取内容的方式进行投稿，但在 ChatGPT 技术走红后，由 AI 生成的稿件内容出现了爆发性增长——仅在 2 月，他们就辨别出至少 500 份“垃圾投稿”，远超此前每月 20 余份的水平，且这一数字还在飞速增长中。
Clarkesworld 每月度加入投稿黑名单人数
这些 AI 的骚扰者主要来自科幻圈以外。Neil Clarke 表示：“发送这些垃圾投稿的人的大多是一些 YouTube、TikTok 频道和技术博客的关注者。他们想要通过‘大水漫灌’的方式赚点快钱。就好像猴子也能碰巧在打字机上打出莎士比亚的作品一样。”
垃圾投稿的增加意味着 Clarkesworld 必须花费更多精力来筛选作品——一篇 5000 词的文章需要花费 15 分钟才能阅读完成，这无疑是对人力资源的严重浪费。而目前 AI 文字识别“误杀率”太高，连 OpenAI 的内部工具无法检出 74% 的 AI 生成文字，这意味着这些出版商无法利用自动化方案筛选 AI 内容。
图源：Neil Clarke 个人网站
更令人错愕的是，这并非某个人的单打独斗，而是彻彻底底有组织有方向的集团作案。Neil Clarke 在外媒的采访中表示：“我们找到了几个网站，它们列出了能够接受投稿的出版商列表并在 AI 使用者之间传阅。我们一直在监控来自这些网站的流量。我的一个朋友在另一家出版社工作，它们也在这个列表上，但比我们排得要靠下。我们都收到了来自同一个人得投稿，他们那边总是要比我们晚几分钟，这说明这些 AI 使用者是按照列表顺序挨个攻击的。”Neil Clarke 称，AI 使用者攻击的对象不仅是 Clarkesworld，一些奇幻、非虚构、诗词等类别的出版社也在遭受 AI 垃圾投稿的侵袭。
受威胁的对象并不止出版社，任何以文字为主要业务的对象如今都要面临洗牌。据路透社报道，在亚马逊的 Kindle 平台上出现了大量使用 ChatGPT 撰写的小说作品——仅在 2 月就有两百余本小说将 ChatGPT 列为作者，未主动披露情况的小说作品则更是无法统计。搭配已经日趋成熟的 AI 语音技术，AI“原创”作品进入在目前正火的有声书领域也只是时间问题。
连亚马逊都难以躲过 AI 的泛滥，又何况是长期服务小众市场的科幻作品出版商？Clarkesworld 创始人在推特上无奈表示：“我们没有解决方案。我们只有一些尽量减少损失的思路，但这个问题不会消失——AI 识别算法不可靠，付费投稿会伤害太多真实的作家，我们也无法接收打印作品。”
这是一幅有些讽刺的图景。自科幻文学诞生数百年来，无数科幻作家们发挥他们最绚丽的想象力，畅想着高技术社会的奇幻图景。然而，Web 3.0 才刚刚崭露头角，最能代表未来主义的科幻作者们却首当其冲地遭遇了困局。这自然并非科幻作者之过，但跨坐在两代互联网分界线上的笔者，在满心欢喜迎接 AI 技术到来的同时，也不免对未来有一些担忧。
AI 技术如此之强大，但它也是双刃剑——正如人类所创造的绝大多数技术一样。在赞叹 AI 的对生产效率的倍增的同时，我们无法忽略的是 AI 技术被滥用的风险。从广度上讲，AI 生成高品质内容的速度可以碾压人力；从深度上讲，AI 在声音、图片乃至视频等领域都已经可以生成品质以假乱真的内容。
在海外互联网平台，早出现了大量用 AI 模仿知名主播、政治人物的视频。例如，有一名粉丝为破亿粉丝的 YouTube 主播 Pewdiepie 的制作了他的 AI 版视频，提出“如果你累了我可以帮你播”。视频的动作还略显僵硬，但从声纹上已经近乎无可挑剔。评论区观众纷纷表示，其效果已经和真人相去不远。
此前在 Instagram 上已经零星出现了由 AI 炮制的名人站台的虚假视频广告。这些视频完全可以依靠免费的商用模型制作出来，其中大部分在当下还尚且停留在“梗”的程度，但一旦被投入大规模恶意使用——这也只是时间问题——势必会在全社会掀起信任危机。假新闻的炮制将变得前所未有的容易，其产出也可以无限接近于真实，足以骗过绝大多数对科技不敏感的人群。即便我们诉诸监管，实际的取证将变得前所未有地困难，各国的立法部分的效率也被 AI 的飞速迭代远远甩在身后。这是难解的困局。
可以想见，大量基于信任和身份验证的系统恐怕要经历重新洗牌。Clarkesworld 此前之所以能够维持其开放接纳投稿的态度并尽其所能为创作者提供较为良好的条件，所依赖的正是对科幻文学社区较高的信任。所谓“防君子不防小人”。但当这一机制被践踏殆尽，人类不得不重回低信任度社会，原本可以抱团取暖的豪猪们也只能无奈再度张起浑身的尖刺以自保，我们也更容易被彼此所伤。
AI 技术的前进势不可挡，但我们也必须做好准备，迎接前方更加严峻的挑战。
