上图:该漫画描绘了一个人工智能生成机器人急切地向“克拉克斯世界”提交了一份稿件。
著名科幻出版物“克拉克斯世界(Clarkesworld)”正在努力应对大量的机器提交 —— 仅在2月份就有500多份。
无限内容创作机器(生成性人工智能)的一个副作用是无限内容。周一,著名科幻出版物“克拉克斯世界”杂志的编辑宣布,由于发送给该出版物的机器生成故事大幅增加,他已暂时关闭小说稿件投稿。
在推特上分享的一张图表中,“克拉克斯世界”杂志编辑尼尔·克拉克(Neil Clarke)统计了提交剽窃或机器生成小说的被禁作家的数量。2月份的数字总计为500个,高于1月份的100多人和2022年10月约25人的较低基线。被禁提交数量的上升,大致与2022年11月30日ChatGPT的发布时间一致。
像 ChatGPT 这样的大型语言模型(LLM)已经在数百万本书籍和网站上进行了训练,可以快速写出原创故事。然而,它们不是自主工作的,人类必须用提示来指导它们的输出,然后人工智能模型尝试自动完成。
自2006年以来,“克拉克斯世界”杂志出版了许多著名科幻作家的作品,并多次获得雨果奖。在科幻出版物中,它以公开提交过程而闻名,通常每字支付12美分。在其投稿页面上,该出版物写道:“目前我们不考虑由人工智能撰写、联合撰写或协助的故事。”然而,这并没有阻止提交的数量急剧增加,尼尔·克拉克将其主要归因于快速致富计划。
上图:尼尔·克拉克(Neil Clarke)提供了一张图表:“这是我们每月不得不禁止的人数。在2022年底之前,这主要是抄袭。现在是机器生成的提交。”
克拉克在推特上写道:“造成这个问题的人来自SF/F社区之外。很大程度上是由‘副业’专家推动的,他们声称使用 ChatGPT 可以轻松赚钱。他们推动了这一趋势,应该受到人工智能开发人员的一些鄙视。”
截至目前,在YouTube上快速搜索“用ChatGPT致富”和“用ChatGPT写作赚钱”之类的词,会得到很多结果,尽管我们没有找到一个特别指向“克拉克斯世界”杂志的视频。
上图:YouTube上的快速搜索显示了许多促进使用ChatGPT写作赚钱的结果。
人工智能撰写内容的问题,并非“克拉克斯世界”杂志独有。周二,路透社写了一篇关于亚马逊上人工智能电子书崛起的报道。路透社在亚马逊Kindle商店中发现了200多本将ChatGPT列为作者或合著者的电子书。
人工智能生成内容的大量涌入使“克拉克斯世界”杂志处于一个尴尬的境地,它试图将提交稿件的门槛保持在足够高的水平,以防止垃圾邮件发送者,但又不能高到阻止来自世界某些地区的未被发现的作家或写手,他们可能会被基于地理位置的禁令不公平地针对。在一系列推文中,克拉克解释了他的困境:
我们没有解决这个问题的办法。我们有一些最小化它的想法,但问题并没有消失。探测器不可靠。付费提交牺牲了太多的合法作者。纸质提交对我们来说是不可行的。各种各样的第三方身份确认工具比杂志所能承受的费用要昂贵得多,而且往往存在地域漏洞。采用它们就相当于禁止整个国家使用。
我们可以很容易地实现一个系统,只允许以前提交过作品的作者。这将有效地禁止新作者,但这是不可接受的。他们是这个生态系统和我们未来的重要组成部分。
值得重申的是,到目前为止,声称检测 LLM 编写的文本的工具的准确率很低(在使用人类编写的文本进行测试时经常返回假阳性),因此它们目前不是可行的解决方案。尽管存在这些问题,克拉克说杂志不会停刊,投稿将在未来的某个时间再次恢复。但就目前而言,未来的道路尚不明朗。
克拉克上周三曾表示:“它不会自己消失,我也没有解决办法。我在做一些修改,但这不是任何人都能‘赢’的打地鼠游戏。我们所能期待的最好的结果就是放出足够多的水来保持漂浮。”与此同时,克拉克鼓励那些想要支持该杂志的人订阅。