AI 也需要考虑 " 政治正确 " 吗？

《Nothing，Forever》是一部最近在 Twitch 平台上引发了广泛关注的动画作品，基本由粗糙的画面、不知所云的剧情和机械的电子音构成，之所以能引起讨论，是因为它纯粹是由 AI 生成的，。

这部形式上模仿了美国 90 年代的情景戏剧《宋飞传》的动画，在 Twitch 平台上号称 " 永不停播 "，因为它采用了 OpenAI 里 GPT-3 语言预测模型，号称可以实时采集评论区用户的文字内容，并根据观众的反馈来调整剧情走向。

不过虽然在技术上能做到 " 永不停播 "，但在两个星期前，这个节目还是因为其他原因被平台封禁。

【资料图】

2 月 5 日，在该动画的一场深夜个人脱口秀中，虚拟人物 Larry 发表了一系列关于跨性别者的侮辱性言论，包括了 " 质疑变性人是否患有精神疾病 " 以及 " 变性人是否正在破坏社会结构 " 等内容。

显然，这样的言论势必会引发多数人的抵制与不满，按照规定，Twitch 平台对《Nothing，Forever》采取了 14 天封禁的处罚，而这部动画在最近即将重新恢复播放。

虽然发表争议言论的是 AI 而非真人，但 AI 背后的研发团队无疑需要为这起事故承担相应的责任。在开发团队发布的一份声明中，他们就表示这 " 完全是我方错误导致的一个技术问题。"

开发团队宣称根本原因是由于 OpenAI 的内容审核工具对 AI 模型意外失效，才导致了后续的事故。为了能避免类似问题的再次出现，开发人员表示正在组建一个关于 AI 的 " 安全委员会 "，以便人工智能的审核水平能够紧随技术发展，以做到实时检测可能的敏感内容。

如果 AI 可以与人类互动并学习相应知识，那么如何避免它被大量错误或者无意义的内容 " 污染 "？这可能是之后人们需要探讨的问题。

为了让节目重新上线，团队还宣布会引入一个 " 观众互动系统 "，这个系统能够让观众安全地与节目互动，并且依旧能产出有创意的新内容，但他们目前暂未透露更多的情报。

尽管 AI 已经显现出了自己的一部分 " 创造力 "，但在彻底取代人类工作之前，人类还得发明出新的岗位来解决它产生的问题，这可能也算是一种另类的 " 塞翁失马 " 了。

点击下方卡片关注游研社

公众号近期改版，文章容易在时间线消失

推荐把游研社设为星标，不错过每一篇报道