大学生用GPT-3工具编写虚假博文 并成功登顶Hacker News

援引外媒 MIT Technology Review 报道，大学生 Liam Porr 使用语言生成 AI 工具 GPT-3 生成了一篇假博文，并登上了 Hacker News 的榜首。Porr 试图证明，GPT-3 制作的内容可以骗取人们的信任，让人们相信它是由人类编写的。而且他还表示：“这实际上超级容易，这才是最可怕的地方。”

GPT-3 是由总部位于旧金山的 OpenAI 设计的一系列人工智能自动完成工具，已经推出有数年之久。其中“GPT-3”代表的是“generative pre-trained transformer”（生成式预训练转化器），根据人类作家的提示自动完成文本。

它的工作原理如下

就像所有深度学习系统一样，GPT-3 会在数据中寻找模式。为了简化操作，该程序已经在一个巨大的文本语料库上进行了训练，并对其进行了统计规律性的挖掘。这些规律性对人类来说是未知的，但它们被存储为GPT-3的神经网络中不同节点之间的数十亿个加权连接。

重要的是，在这个过程中不涉及人类的输入：程序在没有任何指导的情况下寻找和发现模式，然后利用这些模式来完成文本提示。例如，你在 GPT-3 中输入单词“fire”，程序就会根据网络中的权重，就会接“truck”和“alarm”等单词，比“lucid”或“elvish”更有可能出现。

在 Porr 的博客文章中展示了一个样本，标题为《Feeling unproductive? Maybe you should stop overthinking》(感觉没有效率？也许你应该停止过度思考)。

Definition #2: 过度思考（OT）是指试图提出已经被别人想好的想法的行为。OT 的结果通常是不切实际的、不可能的、甚至是愚蠢的想法。

Porr提交了申请。他用简单的问卷填写了有关其预期用途的表格。但是他也没有等待。在接触了伯克利AI社区的几位成员后，他迅速找到了已经可以使用的博士生。

研究生同意合作后，Porr编写了一个小脚本供他运行。它为GPT-3提供了博客文章的标题和简介，并吐出了几个完整的版本。

Porr的第一篇文章（在Hacker News上登载的文章）以及其后的每篇文章都是其中一项输出的直接复制和粘贴。

他说：“从我想到这个主意并与博士生接触以来，我实际上创建了博客，并且第一个病毒式传播的博客-花费了几个小时。”

无需编辑即可生成内容的诀窍是了解GPT-3的优点和缺点。Porr说：“它擅长于编写漂亮的语言，而并不擅长于逻辑和理性。” 因此，他选择了一个受欢迎的博客类别，该类别不需要严格的逻辑：生产力和自助。

Porr 表示，他想证明 GPT-3可以作为人类作家被假冒。确实，尽管该算法的编写模式有些怪异，并且偶尔会出现错误，但是在他对Hacker News的最高帖子发表评论的数十个人中，只有三到四个人怀疑它可能是由算法生成的。所有这些评论都立即遭到其他社区成员的反对。

Porr 说，他的实验还显示了一个更为平凡但仍令人不安的替代方案：人们可以使用该工具生成大量的点击诱饵内容。他说：“可能会有大量平庸的博客内容，因为现在进入的障碍是如此的容易，” “我认为在线内容的价值将大大降低。”

　　版权及免责声明：凡本网所属版权作品，转载时须获得授权并注明来源“物联之家 - 物联观察新视角,国内领先科技门户”，违者本网将保留追究其相关法律责任的权力。凡转载文章，不代表本网观点和立场。

延伸阅读