金融街 科技 正文

大学生使用GPT-3工具撰写虚假博客文章,成功登上HackerNews的榜首

2020-08-17 10:32   来源: 互联网

据外国媒体MITTechnologyReview报道,大学生LiamPorr使用该语言生成AI工具GPT-3,生成一篇虚假的博客文章,在HackerNews排行榜上名列前茅。Porr试图证明,GPT-3的内容可以欺骗人们,让人相信它是人类写的。他还说:"这其实非常容易,这是最可怕的地方。


GPT-3是由旧金山的OpenAI公司设计的一系列人工智能自动化工具,已有数年的历史。其中,"GPT-3"代表的是"Generative预训练转换器"(Generative预训练转换器),它根据人类作家的提示自动完成文本。


它的工作原理如下


和所有的深度学习系统一样,GPT-3在数据中寻找模式。为了简化操作,程序被训练成一个庞大的文本语料库,程序的统计规律已经被挖掘出来。这些规律对人类来说是未知的,但它们被存储为GPT-3神经网络,在不同节点之间有数十亿个加权连接。


重要的是,人工输入不涉及此过程:程序在没有任何指导的情况下查找和发现模式,然后使用这些模式完成文本提示符。例如,如果在GPT-3中输入单词"FIRE",程序将根据网络中的权重接收诸如"卡车"和"警报"之类的单词,这比"清晰"或"elvish"更有可能出现。


Porr的博客文章名为"Feelingunproductive?Maybeyoushouldstopoverthinking"(感觉效率低下?也许你应该停止过度思考)。


定义二:过度思考(OT)是试图想出别人所想出的想法的行为。OT的结果往往是不现实的、不可能的,甚至是愚蠢的想法。


波尔提交了申请。他用一份简单的问卷填写了一份打算使用的表格。但他没有等。在会见了伯克利人工智能社区的几名成员后,他很快找到了已经可以使用的博士生。


在研究生同意一起工作之后,波尔写了一个小剧本供他运行。它为GPT-3提供了博客帖子的标题和介绍,并列举了几个完整的版本。


Porr的第一篇文章(这篇文章刊登在HackerNews上)和随后的每一篇文章都是其中一个输出的直接复制和粘贴。


自从我想出了这个想法,并与博士生接触后,我实际上开了一个博客,第一个病毒博客--花了几个小时,"他说。


在不编辑的情况下生成内容的诀窍是理解GPT-3的优缺点。"它擅长写漂亮的语言,而不是逻辑和理性,"波尔说。因此,他选择了一个不需要严格逻辑的热门博客类别:生产力和自助。


波尔说,他想证明,GPT-3可以被冒充为人类作家。的确,尽管该算法是以一种奇怪的模式编写的,偶尔也会出错,但在他对HackerNews最高职位发表的评论中,只有三到四人怀疑它可能是该算法产生的。所有这些评论都立即遭到了其他社区成员的反对。


波尔说,他的实验还展示了一个更平凡但令人不安的选择:人们可以使用这个工具生成大量点击诱饵内容。"可能会有很多平庸的博客内容,因为进入的障碍太容易了,"他说。"我认为在线内容的价值会大大降低。



责任编辑:无量渡口
分享到:
0
【慎重声明】凡本站未注明来源为"金融街"的所有作品,均转载、编译或摘编自其它媒体,转载、编译或摘编的目的在于传递更多信息,并不代表本站赞同其观点和对其真实性负责。如因作品内容、版权和其他问题需要同本网联系的,请在30日内进行!