(资料图)
近日,斯坦福大学研究团队提出了一种名为DetectGPT的新方法,旨在成为首批打击高等教育中LLM生成文本的工具之一。相关研究论文已发表在预印本网站arXiv上。据悉,该方法或对检测验证产业带来积极影响。
此前,GPT- 3、PaLM和ChatGPT等大型语言模型(LLM)已经被证明能够针对各种各样的用户查询做出非常流畅的响应,可以生成“令人信服”的有关科学、数学、历史和当前事件以及社会趋势等复杂问题的回答。
尽管这些回答经常充满错误,但这些生成文本的清晰、自然仍然使得LLM在某些情况下被用来替代人力,特别是在学生论文写作和新闻撰写方面。
例如,学生可能使用LLM来完成书面作业,使得教师无法准确地评估学生的学习情况,而且,由LLM撰写且公开发布在新闻网站上的内容,往往存在大量的事实性错误,由于缺少足够的人工审查,也会对新闻读者产生误导。
不幸的是,在对LLM生成的文本和人类编写的文本进行分类时,人类的表现只比随机情况略好(Gehrmann et al., 2019)。因此,使用自动检测方法来识别人类难以识别的信号,成为当前业内的一个重要研究方向,这种方法可能会让教师和新闻读者更相信他们看到的内容来自人类。
在此次工作中,研究团队基于“LLM生成的文本通常徘徊(hoveraround)在模型的对数概率函数的负曲率区域的特定区域周围”这一发现,提出了一种用于判别LLM生成文本的新指标,这一方法既不需要训练单独的分类器,也不需要收集真实或生成的段落的数据集。
据论文描述,DetectGPT可以将20B参数GPT-NeoX生成的假新闻文章的检测从0.81 AUROC提高到0.95 AUROC。研究团队表示,这一方法在检测机器生成的文本方面优于其他零样本方法,或在未来的机器生成文本检查方面非常有前途。另外,他们也将尝试将这一方法用于LLM生成的音频、视频和图像的检测工作中。
然而,这一方法也存在一定的局限性。例如,如果现有的掩模填充模型不能很好地表示有意义的改写空间,则某些域的性能可能会降低,从而降低曲率估计的质量;DetectGPT相比其他检测方法需要更大的计算量等。
未来,随着LLM的不断改进,它们将成为越来越有吸引力的工具,可以在各种环境(比如教育、新闻和艺术)中取代人类作者。尽管在所有这些环境中都存在语言模型技术的合法使用,但教师、读者和消费者可能需要工具来验证具有高度教育、社会或艺术意义的某些内容是否来自人类,特别是在真实性(而不仅仅是流畅性)至关重要的情况下。
近日,斯坦福大学研究团队提出了一种名为DetectGPT的新方法,旨在成为首批打击高等教育中LLM生成文本的工具之一。相关研究论文已发表在预印本
CFi CN讯: 截至1月30日龙虎榜显示的机构动向看,26只股票被机构关照,总体为净卖出(86303万元)。纵览龙虎榜,其中机构净买入9只股票,而净卖出17
1、“虎丘曲会”是苏州历史上规模宏大的民间自发的昆曲集会,届时文人雅士、曲词名家、专业艺人、百姓群众,都会自发地在中秋之夜,聚集虎丘,
Steam平台上架了一款新游戏把玩家惊呆了,国区售价6780,美区售价1999美元。游戏名字就充满了神秘感,叫《TheHiddenandUnknown》,隐密与未知
沪深交易所2023年01月30日公布的交易公开信息显示,*ST吉艾因成为日涨幅达到15%的前5只证券而登上龙虎榜。
随着新材料产业战略地位不断升级,近日行业内频递暖风。1月27日,环球新材国际(06616 HK)发布公告称,董事会通过了以约4 7亿元人民币收购韩国
“大宗固废综合利用示范基地项目,由山东尚佳全额投资,负责处理电厂的大宗固废,以处理粉煤灰、脱硫石膏为主。将这些大宗固废生产成石膏粉、
南昌:囤积紧俏物资,查!捏造涨价信息,打!
1、1 硼酸:用面粉或土豆,混合硼酸,揉成小球,放在蟑螂经常出没的地方。2、苏打粉:糖和苏打粉各半。蟑螂无法适应苏打粉产
画说民俗|正月初八顺星节