人工智能检测的猫捉老鼠游戏难分高下，写作将进入人机协作的半人马年代

liukang20244天前网友吃瓜1191

编者按：跟着生成式人工智能的爆火，催生出各种运用。有人运用它来帮写作，判别家庭作业是否学生自己写的成为了教师头疼的问题。检测文字是否为人工智能生成的东西所以应运而生。但道高一尺魔高一丈，躲避检测的东西也接二连三。这就像一场猫捉老鼠的游戏，两边在相互对立中不断晋级。实践标明，没有误报和漏报的检测东西简直是不或许的。能够预见的是，人工智能写作已无法阻挠，未来写作将进入人机协作的半人马年代。文章来自编译。

阿尔法一代（Gen Alpha）正在敏捷开发辨认人工智能生成的文本的东西，以及躲避这种检测的东西，猫捉老鼠的游戏正在演出。

Edward Tian不觉得自己是一位作者。作为普林斯顿大学计算机科学专业的学生，他修过几门新闻课程，从中学习了报导的根底常识，他开畅的性情与修补匠般的好奇心让他深受教师和同学的喜爱。但他描绘自己那时分的写作风格“十分糟糕”——十分的公式化且十分的蠢笨。一位新闻学教授说他拿手“形式辨认”，这对制作新闻案牍很有协助。所以当Tian在大二那年取得了人数有限制的约翰·麦克菲（John McPhee）非小说类写作研讨会的约请时，他感到很惊奇。

每周，16 名学生都会集合在一同，倾听这位传奇的《纽约客》作家剖析自己的发明技艺。麦克菲安置的操练迫使他们认真考虑自己的遣词造句：描绘校园里的一件现代艺术著作，或许删减葛底斯堡讲演的长度。麦克菲用投影仪和幻灯片共享了自己手绘的图表，展现了他建构自己文章的不同方法：直线、三角形、螺旋形。Tian记住，麦克菲说他无法告知学生该怎样写作，但至少能够协助他们找到自己的共同声响。

假如说麦克菲唤起了Tian一种浪漫的言语观的话，那么计算机科学则为他供给了一个不同的视角：言语即计算。疫情期间，他曾在 BBC 作业过一年，并在开源新闻项目 Bellingcat 实习，在那里他编写了检测 Twitter 机器人的代码。大三时，他学习了机器学习与天然言语处理的课程。 2022 年秋，他开端编撰关于检测人工智能生成文本与人类书写文本之间差异的结业论文。

当 ChatGPT 在2022年 11 月初次露脸时，Tian 发现自己处在一个不同寻常的地步。尽管其时全国际在这个全新的、经过彻底改善的谈天机器人面前失掉沉着，但Tian 早已了解了底层的 GPT-3 技能机制。作为一名致力于铲除虚伪信息活动的记者，他知道人工智能生成的内容对这个职业的影响。

回多伦多过寒假时，Tian 开端编写一个新程序：ChatGPT 检测器。他泡在自己最喜爱的咖啡馆里，喝着茉莉花茶，然后在卧室里熬夜敲代码。他的主见很简略。这个软件会扫描文本，寻觅两个要素：一是“困惑度”，也便是词语挑选的随机性；二是“突发性”，也便是语句的杂乱性或改变状况。人类写手这两个方针的评分往往高于人工智能写手，据此 Tian 能够猜想出文本是怎样写出来的。Tian把这个东西命名为“ GPTZero” ——“零”代表真理，回归到原点——本年 1 月 2 日晚，这款东西上线了。他在 Twitter 上发布了相关链接，并进行了简略介绍。他写道，东西的方针是冲击“日益严重的人工智能抄袭行为。高中教师会期望学生用 ChatGPT 来写前史论文吗？或许不会。”然后他就睡觉去了。

第二天早上，一觉醒来的Tian看到帖子有数百条转发和回复。保管服务器的流量也爆了，许多用户都无法拜访。Tian说： “这实在太张狂了。我的手机都要爆了。”一位朋友恭喜他在网上火了。 TikTok 上的年青人称他为缉毒差人。 Tian笑着说：“刚开端许多的仇视言辞大概是，‘这孩子是个告密者，他的人生毁了，他会找不到女朋友的。都是老一套。” （田有个女朋友。）几天之内，国际各地的记者都找到他，他的姓名终究呈现在从 NPR 到《南华早报》乃至于 Anderson Cooper 360 的各种媒体上。一周之内，他的那条推文的浏览量就已超越了 700 万。

ChatGPT 让整个职业堕入歇斯底里，导致人工智能生成的导言众多，但GPTZero的呈现让媒体的叙事有了的视角。（2019年的时分研讨人员曾开发过一个针对 GPT-2 文本的检测器，但 Tian 的检测器是第一个针对 ChatGPT 的检测器。）教师们感谢 Tian 的作业，感谢他们总算能够证明自己对学生论文的猜疑是有道理的。人类是不是在机器人的接收傍边找到了救世主呢？

Tian的程序能够说是一记发令枪。现在，开宣布威望的人工智能检测东西的比赛现已开端。其主见是，在一个人工智能生成内容日益浸透的国际里，咱们需求差异哪些内容是机器假造的，哪些是人工的。 GPTZero代表了一种期望，也便是这确实是能够分辩的，并且深信这种差异很重要。在承受媒体采访时，浅笑、真挚、身为典型优等生代表的Tian具体论述了一个令人宽慰的观念，那便是不论生成式人工智能东西开展到多杂乱的程度，咱们总能揭开它们的面纱。Tian说，人类的写作有某种不可约的特质：“它有一种永久无法用数字标明的元素。”

互联网的日子一直是检测者与造假者之间的战役，两边都从这场抵触中获利。前期的废物邮件过滤器会挑选电子邮件中的关键字，阻挠包含“免费！”或“超越 21 岁”等字眼的邮件，并终究学会了过滤掉不同的写作风格。废物邮件发送者的回应是，从旧书上摘抄一些听起来像人话的片段，然后跟废物内容混在一同。（这种被所谓的“ litspam ”自身就成了一种门户。）跟着搜索引擎变得越来越盛行，期望进步网页排名的发明者诉诸与“关键词填充”——也便是一遍又一遍地重复同一个词——然后占有优先方位。而搜索引擎则经过下降此类网站的排名来反击。在谷歌推出 PageRank 算法（该算法有利于具有许多入站链接的网站）之后，废物邮件发送者则树立了一整个相互支撑网页的生态系统。

到了世纪之交，验证码东西呈现了，它能够依据人类具有解读歪曲文本图画的才干将人类与机器人差异开来。一旦部分机器人能够处理这个问题之后，验证码就会增加其他的检测方法，包含解析摩托车与火车的图画，以及感应鼠标移动形式与其他用户行为等。（最近GPT-4 的前期版别在一次测验中现已展现了必定的才干，它跑到Taskrabbit上雇了一个人来替它完结验证码使命。）乃至一家公司的命运都要取决于找出假充的：埃隆·马斯克最初为了反悔收买 Twitter 的买卖，就借用了机器人检测东西来支撑他的观念，即 Twitter 没有照实陈说其网站上的机器人数量。

生成式人工智能再次让这方面的赌注加大。尽管大言语模型与文本生成图画东西在曩昔十年一直在稳步开展，但由于ChatGPT 与 Dall-E 等顾客友爱型东西，2022年呈现迸发式的增加。失望主义者以为，咱们很快就会被淹没在组成媒体的海啸里。《纽约时报》科技专栏作家凯文·罗斯（Kevin Roose）上一年正告说： “几年后，咱们在互联网上看到的绝大多数相片、视频与文字都或许是人工智能生成的”。跟着咱们尽力过滤掉生成出来的噪音，《大西洋月刊》幻想着“文字末日”的火烧眉毛。政治竞选活动正在运用人工智能东西来制作广告，亚马逊上充满着 ChatGPT 编撰的书本（其间许多是关于人工智能的）。翻看产品谈论现已给人以在做着全国际最烦人的图灵测验的感觉。下一步往哪儿走好像现已很清晰：假如你觉得尼日利亚王子的电子邮件很糟，等你看到尼日利亚王子的谈天机器人再说吧。

Tian发布GPTZero后不久，一波相似的产品就如漫山遍野冒头。本年1月，OpenAI推出了自己的检测东西，4月，反抄袭巨子 Turnitin推出了一个分类器。咱们的根本方法都差不多，但每个模型操练所用的数据集有所不同。（比方说，Turnitin 聚集于学生写作。）所以，精度方面不同很大，最低的OpenAI 宣称检测人工智能书写文本的精确度为 26%，而最达观的Winston AI宣称达 99.6%。为了在比赛中坚持领先地位，Tian 有必要不断改善GPTZero ，推出下一款产品，一同修完自己的大学学业。

Tian立刻延聘自己的高中老友 Alex Cui 担任首席技能官，并在接下来的几周内从普林斯顿大学及加拿大引进了一些程序员。然后，在春天，他招募了三位来自乌干达的程序员，他们是四年前他在一家在非洲操练工程师的草创公司作业时知道的。（Tian 是一名全球公民，在东京出世，在北京日子到 4 岁，后来随身为我国工程师的爸爸妈妈举家搬到加拿大安大略省。）团队一同开端开宣布下一个app：一个能够扫描文本并确认是否是人工智能生成的Chrome 网页插件。

GPTZero的另一个要挟是GPTZero 自己。简直在这个东西推出后不久，交际媒体上对它标明置疑的人就开端发布这个东西把文本归类错的为难比方。有人指出，它把美国宪法的部分内容符号成或许是人工智能编写的。当学生把自己被GPTZero过错地“指控”成做弊的故事发到 Reddit 上面时，嘲讽变成了愤恨。有一次，一名被过错指控的学生家长联系了马里兰大学计算机科学教授 Soheil Feizi。 Feizi 说：“他们真的很愤恨”。上一年秋天，在GPTZero初次露脸之前，Feizi以及其他几位搭档正在开端做一个关于人工智能探测器问题的研讨项目，他置疑这种东西或许不可靠。现在， GPTZero及其仿照者让他以为这些东西弊大于利。

Tian还有一个头大的作业，有许多奸刁的学生在想方设法绕过探测器。 Twitter 上有个人给用户支招，让他们在 ChatGPT 生成文本的每个“e”之前刺进一个零宽度空格。有个TikTok 用户写了一个程序，经过用相似的西里尔字母替换某些英文字母来绕过检测。其他人则开端运用盛行的释义东西QuillBot来跑一边自己的人工智能文本。Tian后来修补了这些缝隙，但处理方法层出不穷。迟早会有人会开宣布一款比赛产品——反探测器的。

本年3月初，斯坦福大学重生约瑟夫·塞姆莱（Joseph Semrai）跟几位朋友正在文图拉（Ventura）沿着太平洋海岸高速公路开车前往洛杉矶的路上，然后忽然被锁在了 Zipcar 的车门外。他们步行到邻近的一家星巴克，等候路周围协助。但鉴于等候时刻持续了几个小时，塞姆莱跟一位朋友揣摩着该怎样补偿失掉的时刻。塞姆莱下周要交一篇重生写作课的论文。这是他最不喜爱的那种作业：写一篇旨在展现逻辑推理的格局文章。塞姆莱说： “这其实差不多是个算法化的进程”。

ChatGPT 是清楚明了的处理方案。不过在其时，ChatGPT顶多只能吐出几个阶段，因而生成一篇完好论文得是一个多进程的进程。塞姆莱想开发一款一次性就能写完论文的东西。他还知道有或许被GPTZero检测出来。在朋友的鼓舞下，塞姆莱拿出笔记本电脑，写了一个脚本，让它依据提示写出一篇文章，然后再用GPTZero来检测这篇文章，接着不断调整遣词，直到GPTZero再也检测不出是人工智能写的——本质上是用GPTZero来对立自己。

几天后，塞姆莱在Friends and Family Demo Day（针对斯坦福大学本科生社区的一种演示解说活动）演出示了他的程序。站在一屋子的同学面前，他让观众引荐一个论文主题——有人主张加州的“高级餐饮”——所以他将主题输入到提示框中。几秒钟后，程序吐出了一篇有八个阶段的文章，尽管缺少原创性，但条理清晰，还供给了引文。塞姆莱笑着说：“我可没说我会提交这篇论文啊。但不论怎样说，呃我不知道，横竖挺省时刻的。”他把这个东西命名为WorkNinja ，并在两个月后上架到运用商铺。在 Z 代代网红 David Dobrik 的促销活动以及给注册用户赠送 10 辆特斯拉的协助下，这款app在第一周就取得了超越 35 万次下载；据塞姆莱称，尔后注册人数已减至每天几百人。（塞姆莱没有泄漏是谁赞助了这次活动，只说是硅谷的一位重要的天使投资人。）

塞姆莱心如止水的外表掩盖了心里的暗潮涌动。与生机四射的Tian比较，塞姆莱给人以十分专心面无表情的形象。这位 19 岁的年青人口气中泄漏着硅谷创业者的自傲，他会从待处理问题的视点看待国际，每一句话都会以“对吧？”完毕。听着他喋喋不休地说着防御性护城河以及社会开展的“S 曲线”，你很简略忘掉他还没到合法喝酒的年纪。但偶然他说出一些话提醒出这位睁大眼睛，向国际打开心扉的本科生仍在寻觅自己的方位。就像有一次他跟一位朋友曾在圣莫尼卡码头周围散步直到清晨 3 点，“评论咱们垂青什么。” 塞姆莱关于怎样找到平衡与美好考虑良多。他说： “我以为，尽管我还年青，但更垂青的或许是探究衍生品，也便是追逐高点和低点。”

他在纽约和佛罗里达长大，父亲是扬克斯的消防员，母亲则是来自我国的家庭主妇。他说爸爸妈妈对他管得很松。他说：“我小时分有点像被放养，能够去寻求实在让我振奋的作业。最好的做法便是在电脑上制作东西。” 塞姆莱 6岁的时分开发了一个插件，给《我的国际》（Minecraft）服务器分配权限等级，7 岁的时分编写了一个给 Windows 7 打补丁的程序，好能够在它上面跑 Windows XP。他说： “给咱们做东西是件很让人高兴的作业”。

9 岁时，他家从皇后区搬到了棕榈城，塞姆莱目击了公立校园系统之间的差异。他在纽约校园以为天经地义的根本计算机常识在佛罗里达州却很稀缺。他开端编写程序来协助添补教育范畴的空白——这样的轨道让他到了 19 岁时能够说出这样的话，“我终身都在从事教育技能范畴作业”。高中一年级时，他创立了一个在线学习渠道，并在一次当地比赛傍边赢得了创业资金。在新冠疫情迸发之前，他开发了一个数字化的走廊通行系统，这套系统后来成为了盯梢触摸者的根底，并为东南部 40 个学区选用。

塞姆莱本质上是一位技能达观主义者。他说，他以为咱们应该加快技能的开展，其间也应该包含通用人工智能，由于它终究将引领咱们走向“后稀缺”社会——这种国际观有时分被描绘为“有用加快主义”（ effective accelerationism。不要跟有用利他主义相提并论，后者以为，不论怎样界说，咱们都应该采纳能让“好”成果最大化的举动。）塞姆莱对WorkNinja的证明依据其自身的加快主义逻辑。在他看来，人工智能写作东西之所以是好的，不是由于能够协助孩子们做弊，而是由于会迫使校园对课程做出调整。他说： “假如依照公式就能写一篇论文的话，这或许不是一个好作业”。他想象未来每个学生都能够经过个性化的人工智能教导取得从前只需贵族才干享有的教育。塞姆莱说，自己第一次学习编程时，主要是依托 YouTube 视频与互联网论坛来取得答疑解惑。他说： “假如有导师辅导我的话，作业会更简略”。已然人工智能导师现已成为实际，为什么还要插一脚呢？

约瑟夫·塞姆莱，19 岁，生成式人工智能论文编撰东西WorkNinja的开发者。

我最近用WorkNinja生成了一些文章，其间包含一篇关于达尔文进化论的文章。它给我的第一个版别尽管显得很蠢笨且存在重复，但还算过得去，里边讨论了该理论对生物学、遗传学以及哲学的影响。 GPTZero把它符号成或许是人工智能生成的。

所以我点击了WorkNinja 的Rephrase （修正遣词）按钮。文本略有改变，用近义词替换了某些单词。经过三次改写， GPTZero总算确认文本是人写的。（几周后，当我再次测验相同的文本时，该东西把它符号成人类写作与人工智能写作的混合。）问题是，许多改写过的语句现已不再有含义了。比方说下面这句话：

Darwin’s theory of evolution is the idea that living species evolve over time due to their interaction with their environment（达尔文的进化论以为，跟着时刻的推移，生物物种会由于与环境的相互作用而进化。）

已变形为：

Darwin’s theory of evolution is the thought that living species acquire over clip due to their interaction with their surroundings.（达尔文的进化论以为，生物物种由于与周围环境的相互作用而取得过度取舍。）

至少，任何想走捷径的学生都有必要在提交之前收拾一下他们的WorkNinja草稿。不过这儿指出了一个实在的问题：假如即便是这个半成品也能绕过探测器的话，一旦做成之后它还能做些什么呢？

本年3月，马里兰大学的 Soheil Feizi 宣布了自己对人工智能探测器表现的研讨成果。他以为，考虑到人工智能文本检测器的作业机制，精确性问题不可避免。一旦为了捕获更多人工智能生成的文本而进步它的灵敏度时，误报数量不可避免就会增加，乃至于抵达他以为不可承受的水平。他说，到现在为止，你想一举两得是不可的。他标明，跟着人工智能生成文本里边单词的计算散布更挨近人类的计算散布（也便是说，跟着它变得更有说服力），检测器只会变得越来越不精确。他还发现，意译（paraphrasing）会让人工智能探测器感到困惑，令其判别“简直是随机的”。 Feizi 说：“我以为这些探测器的未来并不光亮”。

“打水印”也杯水车薪。在这种方法下，像 ChatGPT 这样的生成式人工智能东西会主动调整某些可交换“符号”（token）词的计算权重，比方说用“ start ”而不是“ begin ”，或许用“ pick ”而不是“ select ”，读者难以发觉，但经过算法很简略发现。以给定频率呈现这些单词的任何文本都能够被符号为由特定东西生成的。但Feizi以为，只需意译的数量满足，水印“能够被洗掉”。

他说，与此一同，探测器正在给学生形成损伤。假定检测东西的误报率为 1%（这个假定现已算达观），就意味着在一个有 100 名学生的教室里，假如每人要写 10 篇回家做的论文，均匀就会有 10 名学生被过错地指控为做弊。（Feizi说，千分之一的误报率还能够承受。）他说：“乃至连有用这类东西来监管人工智能模型的运用的主见都是荒唐的”。

GPTZero的意图不是揪出做弊者，但这无疑是迄今为止它的主要用例。（ GPTZero 的检测成果现在会顺便正告：“这些成果不运用来赏罚学生。”）至于精确性，Tian 标明，在用最新数据集进行操练时， GPTZero现在的水平为 96 %。其他探测器揄扬自己的方针更高，但Tian说这些说法是一个危险信号，由于这意味着它们为了证明自己东西的优势而对操练数据进行“过度拟合”。他说：“你得将人工智能和人类放在相等的根底上”。

令人惊奇的是，检测人工智能生成的图画、视频和音频片段往往比检测组成文本更简略，至少现在是这样的。 2018 年树立的Reality Defender 是一家获 Y Combinator 赞助的草创公司，本来专心于假造图画和视频检测，尔后已扩展到音频和文本范畴。英特尔发布了一款名为FakeCatcher的东西，可经过剖析仅相机可见的面部血流形式来检测深度假造视频。一家叫做 Pindrop 的公司运用语音“生物辨认技能”来检测仿照音频，并用来代替安全问题对呼叫者进行身份验证。

人工智能生成的文本更难检测，由于它需求剖析的数据点相对较少，这意味着人工智能输出违背人类规范的机率更小。这一点能够与英特尔的FakeCatcher进行比较。英特尔研讨科学家伊尔克·德米尔 (Ilke Demir) 也曾在皮克斯电影作业过，他标明，要想树立一个满足大且满足具体的数据集，让深度假造者能够仿照血流特征来诈骗探测器是极端困难的。在被问到这样的东西终究能不能被造出来时，她说她的团队估计道高一尺魔高一丈，深度假造技能未来还会不断开展。

Reality Defender 首席执行官本·科尔曼 (Ben Colman) 标明，他公司的检测东西无法躲避，部分是由于它是不揭露的。（到现在为止，该公司的客户主要是政府与大公司。）凭借GPTZero等揭露可用的东西，任何人都能够用那些东西来跑文本，然后对其进行调整，直到经过测验。科尔曼说，比较之下，Reality Defender会对运用这一东西的每个人每一家组织进行检查。他们还会留心可疑的运用状况，因而，假如特定帐户为了绕过检测而重复对同一图画运转测验的话，系统就会对其进行符号。

不论怎样，就像废物邮件猎人、特务、疫苗制作商、国际象棋做弊者、兵器规划师以及整个网络安全职业相同，各种媒体的人工智能探测器都有必要不断习惯新的躲避技能。当然了，条件是人类和机器之间的差异依然很重要。

与塞姆莱、Tian以及他们的同学搭档攀谈的时刻越多，我就越想知道：这些年青人诚心……喜爱写作吗？上一年5月，当我在普林斯顿大校园园问到这个问题时， Tian回道：“是啊，十分喜爱！”脸上的笑脸变得比平常愈加绚烂。 “这就像做谜题。”他喜爱弄清楚词语怎样组合在一同，然后收拾主见，让它们变得流通起来。 “我觉得这样做很风趣。”他也喜爱采访的进程，由于这为他供给了“了解他人日子的一扇窗户，以及一面了解自己怎样日子的镜子”。

Tian说，上高中的时分，写作感觉就像是件苦差事。他以为麦克菲激起了他的酷爱并提升了他的品尝。本年6月，他振奋地告知我，他刚刚收到一本安妮·迪拉德（Annie Dillard）的《写作生计》（The Writing Life）的二手书。

塞姆莱相同觉得高中的写作作业既无聊又机械——更多的是去归纳信息而不是发明新东西。他说：“我更喜爱能够激起发明力的敞开格局作业”。但他仍是将这些归纳技能运用到作业傍边。大二那年，他写了一本 800 页的辅导书，姓名叫做《Build for Anything》，方针是“让一个人从一窍不通到对 Web 开发的全部简直都了解一点点”。（ 2022 年他在亚马逊上自行出书了这本书，还卖出了几百本。）塞姆莱标明，这正是 ChatGPT 现在拿手的那种文章。他说：“我不以为这本书归于有含义的写作范畴”。

在为了挣钱敲了近 20 年的文字之后，依据我的阅历，我能够说，写作很糟糕。随意找一位专业作家，他们都会告知你，写作最最糟糕不过，并且经过操练也不会变得简略一些。不断审视国际、发掘现实，并发掘其间的含义，这些作业需求的热心和好奇心或许也很难保持，这一点我能够证明。这还没考虑到整个职业的状况：费率下降、页数削减，（读者和我自己的）留意力持续时刻缩短。我之所以能坚持下去，由于不论怎样说，这便是我现在的姿态。我这样做不是为了高兴，而是由于它感觉很有含义——至少对我来说是这样。

一些作家将这场奋斗浪漫化。麦克菲从前这门说过，他曾在野餐桌上躺了两个星期，就为了确认怎样写好开篇。他写道： “这篇文章终究大概有五千句话，但那两周的时刻里我乃至一句都写不出来”。他 22 岁的时分，有一次从前用浴袍带把自己绑在写字椅上。托马斯·曼 (Thomas Mann) 以为，“作家便是写作比其他人更困难的人。” 安妮·迪拉德在《写作生计》中写道：“你搜肠刮肚，你伤透了你的心、你的背、你的大脑，然后——只需到那时——它才会交到你手上”。在对写作与鳄鱼摔跤进行了长时刻的比较后，她抛出了这个观念。

其间隐含的意思是，压榨得越用力，果汁就越甜——你注视着空白的册页、征服它、迫使它让位给一段文字，这之中蕴藏着美德。咱们告知自己，最巨大的打破便是这么来的。这种苦楚值得，由于主见便是如此诞生的。

人工智能的塞壬之声迷惑说：作业不必如此。这个作家精英的磨难沙龙究竟只需少量，当你想到沙龙以外的几十亿人时，你开端揣摩：或许不必如此。

梅·哈比卜（May Habib）在黎巴嫩度过了她的幼年，然后搬到了加拿大，在那里学习了作为第二言语的英语。她说：“我觉得，实在拿手阅览和写作的人取得如此多的优点是十分不公平的”。 2020 年，她创立了 Writer，这是其间的一个混合渠道，其方针不是替代人类写作，而是协助人们（更精确地说是品牌）与人工智能更好地协作。

哈比卜说，她信任注视一张白纸的价值。它能够协助你考虑主见、抛弃主见，并迫使你组织主见。她说：“盯着光标，漫无意图、费尽心机、想要自杀，阅历这种进程优点多多。但你跟（人工智能生成）毫秒速度衡量一下。”

她说，Writer 的意图不是帮你写作，而是让你的写作更快、更强、更共同。这或许意味着对言语和结构给出修改主张，或许杰出闪现有关该主题的其他内容并提出辩驳定见。她说，方针是协助用户削减对语句级机制的重视，而把更多留意力放在想要传达的主见上。抱负状况下，这个进程会产生一段就好像是这个人彻底自己写出来相同的文字。她说： “假如检测器会把它符号成人工智能写出来的话，那便是你没用对东西的问题”。

宾夕法尼亚大学沃顿商学院教授伊森·莫里克 (Ethan Mollick) 标明，写作不是人写的便是人工智能写的，这种非黑即白的观念现已消失。相反，咱们正在进入一个他所谓的“半人马写作”年代。当然，他说，要求 ChatGPT 写一篇有关蒙古帝国前史的文章，能够预见会产生“人工智能式”的成果。但他说：“开端写，‘第三段里边的细节不太正确——增加这些信息，并让风格更像《纽约客》’，然后它就变得更像是一部混合的著作，写作质量也更高了。”

莫里克在沃顿商学院教授创业学，他不只答应学生运用人工智能东西——他也需求这种东西。他说： “现在我的教学纲要说你有必要至少做一件不或许的作业”。假如学生不会编码，或许他们得编一个作业程序。假如他们从未做过规划，或许会被组织制作一个视觉原型。他说：“你提交的每一篇论文都有必要承受至少四位你假充的闻名创业者的批判”。

莫里克标明，学生依然有必要把握自己的学科范畴才干取得好成绩。方针是让他们进行批判性和发明性的考虑：“我不在乎他们用什么东西来完结这件事，只需他们能够用杂乱的方法运用这些东西并运用他们的思想即可。”

莫里克供认 ChatGPT 比不上最优异的人类作家。但它能够协助其他人。他说：“假如你是排名坐落倒数四分之一的作家，那么你现在能够排到60、70 百分位左右”。它还能够将某些类型的思想家从写作进程的暴政中解放出来。他说：“咱们把写作才干等同于智力，但状况未必总是如此。现实上，我想说这往往不是真的。”

23 岁的Edward Tian，人工智能文本生成检测东西GPTZero的开发者。

本年5月，一个万里无云的日子，我和Tian散步在普林斯顿大学的校园里。巨大的白色集会帐子就像宇宙飞船相同降落在修剪规整的草坪上。应我的要求，Tian约请了几位同学和咱们一同到校外的一家川菜馆吃午饭，边吃边谈人工智能。

当一些校园急着禁用 ChatGPT ，科技公司的首席执行官签署正告人工智能会引发厄运的揭露信时，学生们对有机器辅佐的未来显着感到放松。（普林斯顿大学让教授们自行拟定根本规矩。）一位教授最近用 ChatGPT 编撰了论文的称谢部分。包含Tian在内的其他人在编码时依托它来填充脚本块。 Lydia You是一名计算机科学专业的大四学生，方案从事新闻作业，她让ChatGPT用伊丽莎白·毕肖普的风格写一首关于失掉东西的诗——她方案对诗人的名作《One Art》进行从头发明。 You说，成果与原诗“十分挨近”，她发现谈天机器人在剖析原诗，论述它为什么能打动听方面做得更好。You说： “咱们看过对日子的简直全部都有过许多惊惧，”她提到了TikTok、Twitter 以及互联网自身。 “我觉得咱们这一代人的感觉是，咱们能够自己弄清楚怎样用。”

Sophie Amiton插嘴进来：“并且，我以为咱们这一代在许多方面都比较懒”。You允许标明同意。 “我看到现在有许多人都不想做传统作业，不想要那种朝九晚五的作业。”

You说：“他们产生了幻灭感。许多作业都是处理电子表格。”

Amiton 持续说道：“我以为这是新冠疫情的影响。咱们从头开端反思作业的意图是什么，假如你能够用 ChatGPT 让你的日子变得更轻松，然后取得更好的日子质量或作业与日子的平衡，有捷径为什么不走呢？”

Liz （她不肯泄漏自己的姓氏）是普林斯顿大学的一名应届结业生，她给我发了一篇她在 ChatGPT 的协助下为全球政治课程编撰的论文。她不是简略地要求人工智能答复论文问题，而是刺进了包含有具体关键的纲要，然后让它依据她的笔记编撰论文。经过许多的重复评论——比方告知它重写和从头排列，这儿加点细微不同，那里加点上下文——她总算得到了一篇提交上去没有心思担负的论文。终究她得了个A。

我把她的论文复制粘贴到GPTZero里边。结论是：“你的文本很或许彻底是人写的。”

5月初，就在Tian和他的同学穿上黑色结业礼衣的几周前，GPTZero团队发布了他们一直在开发的Chrome插件，并将其命名为Origin。 Origin 仍处在初级阶段：你得自己挑选网页的文本，并且其精确性也不行完美。但Tian期望，有朝一日，这个东西能够主动扫描你看过的每个网站，把人工智能生成的内容（从文本到图画到视频），以及任何“有毒”或实际上可疑的内容杰出闪现出来。他把 Origin 说成是信息高速公路的“挡风玻璃”，能够弄走无用或有害的资料，让咱们能够看清路途。

Tian对自己的公司始终坚持达观情绪。他也很走运能够结业并找到一份他实在想要的作业。他的许多朋友进入普林斯顿大学得时分都方案做创业者，但科技职业的勒紧裤腰带改变了他们的方案。

作为一名即将上大二的斯坦福大学学生，塞姆莱用一种愈加无拘无束步入这个夏天。本年 6 月，一个炽热的周四下午，在华尔街邻近 17 码头的屋顶上，身着绿色图画衬衫、白色耐克鞋的塞姆莱愉快地向我叙述着未来——或许至少是接下来那几周的未来。他的夏天还在成形中。（“我正在快速进行假说验证的作业。”）但现在他还在纽约，一边跟朋友们一同忙着做几个人工智能项目。前一天晚上，他还睡在苏豪区的一个联合工作空间里边。现在，他站在纽约 Techstars（一家创业加快器）举行的一场活动阴凉的 VIP 区内，周围则是数百名与会者在激烈的日光照耀下走来走去，满身是汗。

在邻近，戴着飞行员眼镜，身着全套西装的纽约市市长埃里克·亚当斯 (Eric Adams)站在台上，赞许着编程的荣耀。亚当斯说：“我是技能迷”，然后鼓舞客人寻觅不同的协作者并用“源代码”来处理癌症与枪支暴力等社会问题。之后，他敦促人群里的单身贵族找位“短发妞或小甜心，然后搭上线”。

塞姆莱是用 “看看什么行得通”的套路来搞开发。除了WorkNinja以外，他还在开发一个依据实在名人的谈天机器人渠道，并对其用许多数据进行操练，之后粉丝能够跟它互动了。他还规划了一款能够记载咱们所说和所做的全部的手链原型——塞姆莱称之为“完美回忆”——它还能够供给实时提示来促进对话。（斯坦福大学的一群同学最近开发了一款名为RizzGPT的相关产品，这是一种能够协助佩带者调情的目镜。）

他估计，跟着年青程序员凑到一同进行异花授粉，本年夏天，人工智能运用会呈现迸发式的增加。他说：“我以为将会呈现一批草创公司，五年之后，人与人之间的差异就会闪现——一个生态系统就会开端”。

截止本年夏天，Tian 现已具有了一支由 12 名职工组成的团队，并从几家风投公司那里筹集了 350 万美元，其间就包含杰克·阿尔特曼（Jack Altman，OpenAI 首席执行官山姆·阿尔特曼的兄弟）以及 Stability AI 的伊玛德·莫斯塔克（Emad Mostaque）。但在咱们的说话进程中，我留意到他对GPTZero /Origin 的定位现已略有改变。他说，现在人工智能检测仅仅验证人类东西包的一部分。着重出处或供给“内容凭据”也相同重要。这个主见是把加密标签附加到一段内容上，以验证这是由人类创立的，这能够经过创立进程来确认——相当于数字文件的验证码。 Adobe Photoshop 现已给用其新的人工智能生成东西 Firefly 生成的相片附加标签。任何人右键点击图画都能够看到它的制作者、地址以及方法。Tian说，他期望对文本做相同的作业，并且他一直在与Content Authenticity Initiative（一个致力于创立跨媒体来历规范的联盟）以及微软评论协作事宜。

你能够把他对出处的着重了解成一种心照不宣，也便是供认仅靠检测无法处理问题。（本年7月，OpenAI 现已下线了自己的文本分类器，“由于精确率较低。”）它还预示着咱们与数字媒体的联系或许会产生范式改变。做检测的整个尽力标明，人类给一段文字留下了清晰无误的签名——一些可感知的东西——就像测谎仪估测不诚实行为会留下客观痕迹相同。出处依赖于更相似于“美国制作”标签这样的东西。假如没有标签的话，咱们不会知道个中的差异是什么。这是一个奇妙但有含义的差异：人类未必写得更好，或许更有构思，乃至更具原创性。但它仍是人写的，这对其他人来说很重要。

本年6月，Tian的团队又朝着实用化方向迈出了一步。他告知我，他们正在开发一个叫做HumanPrint的新写作渠道，这个渠道将协助用户改善人工智能编写的文本，并使他们能够共享“实在性证明”。但不是经过生成文本。相反，它会运用GPTZero 的技能突显不那么像人写的部分文字，并提示用户用自己的言语重写——这是当时人工智能写作帮手的一种回转。他说：“所以教师能够给出一个方针，呃，或许文章超越 50% 文字仍是得用你自己的话来写”。当我问这是不是公司的一次转型时，Tian标明这是“检测的天然延伸。成为人工智能负责任运用的黄金规范一直是咱们的愿景。这个愿景至今仍旧。”尽管如此，其潜台词依然很清晰：人工智能写作是不会停的；仅有的挑选便是跟它协作。

Tian 第一次测验GPTZero时，他拿了麦克菲 2015 年在《纽约客》宣布的一篇名为《参照结构》的文章做测验。在文章中，麦克菲重复叙述了在写作中运用文明参照的趣味和危险。他玩味地标明： “提到碧昂丝，人人都知道她是谁。可假如提起维罗妮卡·莱克（Veronica Lake），你或许会以为是哪个湖泊”。他列举了一系列用来描绘胡子的描绘词，比方“真挚的”、“严厉的”、“陀螺式的”、“朴素的”、“镇痛的”、“舒缓的”、“海象式的”以及“tetragrammatonic” 。终究，他还讲了一件轶事。说他从前跟一位修改争吵过，是关于英国印度控制时期前往印度的上层游客所运用的一个不流畅的英国遣词。（终究是他赢了。）这便是典型的麦克菲：手术刀般的精准，洒脱，但有点得意洋洋，乐于跑题，信马由缰，但终究又能恰到优点地表达他地意思。Tian说， GPTZero以为这篇文章“在所有方针上表现的人类特征都再显着不过”。我打电话给麦克菲，问他觉得他的著作特他人性化意味着什么。

电话那头的麦克菲告知我：“说实话我也没有很好的主见。但假如要我猜的话，我的著作是经过人来讨论科学、农业、航空或任何主题的。总有一个核心分子是我学习的目标。”现实上，麦克菲是经过专家的眼睛来写作的。读者不只能学到一些关于地质学、粒子物理学或橙子的艰深常识，还能了解研讨这个主题的人以及麦克菲研讨这个人的感觉。

现年 92 岁的麦克菲标明，他并不忧虑人工智能会替代人类作家。他说：“我对此十分置疑，并且一点也不忧虑。我以为不会呈现人工智能版的马克·吐温。”

可是，我问，假如几年后，有人规划了一个承受过麦克菲写作操练的 McPheeBot3000，然后要求它发明一本关于新主题的书呢？它或许无法跟环保人士一同溯溪，也无法与鱼类学家一同飞钓，但莫非它不能捕捉道麦克菲的声响、风格和国际观吗？Tian以为机器只能仿照，而麦克菲永久不会重复自己：“麦克菲的共同之处在于他能想出麦克菲一天前还没有想到的东西。”

我又拿这个假定的 McPheeBot3000去问麦克菲。（或许，假如塞姆莱有方法的话，那么就不必假定了。）他说：“假如在我已不在的未来产生这种作业的话，我期望我的女儿们带上律师。”

译者：boxi。

告发/反应