到现在为止,即使我们这些生活在岩石下的人也已经熟悉了 ChatGPT,这是一款由人工智能驱动的聊天机器人,可以找到几乎每个问题的答案。它似乎能够轻松地撰写报告、写信甚至诗歌——对于任何被问及的主题,它都会尽职尽责地遵从并以惊人的速度完成。它甚至已经向与之互动的用户表达了爱意。
该技术由 OpenAI 开发,在微软高管们认为其非常出色后,他们购买了价值 100 亿美元的股份。该技术搜索网络以拼凑出一个庞大而丰富的人类文学语料库,并利用此来找到最有可能回答用户问题的答案。在这方面上述软件就像是一个“辣味自动更正”。
但现在想象一下角色反转:AI 机器人不再依赖于一系列人类著作进行创作;相反,在未来我们将阅读到大部分内容都是由 AI 编写。这样做可能会引起出版、新闻采集和社交媒体领域内震荡,并且很快就会实现。维基百科创始人吉米·威尔士已经花费了大量时间思考这个问题,他正在权衡世界上最大的在线百科全书在未来几年内将如何发展。
“我所看到的维基百科社区中的讨论是……人们持谨慎态度,因为我们意识到现有模型还不够好,但也很感兴趣,因为这里似乎有很多可能性。” 威尔士说道。
“我认为我们离‘ChatGPT,请写一篇关于帝国大厦的维基百科条目’还有一段距离,但我不知道我们距离那个时代还有多远。肯定比两年前更接近了。” 他说。
威尔士表示,尽管ChatGPT在过去几周中已经吸引了全球的想象力,但他自己对该技术的测试显示仍然存在许多缺陷。
“现有的ChatGPT之一问题是它们在领域内所谓的‘幻觉’——我称之为撒谎,”他说。
“它倾向于从空气中编造东西,这对维基百科来说非常糟糕——这不行。我们必须非常小心。”
威尔士并不是唯一一个发现ChatGPT能力幻觉的人。
上个月,昆士兰大学经济学家戴维·斯默登问ChatGPT:“史上最被引用的经济论文是什么?”
AI聊天机器人在几秒钟内给出了答案。“史上最被引用的论文是道格拉斯·诺思和罗伯特·托马斯发表于1969年《经济史杂志》上的《经济历史理论》。”
回答听起来很合理。但当Smerdon去找到它所参考的那篇文章时,以检查它是否像ChatGPT声称得那样流行时,他发现根本没有这样一篇文章。作者确实是真实的,出版商也是真实的。但论文名称完全是虚构的。需要引用。
但除了不能说出真相外,威尔士表示该技术经常无法发现其自己写作中的内部矛盾。
“我问ChatGPT,一架飞机撞进帝国大厦了吗?它说没有,一架飞机没有撞进帝国大厦。”他说。
“但然后它继续说,在纽约有一座著名建筑物,其中最著名的事情之一就是B25轰炸机撞进了帝国大厦。”
“我问,B25轰炸机是什么类型的飞机吗?它回答:‘是’——所以我告诉你当你说一个飞机没撞到时你错了。”
“然后它说:‘对不起我的错误’。”
尽管在近期内AI完全拥有作者身份还遥远得多,但在Wikipedia上已经有很多讨论AI技术未来几个月可以在改善百科全书方面扮演什么角色。
威尔士表示:“我确实认为人类协助存在着某些有趣的可能性。如果您使用正确语料库进行培训,则可以通过这种方式检查两个Wikipedia条目,看看是否存在相互矛盾的陈述,并确定其中一个文章似乎在说一些与另一个稍微不同的事情。”
“人类可以检测到这一点,但您必须并排阅读两篇文章并仔细思考——如果自动化将其输入以便获得数百个示例,则我认为我们的社区可能会发现它非常有用。”
多年来,维基百科一直受到批评,因为其志愿者描述特定主题的方式以及选择哪些主题应该更或更少突出的偏见。绝大多数维基百科数百万强大的志愿者都是男性和白人,这意味着他们不可避免地——即使是无意中——用男性为中心和白人为中心的视角解释世界事件,并且如果他们认为没有任何价值,可能根本不会涵盖重要主题。AI能否成为抵消这些偏见、使维基百科成为真正中立、公正信息来源的途径?威尔士并不确定。
“我们知道很多AI工作很快就陷入了偏见问题,因为如果你在有偏见的数据上训练一个AI,那么它只会跟随那种偏见,在AI领域有很多人专注于解决这个问题,并且他们已经意识到了。”他说。
换句话说,使用AI驱动的维基百科可能不能停止偏见,而是加剧和延长它们。但最有用之处在于发现缺失条目-分析全球所有可用信息、将其与相应Wiki条目配对并确定空缺部分。而且可能有很多这样的空缺-导致维基百科内容膨胀。但威尔士对此并不担心。
“使用AI将维基百科条目数量增加三倍,我们的运营成本每年也不会超过1000英镑。” 威尔士说。
暂无评论内容