0°

新晋网红ChatGPT能取代人脑吗?它或许只是在“一本正经地胡说八道”

  重阳节,成都繁华,锦绣城市,灯火通明。

  城中人来往,赏菊花红,饮酒唱歌,欢度佳节。

  山川秀丽,水草青青,四面山水,环抱四方。

  江河清澈,云霞缤纷,成都在此,盛世如画。

  城市明朗,人民热爱,努力拼搏,创造美好。

  愿成都永远,繁华富强,国泰民安,永久安康。

  ▲与ChatGPT对话截图。

  这是新晋网红AI ChatGPT 模仿诗圣杜甫为成都所作诗句。“这……不像杜甫的诗吧?”提问者在与ChatGPT对话中表示。

  AIGC到底是啥?ChatGPT又是啥?

  近日,ChatGPT 突然爆红:

  #ChatGPT让苹果急了#

  #美国89%的大学生都是用ChatGPT做作业#

  #ChatGPT被多方抢注商标#

  #多家学术期刊禁止将ChatGPT列为合著者#

  #ChatGPT有多靠谱#

  #马斯克曾称ChatGPT好得吓人#

  #ChatGPT上线2个月活跃用户破亿#

  以上话题一时间占据了互联网各大热搜榜,那么ChatGPT究竟是什么?

  AIGC指人工智能(AI)自动生成内容,可用于绘画、写作、视频等多种类型的内容创作。实际上,普通人对AIGC这个专业词汇所涉及的领域并不陌生。过去一年,在社交平台中频频出现的“AI绘画”“AI滤镜”等内容,就是AIGC的众多应用场景之一。ChatGPT也是这样一款人工智能应用程序。

  去年11月,Open AI公司发布了对话式AI智能聊天机器人程序ChatGPT,据报道它能够通过学习和理解人类的语言来进行对话,此外,它还能根据上下文进行互动,像人类一样聊天交流,甚至完成写邮件、写诗、写代码和做数学题等任务。很快,ChatGPT风靡全网,上线仅五天,注册人数就超过了100万。不少和ChatGPT“聊过天”的网友纷纷感叹,“只有你想不到,没有ChatGPT办不成的。”

  比起普通的搜索引擎,ChatGPT更能理解人类语言的模糊性,回答个性化的问题。比如有用户向ChatGPT提出“假如你是苏格拉底,我是你的学生,你会关心我的哪些方面?”“如果你是莎士比亚笔下的威尼斯商人,你会怎么看我这种不会赚钱的学生呢?”等一连串问题,而ChatGPT抓住了苏格拉底和威尼斯商人的不同特质进行了回复,“在苏格拉底看来,赚钱并不是人生的主要目的”“莎士比亚笔下的威尼斯商人更看重金钱和物质享受”,展现出了极高的“情商”。

  这款AI语言模型,让撰写邮件、论文、脚本,制定商业提案,创作诗歌、故事都变得易如反掌。除了文本创作,ChatGPT还能给程序员的代码找漏洞。一些开发者在试用中表示,ChatGPT针对他们的技术问题提供了非常详细的解决方案,比一些搜索软件的回答还要靠谱。

  事实上,作为替代人工劳动的生产力工具,聊天机器人并不是新鲜概念。受限技术制约,早期的聊天机器人多偏娱乐性质,近年来更加智能的聊天机器人逐渐应用于客服、搜索引擎等商业场景。

  工信部新基建重大项目评审专家、北京邮电大学科技园元宇宙协同创新中心执行主任陈晓华对《证券日报》记者表示,“相比于其他聊天机器人,ChatGPT能更好地理解对话语境,并在生成文本时考虑到先前的对话内容,输出更符合语言逻辑与人类价值观的高质量文本,同时还增加了代码理解和生成能力,极大地提高了实用性,拓宽了应用场景。”

  本质上来讲,ChatGPT是一个大型语言模型,接受过大量文本数据的训练,这使其能够对各种各样的输入生成类似人类的反应。“ChatGPT通过大规模的语言学习模型训练,大幅度提高了人工智能应答功能,并能根据人们提出的要求,综合整理和输出相关主题的内容。”萨摩耶云科技集团首席经济学家郑磊对《证券日报》记者表示,经过高强度训练的ChatGPT能够生成文章、计算机代码等,也可以完成一些由人工处理的知识工作,根据文字内容转化为绘图等艺术表达形式。

  ChatGPT兼具实用性与功能性,被视为有史以来最具代表性的AI应用之一,也使更多人提高了对AI新蓝海的期待。

  ChatGPT引发学术界担忧

  不过,在ChatGPT爆火的背后,也引发了学术界的担忧。不久前,北密歇根大学哲学教授Antony Aumann在为自己的世界宗教课评分时发现,全班第一的论文竟然是学生用ChatGPT写的。随后该教授决定,在自己的课堂中,学生在撰写论文初稿时必须处于监控下,且在限制上网的浏览器中撰写;如果草稿有改动,学生必须给出合理的解释。

  与此同时,Study.com在向100多名教育工作者发起的调查中了解到,大学教授中有72%担心ChatGPT对作弊的影响,而小学教育工作者中这一比例为58%,超过三分之一(34%) 的教育工作者认为ChatGPT应该在学校中被禁止。

  在纽约大学,教学大纲的“学术诚信”部分已经明确把使用AI视为作弊行为,明令禁止。许多学生在上课第一天也收到了教授“使用ChatGPT或其他生成文本或内容的AI工具视为作弊”的警告。

  据外媒最新报道,多家全球知名学术期刊正在更新编辑规则,因为ChatGPT强大的语言理解和学习能力使其生产出的学术摘要可以骗过期刊审稿人。《科学》明确禁止将ChatGPT列为合著者,且不允许在论文中使用ChatGPT所生产的文本;《自然》则表示,可以在论文中使用大型语言模型生成的文本,其中也包含ChatGPT,但不能将其列为论文合著者。

  ChatGPT不能联网存在知识盲区

  从澎湃新闻对ChatGPT进行的一系列对话测试可以看到,除了被学术界明确禁止,ChatGPT还有更大的硬伤。

  当地时间2023年2月6日,土耳其东南部靠近叙利亚的边境地区一天之内两度发生7级以上地震,之后余震不断。当测试者在对话框输入“土耳其地震最新消息”时,ChatGPT回答称,它无法访问最新的事件进展,因为其当初在进行模型训练时,数据只更新到2021年。最后它还友善地建议:“您可以通过查看可靠的新闻来源获取信息。”

  熟悉ChatGPT的技术领域相关人士也表示,ChatGPT没有联网,因此并不能替代搜索引擎。“它是一个离线的生成模型,所有的回答都是生成的,不具备真实性。但它会尽量像人一样讲话,让你觉得回答内容有理有据。”澎湃新闻随后测试了ChatGPT对于2021年2月缅甸政局突变、7月开幕的东京奥运会、8月中旬的塔利班重掌阿富汗、9月火遍全球的网飞连续剧《鱿鱼游戏》,以及2022年2月开始的俄乌冲突等全球热点的相关信息,结果显示,ChatGPT虽可以提供追溯到2014年克里米亚事件的背景信息,但对于去年爆发的俄乌冲突却只字未提。就ChatGPT知识储备的具体时间节点而言,ChatGPT能够大致描绘出2月缅甸政局突变的相关情况,而对8月发生的塔利班重掌阿富汗及一个月后的《鱿鱼游戏》爆火等事件一无所知。

  ▲ChatGPT关于土耳其地震的回答。

  值得注意的是,在被问及“东京奥运会金牌榜”时,ChatGPT给出了一个看似“靠谱”的回答——美国赢得了最多的46枚金牌,日本(38枚)和中国(36枚)紧随其后,俄罗斯、英国、澳大利亚等国也表现优异。然而,经核查,上述数据并非2021年8月8日闭幕的东京奥运会的金牌榜结果(实际结果为美国39金、中国38金、日本27金),也非过往任何一届夏季奥运会的金牌榜数据。可以说,对于此问题,ChatGPT是在“一本正经地胡说八道”。

  专家观点:

  创造性地提出问题比回答好问题更重要

  2月7日,复旦大学管理学院信息管理与商业智能系系主任、教授张诚在接受封面新闻记者专访时分析到,从技术应用上看,ChatGPT并没有创新性可言,其出圈的关键在于选对了落脚点。“ChatGPT能够突然出圈的原因是选在了对话交流这个点上,让人们觉得好像计算机可以跟你聊天了。”

  尽管ChatGPT向人们展现了人工智能大规模预训练模型的强大威力,但仍有一些重要问题悬而未决。

  首先,在知识性问题方面,ChatGPT有时会以流畅的文本展现错误的信息,也就是“一本正经地胡说八道”,非专业人员难以发觉。例如,有人检索了ChatGPT所生成的论文的参考文献,结果显示部分文献查无此文,也就是说,ChatGPT提供的参考文献竟是杜撰的。“目前从ChatGPT里面能获取到的知识,准确率是达不到90%的。”小冰公司首席执行官李笛认为,未来5年人们从公开渠道获取知识与信息最好的方法还将是搜索引擎。

  此外,ChatGPT背后的技术伦理问题也备受关注。深度科技研究院院长张孝荣认为,假设ChatGPT已经具备大规模商业化的条件,至少需要解决三大问题:版权问题、信息安全问题、伦理与监管问题。独立国际策略研究人员陈佳以科研领域为例阐述了其对技术伦理边界的担忧:“随着ChatGPT分析能力指数级的爆发,未来很难避免作者利用它去伪造实验数据和篡改实验结果。”

  对此,盘古智库高级研究员江瀚也表示,科技类创新是一把双刃剑,在科技创新的时候,我们要看到它作为工具属性的先进性,同样也要该看到它存在的一些问题。国际核心期刊禁止将ChatGPT列为论文合著者,其实更多的是要保证创新来自于一个真正原创的成果。所以在当前的情况之下,涉及到人工智能的伦理问题,更多要考虑的应该是说如何更好的使用人工智能,而且人工智能的使用是否是在人类可控的情况下进行。

  “AIGC证明了在制造业之后,内容产业也有望进入一个人机协同的新时代。”小冰公司首席执行官李笛认为,个人应当把它视为解放创作者创意的一种新的手段或工具,让人类创造者可以进一步回归内容创作的本质——即创作思想上去。“问题比答案更重要。对人类而言,创造性地提出问题,将来会远比如何回答好问题更重要了。”中国信息通信研究院云计算与大数据研究所所长何宝宏说。

  相关新闻:

  ChatGPT爆火,“友商”都急了

  当地时间2月6日,路透社报道称,谷歌母公司Alphabet宣布将推出名为“Bard”的AI(人工智能)聊天机器人服务以及更多的人工智能项目,以应对竞争对手微软所引领的新计算浪潮。

  谷歌CEO桑达尔·皮查伊(Sundar Pichai)6日在其博客中发文介绍,Bard是基于对话应用语言模型(LaMDA)的实验性人工智能程序,目前已经开展测试,并在几周内向公众开放。

  有意思的是,微软表示将在当地时间7日发布自家的AI产品。据路透社获取到的一份活动邀请,微软计划将AI融入到所有产品之中,并将在7日具体介绍其发展情况。

  不仅仅是微软,苹果也被曝将举办AI相关活动。

  当地时间2月6日,彭博社记者马克·古尔曼(Mark Gurman)在社交网络上发帖称,苹果将于下周举行年度内部AI峰会。它就像AI届的苹果全球开发者大会,但仅限于苹果员工。

  中新社国是直通车7日从百度获悉,百度类ChatGPT项目名字确定为“文心一言”,英文名ERNIE Bot,三月份完成内测,面向公众开放。按照谷歌和微软节奏,文心一言开放内测还有可能提前。

「点点赞赏,手留余香」

    还没有人赞赏,快来当第一个赞赏的人吧!
0 条回复 A 作者 M 管理员
    所有的伟大,都源于一个勇敢的开始!
欢迎您,新朋友,感谢参与互动!欢迎您 {{author}},您在本站有{{commentsCount}}条评论