从闲聊到帮程序员解决程序bug等，ChatGPT的能力让不少人惊叹。然而，事物总有两面性。当ChatGPT的能力为人们带来便利时，ChatGPT的能力也给人们带来了不可忽视的问题。本文就此分析了人工智能ChatGPT的利与弊，一起来看看吧。
2022年12月，微软投资的AI实验室OpenAI发布ChatGPT，立刻火遍全网，短短5天内吸引了100万名用户。在北密歇根大学的一门课程论文评分时，用ChatGPT撰写的论文甚至得到了A+的评分，被教授认为是“全班最好的论文”。其出现对很多教学活动产生了巨大冲击，让教师们不得不对课堂做出调整。
官方描述，这是一个“可以连续回答问题、承认错误、挑战不正确的前提并拒绝不适当要求”的对话模型。从闲聊、回答问题到写小说、写诗歌、帮程序员解决程序bug等，ChatGPT的能力让不少人惊叹。
信息化专家张礼立，1995年在美国Sun微系统公司做IT架构师;同年，计算机科学家理查德·华莱士开发了聊天机器人ALICE，这时的人工智能机器人已经可以读懂乐谱、解释图片和表达人性化推理，而这样的变化距离1964年世界上第一个聊天机器人ELIZA的诞生，只过去了30年。
最近几年，AI生成内容(AIGC)突飞猛进，OpenAI发布了GPT-3模型，而ChatGPT就是基于GPT-3引入“强化学习”的进一步创新，其大幅提高了AI在人机对话时的准确度和可控性。
然而，尽管GPT-3有1750亿个参数用于“记忆”和“提炼”人类知识的规律，但是ChatGPT在使用当中，还是很快暴露出了弊端。比如给出的答案并非完全准确，甚至对于一些有准确答案的常识问题，也会出现漏洞，以至于知名程序员问答网站Stack Overflow紧急发布公告，宣布暂时封禁ChatGPT。
面对这一现象，《新周刊》采访了曾在美国硅谷的科技公司工作了10余年的张礼立，针对AIGC在当下的应用状况和难题，以及新技术的迭代可能产生的新的创业热潮展开了讨论。
2022年3月，上海市政府发布了“城市数字化转型”的建设实施方案。上海作为全国首个实施数字化转型的城市，面对着数字技术人才需求的庞大缺口。而张礼立担起了首批数字技术应用工程师考级的课程讲授。
“未来的人工智能应用，究竟需要培养出什么样的人，来对机器‘发号施令’”，这是张礼立经常思考的问题。
一、ChatGPT是一项重大的技术创新吗?
2006年，张礼立从美国硅谷归国，加入上海市海促会。此后，他长期在世界500强企业担任高管，并从事信息化和企业科技管理工作，这使得他对城市数字化的切身感受非常之深——ChatGPT火爆的背后，对于未来社会的发展究竟利弊几何，恐怕才是各界应该关注的问题。
如今，有不少人在使用过ChatGPT之后认为，未来这样的技术不仅可以吊打谷歌的人工智能，还可能迫使一些编程问答网站面临极大威胁，甚至有用户与ChatGPT就现代物理学的历史进行对话后发出惊呼：以后大学都可能不复存在。然而，在张礼立看来，这些说法多少有些“过度吹捧”之嫌。
2018年，张礼立开始在浦东创业，出于对产业结构顶层设计的敏感，他发现在城市的数字化转型中，除了科技创新本身是一个挑战之外，更大的挑战在于如何“定义”创新。
奥地利经济学家约瑟夫·熊彼特曾在《经济发展理论》一书中提出“创新理论”：“只要发明还没有得到实际上的应用，那么在经济上就是不起作用的。”对此，张礼立提出了自己的解读：新工具或新方法要在经济发展中起作用，最重要的含义就是能够创造出新的价值，而所谓的创新，最后一定具有普遍性，而且能够给人类带来福祉。
在张礼立看来，要判断ChatGPT是不是一项技术创新，首先要肯定ChatGPT确实是一项技术突破。
1997年超级电脑“深蓝”击败国际象棋世界冠军卡斯帕罗夫、2016年3月AlphaGo在“人机大战”中击败围棋世界冠军李世石，这些案例在细分垂直的领域当中，只是把算力、算法、模型集中化，但是却并没有更广泛的横向扩展。而ChatGPT则更像是“万宝全书”，它把一个可以“强化学习”的庞大数据模型，放入了一个问答系统，但是怎么能确保它永远不出错呢?
“1750亿个参数当然是可控的，就好比在医疗上将已知的干细胞植入人体，但是让器官再生这个过程却是不可控的。AIGC生成的内容也是一样的道理，你永远不知道它的嘴里会吐出什么象牙来。”张礼立表示，我们之所以觉得它有趣，可以写诗、写文章，就是因为它的结果是不可控的。
ChatGPT确实推动了狭义上的人工智能进步，但核心问题是，大规模的信息输出还处于“黑匣子”状态，未来如何让它的结果更可控，将影响到每个产业的发展。
二、AIGC究竟该如何应用?
科技的每一次进步甚至迭代，都会引发不少创业者和企业家思考，如果一项技术既可以产生经济效益，又可以造福社会，那为什么不去做呢?实际上，人工智能普及和应用，往往面临着不少困难，毕竟智能产品的更新换代，需要的是人们对使用习惯和旧观念的打破。
如今，人工智能需要获取使用者越来越多的个人信息，这显然涉及隐私保护的“科技道德”问题，再加上人工智能解决方案的成本往往也令人望而却步——人类通过互联网和软件，已经基本可以满足所有的生活需求，这种更具成本效益的方式，不免将人工智能推向了“边缘”。
但这并不代表人工智能发展到ChatGPT，供人“娱乐”一番后，就算是走到了头。2022年8月，张礼立在上海市海促会的换届选举中，当选为第六届海促会会长。除了经常要作为客座教授去上海交大授课，他平时也格外关注医疗卫生与健康产业。
在张礼立看来，自新冠疫情暴发以来的三年里，人工智能在生物医药方面发挥的效能可谓不小。由于生物医药需要做大量化学分子的适配，人工智能似乎找到了用武之地，甚至在未来国内医疗产业的应用，前景也不可小觑。
从长远角度来看，人工智能势必会对人类的生活产生长期影响，且不是任何年龄代际所能限制的。张礼立指出，比如成长于手机支付的一代人，很少有对货币的概念，如果让他们去一些还在使用纸币的国家，他们反而会觉得不适应。
“为什么许多欧洲国家不去使用线上支付?而将来所谓的互联网原住民、元宇宙原住民，在未来的全球化当中，是不是会同世界上的许多人产生鸿沟?从这个角度来看，他们不见得一定就是引领者。”张礼立表示。对于AIGC的应用，他也始终保持着客观审慎的态度。
据张礼立判断，未来AIGC或许会在科技企业的应用场景当中率先发力。原因在于企业本身就属于投资主体，拥有支出成本的能力。比如说在一场数十人的工作会议中，AIGC能够根据大家讨论的话题和发言，自动整理生成一份会议纪要，甚至把统计数据也都制成表格，这无疑会更大地提高企业的工作效率。
此外，譬如中国政府提出的“3060碳达峰和碳中和”的承诺已是迫在眉睫，假设我们想知道中国当下不同行业的零碳标准，AIGC是不是能很快地检索出这些标准?在未来数字城市转型中，当人工智能重新将制造业的供应链进行数字化，那对于今后的国民经济，以及为全球化发展作出的推动，都将是不容小觑的。
张礼立认为，如果将人类创造的知识分为社会科学和自然科学，上述提出的应用基本上都是建立在自然科学的前提之下对数据进行的收集整理工作。但是如果涉及文学、音乐、绘画等社会科学领域的内容生产，还是要“点到为止”，因为如果人类连想象和思考都丢失的话，最终的结果可能是人类会变得越来越愚蠢。
三、人类是否需要走过“人工智能冬季”?
1984年，由斯蒂夫·巴伦执导的电影《电脑梦幻曲》上映。情节围绕着男人、女人和一个名为“埃德加”的有感知的个人电脑之间的三角恋情展开了一场爱恨纠葛。人类似乎从上世纪开始，就在幻想聊天机器人能够产生自我意识。
但是在人工智能促进协会(AAAI)上，美国人工智能理论家罗杰·尚克(Roger Schank)和“人工智能之父”、框架理论的创立者马文·明斯基(Marvin Minsky)就曾向世界发出过“人工智能冬季”的警告。
1997年，“深蓝”和卡斯帕罗夫下国际象棋的事件，使得西方媒体对这件事情的看法无一不是负面的——人类的失败怎么来得那么快。在张礼立看来，当时的人们之所以会对科技心生恐惧，并不是因为担心机器人的脑子比人类的好使。
“人工智能是否会取代人类”本身就是一个伪命题，而恐惧的真实原因其实是在于，一旦这个会说“人话”的机器人开始发表感言、传达价值观念，我们的身边将会到处都是似是而非的“谎言”，令人无从辨别。
如果人工智能要代替人类思考，那么我们真的需要走过这个“冬季”吗?对此，张礼立分析，人工智能发展至今，走过了“摩尔定律”和“大数据”，进入了第3—4个“冬季”的周期。现在的“冬天”到底冷不冷、冷到什么程度，可能并不好说，但是大家都能回过头看到，每当有这些技术出现的时候，人工智能从宏观上看，其实都是停滞发展的。
只有当人类在生活中出现“木桶效应”的时候，人工智能才会出来发挥作用，补上短板。比如手机有导航和陀螺仪，我们可以通过GPS和北斗进行定位等，但是也仅限于此，并没有超出人类“衣食住行”的范畴。
“尽管在‘弱人工智能’的概念上，有真正做到让人类的生活变得更便利，但是像‘如何通过人工智能颠覆人类生活方式’这样的话语却没有人敢说。”张礼立指出。
如今，有不少人看好AIGC在知识教育领域的前景，然而对于张礼立来说，这反而是最需要慎之又慎的行为。“人工智能的初衷，是解放人的双手，提高生产力。AIGC可以像搜索引擎一般为人们提供精准的知识性罗列，但是最终选择相不相信，或者说最终对信息作出决策的，还得是人自己。”张礼立提出了自己对AIGC的担忧。
人工智能可以收集数据，对数据分类、贴标签，但它不能告诉我们什么是好、什么是坏。
据张礼立回忆，由于2022年上海疫情，相当一部分人开始线上上课。正因为这样，才需要通过一些互动，确保学员们不是在打瞌睡，所以他经常会提出“明白的扣1，不明白的扣2”这样的询问，结果满屏都是“1、2、1、2……”，这成了张礼立脑海中挥之不去的阴霾——人与人之间的连接、人与人之间交流的温度，似乎都消失了，机器越来越像人，人却越来越像机器。
“人如果没有了勤劳的意志，没有了自主学习的耐心，甚至丢失了是非判断的能力，丢失了安身立命的责任，那么如此匮乏的人生，也会逐渐失去意义。”张礼立说。