OpenAI去年年底公开发布的ChatGPT被一些人称为下一个iPhone时刻，在技术和媒体领域引发了新的炒作周期。但这两种技术之间有一个重要的区别：消费者急于为第一代iPhone支付500美元，ChatGPT作为一款免费工具只是火了!
ChatGPT可以写诗、故事和歌词。热心的实验人员要求聊天机器人通过专业考试，并创建跑赢市场的股票基金。但在每一个案例中，细节都讲述了一个同样重要的故事:在准确性、创造力或原创性方面，人工智能仍然无法与人类相比。
就连OpenAI的首席执行官萨姆·奥特曼也试图平息一些热情。像ChatGPT这样的技术“令人印象深刻，但并不强大，”他在上个月的StrictlyVC活动上说。他说刚开始使用时，它们看起来“不可思议”，但当你“使用100次后，你就会发现它们的弱点”。
奥特曼表示，该公司的下一项人工智能技术GPT-4可能不会像炒作的那样，人们在期待失望。”他补充说，该公司没有AGI，也就是人工通用智能，让机器能够自己学习和思考。
ChatGPT做不到这一点。这是一系列生成式人工智能产品中的最新产品，这些产品可以通过文本、图像和视频进行自我训练，以创建内容。该聊天机器人使用一种语言模型来生成类似人类的回答，或者基于它通过消化之前在互联网上写的内容或其他形式的文本而发现的词语关系进行最佳猜测。
但互联网远非可靠来源，因此准确性是ChatGPT和其他生成式人工智能工具的弱点。即便如此，ChatGPT类似人类的反应给用户一种确定和自信的错误印象。OpenAI表示，他们正在通过更新不断提高ChatGPT的准确性，但问题仍然存在。
例如，上周让ChatGPT计算美国人每年开车的总时间，假设平均每天54分钟。作为回应，聊天机器人的公式是正确的(54分钟乘以365天)，但答案是错误的(19830分钟)。这项服务甚至会在一些看似简单的问题上出错，比如列出迈克尔·刘易斯最近出版的五本书;例如问了一个关于伯克希尔哈撒韦的问题，结果它把Warren Buffett拼错了。
如果有常见的拼写错误或误解，ChatGPT倾向于重复错误信息。它不理解、也不知道如何对它搜刮的大量互联网数据进行事实核查。同样值得注意的是，目前的系统不能定期检查互联网上的更新，所以数据集中没有最近的信息。
埃默里大学法学院专门研究人工智能和机器学习的教授马修·萨格表示，无论一个系统的能力如何，它都受到其训练数据的限制。“ChatGPT使用模式，然后尝试猜测听起来合理的内容。它没有真理的概念，”他说。“它综合了互联网上经常出现的东西。ChatGPT完全是在骗你。”
萨格注意到，当被问及著名的法律案件时，该服务提供了不错的答案，但任何复杂程度的问题都会得到糟糕的答案。他说，这本书从来没有提供过任何原创的思想或见解。
ChatGPT并不是唯一一个犯事实性错误的人。上周，谷歌大张旗鼓地推出了其对话型人工智能机器人巴德(Bard)。但据路透社报道，该聊天机器人的社交媒体广告显示，当被问及有关韦伯太空望远镜的问题时，它的回答不准确。
考虑到其局限性，ChatGPT很可能很难找到一种直接面向消费者的商业模式。本月早些时候，OpenAI宣布了一项名为ChatGPT Plus的付费订阅计划，每月支付20美元，在高峰时段提供优先访问和更快的服务。
该计划即使很受欢迎，也面临成本问题。在计算能力方面，生成式人工智能是非常资源密集型的。摩根士丹利(Morgan Stanley)估计，使用ChatGPT进行查询的成本是使用搜索引擎的5倍。
Baird分析师科林•塞巴斯蒂安表示，ChatGPT使用的“大语言”模型并不新鲜，许多科技公司都有类似的功能。他还对消费者付费服务的可行性持怀疑态度，理由是基础设施成本高，而且搜索引擎的易用性可能仍能提供更相关的答案。
虽然塞巴斯蒂安认为，企业可能愿意为能够提高生产率的人工智能工具付费，但他表示，普通公众的付费订阅“一到就死了”。
还有越来越多的法律问题和潜在的诉讼即将出现。萨格表示，如果不准确的信息被输入系统并在输出中显示出来，生成式人工智能可能会面临隐私和诽谤方面的问题。
另一个问号是知识产权的所有权。作家协会的首席执行官玛丽·拉森伯格倡导作家的权利，她表示，未经同意，受版权保护的作品被用于训练人工智能服务，这是不公平的。
她说:“他们利用作者的作品来产生潜在的竞争作品。为什么作者不应该得到补偿?难道不应该得到许可吗?” 美国作家协会计划游说国会立法，澄清许可的必要性，并可能建立一个许可制度来补偿创作者。
Rasenberger补充道:“所有人工智能生成的工作都是在重复过去已经完成的工作。“这里面没有真正的艺术和创新。”
伯克利法学院教授埃里克·斯托曼表示:“生成式人工智能迫使我们面对版权原则和合理使用的根本模糊性。”他预计最高法院将需要澄清这些问题。
OpenAI没有回应就ChatGPT的准确性以及生成式人工智能潜在的法律问题置评的请求。
ChatGPT和类似的技术当然是有用的，即使在它们目前的状态下。程序员们对微软基于openai的GitHub Copilot赞不绝口，它在建议开发人员觉得冗长乏味的低级代码方面很有用。Altman自己说，他主要使用ChatGPT来总结和翻译长文档。
但从早期测试来看，ChatGPT仍是一个新奇事物。它还没有像一些人以及许多投资者所相信的那样改变人工智能的游戏规则。技术进步更多的是迭代而不是革命性的。它不是iPhone，至少现在还不是。