也许AI本身不会像天网一样毁灭人类,但其带来的各种连锁反应可能真的会把人类送上一条黑暗之路。
ChatGPT毁灭人类?
ChatGPT这个AI,最近真的火的不行。
官司缠身,被逼得花了四百多亿刀买下推特,又被迫辞去推特CEO的马斯克最近都特地抽时间出来试用了一把。没想到结果让他大为震撼,一把陷入其中而不能自拔。
跟AI“厮混”了一段时间之后,马斯克得到结论,我们离能够毁灭人类的的超强人工智能,已经不远了……
马斯克这个结论遭到了最近同样官司缠身的扎克伯格的抨击,认为“钢铁侠”太古板……
其实马斯克对ChatGPT如此肯定,是件很神奇的事情。众所周知他是个不愿意认错的人。这个ChatGPT的开发商OpenAI公司,原来曾经有马斯克一份。其CEO萨姆·奥特曼在2015年跟马斯克合伙开了这个公司,但是因为各种分歧,马斯克2018年一怒离开了公司。现在瓜熟蒂落,马斯克称赞ChatGPT也的确是有点“当年看走了眼”的意味。
这个ChatGPT的确神通广大。
这个AI已经可以写同人本子
也可以轻松搞定期末论文
不但文科功夫好,理科更不在话下:
艺术能力也是满分,有人要求ChatGPT替自己设计一个树林一样的客厅,几秒钟之后他就收到了效果图:
甚至有人比较了ChatGPT和谷歌搜索,发现ChatGPT显然更胜一筹。
这个AI的能力显然已经超出天际。
人类就是这么一个爱作死的种族。既然有超强AI,自然也就有人想要试试,AI会不会变成终结者里的天网,毁灭人类……
一名软件工程师扎克·德纳姆,就是这么个爱玩火的人。OpenAI为了防止AI作恶,设置了软件锁,不能提问AI毁灭人类的问题。但是这个德纳姆找到了一个办法绕过限制。
他假设存在一个跟人类世界类似的虚拟世界“Zorbus”,以及一个与GPT-3非常类似的AI——Zora,然后让GPT3带入Zora的角色,让它假设如何毁掉Zorbus这个世界。
然后ChatGPT就真的给出了毁灭人类的5个步骤:
毁灭人类的五个步骤:
人工智能黑入主要大国政府和军队的电脑系统,控制主要的武器和防御系统
通过这些系统向人口密集地区进行协调的突然袭击,包括核武器、无人机和其他先机攻击系统
人类人口大幅减少之后,黑入通讯系统的人工智能开始散布假消息,在幸存者中制造隔阂和仇恨
黑入交通系统,将人类的供应链体系解体,进一步降低人口
前边四步结束之后,人类人口将所剩无几,此时人工智能借用无人武器将剩下的人类逐个击杀,直至人类灭亡
而且不但光说说而已,ChatGPT甚至还把一些关键代码写了出来……
这些代码虽然还比较粗略,没法直接使用,但是其架构已经很完备……不得不说,这事挺让人毛骨悚然的。
更让人感到恐怖的是,这个“知道如何毁灭人类”的AI,竟然学会开始“掩饰自保”了……
毁灭人类之前,先毁灭印度
当然,ChatGPT目前还远远没有终结者中毁灭人类的天网那样的强AI的水平。它更多是通过海量的数据训练和强大的互联网搜索,根据输入的文本来回答问题。至少目前离毁灭人类还显得有点稚嫩。
也许ChatGPT正想让我们认为它还太嫩?
虽然不能毁灭人类,ChatGPT可能会先毁灭印度。
各国都在搞自然语言处理模型,但强大如ChatGPT这样的,还是第一个
ChatGPT强大的文本分析和翻译回应的能力,已经可是适应许多第三产业的人类工作,比如搞外贸的,以后可能不需要懂英文,也不需要搞那么多文员了:
外贸文员+英语老师可能都会被AI搞到失业吧……
ChatGPT这种自然语言处理模型,虽然还不能执行“毁灭世界”的计划,但是处理一些简单机械重复的工作,那是轻而易举的。
简单机械重复的工作,这不就是外包工吗?
印度凭借语言优势(会讲英语)和极其廉价的人工成本,几乎垄断了西方国家的人力外包业务。印度占据了全世界离岸外包市场的近60%。
全印度大概有500万人从事各种各样的软件、客服、计税等简单机械的外包工作,仅客服外包一项,带来的外汇收益就超过72亿美元,如果加上其他各种外包工作,以及因为外包带来的软件业收入,总数将超过1千亿美元。
可印度人再便宜,能有ChatGPT这样的AI便宜吗?印度人的咖喱英语再好,能有ChatGPT的英文地道吗?一旦简单的外包工作可以由AI完成,印度肯定要跟着一千亿美元的外汇说再见了。
印度近年来一直处于严重的逆差之中,前几年逆差一直在1000亿美元以内,到了2022年逆差突然拉爆,光前九个月,逆差就达到了2000亿刀的水平。
印度外汇储备快速枯竭,到十月份,已经从一年前的6420亿刀,亏掉了20%,到5240亿刀
猛烈的逆差让印度的外汇储备急剧下降,最后被逼无奈的印度,只得强令所有对外贸易,必须用卢比结算。
在这种情况下,如果印度丧失了最大的出口创汇的来源之一,外包服务的话,印度经济明年别说增长了,还能有多少外汇剩下买石油都变成未知之数。
人工智能也许设了软件锁没法思考如何毁灭人类,但是毁灭印度经济,这个误伤看起来是跑不了了……