内容简介
本书是一本科技哲学的文集，多数是关于人工智能问题的，但不限于人工智能，也涉及基因编辑，还有一篇讨论“宇宙社会学”——刘慈欣设想的一个存在于科幻中的理论，虽然不是被承认的学科，但其中包含重要的现实意义。主要论文有：《一个反存在的存在论问题》，《近忧远虑：人工智能的伦理学和存在论分析》，《人工智能的自我意识何以可能?》，《人工智能会是一个要命的问题吗?》，《是人的问题还是人工智能的问题?——回应博古睿研究院(Berggruen Institute)关于人工智能的问题》，《完美是最好的吗?》，《人类可能会死于好事而不是坏事》，《最坏可能世界与“安全声明”——来自〈三体〉的问题》，《未来的合法限度》，《要命的不是人工智能统治世界, 而是人可能先亡于它创造的一切好事》等。书稿较为集中探讨了现代人工智能的区分、本质、危险、可能的解决办法等问题，具有前沿学术价值。
作者简介
赵汀阳，中国社会科学院学部委员，哲学研究所研究员。欧洲跨文化研究院学术委员会委员，美国博古睿研究院资深研究员。著有《论可能生活》、《天下体系》、《第一哲学的支点》、《坏世界研究》、《天下的当代性》、《惠此中国》、《四种分叉》、《历史·山水·渔樵》等，以及Alles Unter dem Himmel (德国);Tianxia tout sous un Meme Ciel(法国);Redefining a Philosophy for World Governance (英国);All-under-heaven：The Tianxia System for a Possible World Order (美国);Tianxia: una filosofia para la gobernanza global(西班牙); Un Dieu ou tous les Dieux(法国，与A. Le Pichon 合著);Du Ciel ala Terre (法国，与R. Debray 合著)。
前言：最后的神话
这是一本科技哲学的文集，多数是关于人工智能问题的，但不限于人工智能，也涉及基因编辑，还有一篇讨论“宇宙社会学”——刘慈欣设想的一个存在于科幻中的理论，虽然不是被承认的学科，但其中包含重要的现实意义。
科技哲学的前生前世是知识论。尽管古代哲学早已讨论了知识问题，但知识论的兴盛却在现代，是一个后神学的产物，也是建构人的主体性的一个计划，如康德的豪言壮语所表达的，知识论试图证明人的理性能够“为自然立法”。知识论的雄心无疑与现代科学的兴起有关。假如没有出现能够实证地解释世界万物的现代科学，以尽享成功与光荣的牛顿力学为代表，就很难想象知识问题会成为现代哲学的核心。现代知识论的主要议题是康德设定的，康德试图解释知识的一般普遍原理，但后来人们发现，康德理论可以解释以牛顿力学为代表的早期科学的意识基础，却不能解释以非欧几何、康托数学、哥德尔逻辑、相对论和量子力学为代表的当代科学，同时，也无法解释不能化约为科学的人文知识，即被狄尔泰定义为“精神科学”或李凯尔特命名的“文化科学”的那些具有历史性的知识。当代知识论沿着科学和人文知识的道路而分别发展了不相容的两种知识论，甚至成为所谓“两种文化”。不过，总的来说，现代知识论没有超越对“科学”概念的崇拜，即一般相信满足科学标准的知识才是真正的知识，而且还相信科学技术迟早能够解决一切问题。这种科学崇拜不是迷信，因为科学确实创造了无数难以置信的奇迹。尽管科学无法解释价值和历史——这是人文的特区，但人文的短处是至今无法建构一种不同于科学而几乎同样可信的方法论。这是题外话了。
科技哲学是知识论的传人，但放弃了康德式的一般总体知识原理，只是分析科学的知识生产方式、认知假设、认知机制和模式，也反思科学的社会、文化和政治后果，以及对科学提出人文或伦理学的批评。收缩为科技哲学的知识论也因此失去了广泛宏大的影响力。近几年来，科技哲学突然成为哲学的一个前沿问题域，甚至成为牵动所有哲学问题的一个核心枢纽，其爆发点显然与人工智能和基因编辑的技术发展有关。技术的发展其实不及科学的理论挑战那么深刻，尽管康托数学、哥德尔理论、相对论和量子力学等划时代的科学进展已经过去了百年或更久，而至今知识论仍然没有能够足够合理地解释其中革命性的知识论问题，即一度被夸张地称为“数学危机”和“物理学危机”之类“终结了真理”的那些难题，有趣的是，人们并没有为之特别烦恼。这意味着，知识论的问题并不急迫也并不致命，甚至，知识不能解释自身的困境也不影响知识的继续发展。虽然人工智能和基因编辑只是技术上的应用和推进，在思想的革命性上远不及科学，但人工智能和基因编辑的实践却引出无比严重的问题，它超出了知识论而触及了存在论，或者说，从知识论问题转向了存在论问题，而所有涉及“存在”的问题都是要命的，所以刻不容缓。这就是问题之所在：如果人类运气不佳，人工智能和基因编辑等技术有可能要了人类的老命。历史经验表明，没有一种批评能够阻止技术的发展，尽管人喜欢吓唬自己，但终究还是挡不住技术的美妙诱惑。
平心而论，人工智能的实际危险性并没有理论上的危险性那么大，目前人工智能的技术水平距离理论上的危险还很遥远(关于“奇点”临近的说法是夸大其词)，而现实可及的利益却十分巨大，因此，限制在图灵机概念内的人工智能都是可取的。至于超越图灵机的超级人工智能，虽然十分危险，但目前只是一个“形而上学”的问题。这本书主要讨论的正是作为形而上学问题的超级人工智能，即具有自我意识和神级能力的人工智能，也可以理解为一个关于人工智能的神学或神话学的讨论。这个形而上的危险虽然遥远，但并非杞人忧天，科学技术的突破有可能像火山爆发一样突然。
更危险的或许是基因编辑之类的生物学技术，而且是并不遥远的真实危险。生物学技术似乎比人工智能更有用，因此是更大的诱惑。可以说，凡是用于治病救人的生物学技术都是可取的，而凡是基于完美追求而试图改变或改善人类自然性质的生物学技术，都是非常危险的，比如说，试图把人类变成长生不老的生命，或者具有超级智商的生命，或者美丽无比的生命。这些试图改写人类生命的自然结构的努力有可能适得其反地导致人类的灭亡，因为破坏一个系统比建构一个系统容易太多，而重新设计生命系统需要上帝一般的完全知识，这是人类所缺乏的知识。对此我无法给出必然可信的论证，只是基于一个信念：人类的技术不可能超越大自然的设计，所有改变大自然设计的技术或可能会导致生命系统的崩溃。
就人工智能和基因编辑的长远目标而言，都是试图在存在论水平上改变存在的既定性质，相当于再造存在，而任何“再造存在”都是绝对的冒险，都违背理性的风险规避原则。当然，冒险总有一丝成功的希望，但鉴于人类远远没有完全了解意识的秘密，更没有完全理解自然的秘密，因此，任何“再造存在”都是缺乏依据的冒险。不敬神的现代性是一个关于人的主体性的神话，即以人为神，因此人想要一切，想做成一切。人的神话如此深入人心，以至于成为一种势不可当的自动实现预言，更恐怖的是，人的神话还具有自相关结构，即使反对主体性的僭越也需要以主体性为依据。现代早就有不少思想家批判性地反思了现代性、主体性以及科学崇拜，而且那些反思也早已成为广为人知的话语，但没有用，完全无力阻止人的神话。人已经被惯坏了，太想统治自然，太想长生不老，太想不劳而获。事实证明，对现代性、主体性和科学崇拜的伦理批判无力而软弱，无效而可怜，无论如何怀念“去魅”之前的“诗意的”世界，此类话语不仅无济于事，甚至因为无济于事而失去了思想性。人的神话，或者主体性的神话，包括人工智能和基因科学的神话，隐含其中的可能是人类的悲歌。