中证网讯(记者 赵白执南)记者10月10日从元保获悉，元保联合国内保险科技研究机构分子实验室共同发布《人工智能大模型保险行业应用评测报告》。《报告》认为，包括ChatGPT、百度文心一言等在内的10个主流大模型在医疗知识、保险常识、保险法律知识领域表现普遍较好，不同大模型体现出了不同特点。据悉，元保为元保保险经纪(北京)有限公司运营的互联网保险中介平台，于2020年正式上线运营。
专家认为，《报告》的发布一定程度上消除了保险大模型市场的信息不对称，对于保险机构选择大模型厂商、深度应用大模型具有指导意义。
图为《报告》评测框架。图片来源：《人工智能大模型保险行业应用评测报告》
《报告》结果显示，10个主流大模型(ChatGPT3.5、ChatGPT4、Claude-1、Claude-2、清华智谱ChatGLM130B、百度文心一言、阿里通义千问、科大讯飞星火、360智脑、昆仑万维天工)在医疗知识、保险常识、保险法律知识领域表现普遍较好，在智能核保、智能理赔、话术优化上表现不尽如人意，在营销服务应用能力上表现参差不齐。
具体而言，国内头部大模型在回答专业领域的基础知识问询时，对国内情况更加了解，回答的表现也比国外大模型更加出色。文心一言与清华智谱在保险常识、法律知识问答上均进入前两名，得分强于GPT-4。在医疗知识回答上，文心一言亦在各大模型中最优，科大讯飞也同样获得较高得分，表现均强于GPT-4。
《报告》称，头部大模型在专业知识问答上已有较强应用能力，可直接使用程度很高。如在回答“社保与商业保险的区别”时，文心一言可从性质、建立基础、管理体制、对象、保障范围、资金来源、待遇给付、时间性、法律基础等9个层面给出准确答案，内容较全面，可较好消除提问者心中困惑。清华智谱也从保障对象与范围、性质与目的、保费承担者、保障程度与灵活性、管理机构五大维度给出了答案，同样有较强的应用价值。
《报告》认为，目前的大模型非常适合作为智能机器人用以服务客户，回答客户关于保险、医疗等方面问询，同时也可以赋能保险代理人，成为保险代理人的展业工具之一，提升代理人服务客户的能力。因此在代理人渠道仍处于攻坚阶段的当下，大模型对于提升代理人平均产能、降低保险机构服务客户成本、促进保单成交，或有一定帮助。
同时，《报告》总结出在此次评测中不同的大模型体现出的不同特点，具体来看：文心一言在国内大模型中体现出了较强的综合能力，特别是中文语料充足，其训练出的大模型在专业知识的提供上有很强实力，未来还需要在多模态理解、推理能力上继续强化。
通义千问在专业知识问答上不算突出，不过在营销话术、智能核保、实时质检上有相对较好的表现，语言表达流畅、自然、清晰、简单，具备合理的逻辑思维能力，推理和判断能力也不错。
清华智谱的GLM-130B最大的解答优势在于很多问题引入了生动的例子加以说明，这对于提问者而言，无疑是个亮点。
事实上，去年底以来，以ChatGPT为代表的AI大模型横空出世，大幅提升了AI尤其是自然语言处理技术解决实际问题的能力，在全球范围内引起极大关注。各个行业都在尝试探索大模型应用落地的路径，这其中也包括保险行业。
清华大学金融科技研究院副院长、中国保险与养老金研究中心主任魏晨阳表示：“对大模型的评测工作，在全球范围都是一个意义重大的事情。结合金融领域一个重要板块(保险)的大模型评测，其实更具有特殊的意义。包括AI在内的科技赋能，核心在于结合具体应用场景时，模型是否在实操层面、核心业务的前沿，真正有实用价值。”