1024程序员节，砭石大模型闪耀未来！-亚博im

每一次敲击，都是程序员与计算机之间的一次互动，他们通过键盘编写出一行行代码，在坚守和热爱中，不断前进，探索未知，这些代码背后怀揣着一个共同的梦想：照亮寰宇，改变世界。

10月23-24日，“2023长沙·中国1024程序员节”系列活动如期举行。本次活动以“研发新高地，数智创未来”为主题，由长沙市人民政府指导，开发者社区平台csdn联合主办。活动期间，各领域大咖畅聊云计算、人工智能、开源、算力、大模型等技术趋势，洞察机遇，共话中国研发技术新生态。

智慧眼首席科学家兼人工智能研究院院长andrew zuo出席主题论坛。

在全球范围内，医疗行业面临着重重困境，如何破解基层医疗机构发展困局，提高疗效、降低治疗费用是各个国家亟待解决的问题。医疗是一个传统而严谨的领域，随着技术的迅速发展，新技术将会慢慢进入医疗领域，进行技术、产品和服务的更新迭代。

“智慧眼是一家致力于ai计算驱动生命健康的企业，一直在寻找更高效、更智能的方式来提升我们所处的健康环境。砭石大模型是智慧眼研发的多模态医疗大模型，面向医疗健康领域提供更专业、更精准、更丰富的服务能力，帮助人类改善生命健康，提升生活品质。这是今年开发者日，特别想跟大家分享的内容。”andrew zuo讲到。

创新驱动，多模融合

ai大模型时代加速而至。相比以往的信息技术，人工智能具有更强大的垂直渗透和横向整合能力，通过智能技术与各种要素的融合，将技术实体化、泛在化，促进多技术的集成应用和多领域的跨界创新。砭石大模型有着专业性 (医学医疗)、统一性、交互性和多模性等属性，其关键技术主要包括，医疗数据收集和专业知识增强、基础模型构建及其对齐框架、自监督学习与模型优化和医疗下游任务微调适配。

相比于国内很多大模型，智慧眼做的并非在开源大模型基础上进行微调，亦或是简单的仿效，我们是深入到医疗健康领域，依托多年积累的核心技术资源能力，在源头技术上进行了创新。

当然，智慧眼的开发者们在构建大模型的过程，也面临一些难点并做了创新：

难点一：训练大模型是一个耗时的工作，总训练速度正比于gpu单卡速度 * 加速芯片数量 * 多卡加速比 , 训练时长与训练数据和参数规模成正比。在训练过程中如何减少gpu宕机？

我们自研了大模型的训练框架，融入了云原生的思想，能够显著地提升单点故障响应和恢复能力，相比普通训练速度提升15倍，并且实现了单次训练过程0故障。

难点二：如何保证数据安全的条件下，实现分布式节点的知识汇聚以及如何降低大模型联邦学习的通信负载？

我们在分布式节点中使用知识蒸馏的方法，大大降低了大模型的联邦学习过程中的通信负载。从而实现了隐私医疗数据帮助砭石大模型的构建，实现分布式知识的融合和基于分布式数据的大模型训练，支撑了用户数据价值的释放。

难点三：医疗领域模型对于输出结果的正确性有更高的要求，如何实现？

通过在训练与推理过程中融入知识图谱（作为高质量训练数据补充、基于知识图谱反馈强化学习、基于知识图谱的模型评估、知识检索增强大模型推理），在500亿参数条件下比单纯使用大模型技术，医学问题回答准确度提升近10%。

以上是我们在构建医疗大模型过程中，解决部分难点的思路，科研应用之路，道阻且长，智慧眼的开发者们就是一步步地打怪升级，不断地创新实践。

底座赋能，数智应用

智慧眼深耕新一代人工智能技术及应用，在算法、算力、数据、深度框架等多个领域均具备很强的基础设施属性和智能时代的底座属性，以“砭石大模型”为核心的技术集群、全栈能力将成为医疗数智化的重要组成部分。

大模型的价值在于应用，要在多样化的实际应用场景中赋能智能经济与智能社会的发展。目前，智慧眼业务已覆盖20 省份，6亿 用户，为全国5000家药店、500个医院的血透科室提供智能化服务。预计2024年底，将有10万家药店、1000个医院的血透科室、1000个精神科室加入砭石大生态，进一步提升医院、药店、诊所等基层卫生机构的服务水平，为患者带来全生命周期健康管理，缓解重点领域慢性疾病负担，从而降低整体卫生费用支出，助力医疗体系实现降本增效。此外，我们将赋能公立医院高质量发展，让智能化像种子一样，播撒在立医院改革与高质量发展全过程、全链条、全环节，使其生根发芽、开花结果，为大健康产业高质量发展提供助力。

协同开放，共享联动

医疗健康行业正在经历从信息化布局，数字化转型到智能化决策的过程，智慧眼正在探索形成“大模型研发—应用—合作”的方法路径，构建良性生态，全面研判并应对人工智能发展带来的风险及挑战。

未来，智慧眼将通过平台开源开放和资源能力，积极推动自身技术、能力、应用实现工具化、共享化、便捷化，集聚生态共同体中“产、学、研、用”各类主体，携手更多的客户伙伴，有效整合技术、产业链等资源，共同构建全域协同生态体系，共同推进新技术、新产品、新业态的涌现，激活产业发展“源动力” ，赋能健康产业新发展 ！