当前,医疗大模型正被探索应用于疾病预测、辅助诊断、个性化治疗、药物发现等各细分领域,但它也面临着准确度、可解释性、数据隐私、医学伦理等问题。据不完全统计,目前全国有约4000个医疗垂类大模型,如何判断它们是否安全、合规、高效?
今天,由上海人工智能实验室牵头建设的上海市医疗大模型应用检测验证中心在沪成立。这是国内首个面向医疗大模型应用评测和验证的平台,华山医院、 中山医院、瑞金医院等12家医疗机构成为中心首批验证单位。
检测中心成立的意义何在?专家表示,大语言模型的改进十分依赖反馈,评测能够让大模型识别短板,加速进化“飞轮”旋转,打通 “训、评、用一体化”链路。