诺和诺德在2025年4月3日参加了Voxel51在纽约举办了AI、机器学习和计算机视觉聚会。这次聚会上，诺和诺德讨论了在受监管行业中实施安全合规的LLOps流水线的挑战和解决方案。
什么是LLOps？
Large Language Model Operations（简称LLOps）是一种新兴的工程实践，目标是把大语言模型（LLM）可靠、安全地部署到现实业务中，类似于当年的 DevOps 之于软件交付。
那么诺和诺德运用LLOps面临的挑战有哪些？
1.数据隐私的合规性
对于诺和诺德这样的国际巨头，在训练和调用AI模型时，不能暴露患者的个人健康数据，需要脱敏、匿名化等操作，但又不能丢失太多上下文。这本身就是一件比较矛盾的事情，既要最大化使用使用，又需要保护患者的数据隐私。
2.模型偏见与安全性
数据模型可能会输出有害内容或推荐错误治疗方案，这对于医疗行业来说，一旦参考或者使用了错误的医疗方案，这样造成的负面后果是非常大的。
3.CI/CD流程的审批
每次模型更新都需要通过严格审批流程，除了审批流程外，部署模型也需要时间，一般从几周到几个月。这样的审批流程可能体现不了高效。
尽管挑战颇多，但是LLOps也会带来非常大的益处。
1.诊断效率的提升
当医疗机构也能使用大模型，诊断效率会得到巨大的提高。随着模型的准确化的进一步提升，这带来的工作效率和经济效率也是非常乐观的。
2.推动LLOps技术的发展成熟
像诺和诺德这样的全球化巨头加入AI医疗，这对于医疗行业来说，绝对是一个非常好的尝试和机会，这非常有利于医疗行业加速标准化、工具化。
巧合的是，2025年4月3日晚上，纳斯达克跌幅超过5%，很多AI股票跌幅都在5%以上，而诺和诺德下跌不到2%。
更多关于AI的好文章，请关注：https://iaiseek.com/news