深入剖析大模型安全问题：Langchain框架的隐藏风险
分类：技术分享
时间：2023-11-18 15:15
浏览：50
概述：
随着大模型在各个领域的广泛应用，其安全问题也日益凸显。大模型的主要安全问题包括隐私、对齐、涌现能力、基础模型缺陷等。本文将深入剖析大模型安全问题，并结合Langchain框架的案例，探讨大模型在生命周期中面临的隐藏风险。一、大模型安全总览大模型采用预训练-微调的训练范式，首先在大量的未标注数据上进行预训练，继而在下游任务的标注数据上微调得到垂直领域模型。大模型的结构越复杂，其面临的安全风险系数就越高。但同质化、多模态对齐等因素会导致大模
【点击查看原文】
评论：
