总目录 大模型安全相关研究：https://blog.csdn.net/WhiffeYF/article/details/142132328

AI Safety in Generative AI Large Language Models: A Survey
生成式人工智能大型语言模型中的人工智能安全性：一项调查

https://arxiv.org/pdf/2407.18369

https://www.doubao.com/chat/3262156521106434

速览

1. 研究动机：生成式AI大语言模型快速发展，其安全问题引发担忧，急需系统研究。
2. 研究问题：探究大语言模型在数据、模型、提示、对齐和规模化方面的安全挑战及解决办法。
3. 研究方法：检索AI和NLP领域文献，分析大量相关研究成果，对大语言模型安全问题分类梳理，探讨各类安全风险及应对策略。