0. 摘要

研究背景：近年来，恶意代码的数量和规模在以指数级别增长，威胁和影响力与日俱增，造成的经济损失和社会损失也越来越高。因此，如何快速地识别出恶意代码的变种信息，掌握其家族等属性，能够有效辅助网络安全人员掌握其功能性和危害性，具有重要的研究价值。

研究内容：针对当前恶意代码家族样本种类繁杂，变异速度快，数量增长呈指数级等特征，本文围绕恶意代码家族检测领域中的变种函数分析与家族检测问题，以充分挖掘恶意代码样本内部特征与提升恶意代码家族检测效果为目标，以恶意代码同源函数分析，可视化纹理特征研究，字节序列特征挖掘和混合字节流特征分析四个方面深入研究恶意代码家族检测领域中的几项关键技术，为复杂条件下的恶意代码家族检测提供了新的技术手段，实现了恶意代码变种样本有效的分类。

• 研究内容 1：针对恶意代码同源函数领域，未充分考虑恶意代码数据之间线性关系，基于字节数据的同源函数检测效果欠佳的问题，提出一种基于函数字节数据线性特征的恶意代码变种函数检测方法。
• 研究内容 2：针对恶意代码家族检测中传统可视化检测技术未充分考虑恶意代码图像属性，纹理特征维度对于家族检测效果的影响，检测效果有待提升的问题，提出了一种基于集成学习算法的恶意代码家族检测方法；针对不同恶意代码图像纹理特征描述恶意代码粒度不同，传统恶意代码可视化检测技术家族检测效果欠佳的问题，提出一种新的基于组合纹理特征的恶意代码家族检测方法。
• 研究内容 3：针对恶意代码原始字节数据量大，内部特征难以有效提取，传统基于字节