1.K-Means

假定我们对A、B、C、D四个样品分别测量两个变量，得到的结果见下表。

样品	变量
	X1	X2
A	5	3
B	-1	1
C	1	-2
D	-3	-2

利用K-Means方法将以上的样品聚成两类。为了实施均值法(K-Means)聚类，首先将这些样品随意分成两类(A、B)和(C、D)。请详细给出每次聚类的中心坐标，计算样品到中心坐标的欧氏平方距离。

解：

        第一步:按要求取K=2，为了实施均值法聚类，我们将这些样品随意分成两类(A、B)和(C、D)，然后计算这两个聚类的中心坐标(见下表)。中心坐标是通过原始数据计算得来的。

聚类中心坐标一

聚类	中心坐标
	X1	X2
（A、B）	2	2
(C、D)	-1	-2

        第二步:计算某个样品到各类中心的欧氏平方距离，然后将该样品分配给最近的一类对于样品有变动的类，重新计算它们的中心坐标，为下一步聚类做准备。先计算A到两个类的平方距离:

d²(A,(AB))=(5-2)²+(3-2)²=10

d²(A,(CD))= (5 + 1)²+ (3 + 2)²= 61

由于A到(4、B)的距离小于到(C、D)的距离，因此A不用重新分配。计算B到两类的平方距离

d²(B,(AB))=(-1-2)²+(1-2)²=10

d²(B,(CD))=(-1 + 1)²+(1 + 2)²=9

由于B到(4、B)的距离大于到(C、D)的距离，因此B要分配给(C、D)类，得到新的聚类是(A)和(B、C、D)。更新中心坐标如下表所示。

 聚类中心坐标二

聚类	中心坐标
	X1	X2
（A）	5	3
(B、C、D)	-1	-1

        第三步:再次检查每个样品，以决定是否需要重新分类。计算各样品到各中心的距离平方，结果如下表所示。

样本到中心的距离平方

聚类	样本到中心的距离平方
	A	B	C	D
（A）	0	40	41	89
(B、C、D)	52	4	5	5

到现在为止，每个样品都已经分配给距离中心最近的类，聚类过程到此结束。最终得到K=2的聚类结果是4独自成一类，B、C、D聚成一类。

2.试分析回归与分类的区别。

	输出结果	应用场景
分类	离散的类别标签 （有限个离散变量）	用于将事物或数据样本分配到一个或多个预定义的类别中，比如识别图片中的动物种类。分类的目标是构建一个模型，该模型能够基于输入的特征来预测数据样本所属的类别。
回归	连续的数值 （连续变量）	通常用于预测一个连续性的数值，比如预测股票价格。目标是找到一个函数，能够基于输入的特征来预测一个连续的数值。

3.基于正态分布的离群点检测

假设某城市过去10年中7月份的平均温度按递增序排列，结果为24℃、28.9℃、28.9℃、29℃、29.1℃、29.1℃、29.2℃、29.2℃、29.3℃和29.4℃。假定平均温度服从正态分布，由两个参数决定：均值和标准差。假设数据分布在这个区间（以平均标准差）之外，该数据对象即为离群点。

(1)利用最大似然估计求均值和标准差。

均值（μ）的估计：

其中 n=10，xi​ 是每个样本的温度值。

将给定的温度值代入公式，得到：
μ=(24+2×28.9+29+2×29.1+2×29.2+29.3+29.4)/10=28.61

标准差（σ）的估计：
由于样本数量 n=10，我们使用样本标准差的无偏估计：

将给定的温度值和计算得到的均值代入公式，得到标准差 s 的值。

s=sqrt([(24-28.61)^2+(28.9-28.61)^2+...+(29.4-28.61)^2]/9)约等于1.63

(2)寻找上述10个对象中的所有离群点。

根据题目，离群点定义为数据对象落在平均值加减一个标准差之外的值。即，离群点不在区间 

(μ^​−σ^,μ^​+σ^)=(28.61−1.63,28.61+1.63)=(26.98,30.24) 内。

由于 μ=28.61 和 s≈1.63，我们可以发现所有给定的温度值中24℃不在区间 (26.98,30.24) 内。

4.K均值与K中心点

K均值和K中心点算法都可以进行有效的聚类。
(1)概述K均值和K中心点的优缺点。

	优点	缺点
K均值法	聚类时间短。当结果簇密集且簇间区别明显，效果较好。能对大数据集进行高效划分。	必须先指定聚类簇的个数。只适用于数值属性聚类，对噪声和异常数据很敏感，对于不同的初始值，结果可能不同。不适合发现非凸面形状的簇。
K中心点法	对于非凸数据集也能较好聚类效果，且对于噪声点影响比较小	算法效率相对K-均值法较低，还有可能出现簇中心点初始化不佳，导致聚类结果不埋想的情况。

(2)概述这两种方法与层次聚类方法相比较有何优缺点。

层次聚类方法(AGNES)是一种分层聚类的方法，将教据点分层次进行聚类，也就是在保留所有数据点的前提下，从最小单元开始进行聚类，然后逐步合并相近的类别，最后形成n个。

        优点是没有预先设定需要聚类的数量，能够处理复杂的数据结构，相对于K-均值、K-中心点更能反映出数据分布的全貌，尤其是在不平凡分布的数据上表现更加突出。
        缺点是AGNES算法计算量较大，在大规模数据集上效率较低，且聚类结果可能受到簇合并顺序的影响。

5.Apriori算法：通过限制候选产生发现频繁项集

数据表中有5个事物，设min_sup=60%，min_conf=80%，并有下表所示信息。

TID	购买的商品
T100	{M,O,N,K,E,Y}
T200	{D,O,N,K,E,Y}
T300	{M,A,K,E}
T400	{M,U,C,K,Y}
T500	{C,O,O,K,I,E}

请用Apriori算法找出频繁项集。

置信度（min_conf）是在找到频繁项集之后，用于生成关联规则时的一个参数，不用理会。

依题得min_sup=0.6*5=3，计算所有单项集的计数得到支持度计数大于等于3的频繁1-项集：

m    3
o    3
n    2
k    5
e    4
y    3
d    1
a    1
u    1
c    2
i    1

频繁 1- 顶集: M,O,K,E,Y

然后根据频繁1-项集，找出支持度技术大于等于3的频繁2-项集：

mo    1
mk    3
me    2
my    2
ok    3
oe    3
oy    2
ke    4
ky    3
ey    2

频繁 2- 项集: {M,K},{O,K},{O,E} ,{K,Y},{K,E}

再根据频繁2-项集，找出支持度技术大于等于3的频繁3-项集：

oke    3
key    2

频繁 3- 项集: {O,K,E}

故，用Apriori算法找出的频繁项集有频繁 1- 顶集: M,O,K,E,Y;  频繁 2- 项集: {M,K},{O,K},{O,E} ,{K,Y},{K,E};  频繁 3- 项集: {O,K,E}