import torch

1. 随机数

1.1 torch.rand() - 均匀分布数字

产生大小指定的，[0,1)之间的均匀分布的样本.

> torch.rand(2,3)
>>tensor([[0.0270, 0.9856, 0.6599],[0.2237, 0.3888, 0.4566]])
> torch.rand(3,1)
>>tensor([[0.1268],[0.3370],[0.5097]])

1.2 torch.randn() - 正态分布数字

产生大小为指定的，正态分布的采样点，数据类型是tensor

> torch.randn(4)
>>tensor([-2.1436,  0.9966,  2.3426, -0.6366])>torch.randn(2, 3)
>>tensor([[ 1.5954,  2.8929, -1.0923],[ 1.1719, -0.4709, -0.1996]])

2. 求和

2.1 torch.sum(data, dim)

>>> a=torch.ones(2,3)
>>> a
tensor([[1., 1., 1.],[1., 1., 1.]])
# 按行求和
>>> b=torch.sum(a,1)		# 每列叠加,按行求和
>>> b
tensor([3., 3.])
>>> b.size()
torch.Size([2])
# 按列求和
>>> d=torch.sum(a,0)		# 每行叠加,按列求和
>>> d
tensor([2., 2., 2.])
>>> d.size()				
torch.Size([3])

2.2 numpy.sum(data, axis)

>>> import numpy as np
>>> np.sum([[0, 1], [0, 5]], axis=0)  #每行叠加,按列求和
array([0, 6])
>>> np.sum([[0, 1], [0, 5]], axis=1)  
array([1, 5])

3. 求积

3.1 点乘–对应位置相乘

数组和矩阵对应位置相乘，输出与相乘数组/矩阵的大小一致

np.multiply()
torch直接用* 就能实现

3.2 矩阵乘法

矩阵乘法：两个矩阵需要满足一定的行列关系

torch.matmul(tensor1, tensor2)
numpy.matmul(array1, array2)

4. 均值、方差

4.1 torch tensor.mean() .std()

>a.mean()  # a为Tensor型变量
>a.std()>torch.mean(a)  # a为Tensor型变量
>torch.std(a)>>> torch.Tensor([1,2,3,4,5])
tensor([1., 2., 3., 4., 5.])
>>> a=torch.Tensor([1,2,3,4,5])
>>> a.mean()
tensor(3.)
>>> torch.mean(a)
tensor(3.)
>>> a.std()
tensor(1.5811)
>>>> torch.std(a)
tensor(1.5811)       # 注意和numpy求解的区别

torch.mean(input) 输出input 各个元素的的均值，不指定任何参数就是所有元素的算术平均值，指定参数可以计算每一行或者 每一列的算术平均数

> a = torch.randn(4, 4)
>>tensor([[-0.3841,  0.6320,  0.4254, -0.7384],[-0.9644,  1.0131, -0.6549, -1.4279],[-0.2951, -1.3350, -0.7694,  0.5600],[ 1.0842, -0.9580,  0.3623,  0.2343]])
# 每一行的平均值
> torch.mean(a, 1, True)  #dim=true,计算每一行的平均数，输出与输入有相同的维度：两维度（4,1）
>>tensor([[-0.0163],[-0.5085],[-0.4599],[ 0.1807]])> torch.mean(a, 1)   # 不设置dim,默认计算每一行的平均数，内嵌了一个torch.squeeze()，将数值为1的维度压缩（4，）
>>tensor([-0.0163, -0.5085, -0.4599,  0.1807])

4.2 numpy array.mean() .std()

>a.mean()  # a为np array型变量
>a.std()>numpy.mean(a)   # a为np array型变量
>numpy.std(a)

>>> import numpy
>>> c=numpy.array([1,2,3,4,5])
>>> c.mean()
3.0
>>> numpy.mean(c)
3.0
>>> c.std()
1.4142135623730951
>>> numpy.std(c)
1.4142135623730951>>> d=numpy.array([1,1,1,1])
>>> d.mean()
1.0
>>> d.std()
0.0

4.3 numpy 与torch .std()计算公式差别

numpy:
$$std=\sqrt{\frac{1}{N}\sum _{i=1}^N(x_i-\overline{x}{)}^2}$$

torch:
$$std=\sqrt{\frac{1}{N-1}\sum _{i=1}^N(x_i-\overline{x}{)}^2}$$

5 求幂运算–torch.pow()

对输入的每分量求幂次运算

>>> a = torch.randn(4)
>>> a
tensor([ 0.4331,  1.2475,  0.6834, -0.2791])
>>> torch.pow(a, 2)
tensor([ 0.1875,  1.5561,  0.4670,  0.0779])>>> exp = torch.arange(1., 5.)
>>> a = torch.arange(1., 5.)
>>> a
tensor([ 1.,  2.,  3.,  4.])
>>> exp
tensor([ 1.,  2.,  3.,  4.])
>>> torch.pow(a, exp)
tensor([   1.,    4.,   27.,  256.])

和numpy中的numpy.power()作用类似。

6. tensor 取值

6.1 scaler.item()

一个Tensor调用.item()方法就可以返回这个Tensor 对应的标准python 类型的数据.注意事项,只针对一个元素的标量.若是向量,可以调用tolist()方法.
在低版本的torch中tensor没有.item()属性,那么直接用[0]访问其中的数据.

>>> import torch
>>>c=torch.tensor([2.5555555])
>>> c2.5556
[torch.FloatTensor of size 1]
>>> c[0]
2.555555582046509
>>> round(c[0],3)
2.556

6.2 tensor.tolist()

（略）

7. 降升维

7.1 torch.squeeze() 降维

将输入所有为1的维度去除（2，1）-> （2，）（以行向量的形式存在）

torch.squeeze(input, dim=None, out=None)

> x = torch.zeros(2, 1, 2, 1, 2)
> x.size()
>>torch.Size([2, 1, 2, 1, 2])
>
> y = torch.squeeze(x)
> y.size()
>>torch.Size([2, 2, 2])

7.2 torch.unsqueeze() 升维

Returns a new tensor with a dimension of size one inserted at the specified position）
给数据增加一维度，常看到数据的维度为.size([])懵逼了，在后续计算的时候会造成问题。所以需要给数据升维度。

> x = torch.tensor([1, 2, 3, 4])
>torch.unsqueeze(x, 0)
>>tensor([[ 1,  2,  3,  4]])
>
>torch.unsqueeze(x, 1)
>>tensor([[ 1],[ 2],[ 3],[ 4]])

8. 最大/最小/非零 值索引

8.1 tensor.argmax()

tensor.argmax(dim)

返回tensor最大的值对应的index。dim 不设置-全部元素的最大值，dim = 0 每列的最大值，dim = 1每行的最大值。

>>> a = torch.randn(3,4)
>>> a
tensor([[ 1.1360, -0.5890,  1.8444,  0.6960],[ 0.3462, -1.1812, -1.5536,  0.4504],[-0.4464, -0.5600, -0.1655,  0.3914]])
>>> a.argmax()
tensor(2)               # 按行拉成一维向量，对应的小次奥
>>> a.argmax(dim = 0)
tensor([0, 2, 0, 0])    # 每一列最大值的索引
>>> a.argmax(dim = 1)
tensor([2, 3, 3])       # 每一行最大值索引

8.2 tensor.argmin()

与tensor.argmax() 用法相同，在多分类问题求准确率时会用到。

output_labels = outputs.argmax(dim = 1)
train_acc = (output_labels == labels).float().mean()

8.3 tensor.nonzero()

返回非零元素对应的下标

>>> a = torch.tensor([[1,0],[0,3]])
>>> a.nonzero()
tensor([[0, 0],[1, 1]])
>>> a= torch.tensor([1,2,3,0,4,5,0])
>>> a.nonzero()
tensor([[0],[1],[2],[4],[5]])

9. 矩阵拼接

9.1 torch.cat((a, b, c), dim )

>>> x = torch.randn(2, 3)
>>> x
tensor([[ 0.6580, -1.0969, -0.4614],[-0.1034, -0.5790,  0.1497]])
>>> torch.cat((x, x, x), 0)
tensor([[ 0.6580, -1.0969, -0.4614],[-0.1034, -0.5790,  0.1497],[ 0.6580, -1.0969, -0.4614],[-0.1034, -0.5790,  0.1497],[ 0.6580, -1.0969, -0.4614],[-0.1034, -0.5790,  0.1497]])
>>> torch.cat((x, x, x), 1)
tensor([[ 0.6580, -1.0969, -0.4614,  0.6580, -1.0969, -0.4614,  0.6580,-1.0969, -0.4614],[-0.1034, -0.5790,  0.1497, -0.1034, -0.5790,  0.1497, -0.1034,-0.5790,  0.1497]])

9.2 numpy.concatenate((a,b), axis)

>>> a = np.array([[1, 2], [3, 4]])
>>> b = np.array([[5, 6]])
>>> np.concatenate((a, b), axis=0)
array([[1, 2],[3, 4],[5, 6]])
>>> np.concatenate((a, b.T), axis=1)
array([[1, 2, 5],[3, 4, 6]])
>>> np.concatenate((a, b), axis=None)
array([1, 2, 3, 4, 5, 6])

10. 矩阵拉伸

10.1 torch.flatten()

矩阵按行展开：

>>> t = torch.tensor([[[1, 2],[3, 4]],[[5, 6],[7, 8]]])
>>> torch.flatten(t)
tensor([1, 2, 3, 4, 5, 6, 7, 8])
>>> torch.flatten(t, start_dim=1)
tensor([[1, 2, 3, 4],[5, 6, 7, 8]])

10.2 numpy.matrix.flatten

>>> m = np.matrix([[1,2], [3,4]])
>>> m.flatten()
matrix([[1, 2, 3, 4]])
>>> m.flatten('F')
matrix([[1, 3, 2, 4]])