一个很大的矩阵, 320127 行, 8189列,假如用一个全为0的普通矩阵来存储,需要用到9.8Gb
cols
rows
mat
print(object.size(mat), unit="GB")
# 19.5 Gb
mat
print(object.size(mat), unit="GB")
# 9.8 Gb这里的0其实也要区分
这里的0L表示数据类型是integer,默认是numeric. 这两者最大的区别在于,当你用320127L * 8189L,你会得到一个NA,而320127 * 8189不会
如果用稀疏矩阵保存的话
mat
print(object.size(mat), unit="GB")
#0 Gb
dim(mat)
#[1] 320127 8189
虽然行列数一样,但是稀疏矩阵几乎不占用任何内存。而且普通矩阵支持的运算,比如说求行和,求列和,提取元素的操作,在稀疏矩阵矩阵也是可以的,只不过会多花一点点时间而已。同时还有很多R包支持稀疏矩阵,比如说glmnet,一个做lasso回归的R包。
虽然看起来稀疏矩阵很美好,但是在R语言中那么大的稀疏矩阵的部分操作会出错
> mat2
Error in asMethod(object) :
Cholmod error 'problem too large' at file ../Core/cholmod_dense.c, line 105
即便是我想把它用as.matrix转回普通矩阵,它也报错了
> mat3
Error in asMethod(object) :
Cholmod error 'problem too large' at file ../Core/cholmod_dense.c, line 105
既然现成的as.matrix无法处理,那怎么办呢?最简单粗暴的方法就是新建一个普通矩阵,然后对稀疏矩阵进行遍历,将稀疏矩阵的值挨个放回到的普通矩阵上。
mat2
for (i in seq_len(nrow(mat))){
for (j in seq_len(ncol(mat))){
mat2[i][j]
}
}
那么这大概要多少时间呢?反正我的电脑跑了2个小时也没有跑完,所以你也别测试了。
那有没有办法可以加速呢?加速的方法就是减少for循环的次数,因为我们是一个稀疏矩阵,大部分的空间都是0,我们只需要将不为0的部分赋值给新矩阵即可。
这需要我们去了解下稀疏矩阵的数据结构
> str(mat)
Formal class 'dgCMatrix' [package "Matrix"] with 6 slots
..@ i : int(0)
..@ p : int [1:8190] 0 0 0 0 0 0 0 0 0 0 ...
..@ Dim : int [1:2] 320127 8189
..@ Dimnames:List of 2
.. ..$ : NULL
.. ..$ : NULL
..@ x : num(0)
..@ factors : list()
@Dim记录矩阵的维度信息, @Dimnames记录行名和列名, @x记录不为0的数值。@i记录不为0的行索引,和@x对应,这里全为0,所以不记录。@p比较复杂,并不是简单的记录不为0值的列索引,看文档也不知道是啥,不过通过检索可以找到它和不为0值的列索引的换算关系。
因此代码优化为
row_pos
col_pos
val
for (i in seq_along(val)){
tmp[row_pos[i],col_pos[i]]
}
可以将其封装为一个函数
as_matrix
tmp
row_pos
col_pos
val
for (i in seq_along(val)){
tmp[row_pos[i],col_pos[i]]
}
row.names(tmp)
colnames(tmp)
return(tmp)
}