目录
- 创建一个人工数据集
 - 处理缺失的数据
 - 插入
 - 对inputs中的类别值或离散值,将NaN视为一个类别
 - 对inputs和outputs中的数值类型转换为张量格式
 
创建一个人工数据集
import os
import pandas as pd
os.makedirs(os.path.join('..', 'data'), exist_ok=True) 
data_file = os.path.join('..', 'data', 'house_tiny.csv')
with open(data_file, 'w') as f:f.write('NumRooms,Alley,Price\n')f.write('NA,Pave,127500\n')f.write('2,NA,10600\n')f.write('4,NA,178100\n')f.write('NA,NA,140000\n')
data = pd.read_csv(data_file)
print(data)
 
结果:
 
os.makedirs():递归创建目录
 os.path.join(‘. .’, ‘data’): ‘. .’(代表上一级目录
 exist_ok=True:当设置为True时,如果目录已经存在,os.makedirs()不会引发错误。
 默认情况下,如果目录已存在,os.makedirs()会引发一个FileExistsError
 
 
处理缺失的数据
典型的方法包括插值和删除
插入
import os
import pandas as pd
data_file = os.path.join('..', 'data', 'house_tiny.csv')
data = pd.read_csv(data_file)
inputs, outputs = data.iloc[:, 0:2], data.iloc[:, 2]
inputs = inputs.fillna(inputs.select_dtypes(include='number').mean())
print(inputs)
 
结果:
 
 对于这种情况:
import os
import pandas as pd
data_file = os.path.join('..', 'data', 'house_tiny.csv')
data = pd.read_csv(data_file)
inputs, outputs = data.iloc[:, 0:2], data.iloc[:, 2]
inputs = inputs.fillna(inputs.mean())
print(inputs)
 
结果:
 
 分析:
 首先先选出数据类型再求平均值填充
 iloc[]是切片操作,data.iloc[:, 0:2]中0:2 表示取从第 0 列和第1列。
 
 
 data.iloc[:, 2]中2表示下标为2的列,即第三列。
import os
import pandas as pd
data_file = os.path.join('..', 'data', 'house_tiny.csv')
data = pd.read_csv(data_file)
inputs, outputs = data.iloc[:, 0:2], data.iloc[:, 2]
print(outputs)
 
结果:
 
对inputs中的类别值或离散值,将NaN视为一个类别

import os
import pandas as pd
data_file = os.path.join('..', 'data', 'house_tiny.csv')
data = pd.read_csv(data_file)
inputs, outputs = data.iloc[:, 0:2], data.iloc[:, 2]
inputs = inputs.fillna(inputs.mean(numeric_only=True))
#inputs.fillna(inputs.select_dtypes(include='number').mean())
inputs = pd.get_dummies(inputs, dummy_na=True, dtype=int)
print(inputs)
 
结果:
 
对inputs和outputs中的数值类型转换为张量格式
import os
import pandas as pd
import torch
data_file = os.path.join('..', 'data', 'house_tiny.csv')
data = pd.read_csv(data_file)
inputs, outputs = data.iloc[:, 0:2], data.iloc[:, 2]
inputs = inputs.fillna(inputs.mean(numeric_only=True))
inputs = pd.get_dummies(inputs, dummy_na=True, dtype=int)
x, y = torch.tensor(inputs.values), torch.tensor(outputs.values)
print(x)
print(y)
 
结果:
 