在PyTorch中如何加载和处理数据集

在PyTorch中，通常通过使用torch.utils.data.Dataset和torch.utils.data.DataLoader来加载和处理数据集。

首先，创建一个自定义的数据集类，继承自torch.utils.data.Dataset，并实现__len__和__getitem__方法。在__getitem__方法中，可以根据索引加载和预处理数据。

import torchfrom torch.utils.data import Datasetclass CustomDataset(Dataset):def __init__(self, data):self.data = datadef __len__(self):return len(self.data)def __getitem__(self, idx):sample = self.data[idx]# 进行数据预处理return sample

然后，实例化自定义数据集类并使用torch.utils.data.DataLoader创建一个数据加载器，指定批量大小和是否打乱数据。

data = [...]# 数据集dataset = CustomDataset(data)dataloader = torch.utils.data.DataLoader(dataset, batch_size=64, shuffle=True)

最后，可以通过迭代数据加载器来访问数据集中的数据。

for batch in dataloader:# 处理批量数据pass