pytorch multinomial（Pytorch实现MLP(基于PyTorch实现)）
前言
大家好 ，我是阿光 。
本专栏整理了《图神经网络代码实战》 ，内包含了不同图神经网络的相关代码实现（PyG以及自实现） ，理论与实践相结合 ，如GCN 、GAT 、GraphSAGE等经典图网络 ，每一个代码实例都附带有完整的代码 。
正在更新中~ ✨
🚨 我的项目环境：
平台：Windows10 语言环境：python3.7 编译器：PyCharm PyTorch版本：1.11.0 PyG版本：2.1.0💥 项目专栏：【图神经网络代码实战目录】
本文我们将使用PyTorch来简易实现一个MLP网络 ，不使用PyG库 ，让新手可以理解如何PyTorch来搭建一个简易的图网络实例demo 。
一 、导入相关库
本项目是采用自己实现的MLP ，并没有使用 PyG 库 ，原因是为了帮助新手朋友们能够对MLP的原理有个更深刻的理解 ，如果熟悉之后可以尝试使用PyG库直接调用 MLP 这个图层即可 。
import torch import torch.nn as nn import torch.nn.functional as F from torch_geometric.utils import scatter from torch_geometric.datasets import Planetoid import torch_geometric.nn as pyg_nn二 、加载Cora数据集
本文使用的数据集是比较经典的Cora数据集 ，它是一个根据科学论文之间相互引用关系而构建的Graph数据集合 ，论文分为7类 ，共2708篇 。
Genetic_Algorithms Neural_Networks Probabilistic_Methods Reinforcement_Learning Rule_Learning Theory这个数据集是一个用于图节点分类的任务 ，数据集中只有一张图 ，这张图中含有2708个节点 ，10556条边 ，每个节点的特征维度为1433 。
# 1.加载Cora数据集 dataset = Planetoid(root=./data/Cora, name=Cora)三 、定义MLP网络
3.1 定义MLP层
这里我们就不重点介绍MLP网络了 ，相信大家能够掌握基本原理 ，本文我们使用的是PyTorch定义网络层 。
对于MLP的常用参数：
in_channels：每个样本的输入维度 ，就是每个节点的特征维度 out_channels：经过注意力机制后映射成的新的维度 ，就是经过GAT后每个节点的维度长度 bias：训练一个偏置b我们在实现时也是考虑这几个常见参数 ，对于PyG的内置MLP层的参数可能有点复杂 ，它可以传入一个列表进行多层特征映射 ，这里为了简单就是实现一个最基本的单层MLP
对于MLP的传播公式为：
H
′
=
H
W
+
b
H=HW+b
H′=HW+b上式子中的
H
H
H 代表每个层的输入特征 ，也就是每个节点的特征矩阵 ，如果是第一层 ，则H
=
X
H_0=X
H0=X ，对于W
W
W 代表每个 MLP 层的可学习参数 ，b
b
b 代表偏置参数 。所以我们的任务无非就是获取这几个变量 ，然后进行传播计算即可
3.1.1 定义参数
W
W
W 和
b
b
b
这里为了方便实现 ，直接利用了 Linear() 函数 ，如果可以的话可以利用最原始的方法使用 w = nn.Parameter(torch.randn(in_channels, out_channels)) 这种方式来定义参数
W
W
W # 线性层 self.linear = pyg_nn.dense.linear.Linear(in_channels, out_channels, weight_initializer=glorot, , bias=False) # 偏置 if bias: self.bias = nn.Parameter(torch.Tensor(out_channels, 1)) self.bias = pyg_nn.inits.glorot(self.bias) else: self.register_parameter(bias, None)3.1.2 定义传播函数
对于MLP来说 ，就是一个简单的特征映射 ，实现一个简单的矩阵乘法而已 ，所以实现起来较为容易 ，直接调用定义好的线性层即可 ，最终加上偏置 。
def forward(self, x): # 1.特征映射 out = self.linear(x) # 2.添加偏置 if self.bias != None: out += self.bias return out3.1.3 MLP层
接下来就可以定义MLP层了 ，该层实现了1个函数 ，分别是forward()
forward()：这个函数定义模型的传播过程 ，也就是上面公式的H
W
HW
HW ，如果设置了偏置在加上偏置返回即可 # 2.定义MLP层 class MLP(nn.Module): def __init__(self, in_channels, out_channels, bias=True): super(MLP, self).__init__() self.in_channels = in_channels # 输入图节点的特征数 self.out_channels = out_channels # 输出图节点的特征数 # 线性层 self.linear = pyg_nn.dense.linear.Linear(in_channels, out_channels, weight_initializer=glorot, bias=False) # 偏置 if bias: self.bias = nn.Parameter(torch.Tensor(out_channels, 1)) self.bias = pyg_nn.inits.glorot(self.bias) else: self.register_parameter(bias, None) def forward(self, x): # 1.特征映射 out = self.linear(x) # 2.添加偏置 if self.bias != None: out += self.bias return out对于我们实现这个网络的实现效率上来讲比PyG框架内置的 MLP 层稍差一点 ，因为我们是按照公式来一步一步利用矩阵计算得到 ，没有对矩阵计算以及算法进行优化 ，不然初学者可能看不太懂 ，不利于理解MLP公式的传播过程 ，有能力的小伙伴可以看下官方源码学习一下 。
3.2 定义MLP网络
上面我们已经实现好了 MLP 的网络层 ，之后就可以调用这个层来搭建 MLP 网络 。
# 3.定义MLP网络 class Model(nn.Module): def __init__(self, num_node_features, num_classes): super(Model, self).__init__() self.lin_1 = MLP(num_node_features, 16) self.lin_2 = MLP(16, num_classes) def forward(self, data): x = data.x x = self.lin_1(x) x = F.relu(x) x = F.dropout(x, training=self.training) x = self.lin_2(x) return F.log_softmax(x, dim=1)上面网络我们定义了两个 MLP 层 ，第一层的参数的输入维度就是初始每个节点的特征维度 ，输出维度是16 。
第二个层的输入维度为16 ，输出维度为分类个数 ，因为我们需要对每个节点进行分类 ，最终加上softmax操作 。
四 、定义模型
下面就是定义了一些模型需要的参数 ，像学习率 、迭代次数这些超参数 ，然后是模型的定义以及优化器及损失函数的定义 ，和pytorch定义网络是一样的 。
device = torch.device(cuda if torch.cuda.is_available() else cpu) # 设备 epochs = 10 # 学习轮数 lr = 0.003 # 学习率 num_node_features = dataset.num_node_features # 每个节点的特征数 num_classes = dataset.num_classes # 每个节点的类别数 data = dataset[0].to(device) # Cora的一张图 # 3.定义模型 model = Model(num_node_features, num_classes).to(device) optimizer = torch.optim.Adam(model.parameters(), lr=lr) # 优化器 loss_function = nn.NLLLoss() # 损失函数五 、模型训练
模型训练部分也是和pytorch定义网络一样 ，因为都是需要经过前向传播 、反向传播这些过程 ，对于损失 、精度这些指标可以自己添加 。
# 训练模式 model.train() for epoch in range(epochs): optimizer.zero_grad() pred = model(data) loss = loss_function(pred[data.train_mask], data.y[data.train_mask]) # 损失 correct_count_train = pred.argmax(axis=1)[data.train_mask].eq(data.y[data.train_mask]).sum().item() # epoch正确分类数目 acc_train = correct_count_train / data.train_mask.sum().item() # epoch训练精度 loss.backward() optimizer.step() if epoch % 20 == 0: print("【EPOCH: 】%s" % str(epoch + 1)) print(训练损失为：{:.4f}.format(loss.item()), 训练精度为：{:.4f}.format(acc_train)) print(【Finished Training！】)六 、模型验证
下面就是模型验证阶段 ，在训练时我们是只使用了训练集 ，测试的时候我们使用的是测试集 ，注意这和传统网络测试不太一样 ，在图像分类一些经典任务中 ，我们是把数据集分成了两份 ，分别是训练集 、测试集 ，但是在Cora这个数据集中并没有这样 ，它区分训练集还是测试集使用的是掩码机制 ，就是定义了一个和节点长度相同纬度的数组 ，该数组的每个位置为True或者False ，标记着是否使用该节点的数据进行训练 。
# 模型验证 model.eval() pred = model(data) # 训练集（使用了掩码） correct_count_train = pred.argmax(axis=1)[data.train_mask].eq(data.y[data.train_mask]).sum().item() acc_train = correct_count_train / data.train_mask.sum().item() loss_train = loss_function(pred[data.train_mask], data.y[data.train_mask]).item() # 测试集 correct_count_test = pred.argmax(axis=1)[data.test_mask].eq(data.y[data.test_mask]).sum().item() acc_test = correct_count_test / data.test_mask.sum().item() loss_test = loss_function(pred[data.test_mask], data.y[data.test_mask]).item() print(Train Accuracy: {:.4f}.format(acc_train), Train Loss: {:.4f}.format(loss_train)) print(Test Accuracy: {:.4f}.format(acc_test), Test Loss: {:.4f}.format(loss_test))七 、结果
【EPOCH: 】1 训练损失为：1.9460 训练精度为：0.2071 【EPOCH: 】21 训练损失为：1.8583 训练精度为：0.2714 【EPOCH: 】41 训练损失为：1.7751 训练精度为：0.3643 【EPOCH: 】61 训练损失为：1.7049 训练精度为：0.4357 【EPOCH: 】81 训练损失为：1.5710 训练精度为：0.5929 【EPOCH: 】101 训练损失为：1.4686 训练精度为：0.6214 【EPOCH: 】121 训练损失为：1.3101 训练精度为：0.7286 【EPOCH: 】141 训练损失为：1.2317 训练精度为：0.7143 【EPOCH: 】161 训练损失为：1.2142 训练精度为：0.7571 【EPOCH: 】181 训练损失为：1.0434 训练精度为：0.8214 【Finished Training！】 >>>Train Accuracy: 0.9929 Train Loss: 0.8560 >>>Test Accuracy: 0.3910 Test Loss: 1.7350 训练集 测试集 Accuracy 0.9929 0.3910 Loss 0.8560 1.7350完整代码
import torch import torch.nn as nn import torch.nn.functional as F from torch_geometric.utils import scatter from torch_geometric.datasets import Planetoid import torch_geometric.nn as pyg_nn # 1.加载Cora数据集 dataset = Planetoid(root=../data/Cora, name=Cora) # 2.定义MLP层 class MLP(nn.Module): def __init__(self, in_channels, out_channels, bias=True): super(MLP, self).__init__() self.in_channels = in_channels # 输入图节点的特征数 self.out_channels = out_channels # 输出图节点的特征数 # 线性层 self.linear = pyg_nn.dense.linear.Linear(in_channels, out_channels, weight_initializer=glorot, bias=False) # 偏置 if bias: self.bias = nn.Parameter(torch.Tensor(out_channels, 1)) self.bias = pyg_nn.inits.glorot(self.bias) else: self.register_parameter(bias, None) def forward(self, x): # 1.特征映射 out = self.linear(x) # 2.添加偏置 if self.bias != None: out += self.bias return out # 3.定义MLP网络 class Model(nn.Module): def __init__(self, num_node_features, num_classes): super(Model, self).__init__() self.lin_1 = MLP(num_node_features, 16) self.lin_2 = MLP(16, num_classes) def forward(self, data): x = data.x x = self.lin_1(x) x = F.relu(x) x = F.dropout(x, training=self.training) x = self.lin_2(x) return F.log_softmax(x, dim=1) device = torch.device(cuda if torch.cuda.is_available() else cpu) # 设备 epochs = 200 # 学习轮数 lr = 0.0003 # 学习率 num_node_features = dataset.num_node_features # 每个节点的特征数 num_classes = dataset.num_classes # 每个节点的类别数 data = dataset[0].to(device) # Cora的一张图 # 4.定义模型 model = Model(num_node_features, num_classes).to(device) optimizer = torch.optim.Adam(model.parameters(), lr=lr) # 优化器 loss_function = nn.NLLLoss() # 损失函数 # 训练模式 model.train() for epoch in range(epochs): optimizer.zero_grad() pred = model(data) loss = loss_function(pred[data.train_mask], data.y[data.train_mask]) # 损失 correct_count_train = pred.argmax(axis=1)[data.train_mask].eq(data.y[data.train_mask]).sum().item() # epoch正确分类数目 acc_train = correct_count_train / data.train_mask.sum().item() # epoch训练精度 loss.backward() optimizer.step() if epoch % 20 == 0: print("【EPOCH: 】%s" % str(epoch + 1)) print(训练损失为：{:.4f}.format(loss.item()), 训练精度为：{:.4f}.format(acc_train)) print(【Finished Training！】) # 模型验证 model.eval() pred = model(data) # 训练集（使用了掩码） correct_count_train = pred.argmax(axis=1)[data.train_mask].eq(data.y[data.train_mask]).sum().item() acc_train = correct_count_train / data.train_mask.sum().item() loss_train = loss_function(pred[data.train_mask], data.y[data.train_mask]).item() # 测试集 correct_count_test = pred.argmax(axis=1)[data.test_mask].eq(data.y[data.test_mask]).sum().item() acc_test = correct_count_test / data.test_mask.sum().item() loss_test = loss_function(pred[data.test_mask], data.y[data.test_mask]).item() print(Train Accuracy: {:.4f}.format(acc_train), Train Loss: {:.4f}.format(loss_train)) print(Test Accuracy: {:.4f}.format(acc_test), Test Loss: {:.4f}.format(loss_test))创心域SEO版权声明：以上内容作者已申请原创保护，未经允许不得转载，侵权必究！授权事宜、对本内容有异议或投诉，敬请联系网站管理员，我们将尽快回复您，谢谢合作！