24小时学会网站建设 百度云,响应式网站建设需要注意什么,最新网站查询工具,wordpress登录链接全文链接#xff1a;https://tecdat.cn/?p33566 生成对抗网络#xff08;GAN#xff09;是一种神经网络#xff0c;可以生成类似于人类产生的材料#xff0c;如图像、音乐、语音或文本#xff08;点击文末“阅读原文”获取完整代码数据#xff09;。 相关视频 最近我们… 全文链接https://tecdat.cn/?p33566 生成对抗网络GAN是一种神经网络可以生成类似于人类产生的材料如图像、音乐、语音或文本点击文末“阅读原文”获取完整代码数据。 相关视频 最近我们被客户要求撰写关于GAN生成对抗性神经网络的研究报告包括一些图形和统计输出。 近年来GAN一直是研究的热门话题。Facebook的AI研究总监Yann LeCun称对抗训练是“过去10年中最有趣的机器学习领域的想法”。 本文将介绍以下内容 什么是生成模型以及它与判别模型的区别GAN的结构和训练方式如何使用PyTorch构建GAN如何使用GPU和PyTorch训练GAN以实现实际应用 什么是生成对抗网络 生成对抗网络是一种可以学习模仿给定数据分布的机器学习系统。它们最早是由深度学习专家Ian Goodfellow及其同事在2014年的一篇NeurIPS论文中提出的。 GAN由两个神经网络组成一个网络用于生成数据另一个网络用于区分真实数据和假数据因此模型具有对抗的性质。虽然生成数据的结构并不新鲜但在图像和视频生成方面GAN取得了令人印象深刻的成果例如 使用CycleGAN进行风格转换可以对图像进行多种令人信服的风格转换利用StyleGAN生成人脸如网站This Person Does Not Exist上所示 判别模型与生成模型 如果您学习过神经网络那么您接触到的大多数应用很可能是使用判别模型实现的。而生成对抗网络属于一类不同的模型被称为生成模型。 在训练过程中您会使用一个算法来调整模型的参数。目标是通过最小化损失函数使模型学习到给定输入的输出的概率分布。在训练阶段之后您可以使用该模型通过估计输入最可能对应的数字来对新的手写数字图像进行分类如下图所示 您可以将用于分类问题的判别模型想象成使用训练数据来学习类别之间边界的区块。然后它们使用这些边界来区分输入并预测其类别。数学上来说判别模型学习输出y给定输入x的条件概率P(y|x)。 除了神经网络其他结构也可以用作判别模型例如逻辑回归模型和支持向量机SVM。 然而生成模型如GAN被训练为描述数据集的生成方式以概率模型的形式进行。通过从生成模型中采样您可以生成新的数据。虽然判别模型常用于有监督学习但生成模型通常与无标签的数据集一起使用并可被视为一种无监督学习的形式。 使用手写数字数据集您可以训练一个生成模型来生成新的数字。在训练阶段您会使用某种算法来调整模型的参数以最小化损失函数并学习训练集的概率分布。然后通过训练好的模型您可以生成新的样本如下图所示 为了输出新的样本生成模型通常考虑到一个随机元素该随机元素影响模型生成的样本。用于驱动生成器的随机样本是从潜在空间中获得的在该空间中向量表示一种压缩形式的生成样本。 与判别模型不同生成模型学习输入数据x的概率P(x)通过具有输入数据分布它们能够生成新的数据实例。 尽管GAN近年来受到了广泛关注但它们并不是唯一可用作生成模型的架构。除了GAN还有其他各种生成模型架构例如 伯劳兹曼机Boltzmann machines变分自编码器Variational autoencoders隐马尔可夫模型Hidden Markov models预测序列中的下一个词的模型如GPT-2 然而由于其在图像和视频生成方面取得的令人兴奋的结果GAN最近引起了公众的最大关注。 现在您已了解生成模型的基础知识接下来将介绍GAN的工作原理和训练方法。 生成对抗网络GAN的架构 生成对抗网络由两个神经网络组成一个称为生成器generator另一个称为判别器discriminator。 生成器的作用是估计真实样本的概率分布以提供类似真实数据的生成样本。而判别器则被训练来估计给定样本来自真实数据的概率而不是由生成器提供的。 这些结构被称为生成对抗网络因为生成器和判别器被训练以相互竞争生成器试图在愚弄判别器方面变得更好而判别器试图在识别生成样本方面变得更好。 为了理解GAN的训练过程考虑一个示例包含一个由二维样本x₁, x₂组成的数据集其中 x₁ 在 0 到 2π 的区间内x₂ sin(x₁)如下图所示 可以看到这个数据集由位于正弦曲线上的点(x₁, x₂)组成具有非常特殊的分布。GAN的整体结构用于生成类似数据集样本的(x̃₁, x̃₂)对如下图所示 生成器G接收来自潜在空间的随机数据并且其作用是生成类似真实样本的数据。在这个示例中我们有一个二维的潜在空间因此生成器接收随机的(z₁, z₂)对并要求将它们转化为类似真实样本的形式。 生成对抗网络GAN 作为生成对抗网络的初次实验你将实现前面一节中描述的示例。 要运行这个示例你需要使用PyTorch库可以通过Anaconda Python发行版和conda软件包和环境管理系统来安装。 首先创建一个conda环境并激活它 $ conda create --name gan
$ conda activate gan 当你激活conda环境后你的命令提示符会显示环境的名称即gan。然后你可以在该环境中安装必要的包 $ conda install -c pytorch pytorch1.4.0
$ conda install matplotlib jupyter 由于PyTorch是一个非常活跃的开发框架其API可能会在新版本中发生变化。为了确保示例代码能够运行你需要安装特定的版本1.4.0。 除了PyTorch你还将使用Matplotlib进行绘图并在Jupyter Notebook中运行交互式代码。这并不是强制性的但它有助于进行机器学习项目的工作。 在打开Jupyter Notebook之前你需要注册conda环境gan以便可以将其作为内核来创建Notebook。要做到这一点在激活gan环境后运行以下命令 $ python -m ipykernel install --user --name gan 现在你可以通过运行jupyter notebook来打开Jupyter Notebook。通过点击“新建”然后选择“gan”来创建一个新的Notebook。 在Notebook中首先导入必要的库 import torch
from torch import nnimport math
import matplotlib.pyplot as plt 在这里你使用torch导入了PyTorch库。你还导入nn为了能够以更简洁的方式设置神经网络。然后你导入math来获取pi常数的值并按照惯例导入Matplotlib绘图工具为plt。 为了使实验在任何机器上都能完全复现最好设置一个随机生成器种子。在PyTorch中可以通过运行以下代码来实现 torch.manual_seed(111) 数字111代表用于初始化随机数生成器的随机种子它用于初始化神经网络的权重。尽管实验具有随机性但只要使用相同的种子它应该产生相同的结果。 现在环境已经设置好可以准备训练数据了。 准备训练数据 训练数据由一对x₁x₂组成其中x₂是x₁在区间从0到2π上的正弦值。你可以按照以下方式实现它 train_data_length 1024train_set [(train_data[i], train_labels[i]) for i in range(train_data_length)
] 在这里你创建了一个包含1024对x₁x₂的训练集。在第2行你初始化了train_data它是一个具有1024行和2列的张量所有元素都为零。张量是一个类似于NumPy数组的多维数组。 在第3行你使用train_data的第一列来存储在0到2π区间内的随机值。然后在第4行你计算了张量的第二列即第一列的正弦值。 接下来你需要一个标签张量PyTorch的数据加载器需要使用它。由于GAN使用无监督学习技术标签可以是任何值。毕竟它们不会被使用。 在第5行你创建了一个填充了零的train_labels张量。最后在第6到8行你将train_set创建为元组列表其中每个元组代表train_data和train_labels的每一行正如PyTorch的数据加载器所期望的那样。 你可以通过绘制每个点x₁x₂来查看训练数据 plt.plot(train_data[:, 0], train_data[:, 1], .) 输出应该类似于以下图形 使用train_set您可以创建一个PyTorch数据加载器 batch_size 32) 在这里您创建了一个名为train_loader的数据加载器它将对train_set中的数据进行洗牌并返回大小为32的样本批次您将使用这些批次来训练神经网络。 设置训练数据后您需要为判别器和生成器创建神经网络它们将组成GAN。在下一节中您将实现判别器。 实现判别器 在PyTorch中神经网络模型由继承自nn.Module的类表示因此您需要定义一个类来创建判别器。 判别别器是一个具有二维输入和一维输出的模型。它将接收来自真实数据或生成器的样本并提供样本属于真实训练数据的概率。下面的代码展示了如何创建判别器 class Discriminator(nn.Module):def __init__(self):nn.Linear(64, 1),nn.Sigmoid(),)def forward(self, x):output self.model(x)return output 您使用. __init __()来构建模型。首先您需要调用super().__init __()来运行nn.Module中的.__init __()。您使用的判别器是在nn.Sequential()中以顺序方式定义的MLP神经网络。它具有以下特点 第5和第6行输入为二维第一个隐藏层由256个神经元组成并使用ReLU激活函数。第8、9、11和12行第二个和第三个隐藏层分别由128个和64个神经元组成并使用ReLU激活函数。第14和第15行输出由一个神经元组成并使用sigmoidal激活函数表示概率。第7、10和13行在第一个、第二个和第三个隐藏层之后您使用dropout来避免过拟合。 最后您使用.forward()来描述如何计算模型的输出。这里x表示模型的输入它是一个二维张量。在此实现中通过将输入x馈送到您定义的模型中而不进行任何其他处理来获得输出。 声明判别器类后您应该实例化一个Discriminator对象 discriminator Discriminator() discriminator代表您定义的神经网络的一个实例准备好进行训练。但是在实现训练循环之前您的GAN还需要一个生成器。您将在下一节中实现一个生成器。 实现生成器 在生成对抗网络中生成器是一个以潜在空间中的样本作为输入并生成类似于训练集中数据的模型。在这种情况下它是一个具有二维输入的模型将接收随机点z₁z₂并提供类似于训练数据中的x̃₁x̃₂点的二维输出。 实现类似于您为判别器所做的操作。首先您必须创建一个从nn.Module继承并定义神经网络架构的Generator类然后需要实例化一个Generator对象 class Generator(nn.Module):def __init__(self):super().__init__()generator Generator() 在这里generator代表生成器神经网络。它由两个具有16个和32个神经元的隐藏层组成两者都使用ReLU激活函数以及一个具有2个神经元的线性激活层作为输出。这样输出将由一个包含两个元素的向量组成可以是从负无穷大到正无穷大的任何值这些值将表示x̃₁x̃₂。 现在您已定义了判别器和生成器的模型可以开始进行训练了 训练模型 在训练模型之前您需要设置一些参数来在训练过程中使用 lr 0.001
num_epochs 300 在这里您设置了以下参数 第1行设置学习率lr您将使用它来调整网络权重。第2行设置了周期数num_epochs定义了对整个训练集进行训练的重复次数。第3行将变量loss_function赋值为二进制交叉熵函数BCELoss()这是您将用于训练模型的损失函数。 二进制交叉熵函数是训练判别器的适用损失函数因为它考虑了二元分类任务。它也适用于训练生成器因为它将其输出馈送给判别器后者提供一个二进制的可观测输出。 PyTorch在torch.optim中实现了各种权重更新规则用于模型训练。您将使用Adam算法来训练判别器和生成器模型。要使用torch.optim创建优化器请运行以下代码 optimizer_generator torch.optim.Adam(generator.parameters(), lrlr) 最后你需要实现一个训练循环在该循环中将训练样本输入模型并更新其权重以最小化损失函数 for epoch in range(num_epochs):for n, (real_samples, _) in enumerate(train_loader):# 训练判别器的数据real_samples_labels torch.ones((batch_size, 1))# 训练判别器discriminator.zero_grad()# 训练生成器的数据latent_space_samples torch.randn((batch_size, 2))# 训练生成器generator.zero_grad()# 显示损失if epoch % 10 0 and n batch_size - 1: 对于生成对抗网络GANs您需要在每个训练迭代中更新判别器和生成器的参数。与所有神经网络一样训练过程包括两个循环一个用于训练周期另一个用于每个周期的批处理。在内部循环中您开始准备用于训练判别器的数据 第2行 从数据加载器中获取当前批次的真实样本并将其赋值给real_samples。请注意张量的第一个维度具有与batch_size相等的元素数量。这是在PyTorch中组织数据的标准方式张量的每一行表示批次中的一个样本。第4行 使用torch.ones()为真实样本创建标签并将标签赋给real_samples_labels。第5和第6行 通过在latent_space_samples中存储随机数据创建生成的样本然后将其输入生成器以获得generated_samples。第7行 使用torch.zeros()将标签值0分配给生成的样本的标签然后将标签存储在generated_samples_labels中。第8到11行 将真实样本和生成的样本以及标签连接起来并将其存储在all_samples和all_samples_labels中您将使用它们来训练判别器。 接下来在第14到19行您训练了判别器 第14行 在PyTorch中每个训练步骤都需要清除梯度以避免积累。您可以使用.zero_grad()来实现这一点。第15行 您使用训练数据all_samples计算判别器的输出。第16和17行 您使用模型的输出output_discriminator和标签all_samples_labels来计算损失函数。第18行 您使用loss_discriminator.backward()计算梯度以更新权重。第19行 您通过调用optimizer_discriminator.step()来更新判别器的权重。 接下来在第22行您准备用于训练生成器的数据。您将随机数据存储在latent_space_samples中行数与batch_size相等。由于您将二维数据作为输入提供给生成器因此使用了两列。 然后在第25到32行您训练了生成器 第25行 使用.zero_grad()清除梯度。第26行 将latent_space_samples提供给生成器并将其输出存储在generated_samples中。第27行 将生成器的输出输入判别器并将其输出存储在output_discriminator_generated中您将使用其作为整个模型的输出。第28到30行 使用分类系统的输出output_discriminator_generated和标签real_samples_labels计算损失函数这些标签都等于1。第31和32行 计算梯度并更新生成器的权重。请记住当训练生成器时保持判别器权重冻结因为您创建了optimizer_generator其第一个参数等于generator.parameters()。 最后在第35到37行您显示了每十个周期结束时判别器和生成器损失函数的值。 由于此示例中使用的模型参数较少训练将在几分钟内完成。在接下来的部分中您将使用训练的GAN生成一些样本。 检查GAN生成的样本 生成对抗网络被设计用于生成数据。因此在训练过程结束后您可以从潜在空间中获取一些随机样本并将它们提供给生成器以获得一些生成的样本 latent_space_samples torch.randn(100, 2) 然后您可以绘制生成的样本并检查它们是否类似于训练数据。在绘制generated_samples数据之前您需要使用.detach()从PyTorch计算图中返回一个张量然后使用它来计算梯度 generated_samples generated_samples.detach() 输出应类似于以下图像 您可以看到生成的数据分布类似于真实数据。通过使用固定的潜在空间样本张量并在训练过程的每个周期结束时将其提供给生成器您可以可视化训练的演变。 点击标题查阅往期内容 【视频】Python用LSTM长短期记忆神经网络对不稳定降雨量时间序列进行预测分析|数据分享 左右滑动查看更多 01 02 03 04 手写数字图像与GAN 生成对抗网络可以生成高维样本例如图像。在此示例中您将使用GAN生成手写数字图像。为此您将使用包含手写数字的MNIST数据集该数据集已包含在torchvision包中。 首先您需要在已激活的gan conda环境中安装torchvision $ conda install -c pytorch torchvision0.5.0 与前面一样您使用特定版本的torchvision来确保示例代码可以运行就像您在pytorch上所做的一样。设置好环境后您可以在Jupyter Notebook中开始实现模型。 与之前的示例一样首先导入必要的库 import torch
from torch import nn 除了之前导入的库外您还将需要torchvision和transforms来获取训练数据并执行图像转换。 同样设置随机生成器种子以便能够复制实验 torch.manual_seed(111) 由于此示例在训练集中使用图像所以模型需要更复杂并且具有更多的参数。这使得训练过程变慢当在CPU上运行时每个周期需要大约两分钟。您需要大约50个周期才能获得相关结果因此在使用CPU时的总训练时间约为100分钟。 为了减少训练时间如果您有可用的GPU可以使用它来训练模型。但是您需要手动将张量和模型移动到GPU上以便在训练过程中使用它们。 您可以通过创建一个指向CPU或如果有GPU的device对象来确保您的代码将在任何一种设置上运行 device device torch.device(cpu) 稍后您将使用此device在可用的情况下使用GPU来设置张量和模型的创建位置。 现在基本环境已经设置好了您可以准备训练数据。 准备训练数据 MNIST数据集由28×28像素的灰度手写数字图像组成范围从0到9。为了在PyTorch中使用它们您需要进行一些转换。为此您定义了一个名为transform的函数来加载数据时使用 transform transforms.Compose() 该函数分为两个部分 transforms.ToTensor()将数据转换为PyTorch张量。transforms.Normalize()转换张量系数的范围。 由transforms.ToTensor()产生的原始系数范围从0到1而且由于图像背景是黑色当使用此范围表示时大多数系数都等于0。 transforms.Normalize()通过从原始系数中减去0.5并将结果除以0.5将系数的范围更改为-1到1。通过这种转换输入样本中为0的元素数量大大减少有助于训练模型。 transforms.Normalize()的参数是两个元组(M₁, ..., Mₙ)和(S₁, ..., Sₙ)其中n表示图像的通道数量。MNIST数据集中的灰度图像只有一个通道因此元组只有一个值。因此对于图像的每个通道itransforms.Normalize()从系数中减去Mᵢ并将结果除以Sᵢ。 现在您可以使用torchvision.datasets.MNIST加载训练数据并使用transform进行转换 train_set torchvision.datasets.MNIST() 参数downloadTrue确保您第一次运行上述代码时MNIST数据集将会被下载并存储在当前目录中如参数root所指示的位置。 现在您已经创建了train_set可以像之前一样创建数据加载器 batch_size 32
train_loader torch.utils.data.DataLoader() 您可以使用Matplotlib绘制一些训练数据的样本。为了改善可视化效果您可以使用cmapgray_r来反转颜色映射并以黑色数字在白色背景上绘制 real_samples, mnist_labels next(iter(train_loader))
for i in range(16): 输出应该类似于以下内容 如您所见有不同的手写风格的数字。随着GAN学习数据的分布它还会生成具有不同手写风格的数字。 现在您已经准备好了训练数据可以实现判别器和生成器模型。 实现判别器和生成器 本例中判别器是一个MLP神经网络它接收一个28 × 28像素的图像并提供图像属于真实训练数据的概率。 您可以使用以下代码定义模型 class Discriminator(nn.Module):def __init__(self):def forward(self, x):return output 为了将图像系数输入到MLP神经网络中可以将它们进行向量化使得神经网络接收具有784个系数的向量。 矢量化发生在.forward()的第一行因为调用x.view()可以转换输入张量的形状。在这种情况下输入x的原始形状是32×1×28×28其中32是您设置的批量大小。转换后x的形状变为32×784每行表示训练集中图像的系数。 要使用GPU运行判别器模型您必须实例化它并使用.to()将其发送到GPU。要在有可用GPU时使用GPU可以将模型发送到先前创建的device对象 discriminator Discriminator().to(devicedevice) 由于生成器将生成更复杂的数据因此需要增加来自潜在空间的输入维数。在这种情况下生成器将接收一个100维的输入并提供一个由784个系数组成的输出这些系数将以28×28的张量表示为图像。 下面是完整的生成器模型代码 class Generator(nn.Module):def __init__(self):super().__init__()self.model nn.Sequential( 在第12行使用双曲正切函数Tanh()作为输出层的激活函数因为输出系数应该在-1到1的区间内。在第20行实例化生成器并将其发送到device以使用可用的GPU。 现在您已经定义了模型可以使用训练数据对它们进行训练。 训练模型 要训练模型需要定义训练参数和优化器就像在之前的示例中所做的那样 lr 0.0001
num_epochs 50
loss_function nn.BCELoss()optimizer_generator torch.optim.Adam(generator.parameters(), lrlr) 为了获得更好的结果将学习率从先前的示例中降低。还将将epoch数设置为50以减少训练时间。 训练循环与之前的示例非常相似。在突出显示的行中将训练数据发送到device以在有GPU可用时使用 for epoch in range(num_epochs):for n, (real_samples, mnist_labels) in enumerate(train_loader):e, 100)).to(devicedevice)loss_generator loss_function(output_discriminator_generated, real_samples_labels)loss_generator.backward()optimizer_generator.step().: {loss_generator}) 某些张量不需要使用device显式地发送到GPU。这适用于第11行中的generated_samples它将已经被发送到可用GPU因为latent_space_samples和generator先前已被发送到GPU。 由于此示例具有更复杂的模型训练可能需要更长时间。训练完成后您可以通过生成一些手写数字样本来检查结果。 检查GAN生成的样本 要生成手写数字您需要从潜在空间中随机采样一些样本并将其提供给生成器 latent_space_samples torch.randn(batch_size, 100).to(devicedevice) 要绘制generated_samples您需要将数据移回GPU上运行时以便在使用Matplotlib绘制数据之前可以简单地调用.cpu()。与之前一样还需要在使用Matplotlib绘制数据之前调用.detach() generated_samples generated_samples.cpu().detach()
for i in range(16): 输出应该是类似训练数据的数字如以下图片所示 经过50个epoch的训练后生成了一些类似真实数字的生成数字。通过增加训练epoch次数可以改善结果。 与之前的示例一样通过在训练过程的每个周期结束时使用固定的潜在空间样本张量并将其提供给生成器可以可视化训练的演变。 总结 您已经学会了如何实现自己的生成对抗网络。在深入探讨生成手写数字图像的实际应用之前您首先通过一个简单的示例了解了GAN的结构。 您看到尽管GAN的复杂性很高但像PyTorch这样的机器学习框架通过提供自动微分和简便的GPU设置使其实现更加简单直观。 在本文中您学到了 判别模型和生成模型的区别如何结构化和训练生成对抗网络如何使用PyTorch等工具和GPU来实现和训练GAN模型 GAN是一个非常活跃的研究课题近年来提出了几个令人兴奋的应用。如果您对此主题感兴趣请密切关注技术和科学文献以获取新的应用想法。 点击文末“阅读原文” 获取全文完整代码数据资料。 本文选自《Python用GAN生成对抗性神经网络判别模型拟合多维数组、分类识别手写数字图像可视化》。 点击标题查阅往期内容 PYTHON TENSORFLOW 2二维卷积神经网络CNN对图像物体识别混淆矩阵评估|数据分享 R语言深度学习卷积神经网络 (CNN)对 CIFAR 图像进行分类训练与结果评估可视化 R语言KERAS深度学习CNN卷积神经网络分类识别手写数字图像数据MNIST MATLAB中用BP神经网络预测人体脂肪百分比数据 Python中用PyTorch机器学习神经网络分类预测银行客户流失模型 R语言实现CNN卷积神经网络模型进行回归数据分析 SAS使用鸢尾花(iris)数据集训练人工神经网络(ANN)模型 【视频】R语言实现CNN卷积神经网络模型进行回归数据分析 Python使用神经网络进行简单文本分类 R语言用神经网络改进Nelson-Siegel模型拟合收益率曲线分析 R语言基于递归神经网络RNN的温度时间序列预测 R语言神经网络模型预测车辆数量时间序列 R语言中的BP神经网络模型分析学生成绩 matlab使用长短期记忆LSTM神经网络对序列数据进行分类 R语言实现拟合神经网络预测和结果可视化 用R语言实现神经网络预测股票实例 使用PYTHON中KERAS的LSTM递归神经网络进行时间序列预测 python用于NLP的seq2seq模型实例:用Keras实现神经网络机器翻译 用于NLP的Python使用Keras的多标签文本LSTM神经网络分类
