一步一步学用Tensorflow构建卷积神经网络
摘要： 本文主要和大家分享如何使用tensorflow从头开始构建和训练卷积神经网络。这样就可以将这个知识作为一个构建块来创造有趣的深度学习应用程序了。
0. 简介
在过去，我写的主要都是“传统类”的机器学习文章，如朴素贝叶斯分类、逻辑回归和perceptron算法。在过去的一年中，我一直在研究深度学习技术，因此，我想和大家分享一下如何使用tensorflow从头开始构建和训练卷积神经网络。这样，我们以后就可以将这个知识作为一个构建块来创造有趣的深度学习应用程序了。
为此，你需要安装tensorflow（请参阅安装说明），你还应该对python编程和卷积神经网络背后的理论有一个基本的了解。安装完tensorflow之后，你可以在不依赖gpu的情况下运行一个较小的神经网络，但对于更深层次的神经网络，就需要用到gpu的计算能力了。
在互联网上有很多解释卷积神经网络工作原理方面的网站和课程，其中有一些还是很不错的，图文并茂、易于理解[]。我在这里就不再解释相同的东西，所以在开始阅读下文之前，请提前了解卷积神经网络的工作原理。例如：
什么是卷积层，卷积层的过滤器是什么？
什么是激活层（relu层（应用最广泛的）、s型激活或tanh）？
什么是池层（最大池/平均池），什么是dropout？
随机梯度下降的工作原理是什么？
本文内容如下：
tensorflow基础
1.1 常数和变量
1.2 tensorflow中的图和会话
1.3 占位符和feed_dicts
tensorflow中的神经网络
2.1 介绍
2.2 数据加载
2.3 创建一个简单的一层神经网络
2.4 tensorflow的多个方面
2.5 创建lenet5卷积神经网络
2.6 影响层输出大小的参数
2.7 调整lenet5架构
2.8 学习速率和优化器的影响
tensorflow中的深度神经网络
3.1 alexnet
3.2 vgg net-16
3.3 alexnet性能
结语
1. tensorflow 基础 在这里，我将向以前从未使用过tensorflow的人做一个简单的介绍。如果你想要立即开始构建神经网络，或者已经熟悉tensorflow，可以直接跳到第2节。如果你想了解更多有关tensorflow的信息，你还可以查看这个代码库，或者阅读斯坦福大学cs20si课程的讲义1和讲义2。
1.1 常量与变量
tensorflow中最基本的单元是常量、变量和占位符。
tf.constant()和tf.variable()之间的区别很清楚；一个常量有着恒定不变的值，一旦设置了它，它的值不能被改变。而变量的值可以在设置完成后改变，但变量的数据类型和形状无法改变。
#we can create constants and variables of different types.
#however, the different types do not mix well together.
a = tf.constant(2, tf.int16)
b = tf.constant(4, tf.float32)
c = tf.constant(8, tf.float32)
d = tf.variable(2, tf.int16)
e = tf.variable(4, tf.float32)
f = tf.variable(8, tf.float32)
#we can perform computations on variable of the same type: e + f
#but the following can not be done: d + e
#everything in tensorflow is a tensor, these can have different dimensions:
#0d, 1d, 2d, 3d, 4d, or nd-tensors
g = tf.constant(np.zeros(shape=(2,2), dtype=np.float32)) #does work
h = tf.zeros([11], tf.int16)
i = tf.ones([2,2], tf.float32)
j = tf.zeros([1000,4,3], tf.float64)
k = tf.variable(tf.zeros([2,2], tf.float32))
l = tf.variable(tf.zeros([5,6,5], tf.float32))
除了tf.zeros()和tf.ones()能够创建一个初始值为0或1的张量（见这里）之外，还有一个tf.random_normal()函数，它能够创建一个包含多个随机值的张量，这些随机值是从正态分布中随机抽取的（默认的分布均值为0.0，标准差为1.0）。
另外还有一个tf.truncated_normal()函数，它创建了一个包含从截断的正态分布中随机抽取的值的张量，其中下上限是标准偏差的两倍。
有了这些知识，我们就可以创建用于神经网络的权重矩阵和偏差向量了。
weights = tf.variable(tf.truncated_normal([256 * 256, 10]))
biases = tf.variable(tf.zeros([10]))
print(weights.get_shape().as_list())
print(biases.get_shape().as_list())
>>>[65536, 10]
>>>[10]
1.2 tensorflow 中的图与会话
在tensorflow中，所有不同的变量以及对这些变量的操作都保存在图（graph）中。在构建了一个包含针对模型的所有计算步骤的图之后，就可以在会话（session）中运行这个图了。会话可以跨cpu和gpu分配所有的计算。
graph = tf.graph()
with graph.as_default():
a = tf.variable(8, tf.float32)
b = tf.variable(tf.zeros([2,2], tf.float32))
with tf.session(graph=graph) as session:
tf.global_variables_initializer().run()
print(f)
print(session.run(f))
print(session.run(k))
>>>
>>> 8
>>> [[ 0. 0.]
>>> [ 0. 0.]]
1.3 占位符 与 feed_dicts
我们已经看到了用于创建常量和变量的各种形式。tensorflow中也有占位符，它不需要初始值，仅用于分配必要的内存空间。 在一个会话中，这些占位符可以通过feed_dict填入（外部）数据。
以下是占位符的使用示例。
list_of_points1_ = [[1,2], [3,4], [5,6], [7,8]]
list_of_points2_ = [[15,16], [13,14], [11,12], [9,10]]
list_of_points1 = np.array([np.array(elem).reshape(1,2) for elem in list_of_points1_])
list_of_points2 = np.array([np.array(elem).reshape(1,2) for elem in list_of_points2_])
graph = tf.graph()
with graph.as_default():
#we should use a tf.placeholder() to create a variable whose value you will fill in later (during session.run()).
#this can be done by 'feeding' the data into the placeholder.
#below we see an example of a method which uses two placeholder arrays of size [2,1] to calculate the eucledian distance
point1 = tf.placeholder(tf.float32, shape=(1, 2))
point2 = tf.placeholder(tf.float32, shape=(1, 2))
def calculate_eucledian_distance(point1, point2):
difference = tf.subtract(point1, point2)
power2 = tf.pow(difference, tf.constant(2.0, shape=(1,2)))
add = tf.reduce_sum(power2)
eucledian_distance = tf.sqrt(add)
return eucledian_distance
dist = calculate_eucledian_distance(point1, point2)
with tf.session(graph=graph) as session:
tf.global_variables_initializer().run()
for ii in range(len(list_of_points1)):
point1_ = list_of_points1[ii]
point2_ = list_of_points2[ii]
feed_dict = {point1 : point1_, point2 : point2_}
distance = session.run([dist], feed_dict=feed_dict)
print(the distance between {} and {} -> {}.format(point1_, point2_, distance))
>>> the distance between [[1 2]] and [[15 16]] -> [19.79899]
>>> the distance between [[3 4]] and [[13 14]] -> [14.142136]
>>> the distance between [[5 6]] and [[11 12]] -> [8.485281]
>>> the distance between [[7 8]] and [[ 9 10]] -> [2.8284271]
2. tensorflow 中的神经网络 2.1 简介
包含神经网络的图（如上图所示）应包含以下步骤：
1. 输入数据集：训练数据集和标签、测试数据集和标签（以及验证数据集和标签）。 测试和验证数据集可以放在tf.constant()中。而训练数据集被放在tf.placeholder()中，这样它可以在训练期间分批输入（随机梯度下降）。
2. 神经网络**模型**及其所有的层。这可以是一个简单的完全连接的神经网络，仅由一层组成，或者由5、9、16层组成的更复杂的神经网络。
3. 权重矩阵和**偏差矢量**以适当的形状进行定义和初始化。（每层一个权重矩阵和偏差矢量）
4. 损失值：模型可以输出分对数矢量（估计的训练标签），并通过将分对数与实际标签进行比较，计算出损失值（具有交叉熵函数的softmax）。损失值表示估计训练标签与实际训练标签的接近程度，并用于更新权重值。
5. 优化器：它用于将计算得到的损失值来更新反向传播算法中的权重和偏差。
2.2 数据加载
下面我们来加载用于训练和测试神经网络的数据集。为此，我们要下载mnist和cifar-10数据集。 mnist数据集包含了6万个手写数字图像，其中每个图像大小为28 x 28 x 1（灰度）。 cifar-10数据集也包含了6万个图像（3个通道），大小为32 x 32 x 3，包含10个不同的物体（飞机、汽车、鸟、猫、鹿、狗、青蛙、马、船、卡车）。 由于两个数据集中都有10个不同的对象，所以这两个数据集都包含10个标签。
首先，我们来定义一些方便载入数据和格式化数据的方法。
def randomize(dataset, labels):
permutation = np.random.permutation(labels.shape[0])
shuffled_dataset = dataset[permutation, :, :]
shuffled_labels = labels[permutation]
return shuffled_dataset, shuffled_labels
def one_hot_encode(np_array):
return (np.arange(10) == np_array[:,none]).astype(np.float32)
def reformat_data(dataset, labels, image_width, image_height, image_depth):
np_dataset_ = np.array([np.array(image_data).reshape(image_width, image_height, image_depth) for image_data in dataset])
np_labels_ = one_hot_encode(np.array(labels, dtype=np.float32))
np_dataset, np_labels = randomize(np_dataset_, np_labels_)
return np_dataset, np_labels
def flatten_tf_array(array):
shape = array.get_shape().as_list()
return tf.reshape(array, [shape[0], shape[1] shape[2] shape[3]])
def accuracy(predictions, labels):
return (100.0 * np.sum(np.argmax(predictions, 1) == np.argmax(labels, 1)) / predictions.shape[0])
这些方法可用于对标签进行独热码编码、将数据加载到随机数组中、扁平化矩阵（因为完全连接的网络需要一个扁平矩阵作为输入）：
在我们定义了这些必要的函数之后，我们就可以这样加载mnist和cifar-10数据集了：
mnist_folder = './data/mnist/'
mnist_image_width = 28
mnist_image_height = 28
mnist_image_depth = 1
mnist_num_labels = 10
mndata = mnist(mnist_folder)
mnist_train_dataset_, mnist_train_labels_ = mndata.load_training()
mnist_test_dataset_, mnist_test_labels_ = mndata.load_testing()
mnist_train_dataset, mnist_train_labels = reformat_data(mnist_train_dataset_, mnist_train_labels_, mnist_image_size, mnist_image_size, mnist_image_depth)
mnist_test_dataset, mnist_test_labels = reformat_data(mnist_test_dataset_, mnist_test_labels_, mnist_image_size, mnist_image_size, mnist_image_depth)
print(there are {} images, each of size {}.format(len(mnist_train_dataset), len(mnist_train_dataset[0])))
print(meaning each image has the size of 28281 = {}.format(mnist_image_sizemnist_image_size1))
print(the training set contains the following {} labels: {}.format(len(np.unique(mnist_train_labels_)), np.unique(mnist_train_labels_)))
print('training set shape', mnist_train_dataset.shape, mnist_train_labels.shape)
print('test set shape', mnist_test_dataset.shape, mnist_test_labels.shape)
train_dataset_mnist, train_labels_mnist = mnist_train_dataset, mnist_train_labels
test_dataset_mnist, test_labels_mnist = mnist_test_dataset, mnist_test_labels
######################################################################################
cifar10_folder = './data/cifar10/'
train_datasets = ['data_batch_1', 'data_batch_2', 'data_batch_3', 'data_batch_4', 'data_batch_5', ]
test_dataset = ['test_batch']
c10_image_height = 32
c10_image_width = 32
c10_image_depth = 3
c10_num_labels = 10
with open(cifar10_folder + test_dataset[0], 'rb') as f0:
c10_test_dict = pickle.load(f0, encoding='bytes')
c10_test_dataset, c10_test_labels = c10_test_dict[b'data'], c10_test_dict[b'labels']
test_dataset_cifar10, test_labels_cifar10 = reformat_data(c10_test_dataset, c10_test_labels, c10_image_size, c10_image_size, c10_image_depth)
c10_train_dataset, c10_train_labels = [], []
for train_dataset in train_datasets:
with open(cifar10_folder + train_dataset, 'rb') as f0:
c10_train_dict = pickle.load(f0, encoding='bytes')
c10_train_dataset_, c10_train_labels_ = c10_train_dict[b'data'], c10_train_dict[b'labels']
c10_train_dataset.append(c10_train_dataset_)
c10_train_labels += c10_train_labels_
c10_train_dataset = np.concatenate(c10_train_dataset, axis=0)
train_dataset_cifar10, train_labels_cifar10 = reformat_data(c10_train_dataset, c10_train_labels, c10_image_size, c10_image_size, c10_image_depth)
del c10_train_dataset
del c10_train_labels
print(the training set contains the following labels: {}.format(np.unique(c10_train_dict[b'labels'])))
print('training set shape', train_dataset_cifar10.shape, train_labels_cifar10.shape)
print('test set shape', test_dataset_cifar10.shape, test_labels_cifar10.shape)
你可以从yann lecun的网站下载mnist数据集。下载并解压缩之后，可以使用python-mnist工具来加载数据。 cifar-10数据集可以从这里下载。
2.3 创建一个简单的一层神经网络
神经网络最简单的形式是一层线性全连接神经网络（fcnn， fully connected neural network）。 在数学上它由一个矩阵乘法组成。
最好是在tensorflow中从这样一个简单的nn开始，然后再去研究更复杂的神经网络。 当我们研究那些更复杂的神经网络的时候，只是图的模型（步骤2）和权重（步骤3）发生了改变，其他步骤仍然保持不变。
我们可以按照如下代码制作一层fcnn：
image_width = mnist_image_width
image_height = mnist_image_height
image_depth = mnist_image_depth
num_labels = mnist_num_labels
#the dataset
train_dataset = mnist_train_dataset
train_labels = mnist_train_labels
test_dataset = mnist_test_dataset
test_labels = mnist_test_labels
#number of iterations and learning rate
num_steps = 10001
display_step = 1000
learning_rate = 0.5
graph = tf.graph()
with graph.as_default():
#1) first we put the input data in a tensorflow friendly form.
tf_train_dataset = tf.placeholder(tf.float32, shape=(batch_size, image_width, image_height, image_depth))
tf_train_labels = tf.placeholder(tf.float32, shape = (batch_size, num_labels))
tf_test_dataset = tf.constant(test_dataset, tf.float32)
#2) then, the weight matrices and bias vectors are initialized
#as a default, tf.truncated_normal() is used for the weight matrix and tf.zeros() is used for the bias vector.
weights = tf.variable(tf.truncated_normal([image_width image_height image_depth, num_labels]), tf.float32)
bias = tf.variable(tf.zeros([num_labels]), tf.float32)
#3) define the model:
#a one layered fccd simply consists of a matrix multiplication
def model(data, weights, bias):
return tf.matmul(flatten_tf_array(data), weights) + bias
logits = model(tf_train_dataset, weights, bias)
#4) calculate the loss, which will be used in the optimization of the weights
loss = tf.reduce_mean(tf.nn.softmax_cross_entropy_with_logits(logits=logits, labels=tf_train_labels))
#5) choose an optimizer. many are available.
optimizer = tf.train.gradientdescentoptimizer(learning_rate).minimize(loss)
#6) the predicted values for the images in the train dataset and test dataset are assigned to the variables train_prediction and test_prediction.
#it is only necessary if you want to know the accuracy by comparing it with the actual values.
train_prediction = tf.nn.softmax(logits)
test_prediction = tf.nn.softmax(model(tf_test_dataset, weights, bias))
with tf.session(graph=graph) as session:
tf.global_variables_initializer().run()
print('initialized')
for step in range(num_steps):
_, l, predictions = session.run([optimizer, loss, train_prediction])
if (step % display_step == 0):
train_accuracy = accuracy(predictions, train_labels[:, :])
test_accuracy = accuracy(test_prediction.eval(), test_labels)
message = step {:04d} : loss is {:06.2f}, accuracy on training set {:02.2f} %, accuracy on test set {:02.2f} %.format(step, l, train_accuracy, test_accuracy)
print(message)
>>> initialized
>>> step 0000 : loss is 2349.55, accuracy on training set 10.43 %, accuracy on test set 34.12 %
>>> step 0100 : loss is 3612.48, accuracy on training set 89.26 %, accuracy on test set 90.15 %
>>> step 0200 : loss is 2634.40, accuracy on training set 91.10 %, accuracy on test set 91.26 %
>>> step 0300 : loss is 2109.42, accuracy on training set 91.62 %, accuracy on test set 91.56 %
>>> step 0400 : loss is 2093.56, accuracy on training set 91.85 %, accuracy on test set 91.67 %
>>> step 0500 : loss is 2325.58, accuracy on training set 91.83 %, accuracy on test set 91.67 %
>>> step 0600 : loss is 22140.44, accuracy on training set 68.39 %, accuracy on test set 75.06 %
>>> step 0700 : loss is 5920.29, accuracy on training set 83.73 %, accuracy on test set 87.76 %
>>> step 0800 : loss is 9137.66, accuracy on training set 79.72 %, accuracy on test set 83.33 %
>>> step 0900 : loss is 15949.15, accuracy on training set 69.33 %, accuracy on test set 77.05 %
>>> step 1000 : loss is 1758.80, accuracy on training set 92.45 %, accuracy on test set 91.79 %
在图中，我们加载数据，定义权重矩阵和模型，从分对数矢量中计算损失值，并将其传递给优化器，该优化器将更新迭代“num_steps”次数的权重。
在上述完全连接的nn中，我们使用了梯度下降优化器来优化权重。然而，有很多不同的优化器可用于tensorflow。 最常用的优化器有gradientdescentoptimizer、adamoptimizer和adagradoptimizer，所以如果你正在构建一个cnn的话，我建议你试试这些。
sebastian ruder有一篇不错的博文介绍了不同优化器之间的区别，通过这篇文章，你可以更详细地了解它们。
2.4 tensorflow的几个方面
tensorflow包含许多层，这意味着可以通过不同的抽象级别来完成相同的操作。这里有一个简单的例子，操作
logits = tf.matmul(tf_train_dataset, weights) + biases，
也可以这样来实现
logits = tf.nn.xw_plus_b(train_dataset, weights, biases)。
这是layers api中最明显的一层，它是一个具有高度抽象性的层，可以很容易地创建由许多不同层组成的神经网络。例如，或函数用于创建卷积和完全连接的层。通过这些函数，可以将层数、过滤器的大小或深度、激活函数的类型等指定为参数。然后，权重矩阵和偏置矩阵会自动创建，一起创建的还有激活函数和丢弃正则化层(dropout regularization laye)。
例如，通过使用 层api，下面这些代码：
import tensorflow as tf
w1 = tf.variable(tf.truncated_normal([filter_size, filter_size, image_depth, filter_depth], stddev=0.1))
b1 = tf.variable(tf.zeros([filter_depth]))
layer1_conv = tf.nn.conv2d(data, w1, [1, 1, 1, 1], padding='same')
layer1_relu = tf.nn.relu(layer1_conv + b1)
layer1_pool = tf.nn.max_pool(layer1_pool, [1, 2, 2, 1], [1, 2, 2, 1], padding='same')
可以替换为
from tflearn.layers.conv import conv_2d, max_pool_2d
layer1_conv = conv_2d(data, filter_depth, filter_size, activation='relu')
layer1_pool = max_pool_2d(layer1_conv_relu, 2, strides=2)
可以看到，我们不需要定义权重、偏差或激活函数。尤其是在你建立一个具有很多层的神经网络的时候，这样可以保持代码的清晰和整洁。
然而，如果你刚刚接触tensorflow的话，学习如何构建不同种类的神经网络并不合适，因为tflearn做了所有的工作。
因此，我们不会在本文中使用层api，但是一旦你完全理解了如何在tensorflow中构建神经网络，我还是建议你使用它。
2.5 创建 lenet5 卷积神经网络
下面我们将开始构建更多层的神经网络。例如lenet5卷积神经网络。
lenet5 cnn架构最早是在1998年由yann lecun（见论文）提出的。它是最早的cnn之一，专门用于对手写数字进行分类。尽管它在由大小为28 x 28的灰度图像组成的mnist数据集上运行良好，但是如果用于其他包含更多图片、更大分辨率以及更多类别的数据集时，它的性能会低很多。对于这些较大的数据集，更深的convnets（如alexnet、vggnet或resnet）会表现得更好。
但由于lenet5架构仅由5个层构成，因此，学习如何构建cnn是一个很好的起点。
lenet5架构如下图所示：
我们可以看到，它由5个层组成：
第1层：卷积层，包含s型激活函数，然后是平均池层。
第2层：卷积层，包含s型激活函数，然后是平均池层。
第3层：一个完全连接的网络（s型激活）
第4层：一个完全连接的网络（s型激活）
第5层：输出层
这意味着我们需要创建5个权重和偏差矩阵，我们的模型将由12行代码组成（5个层 + 2个池 + 4个激活函数 + 1个扁平层）。
由于这个还是有一些代码量的，因此最好在图之外的一个单独函数中定义这些代码。
lenet5_batch_size = 32
lenet5_patch_size = 5
lenet5_patch_depth_1 = 6
lenet5_patch_depth_2 = 16
lenet5_num_hidden_1 = 120
lenet5_num_hidden_2 = 84
def variables_lenet5(patch_size = lenet5_patch_size, patch_depth1 = lenet5_patch_depth_1,
patch_depth2 = lenet5_patch_depth_2,
num_hidden1 = lenet5_num_hidden_1, num_hidden2 = lenet5_num_hidden_2,
image_depth = 1, num_labels = 10):
w1 = tf.variable(tf.truncated_normal([patch_size, patch_size, image_depth, patch_depth1], stddev=0.1))
b1 = tf.variable(tf.zeros([patch_depth1]))
w2 = tf.variable(tf.truncated_normal([patch_size, patch_size, patch_depth1, patch_depth2], stddev=0.1))
b2 = tf.variable(tf.constant(1.0, shape=[patch_depth2]))
w3 = tf.variable(tf.truncated_normal([55patch_depth2, num_hidden1], stddev=0.1))
b3 = tf.variable(tf.constant(1.0, shape = [num_hidden1]))
w4 = tf.variable(tf.truncated_normal([num_hidden1, num_hidden2], stddev=0.1))
b4 = tf.variable(tf.constant(1.0, shape = [num_hidden2]))
w5 = tf.variable(tf.truncated_normal([num_hidden2, num_labels], stddev=0.1))
b5 = tf.variable(tf.constant(1.0, shape = [num_labels]))
variables = {
'w1': w1, 'w2': w2, 'w3': w3, 'w4': w4, 'w5': w5,
'b1': b1, 'b2': b2, 'b3': b3, 'b4': b4, 'b5': b5
}
return variables
def model_lenet5(data, variables):
layer1_conv = tf.nn.conv2d(data, variables['w1'], [1, 1, 1, 1], padding='same')
layer1_actv = tf.sigmoid(layer1_conv + variables['b1'])
layer1_pool = tf.nn.avg_pool(layer1_actv, [1, 2, 2, 1], [1, 2, 2, 1], padding='same')
layer2_conv = tf.nn.conv2d(layer1_pool, variables['w2'], [1, 1, 1, 1], padding='valid')
layer2_actv = tf.sigmoid(layer2_conv + variables['b2'])
layer2_pool = tf.nn.avg_pool(layer2_actv, [1, 2, 2, 1], [1, 2, 2, 1], padding='same')
flat_layer = flatten_tf_array(layer2_pool)
layer3_fccd = tf.matmul(flat_layer, variables['w3']) + variables['b3']
layer3_actv = tf.nn.sigmoid(layer3_fccd)
layer4_fccd = tf.matmul(layer3_actv, variables['w4']) + variables['b4']
layer4_actv = tf.nn.sigmoid(layer4_fccd)
logits = tf.matmul(layer4_actv, variables['w5']) + variables['b5']
return logits
由于变量和模型是单独定义的，我们可以稍稍调整一下图，以便让它使用这些权重和模型，而不是以前的完全连接的nn：
#parameters determining the model size
image_size = mnist_image_size
num_labels = mnist_num_labels
#the datasets
train_dataset = mnist_train_dataset
train_labels = mnist_train_labels
test_dataset = mnist_test_dataset
test_labels = mnist_test_labels
#number of iterations and learning rate
num_steps = 10001
display_step = 1000
learning_rate = 0.001
graph = tf.graph()
with graph.as_default():
#1) first we put the input data in a tensorflow friendly form.
tf_train_dataset = tf.placeholder(tf.float32, shape=(batch_size, image_width, image_height, image_depth))
tf_train_labels = tf.placeholder(tf.float32, shape = (batch_size, num_labels))
tf_test_dataset = tf.constant(test_dataset, tf.float32)
#2) then, the weight matrices and bias vectors are initialized
variables = variables_lenet5(image_depth = image_depth, num_labels = num_labels)
#3. the model used to calculate the logits (predicted labels)
model = model_lenet5
logits = model(tf_train_dataset, variables)
#4. then we compute the softmax cross entropy between the logits and the (actual) labels
loss = tf.reduce_mean(tf.nn.softmax_cross_entropy_with_logits(logits=logits, labels=tf_train_labels))
#5. the optimizer is used to calculate the gradients of the loss function
optimizer = tf.train.gradientdescentoptimizer(learning_rate).minimize(loss)
# predictions for the training, validation, and test data.
train_prediction = tf.nn.softmax(logits)
test_prediction = tf.nn.softmax(model(tf_test_dataset, variables))
with tf.session(graph=graph) as session:
tf.global_variables_initializer().run()
print('initialized with learning_rate', learning_rate)
for step in range(num_steps):
#since we are using stochastic gradient descent, we are selecting small batches from the training dataset,
#and training the convolutional neural network each time with a batch.
offset = (step * batch_size) % (train_labels.shape[0] - batch_size)
batch_data = train_dataset[offset:(offset + batch_size), :, :, :]
batch_labels = train_labels[offset:(offset + batch_size), :]
feed_dict = {tf_train_dataset : batch_data, tf_train_labels : batch_labels}
_, l, predictions = session.run([optimizer, loss, train_prediction], feed_dict=feed_dict)
if step % display_step == 0:
train_accuracy = accuracy(predictions, batch_labels)
test_accuracy = accuracy(test_prediction.eval(), test_labels)
message = step {:04d} : loss is {:06.2f}, accuracy on training set {:02.2f} %, accuracy on test set {:02.2f} %.format(step, l, train_accuracy, test_accuracy)
print(message)
>>> initialized with learning_rate 0.1
>>> step 0000 : loss is 002.49, accuracy on training set 3.12 %, accuracy on test set 10.09 %
>>> step 1000 : loss is 002.29, accuracy on training set 21.88 %, accuracy on test set 9.58 %
>>> step 2000 : loss is 000.73, accuracy on training set 75.00 %, accuracy on test set 78.20 %
>>> step 3000 : loss is 000.41, accuracy on training set 81.25 %, accuracy on test set 86.87 %
>>> step 4000 : loss is 000.26, accuracy on training set 93.75 %, accuracy on test set 90.49 %
>>> step 5000 : loss is 000.28, accuracy on training set 87.50 %, accuracy on test set 92.79 %
>>> step 6000 : loss is 000.23, accuracy on training set 96.88 %, accuracy on test set 93.64 %
>>> step 7000 : loss is 000.18, accuracy on training set 90.62 %, accuracy on test set 95.14 %
>>> step 8000 : loss is 000.14, accuracy on training set 96.88 %, accuracy on test set 95.80 %
>>> step 9000 : loss is 000.35, accuracy on training set 90.62 %, accuracy on test set 96.33 %
>>> step 10000 : loss is 000.12, accuracy on training set 93.75 %, accuracy on test set 96.76 %
我们可以看到，lenet5架构在mnist数据集上的表现比简单的完全连接的nn更好。
2.6 影响层输出大小的参数
一般来说，神经网络的层数越多越好。我们可以添加更多的层、修改激活函数和池层，修改学习速率，以看看每个步骤是如何影响性能的。由于i层的输入是i-1层的输出，我们需要知道不同的参数是如何影响i-1层的输出大小的。
要了解这一点，可以看看conv2d()函数。
它有四个参数：
输入图像，维度为[batch size, image_width, image_height, image_depth]的4d张量
权重矩阵，维度为[filter_size, filter_size, image_depth, filter_depth]的4d张量
每个维度的步幅数。
填充（='same'http://xilinx.eetrend.com/'valid'）
这四个参数决定了输出图像的大小。
前两个参数分别是包含一批输入图像的4d张量和包含卷积滤波器权重的4d张量。
第三个参数是卷积的步幅，即卷积滤波器在四维的每一个维度中应该跳过多少个位置。这四个维度中的第一个维度表示图像批次中的图像编号，由于我们不想跳过任何图像，因此始终为1。最后一个维度表示图像深度（不是色彩的通道数；灰度为1，rgb为3），由于我们不想跳过任何颜色通道，所以这个也总是为1。第二和第三维度表示x和y方向上的步幅（图像宽度和高度）。如果要应用步幅，则这些是过滤器应跳过的位置的维度。因此，对于步幅为1，我们必须将步幅参数设置为[1, 1, 1, 1]，如果我们希望步幅为2，则将其设置为[1，2，2，1]。以此类推。
最后一个参数表示tensorflow是否应该对图像用零进行填充，以确保对于步幅为1的输出尺寸不会改变。如果 padding = 'same'，则图像用零填充（并且输出大小不会改变），如果 padding = 'valid'，则不填充。
下面我们可以看到通过图像（大小为28 x 28）扫描的卷积滤波器（滤波器大小为5 x 5）的两个示例。
在左侧，填充参数设置为“same”，图像用零填充，最后4行/列包含在输出图像中。
在右侧，填充参数设置为“valid”，图像不用零填充，最后4行/列不包括在输出图像中。
我们可以看到，如果没有用零填充，则不包括最后四个单元格，因为卷积滤波器已经到达（非零填充）图像的末尾。这意味着，对于28 x 28的输入大小，输出大小变为24 x 24 。如果 padding = 'same'，则输出大小为28 x 28。
如果在扫描图像时记下过滤器在图像上的位置（为简单起见，只有x方向），那么这一点就变得更加清晰了。如果步幅为1，则x位置为0-5、1-6、2-7，等等。如果步幅为2，则x位置为0-5、2-7、4-9，等等。
如果图像大小为28 x 28，滤镜大小为5 x 5，并且步长1到4，那么我们可以得到下面这个表：
可以看到，对于步幅为1，零填充输出图像大小为28 x 28。如果非零填充，则输出图像大小变为24 x 24。对于步幅为2的过滤器，这几个数字分别为 14 x 14 和 12 x 12，对于步幅为3的过滤器，分别为 10 x 10 和 8 x 8。以此类推。
对于任意一个步幅s，滤波器尺寸k，图像尺寸w和填充尺寸p，输出尺寸将为
如果在tensorflow中 padding = “same”，则分子加起来恒等于1，输出大小仅由步幅s决定。
2.7 调整 lenet5 的架构
在原始论文中，lenet5架构使用了s形激活函数和平均池。 然而，现在，使用relu激活函数则更为常见。 所以，我们来稍稍修改一下lenet5 cnn，看看是否能够提高准确性。我们将称之为类lenet5架构：
lenet5_like_batch_size = 32
lenet5_like_filter_size = 5
lenet5_like_filter_depth = 16
lenet5_like_num_hidden = 120
def variables_lenet5_like(filter_size = lenet5_like_filter_size,
filter_depth = lenet5_like_filter_depth,
num_hidden = lenet5_like_num_hidden,
image_width = 28, image_depth = 1, num_labels = 10):
w1 = tf.variable(tf.truncated_normal([filter_size, filter_size, image_depth, filter_depth], stddev=0.1))
b1 = tf.variable(tf.zeros([filter_depth]))
w2 = tf.variable(tf.truncated_normal([filter_size, filter_size, filter_depth, filter_depth], stddev=0.1))
b2 = tf.variable(tf.constant(1.0, shape=[filter_depth]))
w3 = tf.variable(tf.truncated_normal([(image_width // 4)(image_width // 4)filter_depth , num_hidden], stddev=0.1))
b3 = tf.variable(tf.constant(1.0, shape = [num_hidden]))
w4 = tf.variable(tf.truncated_normal([num_hidden, num_hidden], stddev=0.1))
b4 = tf.variable(tf.constant(1.0, shape = [num_hidden]))
w5 = tf.variable(tf.truncated_normal([num_hidden, num_labels], stddev=0.1))
b5 = tf.variable(tf.constant(1.0, shape = [num_labels]))
variables = {
'w1': w1, 'w2': w2, 'w3': w3, 'w4': w4, 'w5': w5,
'b1': b1, 'b2': b2, 'b3': b3, 'b4': b4, 'b5': b5
}
return variables
def model_lenet5_like(data, variables):
layer1_conv = tf.nn.conv2d(data, variables['w1'], [1, 1, 1, 1], padding='same')
layer1_actv = tf.nn.relu(layer1_conv + variables['b1'])
layer1_pool = tf.nn.avg_pool(layer1_actv, [1, 2, 2, 1], [1, 2, 2, 1], padding='same')
layer2_conv = tf.nn.conv2d(layer1_pool, variables['w2'], [1, 1, 1, 1], padding='same')
layer2_actv = tf.nn.relu(layer2_conv + variables['b2'])
layer2_pool = tf.nn.avg_pool(layer2_actv, [1, 2, 2, 1], [1, 2, 2, 1], padding='same')
flat_layer = flatten_tf_array(layer2_pool)
layer3_fccd = tf.matmul(flat_layer, variables['w3']) + variables['b3']
layer3_actv = tf.nn.relu(layer3_fccd)
#layer3_drop = tf.nn.dropout(layer3_actv, 0.5)
layer4_fccd = tf.matmul(layer3_actv, variables['w4']) + variables['b4']
layer4_actv = tf.nn.relu(layer4_fccd)
#layer4_drop = tf.nn.dropout(layer4_actv, 0.5)
logits = tf.matmul(layer4_actv, variables['w5']) + variables['b5']
return logits
主要区别是我们使用了relu激活函数而不是s形激活函数。
除了激活函数，我们还可以改变使用的优化器，看看不同的优化器对精度的影响。
2.8 学习速率和优化器的影响
让我们来看看这些cnn在mnist和cifar-10数据集上的表现。
在上面的图中，测试集的精度是迭代次数的函数。左侧为一层完全连接的nn，中间为lenet5 nn，右侧为类lenet5 nn。
可以看到，lenet5 cnn在mnist数据集上表现得非常好。这并不是一个大惊喜，因为它专门就是为分类手写数字而设计的。mnist数据集很小，并没有太大的挑战性，所以即使是一个完全连接的网络也表现的很好。
然而，在cifar-10数据集上，lenet5 nn的性能显着下降，精度下降到了40％左右。
为了提高精度，我们可以通过应用正则化或学习速率衰减来改变优化器，或者微调神经网络。
可以看到，adagradoptimizer、adamoptimizer和rmspropoptimizer的性能比gradientdescentoptimizer更好。这些都是自适应优化器，其性能通常比gradientdescentoptimizer更好，但需要更多的计算能力。
通过l2正则化或指数速率衰减，我们可能会得到更搞的准确性，但是要获得更好的结果，我们需要进一步研究。
3. tensorflow 中的深度神经网络 到目前为止，我们已经看到了lenet5 cnn架构。 lenet5包含两个卷积层，紧接着的是完全连接的层，因此可以称为浅层神经网络。那时候（1998年），gpu还没有被用来进行计算，而且cpu的功能也没有那么强大，所以，在当时，两个卷积层已经算是相当具有创新意义了。
后来，很多其他类型的卷积神经网络被设计出来，你可以在查看详细信息。
比如，由alex krizhevsky开发的非常有名的alexnet架构（2012年），7层的zf net(2013)，以及16层的vggnet(2014)。
在2015年，google发布了一个包含初始模块的22层的cnn（googlenet），而微软亚洲研究院构建了一个152层的cnn，被称为resnet。
现在，根据我们目前已经学到的知识，我们来看一下如何在tensorflow中创建alexnet和vggnet16架构。
3.1 alexnet
虽然lenet5是第一个convnet，但它被认为是一个浅层神经网络。它在由大小为28 x 28的灰度图像组成的mnist数据集上运行良好，但是当我们尝试分类更大、分辨率更好、类别更多的图像时，性能就会下降。
第一个深度cnn于2012年推出，称为alexnet，其创始人为alex krizhevsky、ilya sutskever和geoffrey hinton。与最近的架构相比，alexnet可以算是简单的了，但在当时它确实非常成功。它以令人难以置信的15.4％的测试错误率赢得了imagenet比赛（亚军的误差为26.2％），并在全球深度学习和人工智能领域掀起了一场革命。
它包括5个卷积层、3个最大池化层、3个完全连接层和2个丢弃层。整体架构如下所示：
第0层：大小为224 x 224 x 3的输入图像
第1层：具有96个滤波器（filter_depth_1 = 96）的卷积层，大小为11×11（filter_size_1 = 11），步长为4。它包含relu激活函数。 紧接着的是最大池化层和本地响应归一化层。
第2层：具有大小为5 x 5（filter_size_2 = 5）的256个滤波器（filter_depth_2 = 256）且步幅为1的卷积层。它包含relu激活函数。 紧接着的还是最大池化层和本地响应归一化层。
第3层：具有384个滤波器的卷积层（filter_depth_3 = 384），尺寸为3×3（filter_size_3 = 3），步幅为1。它包含relu激活函数
第4层：与第3层相同。
第5层：具有大小为3×3（filter_size_4 = 3）的256个滤波器（filter_depth_4 = 256）且步幅为1的卷积层。它包含relu激活函数
第6-8层：这些卷积层之后是完全连接层，每个层具有4096个神经元。在原始论文中，他们对1000个类别的数据集进行分类，但是我们将使用具有17个不同类别（的花卉）的oxford17数据集。
请注意，由于这些数据集中的图像太小，因此无法在mnist或cifar-10数据集上使用此cnn（或其他的深度cnn）。正如我们以前看到的，一个池化层（或一个步幅为2的卷积层）将图像大小减小了2倍。 alexnet具有3个最大池化层和一个步长为4的卷积层。这意味着原始图像尺寸会缩小2^5。 mnist数据集中的图像将简单地缩小到尺寸小于0。
因此，我们需要加载具有较大图像的数据集，最好是224 x 224 x 3（如原始文件所示）。 17个类别的花卉数据集，又名oxflower17数据集是最理想的，因为它包含了这个大小的图像：
ox17_image_width = 224
ox17_image_height = 224
ox17_image_depth = 3
ox17_num_labels = 17
import tflearn.datasets.oxflower17 as oxflower17
train_dataset_, train_labels_ = oxflower17.load_data(one_hot=true)
train_dataset_ox17, train_labels_ox17 = train_dataset_[:1000,:,:,:], train_labels_[:1000,:]
test_dataset_ox17, test_labels_ox17 = train_dataset_[1000:,:,:,:], train_labels_[1000:,:]
print('training set', train_dataset_ox17.shape, train_labels_ox17.shape)
print('test set', test_dataset_ox17.shape, test_labels_ox17.shape)
让我们试着在alexnet中创建权重矩阵和不同的层。正如我们之前看到的，我们需要跟层数一样多的权重矩阵和偏差矢量，并且每个权重矩阵的大小应该与其所属层的过滤器的大小相对应。
alex_patch_depth_1, alex_patch_depth_2, alex_patch_depth_3, alex_patch_depth_4 = 96, 256, 384, 256
alex_patch_size_1, alex_patch_size_2, alex_patch_size_3, alex_patch_size_4 = 11, 5, 3, 3
alex_num_hidden_1, alex_num_hidden_2 = 4096, 4096
def variables_alexnet(patch_size1 = alex_patch_size_1, patch_size2 = alex_patch_size_2,
patch_size3 = alex_patch_size_3, patch_size4 = alex_patch_size_4,
patch_depth1 = alex_patch_depth_1, patch_depth2 = alex_patch_depth_2,
patch_depth3 = alex_patch_depth_3, patch_depth4 = alex_patch_depth_4,
num_hidden1 = alex_num_hidden_1, num_hidden2 = alex_num_hidden_2,
image_width = 224, image_height = 224, image_depth = 3, num_labels = 17):
w1 = tf.variable(tf.truncated_normal([patch_size1, patch_size1, image_depth, patch_depth1], stddev=0.1))
b1 = tf.variable(tf.zeros([patch_depth1]))
w2 = tf.variable(tf.truncated_normal([patch_size2, patch_size2, patch_depth1, patch_depth2], stddev=0.1))
b2 = tf.variable(tf.constant(1.0, shape=[patch_depth2]))
w3 = tf.variable(tf.truncated_normal([patch_size3, patch_size3, patch_depth2, patch_depth3], stddev=0.1))
b3 = tf.variable(tf.zeros([patch_depth3]))
w4 = tf.variable(tf.truncated_normal([patch_size4, patch_size4, patch_depth3, patch_depth3], stddev=0.1))
b4 = tf.variable(tf.constant(1.0, shape=[patch_depth3]))
w5 = tf.variable(tf.truncated_normal([patch_size4, patch_size4, patch_depth3, patch_depth3], stddev=0.1))
b5 = tf.variable(tf.zeros([patch_depth3]))
pool_reductions = 3
conv_reductions = 2
no_reductions = pool_reductions + conv_reductions
w6 = tf.variable(tf.truncated_normal([(image_width // 2no_reductions)(image_height // 2no_reductions)patch_depth3, num_hidden1], stddev=0.1))
b6 = tf.variable(tf.constant(1.0, shape = [num_hidden1]))
w7 = tf.variable(tf.truncated_normal([num_hidden1, num_hidden2], stddev=0.1))
b7 = tf.variable(tf.constant(1.0, shape = [num_hidden2]))
w8 = tf.variable(tf.truncated_normal([num_hidden2, num_labels], stddev=0.1))
b8 = tf.variable(tf.constant(1.0, shape = [num_labels]))
variables = {
'w1': w1, 'w2': w2, 'w3': w3, 'w4': w4, 'w5': w5, 'w6': w6, 'w7': w7, 'w8': w8,
'b1': b1, 'b2': b2, 'b3': b3, 'b4': b4, 'b5': b5, 'b6': b6, 'b7': b7, 'b8': b8
}
return variables
def model_alexnet(data, variables):
layer1_conv = tf.nn.conv2d(data, variables['w1'], [1, 4, 4, 1], padding='same')
layer1_relu = tf.nn.relu(layer1_conv + variables['b1'])
layer1_pool = tf.nn.max_pool(layer1_relu, [1, 3, 3, 1], [1, 2, 2, 1], padding='same')
layer1_norm = tf.nn.local_response_normalization(layer1_pool)
layer2_conv = tf.nn.conv2d(layer1_norm, variables['w2'], [1, 1, 1, 1], padding='same')
layer2_relu = tf.nn.relu(layer2_conv + variables['b2'])
layer2_pool = tf.nn.max_pool(layer2_relu, [1, 3, 3, 1], [1, 2, 2, 1], padding='same')
layer2_norm = tf.nn.local_response_normalization(layer2_pool)
layer3_conv = tf.nn.conv2d(layer2_norm, variables['w3'], [1, 1, 1, 1], padding='same')
layer3_relu = tf.nn.relu(layer3_conv + variables['b3'])
layer4_conv = tf.nn.conv2d(layer3_relu, variables['w4'], [1, 1, 1, 1], padding='same')
layer4_relu = tf.nn.relu(layer4_conv + variables['b4'])
layer5_conv = tf.nn.conv2d(layer4_relu, variables['w5'], [1, 1, 1, 1], padding='same')
layer5_relu = tf.nn.relu(layer5_conv + variables['b5'])
layer5_pool = tf.nn.max_pool(layer4_relu, [1, 3, 3, 1], [1, 2, 2, 1], padding='same')
layer5_norm = tf.nn.local_response_normalization(layer5_pool)
flat_layer = flatten_tf_array(layer5_norm)
layer6_fccd = tf.matmul(flat_layer, variables['w6']) + variables['b6']
layer6_tanh = tf.tanh(layer6_fccd)
layer6_drop = tf.nn.dropout(layer6_tanh, 0.5)
layer7_fccd = tf.matmul(layer6_drop, variables['w7']) + variables['b7']
layer7_tanh = tf.tanh(layer7_fccd)
layer7_drop = tf.nn.dropout(layer7_tanh, 0.5)
logits = tf.matmul(layer7_drop, variables['w8']) + variables['b8']
return logits
现在我们可以修改cnn模型来使用alexnet模型的权重和层次来对图像进行分类。
3.2 vgg net-16
vgg net于2014年由牛津大学的karen simonyan和andrew zisserman创建出来。 它包含了更多的层（16-19层），但是每一层的设计更为简单；所有卷积层都具有3×3以及步长为3的过滤器，并且所有最大池化层的步长都为2。
所以它是一个更深的cnn，但更简单。
它存在不同的配置，16层或19层。 这两种不同配置之间的区别是在第2，第3和第4最大池化层之后对3或4个卷积层的使用（见下文）。
配置为16层（配置d）的结果似乎更好，所以我们试着在tensorflow中创建它。
#the vggnet neural network
vgg16_patch_size_1, vgg16_patch_size_2, vgg16_patch_size_3, vgg16_patch_size_4 = 3, 3, 3, 3
vgg16_patch_depth_1, vgg16_patch_depth_2, vgg16_patch_depth_3, vgg16_patch_depth_4 = 64, 128, 256, 512
vgg16_num_hidden_1, vgg16_num_hidden_2 = 4096, 1000
def variables_vggnet16(patch_size1 = vgg16_patch_size_1, patch_size2 = vgg16_patch_size_2,
patch_size3 = vgg16_patch_size_3, patch_size4 = vgg16_patch_size_4,
patch_depth1 = vgg16_patch_depth_1, patch_depth2 = vgg16_patch_depth_2,
patch_depth3 = vgg16_patch_depth_3, patch_depth4 = vgg16_patch_depth_4,
num_hidden1 = vgg16_num_hidden_1, num_hidden2 = vgg16_num_hidden_2,
image_width = 224, image_height = 224, image_depth = 3, num_labels = 17):
w1 = tf.variable(tf.truncated_normal([patch_size1, patch_size1, image_depth, patch_depth1], stddev=0.1))
b1 = tf.variable(tf.zeros([patch_depth1]))
w2 = tf.variable(tf.truncated_normal([patch_size1, patch_size1, patch_depth1, patch_depth1], stddev=0.1))
b2 = tf.variable(tf.constant(1.0, shape=[patch_depth1]))
w3 = tf.variable(tf.truncated_normal([patch_size2, patch_size2, patch_depth1, patch_depth2], stddev=0.1))
b3 = tf.variable(tf.constant(1.0, shape = [patch_depth2]))
w4 = tf.variable(tf.truncated_normal([patch_size2, patch_size2, patch_depth2, patch_depth2], stddev=0.1))
b4 = tf.variable(tf.constant(1.0, shape = [patch_depth2]))
w5 = tf.variable(tf.truncated_normal([patch_size3, patch_size3, patch_depth2, patch_depth3], stddev=0.1))
b5 = tf.variable(tf.constant(1.0, shape = [patch_depth3]))
w6 = tf.variable(tf.truncated_normal([patch_size3, patch_size3, patch_depth3, patch_depth3], stddev=0.1))
b6 = tf.variable(tf.constant(1.0, shape = [patch_depth3]))
w7 = tf.variable(tf.truncated_normal([patch_size3, patch_size3, patch_depth3, patch_depth3], stddev=0.1))
b7 = tf.variable(tf.constant(1.0, shape=[patch_depth3]))
w8 = tf.variable(tf.truncated_normal([patch_size4, patch_size4, patch_depth3, patch_depth4], stddev=0.1))
b8 = tf.variable(tf.constant(1.0, shape = [patch_depth4]))
w9 = tf.variable(tf.truncated_normal([patch_size4, patch_size4, patch_depth4, patch_depth4], stddev=0.1))
b9 = tf.variable(tf.constant(1.0, shape = [patch_depth4]))
w10 = tf.variable(tf.truncated_normal([patch_size4, patch_size4, patch_depth4, patch_depth4], stddev=0.1))
b10 = tf.variable(tf.constant(1.0, shape = [patch_depth4]))
w11 = tf.variable(tf.truncated_normal([patch_size4, patch_size4, patch_depth4, patch_depth4], stddev=0.1))
b11 = tf.variable(tf.constant(1.0, shape = [patch_depth4]))
w12 = tf.variable(tf.truncated_normal([patch_size4, patch_size4, patch_depth4, patch_depth4], stddev=0.1))
b12 = tf.variable(tf.constant(1.0, shape=[patch_depth4]))
w13 = tf.variable(tf.truncated_normal([patch_size4, patch_size4, patch_depth4, patch_depth4], stddev=0.1))
b13 = tf.variable(tf.constant(1.0, shape = [patch_depth4]))
no_pooling_layers = 5
w14 = tf.variable(tf.truncated_normal([(image_width // (2no_pooling_layers))(image_height // (2no_pooling_layers))patch_depth4 , num_hidden1], stddev=0.1))
b14 = tf.variable(tf.constant(1.0, shape = [num_hidden1]))
w15 = tf.variable(tf.truncated_normal([num_hidden1, num_hidden2], stddev=0.1))
b15 = tf.variable(tf.constant(1.0, shape = [num_hidden2]))
w16 = tf.variable(tf.truncated_normal([num_hidden2, num_labels], stddev=0.1))
b16 = tf.variable(tf.constant(1.0, shape = [num_labels]))
variables = {
'w1': w1, 'w2': w2, 'w3': w3, 'w4': w4, 'w5': w5, 'w6': w6, 'w7': w7, 'w8': w8, 'w9': w9, 'w10': w10,
'w11': w11, 'w12': w12, 'w13': w13, 'w14': w14, 'w15': w15, 'w16': w16,
'b1': b1, 'b2': b2, 'b3': b3, 'b4': b4, 'b5': b5, 'b6': b6, 'b7': b7, 'b8': b8, 'b9': b9, 'b10': b10,
'b11': b11, 'b12': b12, 'b13': b13, 'b14': b14, 'b15': b15, 'b16': b16
}
return variables
def model_vggnet16(data, variables):
layer1_conv = tf.nn.conv2d(data, variables['w1'], [1, 1, 1, 1], padding='same')
layer1_actv = tf.nn.relu(layer1_conv + variables['b1'])
layer2_conv = tf.nn.conv2d(layer1_actv, variables['w2'], [1, 1, 1, 1], padding='same')
layer2_actv = tf.nn.relu(layer2_conv + variables['b2'])
layer2_pool = tf.nn.max_pool(layer2_actv, [1, 2, 2, 1], [1, 2, 2, 1], padding='same')
layer3_conv = tf.nn.conv2d(layer2_pool, variables['w3'], [1, 1, 1, 1], padding='same')
layer3_actv = tf.nn.relu(layer3_conv + variables['b3'])
layer4_conv = tf.nn.conv2d(layer3_actv, variables['w4'], [1, 1, 1, 1], padding='same')
layer4_actv = tf.nn.relu(layer4_conv + variables['b4'])
layer4_pool = tf.nn.max_pool(layer4_pool, [1, 2, 2, 1], [1, 2, 2, 1], padding='same')
layer5_conv = tf.nn.conv2d(layer4_pool, variables['w5'], [1, 1, 1, 1], padding='same')
layer5_actv = tf.nn.relu(layer5_conv + variables['b5'])
layer6_conv = tf.nn.conv2d(layer5_actv, variables['w6'], [1, 1, 1, 1], padding='same')
layer6_actv = tf.nn.relu(layer6_conv + variables['b6'])
layer7_conv = tf.nn.conv2d(layer6_actv, variables['w7'], [1, 1, 1, 1], padding='same')
layer7_actv = tf.nn.relu(layer7_conv + variables['b7'])
layer7_pool = tf.nn.max_pool(layer7_actv, [1, 2, 2, 1], [1, 2, 2, 1], padding='same')
layer8_conv = tf.nn.conv2d(layer7_pool, variables['w8'], [1, 1, 1, 1], padding='same')
layer8_actv = tf.nn.relu(layer8_conv + variables['b8'])
layer9_conv = tf.nn.conv2d(layer8_actv, variables['w9'], [1, 1, 1, 1], padding='same')
layer9_actv = tf.nn.relu(layer9_conv + variables['b9'])
layer10_conv = tf.nn.conv2d(layer9_actv, variables['w10'], [1, 1, 1, 1], padding='same')
layer10_actv = tf.nn.relu(layer10_conv + variables['b10'])
layer10_pool = tf.nn.max_pool(layer10_actv, [1, 2, 2, 1], [1, 2, 2, 1], padding='same')
layer11_conv = tf.nn.conv2d(layer10_pool, variables['w11'], [1, 1, 1, 1], padding='same')
layer11_actv = tf.nn.relu(layer11_conv + variables['b11'])
layer12_conv = tf.nn.conv2d(layer11_actv, variables['w12'], [1, 1, 1, 1], padding='same')
layer12_actv = tf.nn.relu(layer12_conv + variables['b12'])
layer13_conv = tf.nn.conv2d(layer12_actv, variables['w13'], [1, 1, 1, 1], padding='same')
layer13_actv = tf.nn.relu(layer13_conv + variables['b13'])
layer13_pool = tf.nn.max_pool(layer13_actv, [1, 2, 2, 1], [1, 2, 2, 1], padding='same')
flat_layer = flatten_tf_array(layer13_pool)
layer14_fccd = tf.matmul(flat_layer, variables['w14']) + variables['b14']
layer14_actv = tf.nn.relu(layer14_fccd)
layer14_drop = tf.nn.dropout(layer14_actv, 0.5)
layer15_fccd = tf.matmul(layer14_drop, variables['w15']) + variables['b15']
layer15_actv = tf.nn.relu(layer15_fccd)
layer15_drop = tf.nn.dropout(layer15_actv, 0.5)
logits = tf.matmul(layer15_drop, variables['w16']) + variables['b16']
return logits
3.3 alexnet 性能
作为比较，看一下对包含了较大图片的oxflower17数据集的lenet5 cnn性能：
4. 结语 相关代码可以在我的github库中获得，因此可以随意在自己的数据集上使用它。
在深度学习的世界中还有更多的知识可以去探索：循环神经网络、基于区域的cnn、gan、加强学习等等。在未来的博客文章中，我将构建这些类型的神经网络，并基于我们已经学到的知识构建更有意思的应用程序。
文章为简译，更为详细的内容，请查看原文
文章转载自： https://yq.aliyun.com/articles/178374?spm=5176.100239.blogcont221660.30....
中国广电在武汉雷神山医院成功完成了5G基站安装调试
HNWJB-702微机继电保护测试仪
vivoX20和华为Mate9哪个值得买？vivoX20和华为Mate强强对决
RedmiBook 13全渠道发售 稳居京东十代酷睿轻薄本销量第一
疫情对于视频监控有没有很大的影响
一步一步学用Tensorflow构建卷积神经网络
今年的iPhone将使用A14 Bionic芯片组
电子交通系统联网解决方案
折叠屏：全面屏之后新创意，可折叠的全屏手机
声音的模仿会影响声纹识别吗
三大运营商5G服务的预约用户数量已超1040万而中国移动遥遥领先
Nordic获安富利的“最佳供应商”奖
李强:工业互联网建设需要生态体系支撑
MAX4475-MAX4478/MAX4488/MAX4489低失真运算放大器
知行科技自研的行泊一体域控制器产品如何
关于智能派样机的性能分析和应用介绍
VARL电池性能下降的原因
索尼8K电视Z9G详细解读 足以干翻百万元8K电视
思瑞浦针对工业与通信市场推出高效率、高性能开关电源转换器产品
70寸OLED拼接屏7个主要特点介绍
0. 简介
在过去，我写的主要都是“传统类”的机器学习文章，如朴素贝叶斯分类、逻辑回归和perceptron算法。在过去的一年中，我一直在研究深度学习技术，因此，我想和大家分享一下如何使用tensorflow从头开始构建和训练卷积神经网络。这样，我们以后就可以将这个知识作为一个构建块来创造有趣的深度学习应用程序了。
为此，你需要安装tensorflow（请参阅安装说明），你还应该对python编程和卷积神经网络背后的理论有一个基本的了解。安装完tensorflow之后，你可以在不依赖gpu的情况下运行一个较小的神经网络，但对于更深层次的神经网络，就需要用到gpu的计算能力了。
在互联网上有很多解释卷积神经网络工作原理方面的网站和课程，其中有一些还是很不错的，图文并茂、易于理解[]。我在这里就不再解释相同的东西，所以在开始阅读下文之前，请提前了解卷积神经网络的工作原理。例如：
什么是卷积层，卷积层的过滤器是什么？
什么是激活层（relu层（应用最广泛的）、s型激活或tanh）？
什么是池层（最大池/平均池），什么是dropout？
随机梯度下降的工作原理是什么？
本文内容如下：
tensorflow基础
1.1 常数和变量
1.2 tensorflow中的图和会话
1.3 占位符和feed_dicts
tensorflow中的神经网络
2.1 介绍
2.2 数据加载
2.3 创建一个简单的一层神经网络
2.4 tensorflow的多个方面
2.5 创建lenet5卷积神经网络
2.6 影响层输出大小的参数
2.7 调整lenet5架构
2.8 学习速率和优化器的影响
tensorflow中的深度神经网络
3.1 alexnet
3.2 vgg net-16
3.3 alexnet性能
结语
1. tensorflow 基础 在这里，我将向以前从未使用过tensorflow的人做一个简单的介绍。如果你想要立即开始构建神经网络，或者已经熟悉tensorflow，可以直接跳到第2节。如果你想了解更多有关tensorflow的信息，你还可以查看这个代码库，或者阅读斯坦福大学cs20si课程的讲义1和讲义2。
1.1 常量与变量
tensorflow中最基本的单元是常量、变量和占位符。
tf.constant()和tf.variable()之间的区别很清楚；一个常量有着恒定不变的值，一旦设置了它，它的值不能被改变。而变量的值可以在设置完成后改变，但变量的数据类型和形状无法改变。
#we can create constants and variables of different types.
#however, the different types do not mix well together.
a = tf.constant(2, tf.int16)
b = tf.constant(4, tf.float32)
c = tf.constant(8, tf.float32)
d = tf.variable(2, tf.int16)
e = tf.variable(4, tf.float32)
f = tf.variable(8, tf.float32)
#we can perform computations on variable of the same type: e + f
#but the following can not be done: d + e
#everything in tensorflow is a tensor, these can have different dimensions:
#0d, 1d, 2d, 3d, 4d, or nd-tensors
g = tf.constant(np.zeros(shape=(2,2), dtype=np.float32)) #does work
h = tf.zeros([11], tf.int16)
i = tf.ones([2,2], tf.float32)
j = tf.zeros([1000,4,3], tf.float64)
k = tf.variable(tf.zeros([2,2], tf.float32))
l = tf.variable(tf.zeros([5,6,5], tf.float32))
除了tf.zeros()和tf.ones()能够创建一个初始值为0或1的张量（见这里）之外，还有一个tf.random_normal()函数，它能够创建一个包含多个随机值的张量，这些随机值是从正态分布中随机抽取的（默认的分布均值为0.0，标准差为1.0）。
另外还有一个tf.truncated_normal()函数，它创建了一个包含从截断的正态分布中随机抽取的值的张量，其中下上限是标准偏差的两倍。
有了这些知识，我们就可以创建用于神经网络的权重矩阵和偏差向量了。
weights = tf.variable(tf.truncated_normal([256 * 256, 10]))
biases = tf.variable(tf.zeros([10]))
print(weights.get_shape().as_list())
print(biases.get_shape().as_list())
>>>[65536, 10]
>>>[10]
1.2 tensorflow 中的图与会话
在tensorflow中，所有不同的变量以及对这些变量的操作都保存在图（graph）中。在构建了一个包含针对模型的所有计算步骤的图之后，就可以在会话（session）中运行这个图了。会话可以跨cpu和gpu分配所有的计算。
graph = tf.graph()
with graph.as_default():
a = tf.variable(8, tf.float32)
b = tf.variable(tf.zeros([2,2], tf.float32))
with tf.session(graph=graph) as session:
tf.global_variables_initializer().run()
print(f)
print(session.run(f))
print(session.run(k))
>>>
>>> 8
>>> [[ 0. 0.]
>>> [ 0. 0.]]
1.3 占位符 与 feed_dicts
我们已经看到了用于创建常量和变量的各种形式。tensorflow中也有占位符，它不需要初始值，仅用于分配必要的内存空间。 在一个会话中，这些占位符可以通过feed_dict填入（外部）数据。
以下是占位符的使用示例。
list_of_points1_ = [[1,2], [3,4], [5,6], [7,8]]
list_of_points2_ = [[15,16], [13,14], [11,12], [9,10]]
list_of_points1 = np.array([np.array(elem).reshape(1,2) for elem in list_of_points1_])
list_of_points2 = np.array([np.array(elem).reshape(1,2) for elem in list_of_points2_])
graph = tf.graph()
with graph.as_default():
#we should use a tf.placeholder() to create a variable whose value you will fill in later (during session.run()).
#this can be done by 'feeding' the data into the placeholder.
#below we see an example of a method which uses two placeholder arrays of size [2,1] to calculate the eucledian distance
point1 = tf.placeholder(tf.float32, shape=(1, 2))
point2 = tf.placeholder(tf.float32, shape=(1, 2))
def calculate_eucledian_distance(point1, point2):
difference = tf.subtract(point1, point2)
power2 = tf.pow(difference, tf.constant(2.0, shape=(1,2)))
add = tf.reduce_sum(power2)
eucledian_distance = tf.sqrt(add)
return eucledian_distance
dist = calculate_eucledian_distance(point1, point2)
with tf.session(graph=graph) as session:
tf.global_variables_initializer().run()
for ii in range(len(list_of_points1)):
point1_ = list_of_points1[ii]
point2_ = list_of_points2[ii]
feed_dict = {point1 : point1_, point2 : point2_}
distance = session.run([dist], feed_dict=feed_dict)
print(the distance between {} and {} -> {}.format(point1_, point2_, distance))
>>> the distance between [[1 2]] and [[15 16]] -> [19.79899]
>>> the distance between [[3 4]] and [[13 14]] -> [14.142136]
>>> the distance between [[5 6]] and [[11 12]] -> [8.485281]
>>> the distance between [[7 8]] and [[ 9 10]] -> [2.8284271]
2. tensorflow 中的神经网络 2.1 简介
包含神经网络的图（如上图所示）应包含以下步骤：
1. 输入数据集：训练数据集和标签、测试数据集和标签（以及验证数据集和标签）。 测试和验证数据集可以放在tf.constant()中。而训练数据集被放在tf.placeholder()中，这样它可以在训练期间分批输入（随机梯度下降）。
2. 神经网络**模型**及其所有的层。这可以是一个简单的完全连接的神经网络，仅由一层组成，或者由5、9、16层组成的更复杂的神经网络。
3. 权重矩阵和**偏差矢量**以适当的形状进行定义和初始化。（每层一个权重矩阵和偏差矢量）
4. 损失值：模型可以输出分对数矢量（估计的训练标签），并通过将分对数与实际标签进行比较，计算出损失值（具有交叉熵函数的softmax）。损失值表示估计训练标签与实际训练标签的接近程度，并用于更新权重值。
5. 优化器：它用于将计算得到的损失值来更新反向传播算法中的权重和偏差。
2.2 数据加载
下面我们来加载用于训练和测试神经网络的数据集。为此，我们要下载mnist和cifar-10数据集。 mnist数据集包含了6万个手写数字图像，其中每个图像大小为28 x 28 x 1（灰度）。 cifar-10数据集也包含了6万个图像（3个通道），大小为32 x 32 x 3，包含10个不同的物体（飞机、汽车、鸟、猫、鹿、狗、青蛙、马、船、卡车）。 由于两个数据集中都有10个不同的对象，所以这两个数据集都包含10个标签。
首先，我们来定义一些方便载入数据和格式化数据的方法。
def randomize(dataset, labels):
permutation = np.random.permutation(labels.shape[0])
shuffled_dataset = dataset[permutation, :, :]
shuffled_labels = labels[permutation]
return shuffled_dataset, shuffled_labels
def one_hot_encode(np_array):
return (np.arange(10) == np_array[:,none]).astype(np.float32)
def reformat_data(dataset, labels, image_width, image_height, image_depth):
np_dataset_ = np.array([np.array(image_data).reshape(image_width, image_height, image_depth) for image_data in dataset])
np_labels_ = one_hot_encode(np.array(labels, dtype=np.float32))
np_dataset, np_labels = randomize(np_dataset_, np_labels_)
return np_dataset, np_labels
def flatten_tf_array(array):
shape = array.get_shape().as_list()
return tf.reshape(array, [shape[0], shape[1] shape[2] shape[3]])
def accuracy(predictions, labels):
return (100.0 * np.sum(np.argmax(predictions, 1) == np.argmax(labels, 1)) / predictions.shape[0])
这些方法可用于对标签进行独热码编码、将数据加载到随机数组中、扁平化矩阵（因为完全连接的网络需要一个扁平矩阵作为输入）：
在我们定义了这些必要的函数之后，我们就可以这样加载mnist和cifar-10数据集了：
mnist_folder = './data/mnist/'
mnist_image_width = 28
mnist_image_height = 28
mnist_image_depth = 1
mnist_num_labels = 10
mndata = mnist(mnist_folder)
mnist_train_dataset_, mnist_train_labels_ = mndata.load_training()
mnist_test_dataset_, mnist_test_labels_ = mndata.load_testing()
mnist_train_dataset, mnist_train_labels = reformat_data(mnist_train_dataset_, mnist_train_labels_, mnist_image_size, mnist_image_size, mnist_image_depth)
mnist_test_dataset, mnist_test_labels = reformat_data(mnist_test_dataset_, mnist_test_labels_, mnist_image_size, mnist_image_size, mnist_image_depth)
print(there are {} images, each of size {}.format(len(mnist_train_dataset), len(mnist_train_dataset[0])))
print(meaning each image has the size of 28281 = {}.format(mnist_image_sizemnist_image_size1))
print(the training set contains the following {} labels: {}.format(len(np.unique(mnist_train_labels_)), np.unique(mnist_train_labels_)))
print('training set shape', mnist_train_dataset.shape, mnist_train_labels.shape)
print('test set shape', mnist_test_dataset.shape, mnist_test_labels.shape)
train_dataset_mnist, train_labels_mnist = mnist_train_dataset, mnist_train_labels
test_dataset_mnist, test_labels_mnist = mnist_test_dataset, mnist_test_labels
######################################################################################
cifar10_folder = './data/cifar10/'
train_datasets = ['data_batch_1', 'data_batch_2', 'data_batch_3', 'data_batch_4', 'data_batch_5', ]
test_dataset = ['test_batch']
c10_image_height = 32
c10_image_width = 32
c10_image_depth = 3
c10_num_labels = 10
with open(cifar10_folder + test_dataset[0], 'rb') as f0:
c10_test_dict = pickle.load(f0, encoding='bytes')
c10_test_dataset, c10_test_labels = c10_test_dict[b'data'], c10_test_dict[b'labels']
test_dataset_cifar10, test_labels_cifar10 = reformat_data(c10_test_dataset, c10_test_labels, c10_image_size, c10_image_size, c10_image_depth)
c10_train_dataset, c10_train_labels = [], []
for train_dataset in train_datasets:
with open(cifar10_folder + train_dataset, 'rb') as f0:
c10_train_dict = pickle.load(f0, encoding='bytes')
c10_train_dataset_, c10_train_labels_ = c10_train_dict[b'data'], c10_train_dict[b'labels']
c10_train_dataset.append(c10_train_dataset_)
c10_train_labels += c10_train_labels_
c10_train_dataset = np.concatenate(c10_train_dataset, axis=0)
train_dataset_cifar10, train_labels_cifar10 = reformat_data(c10_train_dataset, c10_train_labels, c10_image_size, c10_image_size, c10_image_depth)
del c10_train_dataset
del c10_train_labels
print(the training set contains the following labels: {}.format(np.unique(c10_train_dict[b'labels'])))
print('training set shape', train_dataset_cifar10.shape, train_labels_cifar10.shape)
print('test set shape', test_dataset_cifar10.shape, test_labels_cifar10.shape)
你可以从yann lecun的网站下载mnist数据集。下载并解压缩之后，可以使用python-mnist工具来加载数据。 cifar-10数据集可以从这里下载。
2.3 创建一个简单的一层神经网络
神经网络最简单的形式是一层线性全连接神经网络（fcnn， fully connected neural network）。 在数学上它由一个矩阵乘法组成。
最好是在tensorflow中从这样一个简单的nn开始，然后再去研究更复杂的神经网络。 当我们研究那些更复杂的神经网络的时候，只是图的模型（步骤2）和权重（步骤3）发生了改变，其他步骤仍然保持不变。
我们可以按照如下代码制作一层fcnn：
image_width = mnist_image_width
image_height = mnist_image_height
image_depth = mnist_image_depth
num_labels = mnist_num_labels
#the dataset
train_dataset = mnist_train_dataset
train_labels = mnist_train_labels
test_dataset = mnist_test_dataset
test_labels = mnist_test_labels
#number of iterations and learning rate
num_steps = 10001
display_step = 1000
learning_rate = 0.5
graph = tf.graph()
with graph.as_default():
#1) first we put the input data in a tensorflow friendly form.
tf_train_dataset = tf.placeholder(tf.float32, shape=(batch_size, image_width, image_height, image_depth))
tf_train_labels = tf.placeholder(tf.float32, shape = (batch_size, num_labels))
tf_test_dataset = tf.constant(test_dataset, tf.float32)
#2) then, the weight matrices and bias vectors are initialized
#as a default, tf.truncated_normal() is used for the weight matrix and tf.zeros() is used for the bias vector.
weights = tf.variable(tf.truncated_normal([image_width image_height image_depth, num_labels]), tf.float32)
bias = tf.variable(tf.zeros([num_labels]), tf.float32)
#3) define the model:
#a one layered fccd simply consists of a matrix multiplication
def model(data, weights, bias):
return tf.matmul(flatten_tf_array(data), weights) + bias
logits = model(tf_train_dataset, weights, bias)
#4) calculate the loss, which will be used in the optimization of the weights
loss = tf.reduce_mean(tf.nn.softmax_cross_entropy_with_logits(logits=logits, labels=tf_train_labels))
#5) choose an optimizer. many are available.
optimizer = tf.train.gradientdescentoptimizer(learning_rate).minimize(loss)
#6) the predicted values for the images in the train dataset and test dataset are assigned to the variables train_prediction and test_prediction.
#it is only necessary if you want to know the accuracy by comparing it with the actual values.
train_prediction = tf.nn.softmax(logits)
test_prediction = tf.nn.softmax(model(tf_test_dataset, weights, bias))
with tf.session(graph=graph) as session:
tf.global_variables_initializer().run()
print('initialized')
for step in range(num_steps):
_, l, predictions = session.run([optimizer, loss, train_prediction])
if (step % display_step == 0):
train_accuracy = accuracy(predictions, train_labels[:, :])
test_accuracy = accuracy(test_prediction.eval(), test_labels)
message = step {:04d} : loss is {:06.2f}, accuracy on training set {:02.2f} %, accuracy on test set {:02.2f} %.format(step, l, train_accuracy, test_accuracy)
print(message)
>>> initialized
>>> step 0000 : loss is 2349.55, accuracy on training set 10.43 %, accuracy on test set 34.12 %
>>> step 0100 : loss is 3612.48, accuracy on training set 89.26 %, accuracy on test set 90.15 %
>>> step 0200 : loss is 2634.40, accuracy on training set 91.10 %, accuracy on test set 91.26 %
>>> step 0300 : loss is 2109.42, accuracy on training set 91.62 %, accuracy on test set 91.56 %
>>> step 0400 : loss is 2093.56, accuracy on training set 91.85 %, accuracy on test set 91.67 %
>>> step 0500 : loss is 2325.58, accuracy on training set 91.83 %, accuracy on test set 91.67 %
>>> step 0600 : loss is 22140.44, accuracy on training set 68.39 %, accuracy on test set 75.06 %
>>> step 0700 : loss is 5920.29, accuracy on training set 83.73 %, accuracy on test set 87.76 %
>>> step 0800 : loss is 9137.66, accuracy on training set 79.72 %, accuracy on test set 83.33 %
>>> step 0900 : loss is 15949.15, accuracy on training set 69.33 %, accuracy on test set 77.05 %
>>> step 1000 : loss is 1758.80, accuracy on training set 92.45 %, accuracy on test set 91.79 %
在图中，我们加载数据，定义权重矩阵和模型，从分对数矢量中计算损失值，并将其传递给优化器，该优化器将更新迭代“num_steps”次数的权重。
在上述完全连接的nn中，我们使用了梯度下降优化器来优化权重。然而，有很多不同的优化器可用于tensorflow。 最常用的优化器有gradientdescentoptimizer、adamoptimizer和adagradoptimizer，所以如果你正在构建一个cnn的话，我建议你试试这些。
sebastian ruder有一篇不错的博文介绍了不同优化器之间的区别，通过这篇文章，你可以更详细地了解它们。
2.4 tensorflow的几个方面
tensorflow包含许多层，这意味着可以通过不同的抽象级别来完成相同的操作。这里有一个简单的例子，操作
logits = tf.matmul(tf_train_dataset, weights) + biases，
也可以这样来实现
logits = tf.nn.xw_plus_b(train_dataset, weights, biases)。
这是layers api中最明显的一层，它是一个具有高度抽象性的层，可以很容易地创建由许多不同层组成的神经网络。例如，或函数用于创建卷积和完全连接的层。通过这些函数，可以将层数、过滤器的大小或深度、激活函数的类型等指定为参数。然后，权重矩阵和偏置矩阵会自动创建，一起创建的还有激活函数和丢弃正则化层(dropout regularization laye)。
例如，通过使用 层api，下面这些代码：
import tensorflow as tf
w1 = tf.variable(tf.truncated_normal([filter_size, filter_size, image_depth, filter_depth], stddev=0.1))
b1 = tf.variable(tf.zeros([filter_depth]))
layer1_conv = tf.nn.conv2d(data, w1, [1, 1, 1, 1], padding='same')
layer1_relu = tf.nn.relu(layer1_conv + b1)
layer1_pool = tf.nn.max_pool(layer1_pool, [1, 2, 2, 1], [1, 2, 2, 1], padding='same')
可以替换为
from tflearn.layers.conv import conv_2d, max_pool_2d
layer1_conv = conv_2d(data, filter_depth, filter_size, activation='relu')
layer1_pool = max_pool_2d(layer1_conv_relu, 2, strides=2)
可以看到，我们不需要定义权重、偏差或激活函数。尤其是在你建立一个具有很多层的神经网络的时候，这样可以保持代码的清晰和整洁。
然而，如果你刚刚接触tensorflow的话，学习如何构建不同种类的神经网络并不合适，因为tflearn做了所有的工作。
因此，我们不会在本文中使用层api，但是一旦你完全理解了如何在tensorflow中构建神经网络，我还是建议你使用它。
2.5 创建 lenet5 卷积神经网络
下面我们将开始构建更多层的神经网络。例如lenet5卷积神经网络。
lenet5 cnn架构最早是在1998年由yann lecun（见论文）提出的。它是最早的cnn之一，专门用于对手写数字进行分类。尽管它在由大小为28 x 28的灰度图像组成的mnist数据集上运行良好，但是如果用于其他包含更多图片、更大分辨率以及更多类别的数据集时，它的性能会低很多。对于这些较大的数据集，更深的convnets（如alexnet、vggnet或resnet）会表现得更好。
但由于lenet5架构仅由5个层构成，因此，学习如何构建cnn是一个很好的起点。
lenet5架构如下图所示：
我们可以看到，它由5个层组成：
第1层：卷积层，包含s型激活函数，然后是平均池层。
第2层：卷积层，包含s型激活函数，然后是平均池层。
第3层：一个完全连接的网络（s型激活）
第4层：一个完全连接的网络（s型激活）
第5层：输出层
这意味着我们需要创建5个权重和偏差矩阵，我们的模型将由12行代码组成（5个层 + 2个池 + 4个激活函数 + 1个扁平层）。
由于这个还是有一些代码量的，因此最好在图之外的一个单独函数中定义这些代码。
lenet5_batch_size = 32
lenet5_patch_size = 5
lenet5_patch_depth_1 = 6
lenet5_patch_depth_2 = 16
lenet5_num_hidden_1 = 120
lenet5_num_hidden_2 = 84
def variables_lenet5(patch_size = lenet5_patch_size, patch_depth1 = lenet5_patch_depth_1,
patch_depth2 = lenet5_patch_depth_2,
num_hidden1 = lenet5_num_hidden_1, num_hidden2 = lenet5_num_hidden_2,
image_depth = 1, num_labels = 10):
w1 = tf.variable(tf.truncated_normal([patch_size, patch_size, image_depth, patch_depth1], stddev=0.1))
b1 = tf.variable(tf.zeros([patch_depth1]))
w2 = tf.variable(tf.truncated_normal([patch_size, patch_size, patch_depth1, patch_depth2], stddev=0.1))
b2 = tf.variable(tf.constant(1.0, shape=[patch_depth2]))
w3 = tf.variable(tf.truncated_normal([55patch_depth2, num_hidden1], stddev=0.1))
b3 = tf.variable(tf.constant(1.0, shape = [num_hidden1]))
w4 = tf.variable(tf.truncated_normal([num_hidden1, num_hidden2], stddev=0.1))
b4 = tf.variable(tf.constant(1.0, shape = [num_hidden2]))
w5 = tf.variable(tf.truncated_normal([num_hidden2, num_labels], stddev=0.1))
b5 = tf.variable(tf.constant(1.0, shape = [num_labels]))
variables = {
'w1': w1, 'w2': w2, 'w3': w3, 'w4': w4, 'w5': w5,
'b1': b1, 'b2': b2, 'b3': b3, 'b4': b4, 'b5': b5
}
return variables
def model_lenet5(data, variables):
layer1_conv = tf.nn.conv2d(data, variables['w1'], [1, 1, 1, 1], padding='same')
layer1_actv = tf.sigmoid(layer1_conv + variables['b1'])
layer1_pool = tf.nn.avg_pool(layer1_actv, [1, 2, 2, 1], [1, 2, 2, 1], padding='same')
layer2_conv = tf.nn.conv2d(layer1_pool, variables['w2'], [1, 1, 1, 1], padding='valid')
layer2_actv = tf.sigmoid(layer2_conv + variables['b2'])
layer2_pool = tf.nn.avg_pool(layer2_actv, [1, 2, 2, 1], [1, 2, 2, 1], padding='same')
flat_layer = flatten_tf_array(layer2_pool)
layer3_fccd = tf.matmul(flat_layer, variables['w3']) + variables['b3']
layer3_actv = tf.nn.sigmoid(layer3_fccd)
layer4_fccd = tf.matmul(layer3_actv, variables['w4']) + variables['b4']
layer4_actv = tf.nn.sigmoid(layer4_fccd)
logits = tf.matmul(layer4_actv, variables['w5']) + variables['b5']
return logits
由于变量和模型是单独定义的，我们可以稍稍调整一下图，以便让它使用这些权重和模型，而不是以前的完全连接的nn：
#parameters determining the model size
image_size = mnist_image_size
num_labels = mnist_num_labels
#the datasets
train_dataset = mnist_train_dataset
train_labels = mnist_train_labels
test_dataset = mnist_test_dataset
test_labels = mnist_test_labels
#number of iterations and learning rate
num_steps = 10001
display_step = 1000
learning_rate = 0.001
graph = tf.graph()
with graph.as_default():
#1) first we put the input data in a tensorflow friendly form.
tf_train_dataset = tf.placeholder(tf.float32, shape=(batch_size, image_width, image_height, image_depth))
tf_train_labels = tf.placeholder(tf.float32, shape = (batch_size, num_labels))
tf_test_dataset = tf.constant(test_dataset, tf.float32)
#2) then, the weight matrices and bias vectors are initialized
variables = variables_lenet5(image_depth = image_depth, num_labels = num_labels)
#3. the model used to calculate the logits (predicted labels)
model = model_lenet5
logits = model(tf_train_dataset, variables)
#4. then we compute the softmax cross entropy between the logits and the (actual) labels
loss = tf.reduce_mean(tf.nn.softmax_cross_entropy_with_logits(logits=logits, labels=tf_train_labels))
#5. the optimizer is used to calculate the gradients of the loss function
optimizer = tf.train.gradientdescentoptimizer(learning_rate).minimize(loss)
# predictions for the training, validation, and test data.
train_prediction = tf.nn.softmax(logits)
test_prediction = tf.nn.softmax(model(tf_test_dataset, variables))
with tf.session(graph=graph) as session:
tf.global_variables_initializer().run()
print('initialized with learning_rate', learning_rate)
for step in range(num_steps):
#since we are using stochastic gradient descent, we are selecting small batches from the training dataset,
#and training the convolutional neural network each time with a batch.
offset = (step * batch_size) % (train_labels.shape[0] - batch_size)
batch_data = train_dataset[offset:(offset + batch_size), :, :, :]
batch_labels = train_labels[offset:(offset + batch_size), :]
feed_dict = {tf_train_dataset : batch_data, tf_train_labels : batch_labels}
_, l, predictions = session.run([optimizer, loss, train_prediction], feed_dict=feed_dict)
if step % display_step == 0:
train_accuracy = accuracy(predictions, batch_labels)
test_accuracy = accuracy(test_prediction.eval(), test_labels)
message = step {:04d} : loss is {:06.2f}, accuracy on training set {:02.2f} %, accuracy on test set {:02.2f} %.format(step, l, train_accuracy, test_accuracy)
print(message)
>>> initialized with learning_rate 0.1
>>> step 0000 : loss is 002.49, accuracy on training set 3.12 %, accuracy on test set 10.09 %
>>> step 1000 : loss is 002.29, accuracy on training set 21.88 %, accuracy on test set 9.58 %
>>> step 2000 : loss is 000.73, accuracy on training set 75.00 %, accuracy on test set 78.20 %
>>> step 3000 : loss is 000.41, accuracy on training set 81.25 %, accuracy on test set 86.87 %
>>> step 4000 : loss is 000.26, accuracy on training set 93.75 %, accuracy on test set 90.49 %
>>> step 5000 : loss is 000.28, accuracy on training set 87.50 %, accuracy on test set 92.79 %
>>> step 6000 : loss is 000.23, accuracy on training set 96.88 %, accuracy on test set 93.64 %
>>> step 7000 : loss is 000.18, accuracy on training set 90.62 %, accuracy on test set 95.14 %
>>> step 8000 : loss is 000.14, accuracy on training set 96.88 %, accuracy on test set 95.80 %
>>> step 9000 : loss is 000.35, accuracy on training set 90.62 %, accuracy on test set 96.33 %
>>> step 10000 : loss is 000.12, accuracy on training set 93.75 %, accuracy on test set 96.76 %
我们可以看到，lenet5架构在mnist数据集上的表现比简单的完全连接的nn更好。
2.6 影响层输出大小的参数
一般来说，神经网络的层数越多越好。我们可以添加更多的层、修改激活函数和池层，修改学习速率，以看看每个步骤是如何影响性能的。由于i层的输入是i-1层的输出，我们需要知道不同的参数是如何影响i-1层的输出大小的。
要了解这一点，可以看看conv2d()函数。
它有四个参数：
输入图像，维度为[batch size, image_width, image_height, image_depth]的4d张量
权重矩阵，维度为[filter_size, filter_size, image_depth, filter_depth]的4d张量
每个维度的步幅数。
填充（='same'http://xilinx.eetrend.com/'valid'）
这四个参数决定了输出图像的大小。
前两个参数分别是包含一批输入图像的4d张量和包含卷积滤波器权重的4d张量。
第三个参数是卷积的步幅，即卷积滤波器在四维的每一个维度中应该跳过多少个位置。这四个维度中的第一个维度表示图像批次中的图像编号，由于我们不想跳过任何图像，因此始终为1。最后一个维度表示图像深度（不是色彩的通道数；灰度为1，rgb为3），由于我们不想跳过任何颜色通道，所以这个也总是为1。第二和第三维度表示x和y方向上的步幅（图像宽度和高度）。如果要应用步幅，则这些是过滤器应跳过的位置的维度。因此，对于步幅为1，我们必须将步幅参数设置为[1, 1, 1, 1]，如果我们希望步幅为2，则将其设置为[1，2，2，1]。以此类推。
最后一个参数表示tensorflow是否应该对图像用零进行填充，以确保对于步幅为1的输出尺寸不会改变。如果 padding = 'same'，则图像用零填充（并且输出大小不会改变），如果 padding = 'valid'，则不填充。
下面我们可以看到通过图像（大小为28 x 28）扫描的卷积滤波器（滤波器大小为5 x 5）的两个示例。
在左侧，填充参数设置为“same”，图像用零填充，最后4行/列包含在输出图像中。
在右侧，填充参数设置为“valid”，图像不用零填充，最后4行/列不包括在输出图像中。
我们可以看到，如果没有用零填充，则不包括最后四个单元格，因为卷积滤波器已经到达（非零填充）图像的末尾。这意味着，对于28 x 28的输入大小，输出大小变为24 x 24 。如果 padding = 'same'，则输出大小为28 x 28。
如果在扫描图像时记下过滤器在图像上的位置（为简单起见，只有x方向），那么这一点就变得更加清晰了。如果步幅为1，则x位置为0-5、1-6、2-7，等等。如果步幅为2，则x位置为0-5、2-7、4-9，等等。
如果图像大小为28 x 28，滤镜大小为5 x 5，并且步长1到4，那么我们可以得到下面这个表：
可以看到，对于步幅为1，零填充输出图像大小为28 x 28。如果非零填充，则输出图像大小变为24 x 24。对于步幅为2的过滤器，这几个数字分别为 14 x 14 和 12 x 12，对于步幅为3的过滤器，分别为 10 x 10 和 8 x 8。以此类推。
对于任意一个步幅s，滤波器尺寸k，图像尺寸w和填充尺寸p，输出尺寸将为
如果在tensorflow中 padding = “same”，则分子加起来恒等于1，输出大小仅由步幅s决定。
2.7 调整 lenet5 的架构
在原始论文中，lenet5架构使用了s形激活函数和平均池。 然而，现在，使用relu激活函数则更为常见。 所以，我们来稍稍修改一下lenet5 cnn，看看是否能够提高准确性。我们将称之为类lenet5架构：
lenet5_like_batch_size = 32
lenet5_like_filter_size = 5
lenet5_like_filter_depth = 16
lenet5_like_num_hidden = 120
def variables_lenet5_like(filter_size = lenet5_like_filter_size,
filter_depth = lenet5_like_filter_depth,
num_hidden = lenet5_like_num_hidden,
image_width = 28, image_depth = 1, num_labels = 10):
w1 = tf.variable(tf.truncated_normal([filter_size, filter_size, image_depth, filter_depth], stddev=0.1))
b1 = tf.variable(tf.zeros([filter_depth]))
w2 = tf.variable(tf.truncated_normal([filter_size, filter_size, filter_depth, filter_depth], stddev=0.1))
b2 = tf.variable(tf.constant(1.0, shape=[filter_depth]))
w3 = tf.variable(tf.truncated_normal([(image_width // 4)(image_width // 4)filter_depth , num_hidden], stddev=0.1))
b3 = tf.variable(tf.constant(1.0, shape = [num_hidden]))
w4 = tf.variable(tf.truncated_normal([num_hidden, num_hidden], stddev=0.1))
b4 = tf.variable(tf.constant(1.0, shape = [num_hidden]))
w5 = tf.variable(tf.truncated_normal([num_hidden, num_labels], stddev=0.1))
b5 = tf.variable(tf.constant(1.0, shape = [num_labels]))
variables = {
'w1': w1, 'w2': w2, 'w3': w3, 'w4': w4, 'w5': w5,
'b1': b1, 'b2': b2, 'b3': b3, 'b4': b4, 'b5': b5
}
return variables
def model_lenet5_like(data, variables):
layer1_conv = tf.nn.conv2d(data, variables['w1'], [1, 1, 1, 1], padding='same')
layer1_actv = tf.nn.relu(layer1_conv + variables['b1'])
layer1_pool = tf.nn.avg_pool(layer1_actv, [1, 2, 2, 1], [1, 2, 2, 1], padding='same')
layer2_conv = tf.nn.conv2d(layer1_pool, variables['w2'], [1, 1, 1, 1], padding='same')
layer2_actv = tf.nn.relu(layer2_conv + variables['b2'])
layer2_pool = tf.nn.avg_pool(layer2_actv, [1, 2, 2, 1], [1, 2, 2, 1], padding='same')
flat_layer = flatten_tf_array(layer2_pool)
layer3_fccd = tf.matmul(flat_layer, variables['w3']) + variables['b3']
layer3_actv = tf.nn.relu(layer3_fccd)
#layer3_drop = tf.nn.dropout(layer3_actv, 0.5)
layer4_fccd = tf.matmul(layer3_actv, variables['w4']) + variables['b4']
layer4_actv = tf.nn.relu(layer4_fccd)
#layer4_drop = tf.nn.dropout(layer4_actv, 0.5)
logits = tf.matmul(layer4_actv, variables['w5']) + variables['b5']
return logits
主要区别是我们使用了relu激活函数而不是s形激活函数。
除了激活函数，我们还可以改变使用的优化器，看看不同的优化器对精度的影响。
2.8 学习速率和优化器的影响
让我们来看看这些cnn在mnist和cifar-10数据集上的表现。
在上面的图中，测试集的精度是迭代次数的函数。左侧为一层完全连接的nn，中间为lenet5 nn，右侧为类lenet5 nn。
可以看到，lenet5 cnn在mnist数据集上表现得非常好。这并不是一个大惊喜，因为它专门就是为分类手写数字而设计的。mnist数据集很小，并没有太大的挑战性，所以即使是一个完全连接的网络也表现的很好。
然而，在cifar-10数据集上，lenet5 nn的性能显着下降，精度下降到了40％左右。
为了提高精度，我们可以通过应用正则化或学习速率衰减来改变优化器，或者微调神经网络。
可以看到，adagradoptimizer、adamoptimizer和rmspropoptimizer的性能比gradientdescentoptimizer更好。这些都是自适应优化器，其性能通常比gradientdescentoptimizer更好，但需要更多的计算能力。
通过l2正则化或指数速率衰减，我们可能会得到更搞的准确性，但是要获得更好的结果，我们需要进一步研究。
3. tensorflow 中的深度神经网络 到目前为止，我们已经看到了lenet5 cnn架构。 lenet5包含两个卷积层，紧接着的是完全连接的层，因此可以称为浅层神经网络。那时候（1998年），gpu还没有被用来进行计算，而且cpu的功能也没有那么强大，所以，在当时，两个卷积层已经算是相当具有创新意义了。
后来，很多其他类型的卷积神经网络被设计出来，你可以在查看详细信息。
比如，由alex krizhevsky开发的非常有名的alexnet架构（2012年），7层的zf net(2013)，以及16层的vggnet(2014)。
在2015年，google发布了一个包含初始模块的22层的cnn（googlenet），而微软亚洲研究院构建了一个152层的cnn，被称为resnet。
现在，根据我们目前已经学到的知识，我们来看一下如何在tensorflow中创建alexnet和vggnet16架构。
3.1 alexnet
虽然lenet5是第一个convnet，但它被认为是一个浅层神经网络。它在由大小为28 x 28的灰度图像组成的mnist数据集上运行良好，但是当我们尝试分类更大、分辨率更好、类别更多的图像时，性能就会下降。
第一个深度cnn于2012年推出，称为alexnet，其创始人为alex krizhevsky、ilya sutskever和geoffrey hinton。与最近的架构相比，alexnet可以算是简单的了，但在当时它确实非常成功。它以令人难以置信的15.4％的测试错误率赢得了imagenet比赛（亚军的误差为26.2％），并在全球深度学习和人工智能领域掀起了一场革命。
它包括5个卷积层、3个最大池化层、3个完全连接层和2个丢弃层。整体架构如下所示：
第0层：大小为224 x 224 x 3的输入图像
第1层：具有96个滤波器（filter_depth_1 = 96）的卷积层，大小为11×11（filter_size_1 = 11），步长为4。它包含relu激活函数。 紧接着的是最大池化层和本地响应归一化层。
第2层：具有大小为5 x 5（filter_size_2 = 5）的256个滤波器（filter_depth_2 = 256）且步幅为1的卷积层。它包含relu激活函数。 紧接着的还是最大池化层和本地响应归一化层。
第3层：具有384个滤波器的卷积层（filter_depth_3 = 384），尺寸为3×3（filter_size_3 = 3），步幅为1。它包含relu激活函数
第4层：与第3层相同。
第5层：具有大小为3×3（filter_size_4 = 3）的256个滤波器（filter_depth_4 = 256）且步幅为1的卷积层。它包含relu激活函数
第6-8层：这些卷积层之后是完全连接层，每个层具有4096个神经元。在原始论文中，他们对1000个类别的数据集进行分类，但是我们将使用具有17个不同类别（的花卉）的oxford17数据集。
请注意，由于这些数据集中的图像太小，因此无法在mnist或cifar-10数据集上使用此cnn（或其他的深度cnn）。正如我们以前看到的，一个池化层（或一个步幅为2的卷积层）将图像大小减小了2倍。 alexnet具有3个最大池化层和一个步长为4的卷积层。这意味着原始图像尺寸会缩小2^5。 mnist数据集中的图像将简单地缩小到尺寸小于0。
因此，我们需要加载具有较大图像的数据集，最好是224 x 224 x 3（如原始文件所示）。 17个类别的花卉数据集，又名oxflower17数据集是最理想的，因为它包含了这个大小的图像：
ox17_image_width = 224
ox17_image_height = 224
ox17_image_depth = 3
ox17_num_labels = 17
import tflearn.datasets.oxflower17 as oxflower17
train_dataset_, train_labels_ = oxflower17.load_data(one_hot=true)
train_dataset_ox17, train_labels_ox17 = train_dataset_[:1000,:,:,:], train_labels_[:1000,:]
test_dataset_ox17, test_labels_ox17 = train_dataset_[1000:,:,:,:], train_labels_[1000:,:]
print('training set', train_dataset_ox17.shape, train_labels_ox17.shape)
print('test set', test_dataset_ox17.shape, test_labels_ox17.shape)
让我们试着在alexnet中创建权重矩阵和不同的层。正如我们之前看到的，我们需要跟层数一样多的权重矩阵和偏差矢量，并且每个权重矩阵的大小应该与其所属层的过滤器的大小相对应。
alex_patch_depth_1, alex_patch_depth_2, alex_patch_depth_3, alex_patch_depth_4 = 96, 256, 384, 256
alex_patch_size_1, alex_patch_size_2, alex_patch_size_3, alex_patch_size_4 = 11, 5, 3, 3
alex_num_hidden_1, alex_num_hidden_2 = 4096, 4096
def variables_alexnet(patch_size1 = alex_patch_size_1, patch_size2 = alex_patch_size_2,
patch_size3 = alex_patch_size_3, patch_size4 = alex_patch_size_4,
patch_depth1 = alex_patch_depth_1, patch_depth2 = alex_patch_depth_2,
patch_depth3 = alex_patch_depth_3, patch_depth4 = alex_patch_depth_4,
num_hidden1 = alex_num_hidden_1, num_hidden2 = alex_num_hidden_2,
image_width = 224, image_height = 224, image_depth = 3, num_labels = 17):
w1 = tf.variable(tf.truncated_normal([patch_size1, patch_size1, image_depth, patch_depth1], stddev=0.1))
b1 = tf.variable(tf.zeros([patch_depth1]))
w2 = tf.variable(tf.truncated_normal([patch_size2, patch_size2, patch_depth1, patch_depth2], stddev=0.1))
b2 = tf.variable(tf.constant(1.0, shape=[patch_depth2]))
w3 = tf.variable(tf.truncated_normal([patch_size3, patch_size3, patch_depth2, patch_depth3], stddev=0.1))
b3 = tf.variable(tf.zeros([patch_depth3]))
w4 = tf.variable(tf.truncated_normal([patch_size4, patch_size4, patch_depth3, patch_depth3], stddev=0.1))
b4 = tf.variable(tf.constant(1.0, shape=[patch_depth3]))
w5 = tf.variable(tf.truncated_normal([patch_size4, patch_size4, patch_depth3, patch_depth3], stddev=0.1))
b5 = tf.variable(tf.zeros([patch_depth3]))
pool_reductions = 3
conv_reductions = 2
no_reductions = pool_reductions + conv_reductions
w6 = tf.variable(tf.truncated_normal([(image_width // 2no_reductions)(image_height // 2no_reductions)patch_depth3, num_hidden1], stddev=0.1))
b6 = tf.variable(tf.constant(1.0, shape = [num_hidden1]))
w7 = tf.variable(tf.truncated_normal([num_hidden1, num_hidden2], stddev=0.1))
b7 = tf.variable(tf.constant(1.0, shape = [num_hidden2]))
w8 = tf.variable(tf.truncated_normal([num_hidden2, num_labels], stddev=0.1))
b8 = tf.variable(tf.constant(1.0, shape = [num_labels]))
variables = {
'w1': w1, 'w2': w2, 'w3': w3, 'w4': w4, 'w5': w5, 'w6': w6, 'w7': w7, 'w8': w8,
'b1': b1, 'b2': b2, 'b3': b3, 'b4': b4, 'b5': b5, 'b6': b6, 'b7': b7, 'b8': b8
}
return variables
def model_alexnet(data, variables):
layer1_conv = tf.nn.conv2d(data, variables['w1'], [1, 4, 4, 1], padding='same')
layer1_relu = tf.nn.relu(layer1_conv + variables['b1'])
layer1_pool = tf.nn.max_pool(layer1_relu, [1, 3, 3, 1], [1, 2, 2, 1], padding='same')
layer1_norm = tf.nn.local_response_normalization(layer1_pool)
layer2_conv = tf.nn.conv2d(layer1_norm, variables['w2'], [1, 1, 1, 1], padding='same')
layer2_relu = tf.nn.relu(layer2_conv + variables['b2'])
layer2_pool = tf.nn.max_pool(layer2_relu, [1, 3, 3, 1], [1, 2, 2, 1], padding='same')
layer2_norm = tf.nn.local_response_normalization(layer2_pool)
layer3_conv = tf.nn.conv2d(layer2_norm, variables['w3'], [1, 1, 1, 1], padding='same')
layer3_relu = tf.nn.relu(layer3_conv + variables['b3'])
layer4_conv = tf.nn.conv2d(layer3_relu, variables['w4'], [1, 1, 1, 1], padding='same')
layer4_relu = tf.nn.relu(layer4_conv + variables['b4'])
layer5_conv = tf.nn.conv2d(layer4_relu, variables['w5'], [1, 1, 1, 1], padding='same')
layer5_relu = tf.nn.relu(layer5_conv + variables['b5'])
layer5_pool = tf.nn.max_pool(layer4_relu, [1, 3, 3, 1], [1, 2, 2, 1], padding='same')
layer5_norm = tf.nn.local_response_normalization(layer5_pool)
flat_layer = flatten_tf_array(layer5_norm)
layer6_fccd = tf.matmul(flat_layer, variables['w6']) + variables['b6']
layer6_tanh = tf.tanh(layer6_fccd)
layer6_drop = tf.nn.dropout(layer6_tanh, 0.5)
layer7_fccd = tf.matmul(layer6_drop, variables['w7']) + variables['b7']
layer7_tanh = tf.tanh(layer7_fccd)
layer7_drop = tf.nn.dropout(layer7_tanh, 0.5)
logits = tf.matmul(layer7_drop, variables['w8']) + variables['b8']
return logits
现在我们可以修改cnn模型来使用alexnet模型的权重和层次来对图像进行分类。
3.2 vgg net-16
vgg net于2014年由牛津大学的karen simonyan和andrew zisserman创建出来。 它包含了更多的层（16-19层），但是每一层的设计更为简单；所有卷积层都具有3×3以及步长为3的过滤器，并且所有最大池化层的步长都为2。
所以它是一个更深的cnn，但更简单。
它存在不同的配置，16层或19层。 这两种不同配置之间的区别是在第2，第3和第4最大池化层之后对3或4个卷积层的使用（见下文）。
配置为16层（配置d）的结果似乎更好，所以我们试着在tensorflow中创建它。
#the vggnet neural network
vgg16_patch_size_1, vgg16_patch_size_2, vgg16_patch_size_3, vgg16_patch_size_4 = 3, 3, 3, 3
vgg16_patch_depth_1, vgg16_patch_depth_2, vgg16_patch_depth_3, vgg16_patch_depth_4 = 64, 128, 256, 512
vgg16_num_hidden_1, vgg16_num_hidden_2 = 4096, 1000
def variables_vggnet16(patch_size1 = vgg16_patch_size_1, patch_size2 = vgg16_patch_size_2,
patch_size3 = vgg16_patch_size_3, patch_size4 = vgg16_patch_size_4,
patch_depth1 = vgg16_patch_depth_1, patch_depth2 = vgg16_patch_depth_2,
patch_depth3 = vgg16_patch_depth_3, patch_depth4 = vgg16_patch_depth_4,
num_hidden1 = vgg16_num_hidden_1, num_hidden2 = vgg16_num_hidden_2,
image_width = 224, image_height = 224, image_depth = 3, num_labels = 17):
w1 = tf.variable(tf.truncated_normal([patch_size1, patch_size1, image_depth, patch_depth1], stddev=0.1))
b1 = tf.variable(tf.zeros([patch_depth1]))
w2 = tf.variable(tf.truncated_normal([patch_size1, patch_size1, patch_depth1, patch_depth1], stddev=0.1))
b2 = tf.variable(tf.constant(1.0, shape=[patch_depth1]))
w3 = tf.variable(tf.truncated_normal([patch_size2, patch_size2, patch_depth1, patch_depth2], stddev=0.1))
b3 = tf.variable(tf.constant(1.0, shape = [patch_depth2]))
w4 = tf.variable(tf.truncated_normal([patch_size2, patch_size2, patch_depth2, patch_depth2], stddev=0.1))
b4 = tf.variable(tf.constant(1.0, shape = [patch_depth2]))
w5 = tf.variable(tf.truncated_normal([patch_size3, patch_size3, patch_depth2, patch_depth3], stddev=0.1))
b5 = tf.variable(tf.constant(1.0, shape = [patch_depth3]))
w6 = tf.variable(tf.truncated_normal([patch_size3, patch_size3, patch_depth3, patch_depth3], stddev=0.1))
b6 = tf.variable(tf.constant(1.0, shape = [patch_depth3]))
w7 = tf.variable(tf.truncated_normal([patch_size3, patch_size3, patch_depth3, patch_depth3], stddev=0.1))
b7 = tf.variable(tf.constant(1.0, shape=[patch_depth3]))
w8 = tf.variable(tf.truncated_normal([patch_size4, patch_size4, patch_depth3, patch_depth4], stddev=0.1))
b8 = tf.variable(tf.constant(1.0, shape = [patch_depth4]))
w9 = tf.variable(tf.truncated_normal([patch_size4, patch_size4, patch_depth4, patch_depth4], stddev=0.1))
b9 = tf.variable(tf.constant(1.0, shape = [patch_depth4]))
w10 = tf.variable(tf.truncated_normal([patch_size4, patch_size4, patch_depth4, patch_depth4], stddev=0.1))
b10 = tf.variable(tf.constant(1.0, shape = [patch_depth4]))
w11 = tf.variable(tf.truncated_normal([patch_size4, patch_size4, patch_depth4, patch_depth4], stddev=0.1))
b11 = tf.variable(tf.constant(1.0, shape = [patch_depth4]))
w12 = tf.variable(tf.truncated_normal([patch_size4, patch_size4, patch_depth4, patch_depth4], stddev=0.1))
b12 = tf.variable(tf.constant(1.0, shape=[patch_depth4]))
w13 = tf.variable(tf.truncated_normal([patch_size4, patch_size4, patch_depth4, patch_depth4], stddev=0.1))
b13 = tf.variable(tf.constant(1.0, shape = [patch_depth4]))
no_pooling_layers = 5
w14 = tf.variable(tf.truncated_normal([(image_width // (2no_pooling_layers))(image_height // (2no_pooling_layers))patch_depth4 , num_hidden1], stddev=0.1))
b14 = tf.variable(tf.constant(1.0, shape = [num_hidden1]))
w15 = tf.variable(tf.truncated_normal([num_hidden1, num_hidden2], stddev=0.1))
b15 = tf.variable(tf.constant(1.0, shape = [num_hidden2]))
w16 = tf.variable(tf.truncated_normal([num_hidden2, num_labels], stddev=0.1))
b16 = tf.variable(tf.constant(1.0, shape = [num_labels]))
variables = {
'w1': w1, 'w2': w2, 'w3': w3, 'w4': w4, 'w5': w5, 'w6': w6, 'w7': w7, 'w8': w8, 'w9': w9, 'w10': w10,
'w11': w11, 'w12': w12, 'w13': w13, 'w14': w14, 'w15': w15, 'w16': w16,
'b1': b1, 'b2': b2, 'b3': b3, 'b4': b4, 'b5': b5, 'b6': b6, 'b7': b7, 'b8': b8, 'b9': b9, 'b10': b10,
'b11': b11, 'b12': b12, 'b13': b13, 'b14': b14, 'b15': b15, 'b16': b16
}
return variables
def model_vggnet16(data, variables):
layer1_conv = tf.nn.conv2d(data, variables['w1'], [1, 1, 1, 1], padding='same')
layer1_actv = tf.nn.relu(layer1_conv + variables['b1'])
layer2_conv = tf.nn.conv2d(layer1_actv, variables['w2'], [1, 1, 1, 1], padding='same')
layer2_actv = tf.nn.relu(layer2_conv + variables['b2'])
layer2_pool = tf.nn.max_pool(layer2_actv, [1, 2, 2, 1], [1, 2, 2, 1], padding='same')
layer3_conv = tf.nn.conv2d(layer2_pool, variables['w3'], [1, 1, 1, 1], padding='same')
layer3_actv = tf.nn.relu(layer3_conv + variables['b3'])
layer4_conv = tf.nn.conv2d(layer3_actv, variables['w4'], [1, 1, 1, 1], padding='same')
layer4_actv = tf.nn.relu(layer4_conv + variables['b4'])
layer4_pool = tf.nn.max_pool(layer4_pool, [1, 2, 2, 1], [1, 2, 2, 1], padding='same')
layer5_conv = tf.nn.conv2d(layer4_pool, variables['w5'], [1, 1, 1, 1], padding='same')
layer5_actv = tf.nn.relu(layer5_conv + variables['b5'])
layer6_conv = tf.nn.conv2d(layer5_actv, variables['w6'], [1, 1, 1, 1], padding='same')
layer6_actv = tf.nn.relu(layer6_conv + variables['b6'])
layer7_conv = tf.nn.conv2d(layer6_actv, variables['w7'], [1, 1, 1, 1], padding='same')
layer7_actv = tf.nn.relu(layer7_conv + variables['b7'])
layer7_pool = tf.nn.max_pool(layer7_actv, [1, 2, 2, 1], [1, 2, 2, 1], padding='same')
layer8_conv = tf.nn.conv2d(layer7_pool, variables['w8'], [1, 1, 1, 1], padding='same')
layer8_actv = tf.nn.relu(layer8_conv + variables['b8'])
layer9_conv = tf.nn.conv2d(layer8_actv, variables['w9'], [1, 1, 1, 1], padding='same')
layer9_actv = tf.nn.relu(layer9_conv + variables['b9'])
layer10_conv = tf.nn.conv2d(layer9_actv, variables['w10'], [1, 1, 1, 1], padding='same')
layer10_actv = tf.nn.relu(layer10_conv + variables['b10'])
layer10_pool = tf.nn.max_pool(layer10_actv, [1, 2, 2, 1], [1, 2, 2, 1], padding='same')
layer11_conv = tf.nn.conv2d(layer10_pool, variables['w11'], [1, 1, 1, 1], padding='same')
layer11_actv = tf.nn.relu(layer11_conv + variables['b11'])
layer12_conv = tf.nn.conv2d(layer11_actv, variables['w12'], [1, 1, 1, 1], padding='same')
layer12_actv = tf.nn.relu(layer12_conv + variables['b12'])
layer13_conv = tf.nn.conv2d(layer12_actv, variables['w13'], [1, 1, 1, 1], padding='same')
layer13_actv = tf.nn.relu(layer13_conv + variables['b13'])
layer13_pool = tf.nn.max_pool(layer13_actv, [1, 2, 2, 1], [1, 2, 2, 1], padding='same')
flat_layer = flatten_tf_array(layer13_pool)
layer14_fccd = tf.matmul(flat_layer, variables['w14']) + variables['b14']
layer14_actv = tf.nn.relu(layer14_fccd)
layer14_drop = tf.nn.dropout(layer14_actv, 0.5)
layer15_fccd = tf.matmul(layer14_drop, variables['w15']) + variables['b15']
layer15_actv = tf.nn.relu(layer15_fccd)
layer15_drop = tf.nn.dropout(layer15_actv, 0.5)
logits = tf.matmul(layer15_drop, variables['w16']) + variables['b16']
return logits
3.3 alexnet 性能
作为比较，看一下对包含了较大图片的oxflower17数据集的lenet5 cnn性能：
4. 结语 相关代码可以在我的github库中获得，因此可以随意在自己的数据集上使用它。
在深度学习的世界中还有更多的知识可以去探索：循环神经网络、基于区域的cnn、gan、加强学习等等。在未来的博客文章中，我将构建这些类型的神经网络，并基于我们已经学到的知识构建更有意思的应用程序。
文章为简译，更为详细的内容，请查看原文
文章转载自： https://yq.aliyun.com/articles/178374?spm=5176.100239.blogcont221660.30....
中国广电在武汉雷神山医院成功完成了5G基站安装调试
HNWJB-702微机继电保护测试仪
vivoX20和华为Mate9哪个值得买？vivoX20和华为Mate强强对决
RedmiBook 13全渠道发售 稳居京东十代酷睿轻薄本销量第一
疫情对于视频监控有没有很大的影响
一步一步学用Tensorflow构建卷积神经网络
今年的iPhone将使用A14 Bionic芯片组
电子交通系统联网解决方案
折叠屏：全面屏之后新创意，可折叠的全屏手机
声音的模仿会影响声纹识别吗
三大运营商5G服务的预约用户数量已超1040万而中国移动遥遥领先
Nordic获安富利的“最佳供应商”奖
李强:工业互联网建设需要生态体系支撑
MAX4475-MAX4478/MAX4488/MAX4489低失真运算放大器
知行科技自研的行泊一体域控制器产品如何
关于智能派样机的性能分析和应用介绍
VARL电池性能下降的原因
索尼8K电视Z9G详细解读 足以干翻百万元8K电视
思瑞浦针对工业与通信市场推出高效率、高性能开关电源转换器产品
70寸OLED拼接屏7个主要特点介绍