Saver的用法

原創

不负韶华T

2020-02-22 16:52

1. Saver的背景介紹

我們經常在訓練完一個模型之後希望保存訓練的結果，這些結果指的是模型的參數，以便下次迭代的訓練或者用作測試。Tensorflow針對這一需求提供了Saver類。

Saver類提供了向checkpoints文件保存和從checkpoints文件中恢復變量的相關方法。Checkpoints文件是一個二進制文件，它把變量名映射到對應的tensor值。
只要提供一個計數器，當計數器觸發時，Saver類可以自動的生成checkpoint文件。這讓我們可以在訓練過程中保存多箇中間結果。例如，我們可以保存每一步訓練的結果。
爲了避免填滿整個磁盤，Saver可以自動的管理Checkpoints文件。例如，我們可以指定保存最近的N個Checkpoints文件。

2. Saver的實例

下面以一個例子來講述如何使用Saver類

[python]view
plain copy

import tensorflow as tf  

import numpy as np  

x = tf.placeholder(tf.float32, shape=[None, 1])  

y = 4 * x + 4  

w = tf.Variable(tf.random_normal([1], -1, 1))  

b = tf.Variable(tf.zeros([1]))  

y_predict = w * x + b  

loss = tf.reduce_mean(tf.square(y - y_predict))  

optimizer = tf.train.GradientDescentOptimizer(0.5)  

train = optimizer.minimize(loss)  

isTrain = False  

train_steps = 100  

checkpoint_steps = 50  

checkpoint_dir = ''  

saver = tf.train.Saver()  # defaults to saving all variables - in this case w and b  

x_data = np.reshape(np.random.rand(10).astype(np.float32), (10, 1))  

with tf.Session() as sess:  

    sess.run(tf.initialize_all_variables())  

    if isTrain:  

        for i in xrange(train_steps):  

            sess.run(train, feed_dict={x: x_data})  

            if (i + 1) % checkpoint_steps == 0:  

                saver.save(sess, checkpoint_dir + 'model.ckpt', global_step=i+1)  

    else:  

        ckpt = tf.train.get_checkpoint_state(checkpoint_dir)  

        if ckpt and ckpt.model_checkpoint_path:  

            saver.restore(sess, ckpt.model_checkpoint_path)  

        else:  

            pass  

        print(sess.run(w))  

        print(sess.run(b))

isTrain：用來區分訓練階段和測試階段，True表示訓練，False表示測試
train_steps：表示訓練的次數，例子中使用100
checkpoint_steps：表示訓練多少次保存一下checkpoints，例子中使用50
checkpoint_dir：表示checkpoints文件的保存路徑，例子中使用當前路徑