Commit: 47c42744f7cdbefcb9dd7b1c09ee0e27076560c9 - TensorFlow-Sample (git)

TensorFlowサンプルコード

Commit MetaInfo

• Revision: 47c42744f7cdbefcb9dd7b1c09ee0e27076560c9 (tree)
• Time: 2018-01-18 19:22:38
• Author: hylom <hylom@hylo...>
• Commiter: hylom

Log Message

add tensorboard_test5.py

Change Summary

• add: tensorboard/tensorboard_test5.py

Incremental Difference

--- /dev/null
+++ b/tensorboard/tensorboard_test5.py
@@ -0,0 +1,167 @@
+#!/usr/bin/env python
+# -*- coding: utf-8 -*-
+
+import tensorflow as tf
+
+INPUT_SIZE = 15
+W1_SIZE = 15
+OUTPUT_SIZE = 10
+
+with tf.variable_scope('model') as scope:
+
+    # 入力
+    x1 = tf.placeholder(dtype=tf.float32, name="x1")
+    y = tf.placeholder(dtype=tf.float32, name="y")
+
+    # 第2層
+    tf.set_random_seed(1234)
+    W1 = tf.get_variable("W1",
+                         shape=[INPUT_SIZE, W1_SIZE],
+                         dtype=tf.float32,
+                         initializer=tf.random_normal_initializer(stddev=0.05))
+    b1 = tf.get_variable("b1",
+                         shape=[W1_SIZE],
+                         dtype=tf.float32,
+                         initializer=tf.random_normal_initializer(stddev=0.05))
+    x2 = tf.sigmoid(tf.matmul(x1, W1) + b1, name="x2")
+
+    # W1のヒストグラムを記録
+    tf.summary.histogram('W1', W1)
+
+    # 第3層
+    W2 = tf.get_variable("W2",
+                         shape=[W1_SIZE, OUTPUT_SIZE],
+                         dtype=tf.float32,
+                         initializer=tf.random_normal_initializer(stddev=0.05))
+    b2 = tf.get_variable("b2",
+                         shape=[OUTPUT_SIZE],
+                         dtype=tf.float32,
+                         initializer=tf.random_normal_initializer(stddev=0.05))
+    x3 = tf.nn.softmax(tf.matmul(x2, W2) + b2, name="x3")
+    
+    # コスト関数
+    cross_entropy = -tf.reduce_sum(y * tf.log(x3), name="cross_entropy")
+    tf.summary.scalar('cross_entropy', cross_entropy)
+
+    # 正答率
+    correct = tf.equal(tf.argmax(x3,1), tf.argmax(y,1), name="correct")
+    accuracy = tf.reduce_mean(tf.cast(correct, "float"), name="accuracy")
+    tf.summary.scalar('accuracy', accuracy)
+    
+    
+    # 最適化アルゴリズムを定義
+    global_step = tf.Variable(0, name='global_step', trainable=False)
+    optimizer = tf.train.GradientDescentOptimizer(0.01, name="optimizer")
+    minimize = optimizer.minimize(cross_entropy, global_step=global_step, name="minimize")
+
+    # 学習結果を保存するためのオブジェクトを用意
+    saver = tf.train.Saver()
+
+
+with tf.variable_scope('pipeline') as scope:
+    ## データセットを読み込むためのパイプラインを作成する
+    # リーダーオブジェクトを作成する
+    reader = tf.TextLineReader()
+    
+    # 読み込む対象のファイルを格納したキューを作成する
+    file_queue = tf.train.string_input_producer(["digits_data.csv", "test_data.csv"])
+    
+    # キューからデータを読み込む
+    key, value = reader.read(file_queue)
+
+    # 読み込んだCSV型式データをデコードする
+    # [[] for i in range(16)] は
+    # [[], [], [], [], [], [], [], [],
+    #  [], [], [], [], [], [], [], []]に相当
+    data = tf.decode_csv(value, record_defaults=[[] for i in range(16)])
+    
+    # 10件のデータを読み出す
+    # 10件ずつデータを読み出す
+    # 第1カラム（data[0]）はその文字が示す数だが、
+    # ニューラルネットワークの出力は10要素の1次元テンソルとなる。
+    # そのため、10×10の対角行列を作成し、そのdata[0]行目を取り出す操作を行うことで
+    # 1次元テンソルに変換する。dataは浮動小数点小数型なので、このとき
+    # int32型にキャストして使用する
+    data_x, data_y, y_value = tf.train.batch([
+        tf.stack(data[1:]),
+        tf.reshape(tf.slice(tf.eye(10), [tf.cast(data[0], tf.int32), 0], [1, 10]), [10]),
+        tf.cast(data[0], tf.int64),
+    ], 10)
+
+# セッションの作成
+sess = tf.Session()
+
+# 変数の初期化を実行する
+sess.run(tf.global_variables_initializer())
+
+# 学習結果を保存したファイルが存在するかを確認し、
+# 存在していればそれを読み出す
+latest_filename = tf.train.latest_checkpoint("./")
+if latest_filename:
+    print("load saved model {}".format(latest_filename))
+    saver.restore(sess, latest_filename)
+
+# サマリを取得するための処理
+summary_op = tf.summary.merge_all()
+summary_writer = tf.summary.FileWriter('data', graph=sess.graph)
+
+
+# コーディネータの作成
+coord = tf.train.Coordinator()
+
+# キューの開始
+threads = tf.train.start_queue_runners(sess=sess, coord=coord)
+
+# ファイルからのデータの読み出し
+# 1回目のデータ読み込み。1つ目のファイルから10件のデータが読み込まれる
+# 1つ目のファイルには10件のデータがあるので、これで全データが読み込まれる
+dataset_x, dataset_y, values_y = sess.run([data_x, data_y, y_value])
+
+# 2回目のデータ読み込み。1つ目のファイルのデータはすべて読み出したので、
+# 続けて2つ目のファイルから読み込みが行われる。
+testdata_x, testdata_y, testvalues_y = sess.run([data_x, data_y, y_value])
+
+# 学習を開始
+for i in range(100):
+    for j in range(100):
+        _, summary = sess.run([minimize, summary_op], {x1: dataset_x, y: dataset_y})
+    print("CROSS ENTROPY:", sess.run(cross_entropy, {x1: dataset_x, y: dataset_y}))
+    summary_writer.add_summary(summary, global_step=tf.train.global_step(sess, global_step))
+    
+# 結果を保存する
+save_path = saver.save(sess, "./model", global_step=tf.train.global_step(sess, global_step))
+print("Model saved to {}".format(save_path))
+
+## 結果の出力
+# 出力テンソルの中でもっとも値が大きいもののインデックスが
+# 正答と等しいかどうかを計算する
+y_value = tf.placeholder(dtype=tf.int64)
+correct = tf.equal(tf.argmax(x3,1), y_value)
+accuracy = tf.reduce_mean(tf.cast(correct, "float"))
+
+# 学習に使用したデータを入力した場合の
+# ニューラルネットワークの出力を表示
+print("----result----")
+print("raw output:")
+print(sess.run(x3,feed_dict={x1: dataset_x}))
+print("answers:", sess.run(tf.argmax(x3, 1), feed_dict={x1: dataset_x}))
+
+# このときの正答率を出力
+print("accuracy:", sess.run(accuracy, feed_dict={x1: dataset_x, y_value: values_y}))
+        
+
+# テスト用データを入力した場合の
+# ニューラルネットワークの出力を表示
+print("----test----")
+print("raw output:")
+print(sess.run(x3,feed_dict={x1: testdata_x}))
+print("answers:", sess.run(tf.argmax(x3, 1), feed_dict={x1: testdata_x}))
+
+# このときの正答率を出力
+print("accuracy:", sess.run(accuracy, feed_dict={x1: testdata_x, y_value: testvalues_y}))
+
+
+
+# キューの終了
+coord.request_stop()
+coord.join(threads)