最近在研究tensorflow自帶的例程speech_command,順便學習tensorflow的一些基本用法。
其中tensorboard 作為一款可視化神器,可以說是學習tensorflow時模型訓練以及參數(shù)可視化的法寶。
而在訓練過程中,主要用到了tf.summary()的各類方法,能夠保存訓練過程以及參數(shù)分布圖并在tensorboard顯示。
tf.summary有諸多函數(shù):
1、tf.summary.scalar
用來顯示標量信息,其格式為:
1
|
tf.summary.scalar(tags, values, collections = None , name = None ) |
例如:tf.summary.scalar('mean', mean)
一般在畫loss,accuary時會用到這個函數(shù)。
2、tf.summary.histogram
用來顯示直方圖信息,其格式為:
1
|
tf.summary.histogram(tags, values, collections = None , name = None ) |
例如: tf.summary.histogram('histogram', var)
一般用來顯示訓練過程中變量的分布情況
3、tf.summary.distribution
分布圖,一般用于顯示weights分布
4、tf.summary.text
可以將文本類型的數(shù)據(jù)轉換為tensor寫入summary中:
例如:
1
2
|
text = """/a/b/c\\_d/f\\_g\\_h\\_2017""" summary_op0 = tf.summary.text( 'text' , tf.convert_to_tensor(text)) |
5、tf.summary.image
輸出帶圖像的probuf,匯總數(shù)據(jù)的圖像的的形式如下: ' tag /image/0', ' tag /image/1'...,如:input/image/0等。
格式:tf.summary.image(tag, tensor, max_images=3, collections=None, name=Non
6、tf.summary.audio
展示訓練過程中記錄的音頻
7、tf.summary.merge_all
merge_all 可以將所有summary全部保存到磁盤,以便tensorboard顯示。如果沒有特殊要求,一般用這一句就可一顯示訓練時的各種信息了。
格式:tf.summaries.merge_all(key='summaries')
8、tf.summary.FileWriter
指定一個文件用來保存圖。
格式:tf.summary.FileWritter(path,sess.graph)
可以調用其add_summary()方法將訓練過程數(shù)據(jù)保存在filewriter指定的文件中
Tensorflow Summary 用法示例:
1
2
3
4
5
6
7
|
tf.summary.scalar( 'accuracy' ,acc) #生成準確率標量圖 merge_summary = tf.summary.merge_all() train_writer = tf.summary.FileWriter( dir ,sess.graph) #定義一個寫入summary的目標文件,dir為寫入文件地址 ......(交叉熵、優(yōu)化器等定義) for step in xrange (training_step): #訓練循環(huán) train_summary = sess.run(merge_summary,feed_dict = {...}) #調用sess.run運行圖,生成一步的訓練過程數(shù)據(jù) train_writer.add_summary(train_summary,step) #調用train_writer的add_summary方法將訓練過程以及訓練步數(shù)保存 |
此時開啟tensorborad:
1
|
tensorboard - - logdir = / summary_dir |
便能看見accuracy曲線了。
另外,如果我不想保存所有定義的summary信息,也可以用tf.summary.merge方法有選擇性地保存信息:
9、tf.summary.merge
格式:tf.summary.merge(inputs, collections=None, name=None)
一般選擇要保存的信息還需要用到tf.get_collection()函數(shù)
示例:
1
2
3
4
5
6
7
|
tf.summary.scalar( 'accuracy' ,acc) #生成準確率標量圖 merge_summary = tf.summary.merge([tf.get_collection(tf.GraphKeys.SUMMARIES, 'accuracy' ),...(其他要顯示的信息)]) train_writer = tf.summary.FileWriter( dir ,sess.graph) #定義一個寫入summary的目標文件,dir為寫入文件地址 ......(交叉熵、優(yōu)化器等定義) for step in xrange (training_step): #訓練循環(huán) train_summary = sess.run(merge_summary,feed_dict = {...}) #調用sess.run運行圖,生成一步的訓練過程數(shù)據(jù) train_writer.add_summary(train_summary,step) #調用train_writer的add_summary方法將訓練過程以及訓練步數(shù)保存 |
使用tf.get_collection函數(shù)篩選圖中summary信息中的accuracy信息,這里的
tf.GraphKeys.SUMMARIES 是summary在collection中的標志。
當然,也可以直接:
1
2
|
acc_summary = tf.summary.scalar( 'accuracy' ,acc) #生成準確率標量圖 merge_summary = tf.summary.merge([acc_summary ,...(其他要顯示的信息)]) #這里的[]不可省 |
如果要在tensorboard中畫多個數(shù)據(jù)圖,需定義多個tf.summary.FileWriter并重復上述過程。
以上就是本文的全部內容,希望對大家的學習有所幫助,也希望大家多多支持服務器之家。
原文鏈接:https://www.cnblogs.com/lyc-seu/p/8647792.html