TensorFlow2を触ってみる

posted at

しょっぱなから補完が効かないとかハマったわけですが、TensorFlowを触り始めました。
過去に使っていたことがあるのですが、1.0より前のころだったので、kerasとかeagerとか戸惑いまくりです。

そんなわけで、しばらくは昔の記憶でTensorFlowを触って試行錯誤したり、VSCodeの設定をいじったり、といったメモ書きが続くと思います。

コメント

コメントを投稿

このブログの人気の投稿

TensorFlow2:TensorBoardのグラフがうまく表示されず困った件

posted at
イメージ
前回は、kerasのsummaryなどでグラフの可視化をしましたが、今回はTensorboardのグラフを使ってみます。 使用するモデルは、 TensorFlow2:MNISTやってみる（keras model class） で作成したものです。 1.xのときと違って、Summaryを保存するだけではグラフは出力されないようです。 ということで、変更を加えて出力してみたけど、うまく動かなかったり、いまいちきれいに出なかったという話。 Reference: Examining the TensorFlow Graph グラフ出力のための変更 紆余曲折が長いので、まずは最終的な形を記載します。 今回はsubclassedなモデルで、 model.fit() は使用していないので、 Graphs of tf.functions セクションで記載のある方法を試す。 計算開始時に tf.summary.trace_on(graph=True) を呼び、終了時に tf.summary.trace_export() を呼ぶ。 注意点としては、 trace_export() は、 writer.as_default() のブロック内で呼び出す必要がある。 必然的に、SummaryWriterのインスタンスが必要になる（Writerが書き出すファイル内にグラフが入るので、当たり前かもしれないが一応）。 以下の「# !!! ADD」コメント部分が追加した箇所。 def training(model, optimizer, epochs, ds_train, ds_test, logdir=None): # ...skip writer = tf.summary.create_noop_writer() if logdir: logdir.mkdir(parents=True, exist_ok=True) writer = tf.summary.create_file_writer(str(logdir)) global_step = 1 tf.summary.trace_on(graph=True) # !!! ADD for epoch in range(1, epochs...
続きを読む

TensorFlow2:ログディレクトリ指定時のみSummaryを保存する

posted at
ちょっと動かすときはログを保存せず、学習時はログを保存する、みたいな切替をやりたくなる。 けど、summary記録箇所全部にif文入れるのはなぁというときの対処。 なにもしないnoop_writerが使える。 サンプルコード def run ( epochs , logdir = None ) : writer = tf . summary . create_noop_writer ( ) if logdir : writer = tf . summary . create_file_writer ( logdir ) for epoch in range ( epochs ) : loss = step_train ( ) with writer . as_default ( ) : # do nothing if writer is noop_writer. tf . summary . scalar ( "train_loss" , loss , epoch ) writer . close ( ) ちょっと記述が減って素敵。
続きを読む

TensorFlow2:kerasの継承モデルのSummaryを表示する

posted at
イメージ
前回のMNISTモデル で summary() を呼び出してモデル構造を見ようと思ったエラーになったので調べた件。 （kerasは使ってなかったけど、パラメータ数とか出してくれるのは羨ましかったのよね） build() や call() を実行してモデルを構築すると出力されるようになる。 以下詳細。 エラーの内容 以下のようなコードを書くとエラーが出る。 class MyModel(tfk.Model): def __init__(self): super(MyModel, self).__init__() self.conv1 = tfkl.Conv2D(32, 3, padding="same", activation="relu", use_bias=True, name="conv1") # ... skip def call(self, inputs, training=False): x = self.conv1(inputs) # ... skip return self.d2(x) model = MyModel() model.summary() # this will error occored ValueError: This model has not yet been built. Build the model first by calling `build()` or calling `fit()` with some data, or specify an `input_shape` argument in the first layer(s) for automatic build.` 対策（１） エラーメッセージに素直に従って、 build() を呼び出してみる。 model = MyModel() model.build((None, 28, 28, 1)) # build with input shape. model.summary()...
続きを読む