Re:ゼロから始めるML生活

機械学習ド素人が、流行に乗ってニューラルネットとかその他いろいろ勉強してみるブログ

【論文メモ:InfoGAN】InfoGAN: Interpretable Representation Learning by Information Maximizing Generative Adversarial Nets

論文 著者 背景 目的とアプローチ 目的 アプローチ Information Maximizing Generative Adversarial Networks (InfoGAN) GANの原理 潜在変数を含む相互情報 評価 収束の効率化 表現力に関する評価 結論 感想 論文 https://arxiv.org/abs/1606.03657 著者 Xi …

【論文メモ:DiscoGAN】Learning to Discover Cross-Domain Relations with Generative Adversarial Networks

論文 著者 背景 目的とアプローチ 目的 アプローチ 提案手法 DiscoGAN ネットワーク設計 Loss Generative Adversarial Loss Reconstruction Loss 評価 単純評価 実画像の評価 CAR to CAR FACE to FACE 多数の特徴が共通する場合の変換 完全に別のものを角度…

GCPでPyTorch(GPU)を使えるようにするまでにやったことのメモ

だいぶ期間が空いてしまいましたが、結構前にGoogle Cloud Platformの使い方を勉強していました。 (別に諦めてたわけではなく、単純にAWSでいろいろやることがあったので、そっちを使ってただけです) tsunotsuno.hatenablog.com 当初の目的としては、GPUを使…

tensorboardXを使っていろいろ眺めてみる

前回はtensorboardX導入までして、なんとなく動いてそうなことを確認しました。 tsunotsuno.hatenablog.com 今回はもうちょっといじくり回して見たいと思います。

tensorboardXの導入メモ

最近PyTorchを勉強中なんですが、TensorFlowっぽくstatsを確認したいと思い始めました。 TensorBoard自体は結構便利なので、そのまま使えたら良いなーとか思って探してみたらこんなのありました。 qiita.com なるほどtensorboardXなるものがあるんですね。 g…

【論文メモ:AttnGAN】AttnGAN: Fine-Grained Text to Image Generation with Attentional Generative Adversarial Networks

論文 著者 背景 目的とアプローチ 目的 アプローチ 提案手法 AttnGAN Attentional Generative Network Attention Model Loss Deep Attentional Multimodal Similarity Model (DAMSM) Text Encoder Image Encoder Matching score DAMSM loss 評価 評価条件 デ…

PyTorchを使ってみた

最近いろいろ忙しかったのですが、一段落ついたのでまたブログを再開します。 ここのところのディープラーニング界隈では、PyTorchなるものがなんだか流行っている感じがあって、今回はそれを使ってみます。

【論文メモ: Airbnb Pricing Model】Customized Regression Model for Airbnb Dynamic Pricing

こんな記事を見かけました。 honawork.hatenablog.com やべえ、、、めっちゃ面白そう! ってことで、普段はディープラーニング関係しか論文読まないんですが、たまにはこんなのも読んでみました。

【R】時系列分析の覚書(基本、カルマンフィルタ)

前回はウィナーフィルタまでやって力尽きました。 tsunotsuno.hatenablog.com そんなわけで、今回もこちらの本をやっていきます。 基礎からわかる時系列分析 ―Rで実践するカルマンフィルタ・MCMC・粒子フィルター (Data Science Library)作者: 萩原淳一郎,瓜…

【R】時系列分析の覚書(基本、ウィナーフィルタ)

前回に引き続き、こちらの本をやっていきます。 基礎からわかる時系列分析 ―Rで実践するカルマンフィルタ・MCMC・粒子フィルター (Data Science Library)作者: 萩原淳一郎,瓜生真也,牧山幸史,石田基広出版社/メーカー: 技術評論社発売日: 2018/03/23メディア…

【R】時系列分析の覚書(導入)

こんな本を買ってみたので、エンジニアというよりデータサイエンティストっぽい機械学習の勉強もぼちぼち再開します。 基礎からわかる時系列分析 ―Rで実践するカルマンフィルタ・MCMC・粒子フィルター (Data Science Library)作者: 萩原淳一郎,瓜生真也,牧山…

【論文メモ:HDGAN】Photographic Text-to-Image Synthesis with a Hierarchically-nested Adversarial Network

論文 著者 背景 目的とアプローチ 目的 アプローチ 提案手法 HDGAN Multi-purpose adversarial losses Architecture Design Generator Discriminator 評価 Experimental Setup Dataset Evaluation metric 先行研究との比較 文を書き換えによるstyle transfer…

【論文メモ:PGGAN】Progressive Growing of GANs for Improved Quality, Stability, and Variation

論文 著者 背景 目的とアプローチ 目的 アプローチ 提案手法 PGGAN(Progressive Growing of GANs) ミニバッチ標準偏差を活用した多様性の向上 補足 GeneratorとDiscriminatorの正規化 Equalized learning rate Pixelwise feature vector normalization in …

TensorBoardを使ってみた

今回はTensorFlowのライブラリに付属しているTensorBoardなるものを使って色々可視化してみたいと思います。 参考にさせていただいたのはこちらです。 deepage.net TensorBoard 使い方 手順 具体例 1. プログラム中に可視化用のコードを追加 2. 普通にプログ…

Google Cloud Platformの導入メモ

この前はGoogle Colabを使って見たんですが、どうやらGANをやるには不向きな感じでした。 tsunotsuno.hatenablog.com こうなったら、やはり本家だろうということでGoogle Cloud Platform (GCP)を使って機械学習をやる方法を調べてみました。 参考にさせてい…

Google Colabを使ってみた

ちょっと前にこんなブログが話題になってました。 karaage.hatenadiary.jp 無料でクラウドのGPUを使える日がついに来たようです。 機会学習を始めたころから、すごーく使いたかったんです。 というわけで、使ってみました。 Google Colabとは 使い方 google …

【論文メモ:StackGAN】StackGAN: Text to Photo-realistic Image Synthesis with Stacked Generative Adversarial Networks

論文 著者 背景 目的とアプローチ 目的 アプローチ 提案手法 Stage-Ⅰ GAN その他 補足 Stage-Ⅱ GAN 実装のパラメータ アップサンプリングブロック ダウンサンプリングブロック パラメータ他 評価 データセット 比較対象 評価指標 Inception Score Human Rank…

TensorFlowでの画像の読み書きに関する覚書

これまではサンプルデータセットを使って遊んでおり、オリジナルデータを使い方を知らなかったのでその備忘録です。 今回参考にしたのはこちら。 qiita.com TensorFlowで対応している画像種類 画像データの読み込み 画像データの書き出し サンプルコード Ten…

【論文メモ:CycleGAN】Unpaired Image-to-Image Translation using Cycle-Consistent Adversarial Networks

論文 著者 背景 目的とアプローチ 目的 アプローチ 提案手法 学習プロセス 補足 Adversarial Loss Cycle Consistency Loss 実装 ネットワーク構造 その他 評価 評価指標 AMT perceptual studies FCN score Semantic segmentation metrics 比較対象 先行研究…

【論文メモ:BEGAN】BEGAN: Boundary Equilibrium Generative Adversarial Networks

論文 著者 背景 目的とアプローチ 提案手法 収束の測定 補足 評価 結論 実装 実行結果 i = 0 i = 2000 × 20 i = 2000 × 40 i = 2000 × 60 i = 2000 × 80 i = 2000 × 100 i = 2000 × 120 i = 2000 × 140 i = 2000 × 160 i = 2000 × 180 i = 2000 × 200 i = 20…

CIFAR-10に関する覚書

ニューラルネットワーク(最近は主にGAN)について絶賛勉強中ではありますが、実際に書いてみるといろんなデータセットを使うことになります。 今回はその中でもCIFAR-10についての覚書です。 参考にしたのはこちら。 aidiary.hatenablog.com CIFAR-10 内容 …

【論文メモ:DCGAN】Unsupervised Representation Learning with Deep Convolutional Generative Adversarial Networks

論文 著者 背景 目的とアプローチ 目的 アプローチ 提案手法 ネットワーク構成 その他 初期化 LeakyReLU 最適化 評価 CIFER-10 SVHN Discriminator Generator 実装 実行結果 i=0 i=5 i=55 i=109 感想 論文 [1511.06434] Unsupervised Representation Learnin…

【写経】TensorFlowを使ったCGANの実装

前回はとりあえずTensorFlowを使ってGANを書くところをやってみました。 tsunotsuno.hatenablog.com 今回もこちらの本を参考にGANの別のモデルをやってみます。 https://www.amazon.co.jp/Learning-Generative-Adversarial-Networks-Ganguly/dp/1788396413 …

【写経】TesnorFlowを使ったGANの実装

最近は年度末が近づいたのもあって、なかなかブログを更新できていませんでしたが、少しずつ書いていきます。 前回は雑でもなんでもGANの仕組みを理解しようということで、numpyだけでGANを書いていました。 まともに動かなかったけど。。。 tsunotsuno.hate…

簡易版のGANを書いてみた

この前はCNNを書いてみました。 tsunotsuno.hatenablog.com 今回はちょっぴりCNNの応用のGANってやつをやってみます。 今回参考にさせていただいたのはこちら。 elix-tech.github.io めちゃくちゃ分かりやすかったです。 ありがとうございます。 こういうい…

TensorFlowを使ってみた

昨年のうちにTensorFlowのインストールとニューラルネットワークの基礎理論の勉強はしました。 tsunotsuno.hatenablog.com tsunotsuno.hatenablog.com 基礎理論の勉強のためには、やっぱり自分で書いてみるのが一番いいので、これまでは特に便利ライブラリは…

【写経】簡単なCNNを書いてみた

前回までは基本的なニューラルネットワークを勉強していました。 tsunotsuno.hatenablog.com 急に難しいことはできないので、次はCNNをやってみたいと思います。 今回も参考にしたのはこちらです。 ゼロから作るDeep Learning ―Pythonで学ぶディープラーニン…

【写経】ニューラルネットワークについて勉強してみた

この前は、ニューラルネットワークのふわっとした概要だけ勉強しました。 tsunotsuno.hatenablog.com 勉強してた本はこちら。 bookmeter.com 正直、勉強している本の著者が書いたコードがgithubにあるのでやる気はなかったのですが、 最初のうちは馬鹿正直に…

Rではじめる機械学習 第3章 クラスタリング分析の3つの手法でデータを分類

R

前回に引き続きRの勉強を進めていました。 tsunotsuno.hatenablog.com 今回は教師なし学習の「クラスタリング」について取り扱いました。クラスタリングとは、与えられたデータを特定のルールに基づいてグループ化していくことです。 使用したデータはこちら…

Rではじめる機械学習 第2章 回帰分析で目的変数の値や発生確率を予測

R

前回に引き続き、本日は2章をまとめます。 tsunotsuno.hatenablog.com 機会学習には大きく分けて教師あり学習/教師なし学習がありますが、 回帰分析は教師あり学習に該当します。 下図は最近の各日付の日経平均株価の終値を示しています。 データはこちらか…