Re:ゼロから始めるML生活

機械学習ド素人が、流行に乗ってニューラルネットとかその他いろいろ勉強してみるブログ

自然言語処理で遊んでみる(その2:テキストデータの解析)

この前はこんなことをやっていました。

tsunotsuno.hatenablog.com

今回は実際に溜め込んだデータを見ていきます。 今回も参考にしたのはこちらの本です。

Pythonで動かして学ぶ 自然言語処理入門

Pythonで動かして学ぶ 自然言語処理入門

初心者の私にも非常にわかりやすくて大変助かります。

続きを読む

自然言語処理で遊んでみる(その1:テキストデータの準備)

この前までは、ディープラーニングという切り口で自然言語処理を勉強していました。

tsunotsuno.hatenablog.com

しかし、自然言語処理はもっと多くのタスクをカバーする学問分野で、必ずしもディープラーニングが出てくるとは限りません。 そんなわけで、今回はピュアな自然言語処理の初心者として勉強していきます。

参考にさせていただいたのはこちら。

Pythonで動かして学ぶ 自然言語処理入門

Pythonで動かして学ぶ 自然言語処理入門

基本的にはこの本の内容に沿ってやっていきますが、ツールとかを切り替えて自分専用のツールとして遊んでいきたいと思います。

続きを読む

自然言語処理について勉強してみた(その5:Seq2Seq・Attention)

この前はLSTMについて勉強してみました。

tsunotsuno.hatenablog.com

今回はもうちょっと進んで、seq2seqとAttentionを見ていきます。

今回も参考にしたのはこちらの本です。

ゼロから作るDeep Learning ? ―自然言語処理編

ゼロから作るDeep Learning ? ―自然言語処理編

今回もPytorchのチュートリアルがあるので、実装はPytorchを使って見ていきたいと思います。

pytorch.org

この辺になるともう結構難しい内容ですが、これでこの本も終わりなので、頑張ってやっていきたいと思います。

続きを読む

自然言語処理について勉強してみた(その4:LSTM)

この前は基本的なRNNの仕組みについて勉強していました。

tsunotsuno.hatenablog.com

今回は、現在RNNの中でも代表的なモデルの一つであるLSTMについて勉強します。

今回も参考にしたのはこちらの本です。

ゼロから作るDeep Learning ? ―自然言語処理編

ゼロから作るDeep Learning ? ―自然言語処理編

毎回のことながら、今回も非常にわかりやすかったです。

今回もpytorchを使って、楽して実装を眺めながら勉強していきます。

続きを読む

自然言語処理について勉強してみた(その3:RNN)

この前はword2vecの勉強をしていました。

tsunotsuno.hatenablog.com

今回はもうちょっと突っ込んだRNN (Recurrent Neural Networks)について勉強してみます。

参考にしたのはこちら。

ゼロから作るDeep Learning ? ―自然言語処理編

ゼロから作るDeep Learning ? ―自然言語処理編

細かい内容は上の本をご参照下さい。 ホントにわかりやすいので。

今回の内容辺りからややこしい話になってくるので、実装もいれつつ勉強していきます。 現場でライブラリなしで使うことなんてありえないですし、理論は上の本の写経で勉強すればよいかと。 今回はpytorchの実装を見ながらやってみます。

pytorch.org

pytorch.org

続きを読む

word2vecを使って単語の共起性を可視化してみる

最近突然、自然言語処理の勉強を始めたきっかけは、こちらの記事を拝見したからです。

karaage.hatenadiary.jp

こういうコンピュータ・サイエンスっぽい絵を作りたくて作りたくて…(泣)

というわけで、今回は共起ネットワークを作ってみました。

基本的に上の記事をなぞって勉強していきます。

続きを読む

自然言語処理について勉強してみた(その2:word2vec)

この前は自然言語処理の基本を勉強していました。

tsunotsuno.hatenablog.com

今回は、今どきの自然言語処理で普通に使われているword2vecについて勉強していきます。

今回もこちらの本を使って勉強しました。

ゼロから作るDeep Learning ? ―自然言語処理編

ゼロから作るDeep Learning ? ―自然言語処理編

細かい数式や概念については、上の本をぜひご参照ください。めちゃくちゃ分かりやすいので。

続きを読む