こんにちは。GWいかがお過ごしでしょうか？私はここぞとばかりにブログを更新するぞ！と躍起になっております。何か深く学ぶのにじっくり時間をかけられるので、連休を有意義に過ごしたいものですね。さてRNNの発展形とされているLSTMについて実装してみまし…

皆様こんにちは。 新年度が始まりましたがいかがお過ごしでしょうか？ 私は3月入ってから本業のみならず副業や家事育児に忙殺されてほぼ休みがない日々を過ごしております（現在進行形）。 前回のRNNで、活性化関数がtanhやReLuよりも予測結果が悪かった件に…

こんにちは。 前回PyTorchを使ってRNNを実装してみました。 せっかく活性化関数を変更できるようになったので、今回は実験編ということで、活性化関数による精度や処理時間の違いを見ていきたいと思います。

それではさっそく続きをやっていきます。 RNN.py dataset.py train.py 学習結果 まとめ 前回のソースコードも含めますが、「class RNNModel」というところから解説していきます。

あけましておめでとうございます。 本年も変わらず技術ブログを書いていきますので、よろしくお願いします。 さて前回のブログでTransformerを理解したいという目標を話しました。 で、論文やらqiitaを読んで理解しようとしましたが・・・ よくわかりません…