チラ裏備忘録

情報整理

PyTorch

【内部処理】畳み込みの高速処理を実現する方法

畳み込みをforループを用いずにどのように実装されているのかが気になっていたのですが,調べてみると,どうやらnn.Unfoldというメソッドを使うことで行列演算へと帰着させる方法が存在するようです.そこでnn.Unfoldを用いて畳み込みを実装してみました. …

活性化関数と重みの初期値の関係

『ゼロから作るDeep Learning』を久々に読み返すと,活性化関数と重みの初期値の関係についての記載がありました. 恥ずかしながら初期値についてはあまり意識せず適当に決めていたので,意識付けのためにも,これらの関係について検証を行ってみました(n番…

PyTorchで線形回帰(二次関数)

はじめに PyTorchで単純な線形回帰を行いたいと思います. nn.Linear()を使ってやるのもいいのですが,今回は,重みとバイアス用のTensorを自分で定義する方針で行いました. 色々読み込み import torch import torch.nn as nn import matplotlib.pyplot as …

PyTorchでMNIST

はじめに PyTorchを触ってみました. 試しに,単純なパーセプトロンのみでMNIST分類をやってみます.すべてGoogle Colabの環境で実行しました. Python: 3.6.9 PyTorch: 1.6.0+cu101 色々読み込み import torch, torch.nn as nn, torchvision from torchvisi…