NVIDIA Dockerをインストールする

今回購入した NVIDIA A5000#

ああ…A5000を購入した。自然言語処理をやってみたくて購入した。購入価格は325だったか、335だったか……。

とにかく問題なくサーバー機にインストール完了！以前は何も分からず、ばかみたいにRadeonのものを買ってしまったけれど……こういう機械学習やディープラーニングの分野では、何が何でも（？）NVIDIAみたいだ。

さて……それでは、どうやってインストールするのか確認してみよう。

ここを見ればいい。とてもすっきりしている。すごくいい。

nvidia-smi

とてもきちんとインストールできた。A5000もちゃんと表示されている！！

それでは、今度はこれをDockerにインストールしないといけないのだが……。

ああ……ここを見ればいい……難しいことは何もない。

これだけ見ればいい。いろいろ調べてみたけれど、ここほど分かりやすいところはほかにない。

さて……これでインストールは終わりだ……。

私は現在、huggingfaceからモデルをダウンロードして使っている。FastAPIを使って、API経由で通信して受け取っている。

まず、PythonでFastAPIはものすごく速いと紹介されているけれど、もっと重要なのはjupyter notebookだ。

その理由は……はあ……モデルを一度読み込むのに3～4分かかるのに、Pythonを実行するたび（コードを変更したあと）に、その時間がかかってしまうからだ……。

でも、Jupyter Notebookをインストールして使えば、プロセス上に載せたまま使えるので、つまり、コードを修正した内容をすぐに確認できるというメリットがある。

最初は何も分からず、毎回3～4分もかけて作業していた自分がばかみたいにも思えるけれど、ディープラーニングや機械学習関連のコードを書いてテストし、開発するつもりなら、何が何でもjupyter notebookをインストールすることをおすすめします。