たくのろじぃのメモ部屋

プログラミング関係や数学などの内容を備忘録として残すブログ。プログラミングはC#を中心に書いています。

機械学習

AIきりたんの凄さと将来

最近何かと話題なAIですが、私はその中でも「AIきりたん」について取り上げたいと思います。 AIきりたん AIきりたんはニューラルネットワークの技術を用いたボーカロイドです。詳しくはこちらのページに書かれています。 n3utrino.work ソフトウェアは無料で…

【C#】深層学習入門 #8 損失関数とミニバッチ学習法

ニューラルネットワークの性能を示すのに損失関数を使用します。最近では交差エントロピー誤差(クロスエントロピー)がよく用いられているようです。また、学習するための手法にミニバッチ学習法があります。大量の訓練データの中で無作為に選んで学習を行…

【C#】深層学習入門 #7 学習データを用意する

手書き数字認識をやるためにMNISTのデータセットを用いますが、画像ファイルではなく特殊なファイル形式であるため、TensorFlowなどのライブラリが必要です。また、Python用として提供されているためC#でやるには自作する必要があります。今回はMNISTを使用…

【C#】深層学習入門 #6 出力層の設計

ニューラルネットワークでは解を得る際に確率として得たいときがあります。これはソフトマックス関数を用いることによって解決できます。ソフトマックス関数は中間層よりも出力層に対して有効であり、指数関数を用いることで数値自体をいじらずに表現をシフ…

【C#】深層学習入門 #5 ニューラルネットワークの実装1

はじめに 前回までに行列のロジックをやったので、今回はニューラルネットワークを実装してみます。まだニューラルネットワークの学習や出力層を調整する関数は考慮していません。フォワード方向のみです。 ニューラルネットワークの実装1 深層学習入門 #5 f…

【C#】深層学習入門 #4 3層ニューラルネットワークと行列計算

はじめに ニューラルネットワークは活性化関数を用いて、中間層をもつものです。しかし、具体的にどのようなロジックで解を導き出すのかがわかりません。今回は行列計算からはじまり、ニューラルネットワークのロジックに迫ります。 3層ニューラルネットワー…

【C#】深層学習入門 #3 ニューラルネットワークと活性化関数

はじめに 多層パーセプトロンは単層パーセプトロンを複数の層で重ねたものであり、ニューラルネットワークとも言えます。が、活性化関数があるかないかでニューラルネットワークかどうかが決まります。とくに最近ではReLU関数を活性化関数として扱っているも…

【C#】深層学習入門 #2 多層パーセプトロン

はじめに 前回は単層パーセプトロンについてやりました。単純な論理回路(AND, OR, NAND) は実装できましたが、このままでは組み合わせ回路が実現できません。特にXORはNANDとORで作りますが、単層ではNANDもしくはORのどちらかしか実装できません。なので、…

【C#】深層学習入門 #1 単層パーセプトロン

はじめに 最近話題の機械学習。その中でも深層学習を扱うところが多いですね。ゲームAIをはじめ、画像認識やセキュリティなど幅広く活躍しています。 自分も興味があったのですが、アルゴリズムが苦手で敬遠していました。しかし、やっぱり機械学習やってみ…