2023-12-01から1ヶ月間の記事一覧
tanuki- 2023-12-31 nnue-pytorch halfkp_1024x2-8-32 LAMB 実験内容 nnue-pytorch を用い、 halfkp_1024x2-8-32 ネットワークを学習させる。 Optimizer に LAMB を使用する。 棋譜生成 生成ルーチン tanuki-棋譜生成ルーチン 評価関数 水匠5 1手あたりの思…
tanuki- 2023-12-23 nnue-pytorch halfkp_1024x2-8-32 学習率調整 実験内容 nnue-pytorch を用い、 halfkp_1024x2-8-32 ネットワークを学習させる。 学習率を 2.0 に設定し、学習させる。 棋譜生成 生成ルーチン tanuki-棋譜生成ルーチン 評価関数 水匠5 1手…
tanuki- 2023-12-20 nnue-pytorch halfkp_1024x2-8-32 バッチサイズ調整 実験内容 nnue-pytorch を用い、 halfkp_1024x2-8-32 ネットワークを学習させる。 バッチサイズを 8192 に設定し、学習させる。 棋譜生成 生成ルーチン tanuki-棋譜生成ルーチン 評価…
tanuki- 2023-12-17 nnue-pytorch halfkp_1024x2-8-32 ネットワークパラメーターのバックアップとリストア 実験内容 nnue-pytorch を用い、 halfkp_1024x2-8-32 ネットワークを学習させる。 ある学習率で収束したかどうかの判定の際、収束していない場合はネ…
tanuki- 2023-12-14 nnue-pytorch halfkp_1024x2-8-32 epoch-size 調整 (2) 実験内容 nnue-pytorch を用い、 halfkp_1024x2-8-32 ネットワークを学習させる。 epoch-size を 100 万、 num-epochs-to-adjust-lr を 500 に設定し、学習させる。 棋譜生成 生成…
tanuki- 2023-12-11 nnue-pytorch halfkp_1024x2-8-32 epoch-size 調整 実験内容 nnue-pytorch を用い、 halfkp_1024x2-8-32 ネットワークを学習させる。 epoch-size を 1 億、 num-epochs-to-adjust-lr を 5 に設定し、学習させる。 棋譜生成 生成ルーチン …
tanuki- 2023-12-09 nnue-pytorch halfkp_1024x2-8-32 in_scaling/out_scaling 実験内容 nnue-pytorch を用い、 halfkp_1024x2-8-32 ネットワークを学習させる。 評価値を勝率に変換する際の定数のうち、ネットワークの出力側を 340、教師局面が和を 380 に…
tanuki- 2023-12-07 nnue-pytorch halfkp_1024x2-8-32 scaling 再実験 実験内容 nnue-pytorch を用い、 halfkp_1024x2-8-32 ネットワークを学習させる。 評価値を勝率に変換する際の定数を 361 に設定する。 棋譜生成 生成ルーチン tanuki-棋譜生成ルーチン …
tanuki- 2023-12-04 nnue-pytorch halfkp_1024x2-8-32 ReduceLROnPlateau 実験内容 nnue-pytorch を用い、 halfkp_1024x2-8-32 ネットワークを学習させる。 学習率スケジューラーに ReduceLROnPlateau を使用する。 棋譜生成 生成ルーチン tanuki-棋譜生成ル…
tanuki- 2023-12-02 nnue-pytorch halfkp_1024x2-8-32 重みのクリップ 再実験 実験内容 nnue-pytorch を用い、 halfkp_1024x2-8-32 ネットワークを学習させる。 学習中、ネットワークパラメーターのうち、重みをクリップする。 重みの初期化に、 pytorch の…
