2023-11-01から1ヶ月間の記事一覧
tanuki- 2023-11-28 nnue-pytorch halfkp_1024x2-8-32 Xavierの初期値 実験内容 nnue-pytorch を用い、 halfkp_1024x2-8-32 ネットワークを学習させる。 ネットワークパラメーターの初期化に Xavier の初期値を使用する。 ただし、入力層から隠れ層第 1 層の…
tanuki- 2023-11-23 nnue-pytorch halfkp_1024x2-8-32 ネットワークパラメーターの学習後の量子化つき学習 学習率調整 実験内容 nnue-pytorch を用い、 halfkp_1024x2-8-32 ネットワークを学習させる。 初めに量子化なしで学習したあと、 1 epoch 学習するた…
tanuki- 2023-11-20 nnue-pytorch halfkp_1024x2-8-32 ネットワークパラメーターの学習後の量子化つき学習 実験内容 nnue-pytorch を用い、 halfkp_1024x2-8-32 ネットワークを学習させる。 初めに量子化なしで学習したあと、 1 epoch 学習するたびに、ネッ…
tanuki- 2023-11-17 nnue-pytorch halfkp_1024x2-8-32 ネットワークパラメーターの量子化 実験内容 nnue-pytorch を用い、 halfkp_1024x2-8-32 ネットワークを学習させる。 学習中、 1 epoch 学習するたびに、ネットワークパラメーターを量子化する。 棋譜生…
tanuki- 2023-11-14 nnue-pytorch halfkp_1024x2-8-32 重みのクリップ 実験内容 nnue-pytorch を用い、 halfkp_1024x2-8-32 ネットワークを学習させる。 学習中、ネットワークパラメーターのうち、重みをクリップする。 棋譜生成 生成ルーチン tanuki-棋譜生…
tanuki- 2023-11-12 層数とnpsの調査 実験内容 NNUE 評価関数において、層数を増やしていったときの nps を調査した。 ネットワークは halfkp_256x2-256{N} とした。 {N} は繰り返しを表す。 N は繰り返し回数を表す。 ネットワークパラメーターはやねうら王…
tanuki- 2023-11-10 nnue-pytorch halfkp_1024x2-8-32 重みのクリップ 実験内容 nnue-pytorch を用い、 halfkp_1024x2-8-32 ネットワークを学習させる。 ネットワークパラメーターのうち、重みをクリップする。 棋譜生成 生成ルーチン tanuki-棋譜生成ルーチ…
tanuki- 2023-11-10 nnue-pytorch halfkp_1024x2-8-32 scaling 再実験 実験内容 nnue-pytorch を用い、 halfkp_1024x2-8-32 ネットワークを学習させる。 scaling の値を 600 に設定し、レーティングの変化を調べる。 棋譜生成 生成ルーチン tanuki-棋譜生成…
tanuki- 2023-11-05 nnue-pytorch halfkp_1024x2-8-32 SGD + Warmup + ExponentialLR 実験内容 nnue-pytorch を用い、 halfkp_1024x2-8-32 ネットワークを学習させる。 Optimizer に SGD、 Scheduler に Warmup + ExponentialLR を使用する。 棋譜生成 生成…
tanuki- 2023-11-03 nnue-pytorch halfkp_1024x2-16-32 実験内容 nnue-pytorch を用い、 halfkp_1024x2-16-32 ネットワークを学習させる。 棋譜生成 生成ルーチン tanuki-棋譜生成ルーチン 評価関数 Háo 1手あたりの思考 深さ最大 9 思考ノード数最大 50,000…
