2024-04-12

tanuki- 2024-04-12 halfkp_256x2-256-256-256

実験内容

halfkp_256x2-256-256-256 ネットワークを学習させ、レーティングを測定する。

ランダムパラメーターからの学習には、 Hao を用いて生成した学習データを用いる。
Fine-tuning に Fine-tuning Suisho10Mn_psv を学習データとして用いる。

棋譜生成

ランダムパラメーターから学習させる際の学習データ

生成ルーチン	tanuki-棋譜生成ルーチン
評価関数	Hao (tanuki-.halfkp_256x2-32-32.2023-05-08)
1手あたりの思考	深さ最大 9 思考ノード数最大 50,000 ノード
開始局面	foodgate の 2020 年～ 2021 年の棋譜を使用した。レーティング 3900 以上同士の対局のみ使用した。戦型が角換わりの対局が 10% になるよう調整した。 32 手目までから 1 局面ランダムに選択し、その局面を開始局面とした。ランダムムーブはしなかった。
生成局面数	10 億局面 × 8 セット
生成条件	対局は打ち切らず詰みの局面まで学習データに出力した
フォルダ名	tanuki-.halfkp_256x2-32-32.2023-05-08

シャッフル条件

ランダムパラメータから学習させる際の学習データ

生成ルーチン	tanuki-シャッフルルーチン
qsearch()	あり
置換表	無効
min_progress	0.0

Fine-tuning に用いる学習データ

生成ルーチン	tanuki-シャッフルルーチン
qsearch()	あり
置換表	無効
min_progress	0.1

機械学習

機械学習ルーチン	nnue-pytorch + やねうら王 https://github.com/nodchip/nnue-pytorch/tree/shogi.2024-04-09.halfkp_256x2-256-256-256
学習モデル	halfkp_256x2-256-256-256
学習手法	ミニバッチ SGD
初期学習率 (lr)	0.5 収束後 0.05
最適化手法	なし
学習率調整手法	Warmup + Newbob 風
batch-size	16384
threads	8
num-workers	8
accelerator	gpu
devices	1
features	HalfKP
max-epoch	1000000
score-scaling	361
lambda	1.0 収束後 0.5
勝敗項の教師信号	0.999
num-batches-warmup	10000
newbob-decay	0.5
epoch-size	1000000
num-epochs-to-adjust-lr	500
学習を打ち切る下限 newbob scale	1e-5
1 epoch 毎のネットワークパラメーターのクリップ	あり
ネットワークパラメーターの量子化	量子化なしで学習し、収束後に量子化する。
ネットワークパラメーターの初期化方法	pytorch のデフォルトの初期化手法で初期化する。
勾配の正規化	なし
momentum	0.9
入玉ボーナス	入玉時、持ち駒および敵陣三段目までに侵入している駒について、小駒 1 枚につき 20 点、大駒 1 枚につき 100 点、敵陣三段目までに侵入している駒 1 枚につき 20 点追加する。

レーティング測定

対局相手	https://docs.google.com/document/d/1FC3FvCxyJV6IRPfwOHOMcAlEoTsjmRY8JZpWkGVpgH8/edit?usp=sharing tanuki-.nnue-pytorch-2024-03-24.1000
思考時間	持ち時間 300 秒 + 1 手 2 秒加算
対局数	5000
同時対局数	64
ハッシュサイズ	384
開始局面	dlshogi 互角局面集の角換わりの割合が 10% になるよう間引いたもの

実験結果

ネットワークパラメーターの分布

mean=-17.83203125 std=35.559715270996094

mean=-0.005480769090354443 std=6.9276442527771

mean=111.46484375 std=3325.249267578125

mean=-0.21393585205078125 std=5.610009670257568

mean=-2553.37890625 std=2987.79736328125

mean=-0.1891632080078125 std=7.028472900390625

mean=1.7109375 std=290.7167663574219

mean=0.0166015625 std=2.349048137664795

mean=2.0 std=nan

mean=0.25390625 std=19.562118530273438

ベンチマーク

halfkp_256x2-256-256-256

Total time (ms) : 60009

Nodes searched : 35068174

Nodes_searched/second : 584381

halfkp_1024x2-8-32

Total time (ms) : 60017

Nodes searched : 62024216

Nodes_searched/second : 1033444

レーティング測定

対局数=5000 同時対局数=64 ハッシュサイズ=384 開始手数=24 最大手数=320 開始局面ファイル=C:\Jenkins\workspace\TanukiColiseum.2023-04-16\TanukiColiseum\bishop_exchange.2023-06-25.sfen NUMAノード数=1 表示更新間隔(ms)=3600000

思考エンジン1 思考エンジン2

name YaneuraOu NNUE 7.63 64ZEN2 TOURNAMENT YaneuraOu NNUE 7.63 64ZEN2 TOURNAMENT

author by yaneurao by yaneurao

exeファイル C:\Jenkins\workspace\TanukiColiseum.2023-04-16\engine1\source\YaneuraOu-by-gcc.exe C:\Jenkins\workspace\TanukiColiseum.2023-04-16\engine2\source\YaneuraOu-by-gcc.exe

評価関数フォルダパス D:\hnoda\shogi\eval\tanuki-.nnue-pytorch-2024-04-09 D:\hnoda\shogi\eval\tanuki-.nnue-pytorch-2024-03-24.1000

定跡手数 256 256

定跡ファイル名 no_book no_book

思考ノード数 0 0

思考ノード数に加える乱数(%) 0 0

思考ノード数の乱数を1手毎に変化させる False False

持ち時間(ms) 300000 300000

秒読み時間(ms) 0 0

加算時間(ms) 2000 2000

乱数付き思考時間(ms) 0 0

スレッド数 1 1

BookEvalDiff 30 30

定跡の採択率を考慮する false false

定跡の手数を無視する false false

SlowMover 100 100

DrawValue -2 -2

BookEvalBlackLimit 0 0

BookEvalWhiteLimit -140 -140

FVScale 16 16

Depth=0 0

MinimumThinkingTime 1000 1000

対局数5000 先手勝ち2499(50.0%) 後手勝ち2501(50.0%) 引き分け0

engine1

勝ち0(0.0% R0.0 +-0.0) 先手勝ち0(0.0%) 後手勝ち0(0.0%)

宣言勝ち0 先手宣言勝ち0 後手宣言勝ち0 先手引き分け0 後手引き分け0

engine2

勝ち5000(100.0%) 先手勝ち2499(50.0%) 後手勝ち2501(50.0%)

宣言勝ち0 先手宣言勝ち0 後手宣言勝ち0 先手引き分け0 後手引き分け0

0,0,5000

学習ロスと検証ロスは、ランダムパラメーターからの学習、 Fine-tuning 共に、 halfkp_1024x2-8-32 より高くなった。

ベンチマークは halfkp_1024x2-8-32 に比べて 43% 程度遅かった。

自己対局では halfkp_1024x2-8-32 に対し、 1 勝も挙げることができなかった。

考察

自己対局で halfkp_1024x2-8-32 に 1 勝も挙げることができなかった理由は、バグだと思う。学習ロスと検証ロスが halfkp_256x2-256-256 と似たような形状であることから、学習器に問題はないと思う。学習器に問題がないとすれば、シリアライズに失敗していると考えられる。ただし、シリアライズが意図通り行われたとしても、学習ロスと検証ロスが halfkp_1024x2-8-32 より高く、 nps が低いため、レーティングは低いと予想できる。このことから、層の数を増やしても、レーティングを向上させることは難しいと思う。 halfkp_1024x2-16-32 や halfkp_1280x2-16-32 の実験も考慮すると、隠れ層第 1 層のチャンネル数を増やし、隠れ層第 2 層以降のチャンネル数を減らす、もししくは層数を減らしたほうが、レーティングが向上すると思う。

まとめ

halfkp_256x2-256-256-256 ネットワークを学習させ、レーティングを測定した。ランダムパラメーターからの学習には、 Hao を用いて生成した学習データを用いた。 Fine-tuning に Fine-tuning Suisho10Mn_psv を学習データとして用いた。

自己対局では halfkp_1024x2-8-32 に対し、 1 勝も挙げることができなかった。自己対局で halfkp_1024x2-8-32 に 1 勝も挙げることができなかった理由は、バグだと思う。学習ロスと検証ロスが halfkp_256x2-256-256 と似たような形状であることから、学習器に問題はないと思う。学習器に問題がないとすれば、シリアライズに失敗していると考えられる。ただし、シリアライズが意図通り行われたとしても、学習ロスと検証ロスが halfkp_1024x2-8-32 より高く、 nps が低いため、レーティングは低いと予想できる。このことから、層の数を増やしても、レーティングを向上させることは難しいと思う。 halfkp_1024x2-16-32 や halfkp_1280x2-16-32 の実験も考慮すると、隠れ層第 1 層のチャンネル数を増やし、隠れ層第 2 層以降のチャンネル数を減らす、もししくは層数を減らしたほうが、レーティングが向上すると思う。

次回は隠れ層第 2 層以降のチャンネル数を減らし、学習させ、レーティングを測定したい。

2024-04-09

tanuki- 2024-04-09 halfkp_256x2-256-256

将棋コンピュータ将棋

tanuki- 2024-04-09 halfkp_256x2-256-256

実験内容

halfkp_256x2-256-256 ネットワークを学習させ、レーティングを測定する。

ランダムパラメーターからの学習には、 Hao を用いて生成した学習データを用いる。
Fine-tuning に Fine-tuning Suisho10Mn_psv を学習データとして用いる。

棋譜生成

ランダムパラメーターから学習させる際の学習データ

生成ルーチン	tanuki-棋譜生成ルーチン
評価関数	Hao (tanuki-.halfkp_256x2-32-32.2023-05-08)
1手あたりの思考	深さ最大 9 思考ノード数最大 50,000 ノード
開始局面	foodgate の 2020 年～ 2021 年の棋譜を使用した。レーティング 3900 以上同士の対局のみ使用した。戦型が角換わりの対局が 10% になるよう調整した。 32 手目までから 1 局面ランダムに選択し、その局面を開始局面とした。ランダムムーブはしなかった。
生成局面数	10 億局面 × 8 セット
生成条件	対局は打ち切らず詰みの局面まで学習データに出力した
フォルダ名	tanuki-.halfkp_256x2-32-32.2023-05-08

シャッフル条件

ランダムパラメータから学習させる際の学習データ

生成ルーチン	tanuki-シャッフルルーチン
qsearch()	あり
置換表	無効
min_progress	0.0

Fine-tuning に用いる学習データ

生成ルーチン	tanuki-シャッフルルーチン
qsearch()	あり
置換表	無効
min_progress	0.1

機械学習

機械学習ルーチン	nnue-pytorch + やねうら王 https://github.com/nodchip/nnue-pytorch/tree/shogi.2024-04-09.halfkp_256x2-256-256-256
学習モデル	halfkp_256x2-256-256
学習手法	ミニバッチ SGD
初期学習率 (lr)	0.5 収束後 0.05
最適化手法	なし
学習率調整手法	Warmup + Newbob 風
batch-size	16384
threads	8
num-workers	8
accelerator	gpu
devices	1
features	HalfKP
max-epoch	1000000
score-scaling	361
lambda	1.0 収束後 0.5
勝敗項の教師信号	0.999
num-batches-warmup	10000
newbob-decay	0.5
epoch-size	1000000
num-epochs-to-adjust-lr	500
学習を打ち切る下限 newbob scale	1e-5
1 epoch 毎のネットワークパラメーターのクリップ	あり
ネットワークパラメーターの量子化	量子化なしで学習し、収束後に量子化する。
ネットワークパラメーターの初期化方法	pytorch のデフォルトの初期化手法で初期化する。
勾配の正規化	なし
momentum	0.9
入玉ボーナス	入玉時、持ち駒および敵陣三段目までに侵入している駒について、小駒 1 枚につき 20 点、大駒 1 枚につき 100 点、敵陣三段目までに侵入している駒 1 枚につき 20 点追加する。

レーティング測定

対局相手	https://docs.google.com/document/d/1FC3FvCxyJV6IRPfwOHOMcAlEoTsjmRY8JZpWkGVpgH8/edit?usp=sharing tanuki-.nnue-pytorch-2024-03-24.1000
思考時間	持ち時間 300 秒 + 1 手 2 秒加算
対局数	5000
同時対局数	64
ハッシュサイズ	384
開始局面	dlshogi 互角局面集の角換わりの割合が 10% になるよう間引いたもの

実験結果

機械学習

ランダムパラメーターからの学習

Fine-tuning

ネットワークパラメーターの分布

mean=-20.30859375 std=35.23615646362305

mean=-0.006371379364281893 std=7.184591293334961

mean=99.44140625 std=3053.18701171875

mean=-0.225128173828125 std=5.68989896774292

mean=-2824.75 std=3110.239501953125

mean=-0.18359375 std=7.192142009735107

mean=-618.0 std=nan

mean=2.9765625 std=18.016969680786133

ベンチマーク

halfkp_1280x2-16-32

Total time (ms) : 60007

Nodes searched : 43909542

Nodes_searched/second : 731740

halfkp_1024x2-8-32

Total time (ms) : 60017

Nodes searched : 62024216

Nodes_searched/second : 1033444

レーティング測定

思考エンジン1 思考エンジン2

name YaneuraOu NNUE 7.63 64ZEN2 TOURNAMENT YaneuraOu NNUE 7.63 64ZEN2 TOURNAMENT

author by yaneurao by yaneurao

exeファイル C:\Jenkins\workspace\TanukiColiseum.2023-04-16\engine1\source\YaneuraOu-by-gcc.exe C:\Jenkins\workspace\TanukiColiseum.2023-04-16\engine2\source\YaneuraOu-by-gcc.exe

評価関数フォルダパス D:\hnoda\shogi\eval\tanuki-.nnue-pytorch-2024-04-05 D:\hnoda\shogi\eval\tanuki-.nnue-pytorch-2024-03-24.1000

定跡手数 256 256

定跡ファイル名 no_book no_book

思考ノード数 0 0

思考ノード数に加える乱数(%) 0 0

思考ノード数の乱数を1手毎に変化させる False False

持ち時間(ms) 300000 300000

秒読み時間(ms) 0 0

加算時間(ms) 2000 2000

乱数付き思考時間(ms) 0 0

スレッド数 1 1

BookEvalDiff 30 30

定跡の採択率を考慮する false false

定跡の手数を無視する false false

SlowMover 100 100

DrawValue -2 -2

BookEvalBlackLimit 0 0

BookEvalWhiteLimit -140 -140

FVScale 16 16

Depth=0 0

MinimumThinkingTime 1000 1000

対局数5000 先手勝ち2779(59.6%) 後手勝ち1887(40.4%) 引き分け334

engine1

勝ち1706(36.6% R-89.0 +-9.9) 先手勝ち1076(23.1%) 後手勝ち630(13.5%)

宣言勝ち84 先手宣言勝ち49 後手宣言勝ち35 先手引き分け165 後手引き分け169

engine2

勝ち2960(63.4%) 先手勝ち1703(36.5%) 後手勝ち1257(26.9%)

宣言勝ち8 先手宣言勝ち3 後手宣言勝ち5 先手引き分け169 後手引き分け165

1706,334,2960

学習ロスと検証ロスは、ランダムパラメーターからの学習、 Fine-tuning 共に、 halfkp_1024x2-8-32 より低くなった。

ベンチマークは halfkp_1024x2-8-32 に比べて 30% 程度遅かった。

レーティングは halfkp_1024x2-8-32 より R89.0 低く、有意な差があった。

考察

レーティングが有意に低かった理由は、 nps の低下と、ロスが高かったことによるものだと思う。レーティングの低下が速度低下の 2 倍であったと仮定すると、 30 * 2 = 60 である。これにロスの高さを加えて考慮すると、 R89.0 低いという事実と矛盾はないと思う。

まとめ

halfkp_256x2-256-256 ネットワークを学習させ、レーティングを測定した。ランダムパラメーターからの学習には、 Hao を用いて生成した学習データを用いた。 Fine-tuning に Fine-tuning Suisho10Mn_psv を学習データとして用いた。

レーティングは halfkp_1024x2-8-32 より R89.0 低く、有意な差があった。レーティングが有意に低かった理由は、 nps の低下と、ロスが高かったことによるものだと思う。レーティングの低下が速度低下の 2 倍であったと仮定すると、 30 * 2 = 60 である。これにロスの高さを加えて考慮すると、 R89.0 低いという事実と矛盾はないと思う。

次回は、ネットワークの層を増やしたときの特性を調べるため、 halfkp_256x2-256-256-256 ネットワークを学習させ、レーティングを測定したい。

2024-04-06

tanuki- 2024-04-06 halfkp_1280x2-16-32 思考時間

将棋コンピュータ将棋

tanuki- 2024-04-04 halfkp_1280x2-16-32

実験内容

halfkp_1280x2-16-32 ネットワークについて、思考時間によりレーティングが変化するかどうか調べる。

棋譜生成

ランダムパラメーターから学習させる際の学習データ

生成ルーチン	tanuki-棋譜生成ルーチン
評価関数	Hao (tanuki-.halfkp_256x2-32-32.2023-05-08)
1手あたりの思考	深さ最大 9 思考ノード数最大 50,000 ノード
開始局面	foodgate の 2020 年～ 2021 年の棋譜を使用した。レーティング 3900 以上同士の対局のみ使用した。戦型が角換わりの対局が 10% になるよう調整した。 32 手目までから 1 局面ランダムに選択し、その局面を開始局面とした。ランダムムーブはしなかった。
生成局面数	10 億局面 × 8 セット
生成条件	対局は打ち切らず詰みの局面まで学習データに出力した
フォルダ名	tanuki-.halfkp_256x2-32-32.2023-05-08

シャッフル条件

ランダムパラメータから学習させる際の学習データ

生成ルーチン	tanuki-シャッフルルーチン
qsearch()	あり
置換表	無効
min_progress	0.0

Fine-tuning に用いる学習データ

生成ルーチン	tanuki-シャッフルルーチン
qsearch()	あり
置換表	無効
min_progress	0.1

機械学習

機械学習ルーチン	nnue-pytorch + やねうら王 https://github.com/nodchip/nnue-pytorch/tree/shogi.2024-03-30.halfkp_1280x2-16-32
学習モデル	halfkp_1280x2-16-32
学習手法	ミニバッチ SGD
初期学習率 (lr)	0.5 収束後 0.05
最適化手法	なし
学習率調整手法	Warmup + Newbob 風
batch-size	16384
threads	8
num-workers	8
accelerator	gpu
devices	1
features	HalfKP
max-epoch	1000000
score-scaling	361
lambda	1.0 収束後 0.5
勝敗項の教師信号	0.999
num-batches-warmup	10000
newbob-decay	0.5
epoch-size	1000000
num-epochs-to-adjust-lr	500
学習を打ち切る下限 newbob scale	1e-5
1 epoch 毎のネットワークパラメーターのクリップ	あり
ネットワークパラメーターの量子化	量子化なしで学習し、収束後に量子化する。
ネットワークパラメーターの初期化方法	pytorch のデフォルトの初期化手法で初期化する。
勾配の正規化	なし
momentum	0.9
入玉ボーナス	入玉時、持ち駒および敵陣三段目までに侵入している駒について、小駒 1 枚につき 20 点、大駒 1 枚につき 100 点、敵陣三段目までに侵入している駒 1 枚につき 20 点追加する。

レーティング測定

対局相手	https://docs.google.com/document/d/1FC3FvCxyJV6IRPfwOHOMcAlEoTsjmRY8JZpWkGVpgH8/edit?usp=sharing tanuki-.nnue-pytorch-2024-03-24.1000
思考時間	持ち時間 300 秒 + 1 手 2 秒加算
対局数	5000
同時対局数	64
ハッシュサイズ	384
開始局面	dlshogi 互角局面集の角換わりの割合が 10% になるよう間引いたもの

実験結果

レーティング測定

対局数=2000 同時対局数=64 ハッシュサイズ=384 開始手数=24 最大手数=320 開始局面ファイル=C:\Jenkins\workspace\TanukiColiseum.2023-04-16\TanukiColiseum\bishop_exchange.2023-06-25.sfen NUMAノード数=1 表示更新間隔(ms)=3600000

思考エンジン1 思考エンジン2

name YaneuraOu NNUE 7.63 64ZEN2 TOURNAMENT YaneuraOu NNUE 7.63 64ZEN2 TOURNAMENT

author by yaneurao by yaneurao

exeファイル C:\Jenkins\workspace\TanukiColiseum.2023-04-16\engine1\source\YaneuraOu-by-gcc.exe C:\Jenkins\workspace\TanukiColiseum.2023-04-16\engine2\source\YaneuraOu-by-gcc.exe

評価関数フォルダパス D:\hnoda\shogi\eval\tanuki-.nnue-pytorch-2024-03-30 D:\hnoda\shogi\eval\tanuki-.nnue-pytorch-2024-03-24.1000

定跡手数 256 256

定跡ファイル名 no_book no_book

思考ノード数 0 0

思考ノード数に加える乱数(%) 0 0

思考ノード数の乱数を1手毎に変化させる False False

持ち時間(ms) 0 0

秒読み時間(ms) 1000 1000

加算時間(ms) 0 0

乱数付き思考時間(ms) 0 0

スレッド数 1 1

BookEvalDiff 30 30

定跡の採択率を考慮する false false

定跡の手数を無視する false false

SlowMover 100 100

DrawValue -2 -2

BookEvalBlackLimit 0 0

BookEvalWhiteLimit -140 -140

FVScale 16 16

Depth=0 0

MinimumThinkingTime 1000 1000

対局数2000 先手勝ち1058(56.5%) 後手勝ち815(43.5%) 引き分け127

engine1

勝ち886(47.3% R-17.6 +-15.3) 先手勝ち506(27.0%) 後手勝ち380(20.3%)

宣言勝ち13 先手宣言勝ち11 後手宣言勝ち2 先手引き分け55 後手引き分け72

engine2

勝ち987(52.7%) 先手勝ち552(29.5%) 後手勝ち435(23.2%)

宣言勝ち5 先手宣言勝ち1 後手宣言勝ち4 先手引き分け72 後手引き分け55

886,127,987

思考エンジン1 思考エンジン2

name YaneuraOu NNUE 7.63 64ZEN2 TOURNAMENT YaneuraOu NNUE 7.63 64ZEN2 TOURNAMENT

author by yaneurao by yaneurao

exeファイル C:\Jenkins\workspace\TanukiColiseum.2023-04-16\engine1\source\YaneuraOu-by-gcc.exe C:\Jenkins\workspace\TanukiColiseum.2023-04-16\engine2\source\YaneuraOu-by-gcc.exe

評価関数フォルダパス D:\hnoda\shogi\eval\tanuki-.nnue-pytorch-2024-03-30 D:\hnoda\shogi\eval\tanuki-.nnue-pytorch-2024-03-24.1000

定跡手数 256 256

定跡ファイル名 no_book no_book

思考ノード数 0 0

思考ノード数に加える乱数(%) 0 0

思考ノード数の乱数を1手毎に変化させる False False

持ち時間(ms) 0 0

秒読み時間(ms) 2000 2000

加算時間(ms) 0 0

乱数付き思考時間(ms) 0 0

スレッド数 1 1

BookEvalDiff 30 30

定跡の採択率を考慮する false false

定跡の手数を無視する false false

SlowMover 100 100

DrawValue -2 -2

BookEvalBlackLimit 0 0

BookEvalWhiteLimit -140 -140

FVScale 16 16

Depth=0 0

MinimumThinkingTime 1000 1000

対局数2000 先手勝ち1040(56.5%) 後手勝ち801(43.5%) 引き分け159

engine1

勝ち824(44.8% R-33.6 +-15.3) 先手勝ち478(26.0%) 後手勝ち346(18.8%)

宣言勝ち20 先手宣言勝ち11 後手宣言勝ち9 先手引き分け66 後手引き分け93

engine2

勝ち1017(55.2%) 先手勝ち562(30.5%) 後手勝ち455(24.7%)

宣言勝ち3 先手宣言勝ち1 後手宣言勝ち2 先手引き分け93 後手引き分け66

824,159,1017

思考エンジン1 思考エンジン2

name YaneuraOu NNUE 7.63 64ZEN2 TOURNAMENT YaneuraOu NNUE 7.63 64ZEN2 TOURNAMENT

author by yaneurao by yaneurao

exeファイル C:\Jenkins\workspace\TanukiColiseum.2023-04-16\engine1\source\YaneuraOu-by-gcc.exe C:\Jenkins\workspace\TanukiColiseum.2023-04-16\engine2\source\YaneuraOu-by-gcc.exe

評価関数フォルダパス D:\hnoda\shogi\eval\tanuki-.nnue-pytorch-2024-03-30 D:\hnoda\shogi\eval\tanuki-.nnue-pytorch-2024-03-24.1000

定跡手数 256 256

定跡ファイル名 no_book no_book

思考ノード数 0 0

思考ノード数に加える乱数(%) 0 0

思考ノード数の乱数を1手毎に変化させる False False

持ち時間(ms) 0 0

秒読み時間(ms) 4000 4000

加算時間(ms) 0 0

乱数付き思考時間(ms) 0 0

スレッド数 1 1

BookEvalDiff 30 30

定跡の採択率を考慮する false false

定跡の手数を無視する false false

SlowMover 100 100

DrawValue -2 -2

BookEvalBlackLimit 0 0

BookEvalWhiteLimit -140 -140

FVScale 16 16

Depth=0 0

MinimumThinkingTime 1000 1000

対局数2000 先手勝ち1038(56.6%) 後手勝ち795(43.4%) 引き分け167

engine1

勝ち786(42.9% R-45.6 +-15.4) 先手勝ち454(24.8%) 後手勝ち332(18.1%)

宣言勝ち25 先手宣言勝ち14 後手宣言勝ち11 先手引き分け81 後手引き分け86

engine2

勝ち1047(57.1%) 先手勝ち584(31.9%) 後手勝ち463(25.3%)

宣言勝ち6 先手宣言勝ち4 後手宣言勝ち2 先手引き分け86 後手引き分け81

786,167,1047

思考エンジン1 思考エンジン2

name YaneuraOu NNUE 7.63 64ZEN2 TOURNAMENT YaneuraOu NNUE 7.63 64ZEN2 TOURNAMENT

author by yaneurao by yaneurao

exeファイル C:\Jenkins\workspace\TanukiColiseum.2023-04-16\engine1\source\YaneuraOu-by-gcc.exe C:\Jenkins\workspace\TanukiColiseum.2023-04-16\engine2\source\YaneuraOu-by-gcc.exe

評価関数フォルダパス D:\hnoda\shogi\eval\tanuki-.nnue-pytorch-2024-03-30 D:\hnoda\shogi\eval\tanuki-.nnue-pytorch-2024-03-24.1000

定跡手数 256 256

定跡ファイル名 no_book no_book

思考ノード数 0 0

思考ノード数に加える乱数(%) 0 0

思考ノード数の乱数を1手毎に変化させる False False

持ち時間(ms) 0 0

秒読み時間(ms) 8000 8000

加算時間(ms) 0 0

乱数付き思考時間(ms) 0 0

スレッド数 1 1

BookEvalDiff 30 30

定跡の採択率を考慮する false false

定跡の手数を無視する false false

SlowMover 100 100

DrawValue -2 -2

BookEvalBlackLimit 0 0

BookEvalWhiteLimit -140 -140

FVScale 16 16

Depth=0 0

MinimumThinkingTime 1000 1000

対局数2000 先手勝ち969(54.4%) 後手勝ち811(45.6%) 引き分け220

engine1

勝ち797(44.8% R-32.4 +-15.3) 先手勝ち447(25.1%) 後手勝ち350(19.7%)

宣言勝ち19 先手宣言勝ち9 後手宣言勝ち10 先手引き分け92 後手引き分け128

engine2

勝ち983(55.2%) 先手勝ち522(29.3%) 後手勝ち461(25.9%)

宣言勝ち9 先手宣言勝ち5 後手宣言勝ち4 先手引き分け128 後手引き分け92

797,220,983

思考エンジン1 思考エンジン2

name YaneuraOu NNUE 7.63 64ZEN2 TOURNAMENT YaneuraOu NNUE 7.63 64ZEN2 TOURNAMENT

author by yaneurao by yaneurao

exeファイル C:\Jenkins\workspace\TanukiColiseum.2023-04-16\engine1\source\YaneuraOu-by-gcc.exe C:\Jenkins\workspace\TanukiColiseum.2023-04-16\engine2\source\YaneuraOu-by-gcc.exe

評価関数フォルダパス D:\hnoda\shogi\eval\tanuki-.nnue-pytorch-2024-03-30 D:\hnoda\shogi\eval\tanuki-.nnue-pytorch-2024-03-24.1000

定跡手数 256 256

定跡ファイル名 no_book no_book

思考ノード数 0 0

思考ノード数に加える乱数(%) 0 0

思考ノード数の乱数を1手毎に変化させる False False

持ち時間(ms) 0 0

秒読み時間(ms) 16000 16000

加算時間(ms) 0 0

乱数付き思考時間(ms) 0 0

スレッド数 1 1

BookEvalDiff 30 30

定跡の採択率を考慮する false false

定跡の手数を無視する false false

SlowMover 100 100

DrawValue -2 -2

BookEvalBlackLimit 0 0

BookEvalWhiteLimit -140 -140

FVScale 16 16

Depth=0 0

MinimumThinkingTime 1000 1000

対局数2000 先手勝ち919(55.1%) 後手勝ち748(44.9%) 引き分け333

engine1

勝ち800(48.0% R-11.6 +-15.2) 先手勝ち456(27.4%) 後手勝ち344(20.6%)

宣言勝ち30 先手宣言勝ち16 後手宣言勝ち14 先手引き分け144 後手引き分け189

engine2

勝ち867(52.0%) 先手勝ち463(27.8%) 後手勝ち404(24.2%)

宣言勝ち13 先手宣言勝ち5 後手宣言勝ち8 先手引き分け189 後手引き分け144

800,333,867

思考時間 (ms)	レーティング差
1000	-17.6
2000	-33.6
4000	-45.6
8000	-32.4
16000	-11.6

思考時間が 1000ms～8000ms のとき、 halfkp_1280x2-16-32 のほうが有意にレーティングが低かった。 16000ms では有意な差はなかった。

思考時間とレーティングとの間に、相関は見られなかった。

考察

思考時間とレーティングに相関がなかった理由として 3 つの可能性が考えられる。1 つ目は、ネットワーク構造が変わっても、思考時間とレーティングの関係に変化がないという可能性である。2 つ目は、 halfkp_1280x2-16-32 と halfkp_1024x2-8-32 には、思考時間とレーティングの関係がほとんど変わらないという可能性である。3 つ目は、対局回数が少なく、計測誤差が大きかったためという可能性である。今回の実験結果からのみでは、どれが正しいか分からなかった。

まとめ

halfkp_1280x2-16-32 ネットワークについて、思考時間によりレーティングが変化するかどうか調べた。

結果、思考時間とレーティングとの間に、相関は見られなかった。思考時間とレーティングに相関がなかった理由として 3 つの可能性が考えられる。1 つ目は、ネットワーク構造が変わっても、思考時間とレーティングの関係に変化がないという可能性である。2 つ目は、 halfkp_1280x2-16-32 と halfkp_1024x2-8-32 には、思考時間とレーティングの関係がほとんど変わらないという可能性である。3 つ目は、対局回数が少なく、計測誤差が大きかったためという可能性である。今回の実験結果からのみでは、どれが正しいか分からなかった。

次回は、 halfkp_256x2-256-256 ネットワークを学習させ、レーティングを測定したい。

2024-04-04

tanuki- 2024-04-04 halfkp_1280x2-16-32

将棋コンピュータ将棋

tanuki- 2024-04-04 halfkp_1280x2-16-32

実験内容

halfkp_1280x2-16-32 ネットワークを学習させ、レーティングを測定する。

ランダムパラメーターからの学習には、 Hao を用いて生成した学習データを用いる。
Fine-tuning に Fine-tuning Suisho10Mn_psv を学習データとして用いる。

棋譜生成

ランダムパラメーターから学習させる際の学習データ

生成ルーチン	tanuki-棋譜生成ルーチン
評価関数	Hao (tanuki-.halfkp_256x2-32-32.2023-05-08)
1手あたりの思考	深さ最大 9 思考ノード数最大 50,000 ノード
開始局面	foodgate の 2020 年～ 2021 年の棋譜を使用した。レーティング 3900 以上同士の対局のみ使用した。戦型が角換わりの対局が 10% になるよう調整した。 32 手目までから 1 局面ランダムに選択し、その局面を開始局面とした。ランダムムーブはしなかった。
生成局面数	10 億局面 × 8 セット
生成条件	対局は打ち切らず詰みの局面まで学習データに出力した
フォルダ名	tanuki-.halfkp_256x2-32-32.2023-05-08

シャッフル条件

ランダムパラメータから学習させる際の学習データ

生成ルーチン	tanuki-シャッフルルーチン
qsearch()	あり
置換表	無効
min_progress	0.0

Fine-tuning に用いる学習データ

生成ルーチン	tanuki-シャッフルルーチン
qsearch()	あり
置換表	無効
min_progress	0.1

機械学習

機械学習ルーチン	nnue-pytorch + やねうら王 https://github.com/nodchip/nnue-pytorch/tree/shogi.2024-03-30.halfkp_1280x2-16-32
学習モデル	halfkp_1280x2-16-32
学習手法	ミニバッチ SGD
初期学習率 (lr)	0.5 収束後 0.05
最適化手法	なし
学習率調整手法	Warmup + Newbob 風
batch-size	16384
threads	8
num-workers	8
accelerator	gpu
devices	1
features	HalfKP
max-epoch	1000000
score-scaling	361
lambda	1.0 収束後 0.5
勝敗項の教師信号	0.999
num-batches-warmup	10000
newbob-decay	0.5
epoch-size	1000000
num-epochs-to-adjust-lr	500
学習を打ち切る下限 newbob scale	1e-5
1 epoch 毎のネットワークパラメーターのクリップ	あり
ネットワークパラメーターの量子化	量子化なしで学習し、収束後に量子化する。
ネットワークパラメーターの初期化方法	pytorch のデフォルトの初期化手法で初期化する。
勾配の正規化	なし
momentum	0.9
入玉ボーナス	入玉時、持ち駒および敵陣三段目までに侵入している駒について、小駒 1 枚につき 20 点、大駒 1 枚につき 100 点、敵陣三段目までに侵入している駒 1 枚につき 20 点追加する。

レーティング測定

対局相手	https://docs.google.com/document/d/1FC3FvCxyJV6IRPfwOHOMcAlEoTsjmRY8JZpWkGVpgH8/edit?usp=sharing tanuki-.nnue-pytorch-2024-03-24.1000
思考時間	持ち時間 300 秒 + 1 手 2 秒加算
対局数	5000
同時対局数	64
ハッシュサイズ	384
開始局面	dlshogi 互角局面集の角換わりの割合が 10% になるよう間引いたもの

実験結果

機械学習

ランダムパラメーターからの学習

Fine-tuning

ネットワークパラメーターの分布

mean=-27.564844131469727 std=23.989225387573242

mean=-0.007801845669746399 std=3.5048375129699707

mean=1939.25 std=2005.179443359375

mean=-0.24643555283546448 std=5.6906561851501465

mean=-2811.5625 std=4802.22705078125

mean=2.66015625 std=26.0267391204834

mean=7955.0 std=nan

mean=3.28125 std=50.98591613769531

ベンチマーク

halfkp_1280x2-16-32

Total time (ms) : 60006

Nodes searched : 50071303

Nodes_searched/second : 834438

halfkp_1024x2-8-32

Total time (ms) : 60017

Nodes searched : 62024216

Nodes_searched/second : 1033444

レーティング測定

思考エンジン1 思考エンジン2

name YaneuraOu NNUE 7.63 64ZEN2 TOURNAMENT YaneuraOu NNUE 7.63 64ZEN2 TOURNAMENT

author by yaneurao by yaneurao

exeファイル C:\Jenkins\workspace\TanukiColiseum.2023-04-16\engine1\source\YaneuraOu-by-gcc.exe C:\Jenkins\workspace\TanukiColiseum.2023-04-16\engine2\source\YaneuraOu-by-gcc.exe

評価関数フォルダパス D:\hnoda\shogi\eval\tanuki-.nnue-pytorch-2024-03-30 D:\hnoda\shogi\eval\tanuki-.nnue-pytorch-2024-03-24.1000

定跡手数 256 256

定跡ファイル名 no_book no_book

思考ノード数 0 0

思考ノード数に加える乱数(%) 0 0

思考ノード数の乱数を1手毎に変化させる False False

持ち時間(ms) 300000 300000

秒読み時間(ms) 0 0

加算時間(ms) 2000 2000

乱数付き思考時間(ms) 0 0

スレッド数 1 1

BookEvalDiff 30 30

定跡の採択率を考慮する false false

定跡の手数を無視する false false

SlowMover 100 100

DrawValue -2 -2

BookEvalBlackLimit 0 0

BookEvalWhiteLimit -140 -140

FVScale 16 16

Depth=0 0

MinimumThinkingTime 1000 1000

対局数5000 先手勝ち2455(56.3%) 後手勝ち1905(43.7%) 引き分け640

engine1

勝ち1986(45.6% R-27.0 +-9.7) 先手勝ち1138(26.1%) 後手勝ち848(19.4%)

宣言勝ち77 先手宣言勝ち37 後手宣言勝ち40 先手引き分け308 後手引き分け332

engine2

勝ち2374(54.4%) 先手勝ち1317(30.2%) 後手勝ち1057(24.2%)

宣言勝ち34 先手宣言勝ち15 後手宣言勝ち19 先手引き分け332 後手引き分け308

1986,640,2374

学習ロスと検証ロスは、ランダムパラメーターからの学習、 Fine-tuning 共に、 halfkp_1024x2-8-32 より低くなった。

ベンチマークは halfkp_1024x2-8-32 に比べて 19% 程度遅かった。

レーティングは halfkp_1024x2-8-32 より R27.0 低く、有意な差があった。

考察

レーティングが有意に低かった理由は、 nps の低下によるものだと思う。レーティングの低下が速度低下の 2 倍であったと仮定すると、 19 * 2 = 38 であり、 R27.0 低いという事実と大きな誤差はない。仮にレーティングが、速度低下に寄り想定される値より高いとした場合、評価関数の精度向上により、レーティングが想定より高くなったと考えるのが良いと思う。

まとめ

halfkp_1280x2-16-32 ネットワークを学習させ、レーティングを測定した。ランダムパラメーターからの学習には、 Hao を用いて生成した学習データを用いた。 Fine-tuning に Fine-tuning Suisho10Mn_psv を学習データとして用いた。

レーティングは halfkp_1024x2-8-32 より R27.0 低く、有意な差があった。レーティングが有意に低かった理由は、 nps の低下によるものだと思う。レーティングの低下が速度低下の 2 倍であったと仮定すると、 19 * 2 = 38 であり、 R27.0 低いという事実と大きな誤差はない。仮にレーティングが、速度低下に寄り想定される値より高いとした場合、評価関数の精度向上により、レーティングが想定より高くなったと考えるのが良いと思う。

次回は halfkp_1280x2-16-32 ネットワークと halfkp_1024x2-8-32 ネットワークを、思考時間を変化させながら対局させ、レーティング差を測定し、思考時間の変化とネットワークパラメーター数とレーティングの変化を調べたい。

2024-03-31

tanuki- 2024-03-31 halfkp_1024x2-16-32

将棋コンピュータ将棋

tanuki- 2024-03-31 halfkp_1024x2-16-32

実験内容

halfkp_1024x2-16-32 ネットワークを学習させ、レーティングを測定する。

ランダムパラメーターからの学習には、 Hao を用いて生成した学習データを用いる。
Fine-tuning に Fine-tuning Suisho10Mn_psv を学習データとして用いる。

棋譜生成

ランダムパラメーターから学習させる際の学習データ

生成ルーチン	tanuki-棋譜生成ルーチン
評価関数	Hao (tanuki-.halfkp_256x2-32-32.2023-05-08)
1手あたりの思考	深さ最大 9 思考ノード数最大 50,000 ノード
開始局面	foodgate の 2020 年～ 2021 年の棋譜を使用した。レーティング 3900 以上同士の対局のみ使用した。戦型が角換わりの対局が 10% になるよう調整した。 32 手目までから 1 局面ランダムに選択し、その局面を開始局面とした。ランダムムーブはしなかった。
生成局面数	10 億局面 × 8 セット
生成条件	対局は打ち切らず詰みの局面まで学習データに出力した
フォルダ名	tanuki-.halfkp_256x2-32-32.2023-05-08

シャッフル条件

ランダムパラメータから学習させる際の学習データ

生成ルーチン	tanuki-シャッフルルーチン
qsearch()	あり
置換表	無効
min_progress	0.0

Fine-tuning に用いる学習データ

生成ルーチン	tanuki-シャッフルルーチン
qsearch()	あり
置換表	無効
min_progress	0.1

機械学習

機械学習ルーチン	nnue-pytorch + やねうら王 https://github.com/nodchip/nnue-pytorch/tree/shogi.2024-03-27.halfkp_1024x2-16-32
学習モデル	halfkp_1024x2-16-32
学習手法	ミニバッチ SGD
初期学習率 (lr)	0.5 収束後 0.05
最適化手法	なし
学習率調整手法	Warmup + Newbob 風
batch-size	16384
threads	8
num-workers	8
accelerator	gpu
devices	1
features	HalfKP
max-epoch	1000000
score-scaling	361
lambda	1.0 収束後 0.5
勝敗項の教師信号	0.999
num-batches-warmup	10000
newbob-decay	0.5
epoch-size	1000000
num-epochs-to-adjust-lr	500
学習を打ち切る下限 newbob scale	1e-5
1 epoch 毎のネットワークパラメーターのクリップ	あり
ネットワークパラメーターの量子化	量子化なしで学習し、収束後に量子化する。
ネットワークパラメーターの初期化方法	pytorch のデフォルトの初期化手法で初期化する。
勾配の正規化	なし
momentum	0.9
入玉ボーナス	入玉時、持ち駒および敵陣三段目までに侵入している駒について、小駒 1 枚につき 20 点、大駒 1 枚につき 100 点、敵陣三段目までに侵入している駒 1 枚につき 20 点追加する。

レーティング測定

対局相手	https://docs.google.com/document/d/1FC3FvCxyJV6IRPfwOHOMcAlEoTsjmRY8JZpWkGVpgH8/edit?usp=sharing tanuki-.nnue-pytorch-2024-03-24.1000
思考時間	持ち時間 300 秒 + 1 手 2 秒加算
対局数	5000
同時対局数	64
ハッシュサイズ	384
開始局面	dlshogi 互角局面集の角換わりの割合が 10% になるよう間引いたもの

実験結果

機械学習

ランダムパラメーターからの学習

Fine-tuning

ネットワークパラメーターの分布

mean=-25.4091796875 std=24.03389549255371

mean=-0.007266631815582514 std=3.661637783050537

mean=1549.1875 std=2485.44091796875

mean=-0.2646484375 std=5.713271141052246

mean=-3093.03125 std=5290.32177734375

mean=2.84765625 std=25.09294319152832

mean=5029.0 std=nan

mean=-1.28125 std=47.72855758666992

ベンチマーク

halfkp_1024x2-16-32

Total time (ms) : 60005

Nodes searched : 58173495

Nodes_searched/second : 969477

halfkp_1024x2-8-32

Total time (ms) : 60017

Nodes searched : 62024216

Nodes_searched/second : 1033444

レーティング測定

思考エンジン1 思考エンジン2

name YaneuraOu NNUE 7.63 64ZEN2 TOURNAMENT YaneuraOu NNUE 7.63 64ZEN2 TOURNAMENT

author by yaneurao by yaneurao

exeファイル C:\Jenkins\workspace\TanukiColiseum.2023-04-16\engine1\source\YaneuraOu-by-gcc.exe C:\Jenkins\workspace\TanukiColiseum.2023-04-16\engine2\source\YaneuraOu-by-gcc.exe

評価関数フォルダパス D:\hnoda\shogi\eval\tanuki-.nnue-pytorch-2024-03-27 D:\hnoda\shogi\eval\tanuki-.nnue-pytorch-2024-03-24.1000

定跡手数 256 256

定跡ファイル名 no_book no_book

思考ノード数 0 0

思考ノード数に加える乱数(%) 0 0

思考ノード数の乱数を1手毎に変化させる False False

持ち時間(ms) 300000 300000

秒読み時間(ms) 0 0

加算時間(ms) 2000 2000

乱数付き思考時間(ms) 0 0

スレッド数 1 1

BookEvalDiff 30 30

定跡の採択率を考慮する false false

定跡の手数を無視する false false

SlowMover 100 100

DrawValue -2 -2

BookEvalBlackLimit 0 0

BookEvalWhiteLimit -140 -140

FVScale 16 16

Depth=0 0

MinimumThinkingTime 1000 1000

対局数5000 先手勝ち2634(62.0%) 後手勝ち1616(38.0%) 引き分け750

engine1

勝ち1747(41.1% R-52.9 +-9.7) 先手勝ち1035(24.4%) 後手勝ち712(16.8%)

宣言勝ち92 先手宣言勝ち48 後手宣言勝ち44 先手引き分け556 後手引き分け194

engine2

勝ち2503(58.9%) 先手勝ち1599(37.6%) 後手勝ち904(21.3%)

宣言勝ち39 先手宣言勝ち23 後手宣言勝ち16 先手引き分け194 後手引き分け556

1747,750,2503

学習ロスと検証ロスは、ランダムパラメーターからの学習、 Fine-tuning 共に、 halfkp_1024x2-8-32 より低くなった。

ベンチマークは halfkp_1024x2-8-32 に比べて 6% 程度遅かった。

レーティングは halfkp_1024x2-8-32 より R52.9 低く、有意な差があった。

考察

レーティングが有意に低かった理由が分からなかった。 nps の速度低下によるものだと仮定すると、速度低下の 2 倍で 6 * 2 = R12 程度の低下になるはずである。これは R52.9 と比べて大きな差がある。学習ロスと検証ロスは halfkp_1024x2-8-32 より下がっているため、学習データの内容は halfkp_1024x2-8-32 より学習できているはずである。

まとめ

halfkp_1024x2-16-32 ネットワークを学習させ、レーティングを測定した。ランダムパラメーターからの学習には、 Hao を用いて生成した学習データを用いた。 Fine-tuning に Fine-tuning Suisho10Mn_psv を学習データとして用いた。

レーティングは halfkp_1024x2-8-32 より R52.9 低く、有意な差があった。レーティングが有意に低かった理由が分からなかった。

次回は halfkp_1280x2-16-32 ネットワークを学習させ、レーティングを測定したい。

2024-03-27

tanuki- 2024-03-27 nnue-pytorch halfkp_1024x2-8-32 Fine-tuning Suisho10Mn_psv (3)

将棋コンピュータ将棋

tanuki- 2024-03-23 nnue-pytorch halfkp_1024x2-8-32 Fine-tuning Suisho10Mn_psv (2)

実験内容

nnue-pytorch で学習した halfkp_1024x2-8-32 ネットワークを、 Suisho10Mn_psv を用いて Fine-tuning する。
学習率を 1e-6 または 1e-7 とし、学習局面数を変えて学習させ、レーティングを測定する。

シャッフル条件

生成ルーチン	tanuki-シャッフルルーチン
qsearch()	あり
置換表	無効
min_progress	0.1

機械学習

機械学習ルーチン	nnue-pytorch + やねうら王 https://github.com/nodchip/nnue-pytorch/tree/shogi.2023-10-29.halfkp_1024x2-8-32
学習モデル	halfkp_1024x2-8-32
学習手法	ミニバッチ SGD
初期学習率 (lr)	1e-6・1e-7
最適化手法	なし
学習率調整手法	Warmup + Newbob 風
batch-size	16384
threads	8
num-workers	8
accelerator	gpu
devices	1
features	HalfKP
max-epoch	5001
score-scaling	361
lambda	0.0
勝敗項の教師信号	0.999
num-batches-warmup	10000
newbob-decay	0.5
epoch-size	1000000
num-epochs-to-adjust-lr	500
学習を打ち切る下限 newbob scale	1e-5
1 epoch 毎のネットワークパラメーターのクリップ	あり
ネットワークパラメーターの量子化	量子化なしで学習し、収束後に量子化する。
ネットワークパラメーターの初期化方法	pytorch のデフォルトの初期化手法で初期化する。
勾配の正規化	なし
momentum	0.9
入玉ボーナス	入玉時、持ち駒および敵陣三段目までに侵入している駒について、小駒 1 枚につき 20 点、大駒 1 枚につき 100 点、敵陣三段目までに侵入している駒 1 枚につき 20 点追加する。

レーティング測定

対局相手	https://docs.google.com/document/d/1i_h7rxPbEVP7PaUMuDjcGUtgWdOK_gj01r_yILajWZg/edit?usp=sharing tanuki-.nnue-pytorch-2024-03-06
思考時間	持ち時間 300 秒 + 1 手 2 秒加算
対局数	5000
同時対局数	64
ハッシュサイズ	384
開始局面	dlshogi 互角局面集の角換わりの割合が 10% になるよう間引いたもの

実験結果

機械学習

https://docs.google.com/document/d/1uVHjDqXoh5YAEwXkVMF9SIMNQXeABCVb_tHHj-Hm5kY/edit?usp=sharing 参照

レーティング測定

lr=1e-6

思考エンジン1 思考エンジン2

name YaneuraOu NNUE 7.63 64ZEN2 TOURNAMENT YaneuraOu NNUE 7.63 64ZEN2 TOURNAMENT

author by yaneurao by yaneurao

exeファイル C:\Jenkins\workspace\TanukiColiseum.2023-04-16\engine1\source\YaneuraOu-by-gcc.exe C:\Jenkins\workspace\TanukiColiseum.2023-04-16\engine2\source\YaneuraOu-by-gcc.exe

評価関数フォルダパス D:\hnoda\shogi\eval\tanuki-.nnue-pytorch-2024-03-22.500 D:\hnoda\shogi\eval\tanuki-.nnue-pytorch-2024-03-06

定跡手数 256 256

定跡ファイル名 no_book no_book

思考ノード数 0 0

思考ノード数に加える乱数(%) 0 0

思考ノード数の乱数を1手毎に変化させる False False

持ち時間(ms) 300000 300000

秒読み時間(ms) 0 0

加算時間(ms) 2000 2000

乱数付き思考時間(ms) 0 0

スレッド数 1 1

BookEvalDiff 30 30

定跡の採択率を考慮する false false

定跡の手数を無視する false false

SlowMover 100 100

DrawValue -2 -2

BookEvalBlackLimit 0 0

BookEvalWhiteLimit -140 -140

FVScale 16 16

Depth=0 0

MinimumThinkingTime 1000 1000

対局数2000 先手勝ち891(56.9%) 後手勝ち674(43.1%) 引き分け435

engine1

勝ち858(54.8% R26.3 +-15.3) 先手勝ち497(31.8%) 後手勝ち361(23.1%)

宣言勝ち36 先手宣言勝ち17 後手宣言勝ち19 先手引き分け188 後手引き分け247

engine2

勝ち707(45.2%) 先手勝ち394(25.2%) 後手勝ち313(20.0%)

宣言勝ち25 先手宣言勝ち7 後手宣言勝ち18 先手引き分け247 後手引き分け188

858,435,707

思考エンジン1 思考エンジン2

name YaneuraOu NNUE 7.63 64ZEN2 TOURNAMENT YaneuraOu NNUE 7.63 64ZEN2 TOURNAMENT

author by yaneurao by yaneurao

exeファイル C:\Jenkins\workspace\TanukiColiseum.2023-04-16\engine1\source\YaneuraOu-by-gcc.exe C:\Jenkins\workspace\TanukiColiseum.2023-04-16\engine2\source\YaneuraOu-by-gcc.exe

評価関数フォルダパス D:\hnoda\shogi\eval\tanuki-.nnue-pytorch-2024-03-22.1000 D:\hnoda\shogi\eval\tanuki-.nnue-pytorch-2024-03-06

定跡手数 256 256

定跡ファイル名 no_book no_book

思考ノード数 0 0

思考ノード数に加える乱数(%) 0 0

思考ノード数の乱数を1手毎に変化させる False False

持ち時間(ms) 300000 300000

秒読み時間(ms) 0 0

加算時間(ms) 2000 2000

乱数付き思考時間(ms) 0 0

スレッド数 1 1

BookEvalDiff 30 30

定跡の採択率を考慮する false false

定跡の手数を無視する false false

SlowMover 100 100

DrawValue -2 -2

BookEvalBlackLimit 0 0

BookEvalWhiteLimit -140 -140

FVScale 16 16

Depth=0 0

MinimumThinkingTime 1000 1000

対局数2000 先手勝ち870(55.7%) 後手勝ち691(44.3%) 引き分け439

engine1

勝ち711(45.5% R-24.2 +-15.3) 先手勝ち416(26.6%) 後手勝ち295(18.9%)

宣言勝ち31 先手宣言勝ち18 後手宣言勝ち13 先手引き分け187 後手引き分け252

engine2

勝ち850(54.5%) 先手勝ち454(29.1%) 後手勝ち396(25.4%)

宣言勝ち37 先手宣言勝ち14 後手宣言勝ち23 先手引き分け252 後手引き分け187

711,439,850

思考エンジン1 思考エンジン2

name YaneuraOu NNUE 7.63 64ZEN2 TOURNAMENT YaneuraOu NNUE 7.63 64ZEN2 TOURNAMENT

author by yaneurao by yaneurao

exeファイル C:\Jenkins\workspace\TanukiColiseum.2023-04-16\engine1\source\YaneuraOu-by-gcc.exe C:\Jenkins\workspace\TanukiColiseum.2023-04-16\engine2\source\YaneuraOu-by-gcc.exe

評価関数フォルダパス D:\hnoda\shogi\eval\tanuki-.nnue-pytorch-2024-03-22.1500 D:\hnoda\shogi\eval\tanuki-.nnue-pytorch-2024-03-06

定跡手数 256 256

定跡ファイル名 no_book no_book

思考ノード数 0 0

思考ノード数に加える乱数(%) 0 0

思考ノード数の乱数を1手毎に変化させる False False

持ち時間(ms) 300000 300000

秒読み時間(ms) 0 0

加算時間(ms) 2000 2000

乱数付き思考時間(ms) 0 0

スレッド数 1 1

BookEvalDiff 30 30

定跡の採択率を考慮する false false

定跡の手数を無視する false false

SlowMover 100 100

DrawValue -2 -2

BookEvalBlackLimit 0 0

BookEvalWhiteLimit -140 -140

FVScale 16 16

Depth=0 0

MinimumThinkingTime 1000 1000

対局数2000 先手勝ち902(56.4%) 後手勝ち698(43.6%) 引き分け400

engine1

勝ち813(50.8% R4.5 +-15.2) 先手勝ち459(28.7%) 後手勝ち354(22.1%)

宣言勝ち36 先手宣言勝ち19 後手宣言勝ち17 先手引き分け195 後手引き分け205

engine2

勝ち787(49.2%) 先手勝ち443(27.7%) 後手勝ち344(21.5%)

宣言勝ち39 先手宣言勝ち19 後手宣言勝ち20 先手引き分け205 後手引き分け195

813,400,787

思考エンジン1 思考エンジン2

name YaneuraOu NNUE 7.63 64ZEN2 TOURNAMENT YaneuraOu NNUE 7.63 64ZEN2 TOURNAMENT

author by yaneurao by yaneurao

exeファイル C:\Jenkins\workspace\TanukiColiseum.2023-04-16\engine1\source\YaneuraOu-by-gcc.exe C:\Jenkins\workspace\TanukiColiseum.2023-04-16\engine2\source\YaneuraOu-by-gcc.exe

評価関数フォルダパス D:\hnoda\shogi\eval\tanuki-.nnue-pytorch-2024-03-22.2000 D:\hnoda\shogi\eval\tanuki-.nnue-pytorch-2024-03-06

定跡手数 256 256

定跡ファイル名 no_book no_book

思考ノード数 0 0

思考ノード数に加える乱数(%) 0 0

思考ノード数の乱数を1手毎に変化させる False False

持ち時間(ms) 300000 300000

秒読み時間(ms) 0 0

加算時間(ms) 2000 2000

乱数付き思考時間(ms) 0 0

スレッド数 1 1

BookEvalDiff 30 30

定跡の採択率を考慮する false false

定跡の手数を無視する false false

SlowMover 100 100

DrawValue -2 -2

BookEvalBlackLimit 0 0

BookEvalWhiteLimit -140 -140

FVScale 16 16

Depth=0 0

MinimumThinkingTime 1000 1000

対局数2000 先手勝ち916(55.3%) 後手勝ち740(44.7%) 引き分け344

engine1

勝ち811(49.0% R-5.9 +-15.2) 先手勝ち456(27.5%) 後手勝ち355(21.4%)

宣言勝ち45 先手宣言勝ち17 後手宣言勝ち28 先手引き分け162 後手引き分け182

engine2

勝ち845(51.0%) 先手勝ち460(27.8%) 後手勝ち385(23.2%)

宣言勝ち50 先手宣言勝ち19 後手宣言勝ち31 先手引き分け182 後手引き分け162

811,344,845

思考エンジン1 思考エンジン2

name YaneuraOu NNUE 7.63 64ZEN2 TOURNAMENT YaneuraOu NNUE 7.63 64ZEN2 TOURNAMENT

author by yaneurao by yaneurao

exeファイル C:\Jenkins\workspace\TanukiColiseum.2023-04-16\engine1\source\YaneuraOu-by-gcc.exe C:\Jenkins\workspace\TanukiColiseum.2023-04-16\engine2\source\YaneuraOu-by-gcc.exe

評価関数フォルダパス D:\hnoda\shogi\eval\tanuki-.nnue-pytorch-2024-03-22.2500 D:\hnoda\shogi\eval\tanuki-.nnue-pytorch-2024-03-06

定跡手数 256 256

定跡ファイル名 no_book no_book

思考ノード数 0 0

思考ノード数に加える乱数(%) 0 0

思考ノード数の乱数を1手毎に変化させる False False

持ち時間(ms) 300000 300000

秒読み時間(ms) 0 0

加算時間(ms) 2000 2000

乱数付き思考時間(ms) 0 0

スレッド数 1 1

BookEvalDiff 30 30

定跡の採択率を考慮する false false

定跡の手数を無視する false false

SlowMover 100 100

DrawValue -2 -2

BookEvalBlackLimit 0 0

BookEvalWhiteLimit -140 -140

FVScale 16 16

Depth=0 0

MinimumThinkingTime 1000 1000

対局数2000 先手勝ち903(54.7%) 後手勝ち747(45.3%) 引き分け350

engine1

勝ち791(47.9% R-11.8 +-15.2) 先手勝ち456(27.6%) 後手勝ち335(20.3%)

宣言勝ち35 先手宣言勝ち16 後手宣言勝ち19 先手引き分け133 後手引き分け217

engine2

勝ち859(52.1%) 先手勝ち447(27.1%) 後手勝ち412(25.0%)

宣言勝ち37 先手宣言勝ち15 後手宣言勝ち22 先手引き分け217 後手引き分け133

791,350,859

思考エンジン1 思考エンジン2

name YaneuraOu NNUE 7.63 64ZEN2 TOURNAMENT YaneuraOu NNUE 7.63 64ZEN2 TOURNAMENT

author by yaneurao by yaneurao

exeファイル C:\Jenkins\workspace\TanukiColiseum.2023-04-16\engine1\source\YaneuraOu-by-gcc.exe C:\Jenkins\workspace\TanukiColiseum.2023-04-16\engine2\source\YaneuraOu-by-gcc.exe

評価関数フォルダパス D:\hnoda\shogi\eval\tanuki-.nnue-pytorch-2024-03-22.3000 D:\hnoda\shogi\eval\tanuki-.nnue-pytorch-2024-03-06

定跡手数 256 256

定跡ファイル名 no_book no_book

思考ノード数 0 0

思考ノード数に加える乱数(%) 0 0

思考ノード数の乱数を1手毎に変化させる False False

持ち時間(ms) 300000 300000

秒読み時間(ms) 0 0

加算時間(ms) 2000 2000

乱数付き思考時間(ms) 0 0

スレッド数 1 1

BookEvalDiff 30 30

定跡の採択率を考慮する false false

定跡の手数を無視する false false

SlowMover 100 100

DrawValue -2 -2

BookEvalBlackLimit 0 0

BookEvalWhiteLimit -140 -140

FVScale 16 16

Depth=0 0

MinimumThinkingTime 1000 1000

対局数2000 先手勝ち1084(60.0%) 後手勝ち722(40.0%) 引き分け194

engine1

勝ち813(45.0% R-31.4 +-15.3) 先手勝ち495(27.4%) 後手勝ち318(17.6%)

宣言勝ち45 先手宣言勝ち21 後手宣言勝ち24 先手引き分け99 後手引き分け95

engine2

勝ち993(55.0%) 先手勝ち589(32.6%) 後手勝ち404(22.4%)

宣言勝ち49 先手宣言勝ち25 後手宣言勝ち24 先手引き分け95 後手引き分け99

813,194,993

思考エンジン1 思考エンジン2

name YaneuraOu NNUE 7.63 64ZEN2 TOURNAMENT YaneuraOu NNUE 7.63 64ZEN2 TOURNAMENT

author by yaneurao by yaneurao

exeファイル C:\Jenkins\workspace\TanukiColiseum.2023-04-16\engine1\source\YaneuraOu-by-gcc.exe C:\Jenkins\workspace\TanukiColiseum.2023-04-16\engine2\source\YaneuraOu-by-gcc.exe

評価関数フォルダパス D:\hnoda\shogi\eval\tanuki-.nnue-pytorch-2024-03-22.3500 D:\hnoda\shogi\eval\tanuki-.nnue-pytorch-2024-03-06

定跡手数 256 256

定跡ファイル名 no_book no_book

思考ノード数 0 0

思考ノード数に加える乱数(%) 0 0

思考ノード数の乱数を1手毎に変化させる False False

持ち時間(ms) 300000 300000

秒読み時間(ms) 0 0

加算時間(ms) 2000 2000

乱数付き思考時間(ms) 0 0

スレッド数 1 1

BookEvalDiff 30 30

定跡の採択率を考慮する false false

定跡の手数を無視する false false

SlowMover 100 100

DrawValue -2 -2

BookEvalBlackLimit 0 0

BookEvalWhiteLimit -140 -140

FVScale 16 16

Depth=0 0

MinimumThinkingTime 1000 1000

対局数2000 先手勝ち1059(59.7%) 後手勝ち715(40.3%) 引き分け226

engine1

勝ち893(50.3% R2.1 +-15.2) 先手勝ち533(30.0%) 後手勝ち360(20.3%)

宣言勝ち34 先手宣言勝ち16 後手宣言勝ち18 先手引き分け109 後手引き分け117

engine2

勝ち881(49.7%) 先手勝ち526(29.7%) 後手勝ち355(20.0%)

宣言勝ち37 先手宣言勝ち20 後手宣言勝ち17 先手引き分け117 後手引き分け109

893,226,881

思考エンジン1 思考エンジン2

name YaneuraOu NNUE 7.63 64ZEN2 TOURNAMENT YaneuraOu NNUE 7.63 64ZEN2 TOURNAMENT

author by yaneurao by yaneurao

exeファイル C:\Jenkins\workspace\TanukiColiseum.2023-04-16\engine1\source\YaneuraOu-by-gcc.exe C:\Jenkins\workspace\TanukiColiseum.2023-04-16\engine2\source\YaneuraOu-by-gcc.exe

評価関数フォルダパス D:\hnoda\shogi\eval\tanuki-.nnue-pytorch-2024-03-22.4000 D:\hnoda\shogi\eval\tanuki-.nnue-pytorch-2024-03-06

定跡手数 256 256

定跡ファイル名 no_book no_book

思考ノード数 0 0

思考ノード数に加える乱数(%) 0 0

思考ノード数の乱数を1手毎に変化させる False False

持ち時間(ms) 300000 300000

秒読み時間(ms) 0 0

加算時間(ms) 2000 2000

乱数付き思考時間(ms) 0 0

スレッド数 1 1

BookEvalDiff 30 30

定跡の採択率を考慮する false false

定跡の手数を無視する false false

SlowMover 100 100

DrawValue -2 -2

BookEvalBlackLimit 0 0

BookEvalWhiteLimit -140 -140

FVScale 16 16

Depth=0 0

MinimumThinkingTime 1000 1000

対局数2000 先手勝ち980(56.7%) 後手勝ち749(43.3%) 引き分け271

engine1

勝ち790(45.7% R-25.9 +-15.3) 先手勝ち456(26.4%) 後手勝ち334(19.3%)

宣言勝ち40 先手宣言勝ち21 後手宣言勝ち19 先手引き分け128 後手引き分け143

engine2

勝ち939(54.3%) 先手勝ち524(30.3%) 後手勝ち415(24.0%)

宣言勝ち49 先手宣言勝ち18 後手宣言勝ち31 先手引き分け143 後手引き分け128

790,271,939

思考エンジン1 思考エンジン2

name YaneuraOu NNUE 7.63 64ZEN2 TOURNAMENT YaneuraOu NNUE 7.63 64ZEN2 TOURNAMENT

author by yaneurao by yaneurao

exeファイル C:\Jenkins\workspace\TanukiColiseum.2023-04-16\engine1\source\YaneuraOu-by-gcc.exe C:\Jenkins\workspace\TanukiColiseum.2023-04-16\engine2\source\YaneuraOu-by-gcc.exe

評価関数フォルダパス D:\hnoda\shogi\eval\tanuki-.nnue-pytorch-2024-03-22.4500 D:\hnoda\shogi\eval\tanuki-.nnue-pytorch-2024-03-06

定跡手数 256 256

定跡ファイル名 no_book no_book

思考ノード数 0 0

思考ノード数に加える乱数(%) 0 0

思考ノード数の乱数を1手毎に変化させる False False

持ち時間(ms) 300000 300000

秒読み時間(ms) 0 0

加算時間(ms) 2000 2000

乱数付き思考時間(ms) 0 0

スレッド数 1 1

BookEvalDiff 30 30

定跡の採択率を考慮する false false

定跡の手数を無視する false false

SlowMover 100 100

DrawValue -2 -2

BookEvalBlackLimit 0 0

BookEvalWhiteLimit -140 -140

FVScale 16 16

Depth=0 0

MinimumThinkingTime 1000 1000

対局数2000 先手勝ち1149(63.1%) 後手勝ち671(36.9%) 引き分け180

engine1

勝ち908(49.9% R-0.7 +-15.2) 先手勝ち578(31.8%) 後手勝ち330(18.1%)

宣言勝ち40 先手宣言勝ち25 後手宣言勝ち15 先手引き分け82 後手引き分け98

engine2

勝ち912(50.1%) 先手勝ち571(31.4%) 後手勝ち341(18.7%)

宣言勝ち30 先手宣言勝ち18 後手宣言勝ち12 先手引き分け98 後手引き分け82

908,180,912

思考エンジン1 思考エンジン2

name YaneuraOu NNUE 7.63 64ZEN2 TOURNAMENT YaneuraOu NNUE 7.63 64ZEN2 TOURNAMENT

author by yaneurao by yaneurao

exeファイル C:\Jenkins\workspace\TanukiColiseum.2023-04-16\engine1\source\YaneuraOu-by-gcc.exe C:\Jenkins\workspace\TanukiColiseum.2023-04-16\engine2\source\YaneuraOu-by-gcc.exe

評価関数フォルダパス D:\hnoda\shogi\eval\tanuki-.nnue-pytorch-2024-03-22.5000 D:\hnoda\shogi\eval\tanuki-.nnue-pytorch-2024-03-06

定跡手数 256 256

定跡ファイル名 no_book no_book

思考ノード数 0 0

思考ノード数に加える乱数(%) 0 0

思考ノード数の乱数を1手毎に変化させる False False

持ち時間(ms) 300000 300000

秒読み時間(ms) 0 0

加算時間(ms) 2000 2000

乱数付き思考時間(ms) 0 0

スレッド数 1 1

BookEvalDiff 30 30

定跡の採択率を考慮する false false

定跡の手数を無視する false false

SlowMover 100 100

DrawValue -2 -2

BookEvalBlackLimit 0 0

BookEvalWhiteLimit -140 -140

FVScale 16 16

Depth=0 0

MinimumThinkingTime 1000 1000

対局数2000 先手勝ち1090(60.4%) 後手勝ち716(39.6%) 引き分け194

engine1

勝ち835(46.2% R-23.7 +-15.3) 先手勝ち513(28.4%) 後手勝ち322(17.8%)

宣言勝ち47 先手宣言勝ち31 後手宣言勝ち16 先手引き分け94 後手引き分け100

engine2

勝ち971(53.8%) 先手勝ち577(31.9%) 後手勝ち394(21.8%)

宣言勝ち40 先手宣言勝ち15 後手宣言勝ち25 先手引き分け100 後手引き分け94

835,194,971

学習局面数	レーティング差
5 億	26.3
10 億	-24.2
15 億	4.5
20 億	-5.9
25 億	-11.8
30 億	-31.4
35 億	2.1
40 億	-25.9
45 億	-0.7
50 億	-23.7

lr=1e-7

思考エンジン1 思考エンジン2

name YaneuraOu NNUE 7.63 64ZEN2 TOURNAMENT YaneuraOu NNUE 7.63 64ZEN2 TOURNAMENT

author by yaneurao by yaneurao

exeファイル C:\Jenkins\workspace\TanukiColiseum.2023-04-16\engine1\source\YaneuraOu-by-gcc.exe C:\Jenkins\workspace\TanukiColiseum.2023-04-16\engine2\source\YaneuraOu-by-gcc.exe

評価関数フォルダパス D:\hnoda\shogi\eval\tanuki-.nnue-pytorch-2024-03-24.500 D:\hnoda\shogi\eval\tanuki-.nnue-pytorch-2024-03-06

定跡手数 256 256

定跡ファイル名 no_book no_book

思考ノード数 0 0

思考ノード数に加える乱数(%) 0 0

思考ノード数の乱数を1手毎に変化させる False False

持ち時間(ms) 300000 300000

秒読み時間(ms) 0 0

加算時間(ms) 2000 2000

乱数付き思考時間(ms) 0 0

スレッド数 1 1

BookEvalDiff 30 30

定跡の採択率を考慮する false false

定跡の手数を無視する false false

SlowMover 100 100

DrawValue -2 -2

BookEvalBlackLimit 0 0

BookEvalWhiteLimit -140 -140

FVScale 16 16

Depth=0 0

MinimumThinkingTime 1000 1000

対局数2000 先手勝ち861(54.7%) 後手勝ち713(45.3%) 引き分け426

engine1

勝ち831(52.8% R15.3 +-15.2) 先手勝ち460(29.2%) 後手勝ち371(23.6%)

宣言勝ち35 先手宣言勝ち20 後手宣言勝ち15 先手引き分け197 後手引き分け229

engine2

勝ち743(47.2%) 先手勝ち401(25.5%) 後手勝ち342(21.7%)

宣言勝ち45 先手宣言勝ち22 後手宣言勝ち23 先手引き分け229 後手引き分け197

831,426,743

思考エンジン1 思考エンジン2

name YaneuraOu NNUE 7.63 64ZEN2 TOURNAMENT YaneuraOu NNUE 7.63 64ZEN2 TOURNAMENT

author by yaneurao by yaneurao

exeファイル C:\Jenkins\workspace\TanukiColiseum.2023-04-16\engine1\source\YaneuraOu-by-gcc.exe C:\Jenkins\workspace\TanukiColiseum.2023-04-16\engine2\source\YaneuraOu-by-gcc.exe

評価関数フォルダパス D:\hnoda\shogi\eval\tanuki-.nnue-pytorch-2024-03-24.1000 D:\hnoda\shogi\eval\tanuki-.nnue-pytorch-2024-03-06

定跡手数 256 256

定跡ファイル名 no_book no_book

思考ノード数 0 0

思考ノード数に加える乱数(%) 0 0

思考ノード数の乱数を1手毎に変化させる False False

持ち時間(ms) 300000 300000

秒読み時間(ms) 0 0

加算時間(ms) 2000 2000

乱数付き思考時間(ms) 0 0

スレッド数 1 1

BookEvalDiff 30 30

定跡の採択率を考慮する false false

定跡の手数を無視する false false

SlowMover 100 100

DrawValue -2 -2

BookEvalBlackLimit 0 0

BookEvalWhiteLimit -140 -140

FVScale 16 16

Depth=0 0

MinimumThinkingTime 1000 1000

対局数2000 先手勝ち907(55.6%) 後手勝ち725(44.4%) 引き分け368

engine1

勝ち909(55.7% R32.4 +-15.3) 先手勝ち512(31.4%) 後手勝ち397(24.3%)

宣言勝ち41 先手宣言勝ち23 後手宣言勝ち18 先手引き分け161 後手引き分け207

engine2

勝ち723(44.3%) 先手勝ち395(24.2%) 後手勝ち328(20.1%)

宣言勝ち41 先手宣言勝ち16 後手宣言勝ち25 先手引き分け207 後手引き分け161

909,368,723

思考エンジン1 思考エンジン2

name YaneuraOu NNUE 7.63 64ZEN2 TOURNAMENT YaneuraOu NNUE 7.63 64ZEN2 TOURNAMENT

author by yaneurao by yaneurao

exeファイル C:\Jenkins\workspace\TanukiColiseum.2023-04-16\engine1\source\YaneuraOu-by-gcc.exe C:\Jenkins\workspace\TanukiColiseum.2023-04-16\engine2\source\YaneuraOu-by-gcc.exe

評価関数フォルダパス D:\hnoda\shogi\eval\tanuki-.nnue-pytorch-2024-03-24.1500 D:\hnoda\shogi\eval\tanuki-.nnue-pytorch-2024-03-06

定跡手数 256 256

定跡ファイル名 no_book no_book

思考ノード数 0 0

思考ノード数に加える乱数(%) 0 0

思考ノード数の乱数を1手毎に変化させる False False

持ち時間(ms) 300000 300000

秒読み時間(ms) 0 0

加算時間(ms) 2000 2000

乱数付き思考時間(ms) 0 0

スレッド数 1 1

BookEvalDiff 30 30

定跡の採択率を考慮する false false

定跡の手数を無視する false false

SlowMover 100 100

DrawValue -2 -2

BookEvalBlackLimit 0 0

BookEvalWhiteLimit -140 -140

FVScale 16 16

Depth=0 0

MinimumThinkingTime 1000 1000

対局数2000 先手勝ち937(57.0%) 後手勝ち708(43.0%) 引き分け355

engine1

勝ち880(53.5% R20.0 +-15.3) 先手勝ち507(30.8%) 後手勝ち373(22.7%)

宣言勝ち48 先手宣言勝ち29 後手宣言勝ち19 先手引き分け159 後手引き分け196

engine2

勝ち765(46.5%) 先手勝ち430(26.1%) 後手勝ち335(20.4%)

宣言勝ち41 先手宣言勝ち22 後手宣言勝ち19 先手引き分け196 後手引き分け159

880,355,765

思考エンジン1 思考エンジン2

name YaneuraOu NNUE 7.63 64ZEN2 TOURNAMENT YaneuraOu NNUE 7.63 64ZEN2 TOURNAMENT

author by yaneurao by yaneurao

exeファイル C:\Jenkins\workspace\TanukiColiseum.2023-04-16\engine1\source\YaneuraOu-by-gcc.exe C:\Jenkins\workspace\TanukiColiseum.2023-04-16\engine2\source\YaneuraOu-by-gcc.exe

評価関数フォルダパス D:\hnoda\shogi\eval\tanuki-.nnue-pytorch-2024-03-24.2000 D:\hnoda\shogi\eval\tanuki-.nnue-pytorch-2024-03-06

定跡手数 256 256

定跡ファイル名 no_book no_book

思考ノード数 0 0

思考ノード数に加える乱数(%) 0 0

思考ノード数の乱数を1手毎に変化させる False False

持ち時間(ms) 300000 300000

秒読み時間(ms) 0 0

加算時間(ms) 2000 2000

乱数付き思考時間(ms) 0 0

スレッド数 1 1

BookEvalDiff 30 30

定跡の採択率を考慮する false false

定跡の手数を無視する false false

SlowMover 100 100

DrawValue -2 -2

BookEvalBlackLimit 0 0

BookEvalWhiteLimit -140 -140

FVScale 16 16

Depth=0 0

MinimumThinkingTime 1000 1000

対局数2000 先手勝ち892(58.4%) 後手勝ち636(41.6%) 引き分け472

engine1

勝ち788(51.6% R8.3 +-15.2) 先手勝ち468(30.6%) 後手勝ち320(20.9%)

宣言勝ち37 先手宣言勝ち22 後手宣言勝ち15 先手引き分け219 後手引き分け253

engine2

勝ち740(48.4%) 先手勝ち424(27.7%) 後手勝ち316(20.7%)

宣言勝ち38 先手宣言勝ち22 後手宣言勝ち16 先手引き分け253 後手引き分け219

788,472,740

思考エンジン1 思考エンジン2

name YaneuraOu NNUE 7.63 64ZEN2 TOURNAMENT YaneuraOu NNUE 7.63 64ZEN2 TOURNAMENT

author by yaneurao by yaneurao

exeファイル C:\Jenkins\workspace\TanukiColiseum.2023-04-16\engine1\source\YaneuraOu-by-gcc.exe C:\Jenkins\workspace\TanukiColiseum.2023-04-16\engine2\source\YaneuraOu-by-gcc.exe

評価関数フォルダパス D:\hnoda\shogi\eval\tanuki-.nnue-pytorch-2024-03-24.2500 D:\hnoda\shogi\eval\tanuki-.nnue-pytorch-2024-03-06

定跡手数 256 256

定跡ファイル名 no_book no_book

思考ノード数 0 0

思考ノード数に加える乱数(%) 0 0

思考ノード数の乱数を1手毎に変化させる False False

持ち時間(ms) 300000 300000

秒読み時間(ms) 0 0

加算時間(ms) 2000 2000

乱数付き思考時間(ms) 0 0

スレッド数 1 1

BookEvalDiff 30 30

定跡の採択率を考慮する false false

定跡の手数を無視する false false

SlowMover 100 100

DrawValue -2 -2

BookEvalBlackLimit 0 0

BookEvalWhiteLimit -140 -140

FVScale 16 16

Depth=0 0

MinimumThinkingTime 1000 1000

対局数2000 先手勝ち897(57.8%) 後手勝ち655(42.2%) 引き分け448

engine1

勝ち794(51.2% R6.3 +-15.2) 先手勝ち453(29.2%) 後手勝ち341(22.0%)

宣言勝ち53 先手宣言勝ち29 後手宣言勝ち24 先手引き分け232 後手引き分け216

engine2

勝ち758(48.8%) 先手勝ち444(28.6%) 後手勝ち314(20.2%)

宣言勝ち26 先手宣言勝ち10 後手宣言勝ち16 先手引き分け216 後手引き分け232

794,448,758

思考エンジン1 思考エンジン2

name YaneuraOu NNUE 7.63 64ZEN2 TOURNAMENT YaneuraOu NNUE 7.63 64ZEN2 TOURNAMENT

author by yaneurao by yaneurao

exeファイル C:\Jenkins\workspace\TanukiColiseum.2023-04-16\engine1\source\YaneuraOu-by-gcc.exe C:\Jenkins\workspace\TanukiColiseum.2023-04-16\engine2\source\YaneuraOu-by-gcc.exe

評価関数フォルダパス D:\hnoda\shogi\eval\tanuki-.nnue-pytorch-2024-03-24.3000 D:\hnoda\shogi\eval\tanuki-.nnue-pytorch-2024-03-06

定跡手数 256 256

定跡ファイル名 no_book no_book

思考ノード数 0 0

思考ノード数に加える乱数(%) 0 0

思考ノード数の乱数を1手毎に変化させる False False

持ち時間(ms) 300000 300000

秒読み時間(ms) 0 0

加算時間(ms) 2000 2000

乱数付き思考時間(ms) 0 0

スレッド数 1 1

BookEvalDiff 30 30

定跡の採択率を考慮する false false

定跡の手数を無視する false false

SlowMover 100 100

DrawValue -2 -2

BookEvalBlackLimit 0 0

BookEvalWhiteLimit -140 -140

FVScale 16 16

Depth=0 0

MinimumThinkingTime 1000 1000

対局数2000 先手勝ち942(56.6%) 後手勝ち722(43.4%) 引き分け336

engine1

勝ち914(54.9% R28.6 +-15.3) 先手勝ち525(31.6%) 後手勝ち389(23.4%)

宣言勝ち46 先手宣言勝ち30 後手宣言勝ち16 先手引き分け145 後手引き分け191

engine2

勝ち750(45.1%) 先手勝ち417(25.1%) 後手勝ち333(20.0%)

宣言勝ち26 先手宣言勝ち6 後手宣言勝ち20 先手引き分け191 後手引き分け145

914,336,750

思考エンジン1 思考エンジン2

name YaneuraOu NNUE 7.63 64ZEN2 TOURNAMENT YaneuraOu NNUE 7.63 64ZEN2 TOURNAMENT

author by yaneurao by yaneurao

exeファイル C:\Jenkins\workspace\TanukiColiseum.2023-04-16\engine1\source\YaneuraOu-by-gcc.exe C:\Jenkins\workspace\TanukiColiseum.2023-04-16\engine2\source\YaneuraOu-by-gcc.exe

評価関数フォルダパス D:\hnoda\shogi\eval\tanuki-.nnue-pytorch-2024-03-24.3500 D:\hnoda\shogi\eval\tanuki-.nnue-pytorch-2024-03-06

定跡手数 256 256

定跡ファイル名 no_book no_book

思考ノード数 0 0

思考ノード数に加える乱数(%) 0 0

思考ノード数の乱数を1手毎に変化させる False False

持ち時間(ms) 300000 300000

秒読み時間(ms) 0 0

加算時間(ms) 2000 2000

乱数付き思考時間(ms) 0 0

スレッド数 1 1

BookEvalDiff 30 30

定跡の採択率を考慮する false false

定跡の手数を無視する false false

SlowMover 100 100

DrawValue -2 -2

BookEvalBlackLimit 0 0

BookEvalWhiteLimit -140 -140

FVScale 16 16

Depth=0 0

MinimumThinkingTime 1000 1000

対局数2000 先手勝ち820(52.7%) 後手勝ち737(47.3%) 引き分け443

engine1

勝ち844(54.2% R22.8 +-15.3) 先手勝ち436(28.0%) 後手勝ち408(26.2%)

宣言勝ち44 先手宣言勝ち31 後手宣言勝ち13 先手引き分け235 後手引き分け208

engine2

勝ち713(45.8%) 先手勝ち384(24.7%) 後手勝ち329(21.1%)

宣言勝ち41 先手宣言勝ち19 後手宣言勝ち22 先手引き分け208 後手引き分け235

844,443,713

思考エンジン1 思考エンジン2

name YaneuraOu NNUE 7.63 64ZEN2 TOURNAMENT YaneuraOu NNUE 7.63 64ZEN2 TOURNAMENT

author by yaneurao by yaneurao

exeファイル C:\Jenkins\workspace\TanukiColiseum.2023-04-16\engine1\source\YaneuraOu-by-gcc.exe C:\Jenkins\workspace\TanukiColiseum.2023-04-16\engine2\source\YaneuraOu-by-gcc.exe

評価関数フォルダパス D:\hnoda\shogi\eval\tanuki-.nnue-pytorch-2024-03-24.4000 D:\hnoda\shogi\eval\tanuki-.nnue-pytorch-2024-03-06

定跡手数 256 256

定跡ファイル名 no_book no_book

思考ノード数 0 0

思考ノード数に加える乱数(%) 0 0

思考ノード数の乱数を1手毎に変化させる False False

持ち時間(ms) 300000 300000

秒読み時間(ms) 0 0

加算時間(ms) 2000 2000

乱数付き思考時間(ms) 0 0

スレッド数 1 1

BookEvalDiff 30 30

定跡の採択率を考慮する false false

定跡の手数を無視する false false

SlowMover 100 100

DrawValue -2 -2

BookEvalBlackLimit 0 0

BookEvalWhiteLimit -140 -140

FVScale 16 16

Depth=0 0

MinimumThinkingTime 1000 1000

対局数2000 先手勝ち918(56.4%) 後手勝ち711(43.6%) 引き分け371

engine1

勝ち864(53.0% R17.2 +-15.3) 先手勝ち493(30.3%) 後手勝ち371(22.8%)

宣言勝ち37 先手宣言勝ち23 後手宣言勝ち14 先手引き分け166 後手引き分け205

engine2

勝ち765(47.0%) 先手勝ち425(26.1%) 後手勝ち340(20.9%)

宣言勝ち42 先手宣言勝ち24 後手宣言勝ち18 先手引き分け205 後手引き分け166

864,371,765

思考エンジン1 思考エンジン2

name YaneuraOu NNUE 7.63 64ZEN2 TOURNAMENT YaneuraOu NNUE 7.63 64ZEN2 TOURNAMENT

author by yaneurao by yaneurao

exeファイル C:\Jenkins\workspace\TanukiColiseum.2023-04-16\engine1\source\YaneuraOu-by-gcc.exe C:\Jenkins\workspace\TanukiColiseum.2023-04-16\engine2\source\YaneuraOu-by-gcc.exe

評価関数フォルダパス D:\hnoda\shogi\eval\tanuki-.nnue-pytorch-2024-03-24.4500 D:\hnoda\shogi\eval\tanuki-.nnue-pytorch-2024-03-06

定跡手数 256 256

定跡ファイル名 no_book no_book

思考ノード数 0 0

思考ノード数に加える乱数(%) 0 0

思考ノード数の乱数を1手毎に変化させる False False

持ち時間(ms) 300000 300000

秒読み時間(ms) 0 0

加算時間(ms) 2000 2000

乱数付き思考時間(ms) 0 0

スレッド数 1 1

BookEvalDiff 30 30

定跡の採択率を考慮する false false

定跡の手数を無視する false false

SlowMover 100 100

DrawValue -2 -2

BookEvalBlackLimit 0 0

BookEvalWhiteLimit -140 -140

FVScale 16 16

Depth=0 0

MinimumThinkingTime 1000 1000

対局数2000 先手勝ち932(57.2%) 後手勝ち698(42.8%) 引き分け370

engine1

勝ち900(55.2% R29.6 +-15.3) 先手勝ち508(31.2%) 後手勝ち392(24.0%)

宣言勝ち43 先手宣言勝ち19 後手宣言勝ち24 先手引き分け183 後手引き分け187

engine2

勝ち730(44.8%) 先手勝ち424(26.0%) 後手勝ち306(18.8%)

宣言勝ち25 先手宣言勝ち13 後手宣言勝ち12 先手引き分け187 後手引き分け183

900,370,730

思考エンジン1 思考エンジン2

name YaneuraOu NNUE 7.63 64ZEN2 TOURNAMENT YaneuraOu NNUE 7.63 64ZEN2 TOURNAMENT

author by yaneurao by yaneurao

exeファイル C:\Jenkins\workspace\TanukiColiseum.2023-04-16\engine1\source\YaneuraOu-by-gcc.exe C:\Jenkins\workspace\TanukiColiseum.2023-04-16\engine2\source\YaneuraOu-by-gcc.exe

評価関数フォルダパス D:\hnoda\shogi\eval\tanuki-.nnue-pytorch-2024-03-24.5000 D:\hnoda\shogi\eval\tanuki-.nnue-pytorch-2024-03-06

定跡手数 256 256

定跡ファイル名 no_book no_book

思考ノード数 0 0

思考ノード数に加える乱数(%) 0 0

思考ノード数の乱数を1手毎に変化させる False False

持ち時間(ms) 300000 300000

秒読み時間(ms) 0 0

加算時間(ms) 2000 2000

乱数付き思考時間(ms) 0 0

スレッド数 1 1

BookEvalDiff 30 30

定跡の採択率を考慮する false false

定跡の手数を無視する false false

SlowMover 100 100

DrawValue -2 -2

BookEvalBlackLimit 0 0

BookEvalWhiteLimit -140 -140

FVScale 16 16

Depth=0 0

MinimumThinkingTime 1000 1000

対局数2000 先手勝ち848(54.9%) 後手勝ち697(45.1%) 引き分け455

engine1

勝ち814(52.7% R14.4 +-15.2) 先手勝ち436(28.2%) 後手勝ち378(24.5%)

宣言勝ち45 先手宣言勝ち21 後手宣言勝ち24 先手引き分け243 後手引き分け212

engine2

勝ち731(47.3%) 先手勝ち412(26.7%) 後手勝ち319(20.6%)

宣言勝ち41 先手宣言勝ち17 後手宣言勝ち24 先手引き分け212 後手引き分け243

814,455,731

学習局面数	レーティング差
5 億	15.3
10 億	32.4
15 億	20.0
20 億	8.3
25 億	6.3
30 億	28.6
35 億	22.8
40 億	17.2
45 億	29.6
50 億	14.4

lr=1e-6 のとき、学習局面が 5 億局面のもの以外は、レーティングに有意な差がないか、有意に低かった。

lr=1e-7 のとき、いくつかの学習局面数において、有意にレーティングが向上した。

lr=1e-6 のときも lr=1e-7 のときも、学習局面数とレーティングに単調減少や単調増加といった特徴は見られなかった。

考察

lr=1e-6 のとき、学習局面が 5 億局面のもの以外、レーティングに有意な差がないか、有意に低かったのは、学習データに過学習し、元のネットワークパラメーターのうち、レーティングに寄与するものを壊してしまったためだと思う。

lr=1e-7 のとき、いくつかの学習局面数において、有意にレーティングが向上したのは、元のネットワークパラメーターのうち、レーティングに寄与するものを維持しつつ、学習データを学習できたためだと思う。

lr=1e-6 のときも lr=1e-7 のときも、学習局面数とレーティングに単調減少や単調増加といった特徴は見られなかったのは、対局階数が少なく、計測誤差が大きかったからだと思う。

今回の実験により、あるネットワークについて、ランダムパラメーターから学習させ、 Fine-tuning によりレーティングを向上させるまでの一通りの流れが確立できたと思う。

まとめ

nnue-pytorch で学習した halfkp_1024x2-8-32 ネットワークを、 Suisho10Mn_psv を用いて Fine-tuning した。その際、学習率を 1e-6 または 1e-7 とし、学習局面数を変えて学習させ、レーティングを測定した。

結果、 lr=1e-7 のとき、いくつかの学習局面数において、有意にレーティングが向上した。 lr=1e-7 のとき、いくつかの学習局面数において、有意にレーティングが向上したのは、元のネットワークパラメーターのうち、レーティングに寄与するものを維持しつつ、学習データを学習できたためだと思う。

次回は、 halfkp_1024x2-16-32 ネットワークパラメーターで学習させ、レーティングを計測したい。

2024-03-23

tanuki- 2024-03-23 nnue-pytorch halfkp_1024x2-8-32 Fine-tuning Suisho10Mn_psv (2)

将棋コンピュータ将棋

tanuki- 2024-03-23 nnue-pytorch halfkp_1024x2-8-32 Fine-tuning Suisho10Mn_psv (2)

実験内容

nnue-pytorch で学習した halfkp_1024x2-8-32 ネットワークを、 Suisho10Mn_psv を用いて Fine-tuning する。
学習率を変えて学習させる。

シャッフル条件

生成ルーチン	tanuki-シャッフルルーチン
qsearch()	あり
置換表	無効
min_progress	0.1

機械学習

機械学習ルーチン	nnue-pytorch + やねうら王 https://github.com/nodchip/nnue-pytorch/tree/shogi.2023-10-29.halfkp_1024x2-8-32
学習モデル	halfkp_1024x2-8-32
学習手法	ミニバッチ SGD
初期学習率 (lr)	1e-4・1e-5・1e-6・1e-7・1e-8
最適化手法	なし
学習率調整手法	Warmup + Newbob 風
batch-size	16384
threads	8
num-workers	8
accelerator	gpu
devices	1
features	HalfKP
max-epoch	5001
score-scaling	361
lambda	0.0
勝敗項の教師信号	0.999
num-batches-warmup	10000
newbob-decay	0.5
epoch-size	1000000
num-epochs-to-adjust-lr	500
学習を打ち切る下限 newbob scale	1e-5
1 epoch 毎のネットワークパラメーターのクリップ	あり
ネットワークパラメーターの量子化	量子化なしで学習し、収束後に量子化する。
ネットワークパラメーターの初期化方法	pytorch のデフォルトの初期化手法で初期化する。
勾配の正規化	なし
momentum	0.9
入玉ボーナス	入玉時、持ち駒および敵陣三段目までに侵入している駒について、小駒 1 枚につき 20 点、大駒 1 枚につき 100 点、敵陣三段目までに侵入している駒 1 枚につき 20 点追加する。

レーティング測定

対局相手	https://docs.google.com/document/d/1i_h7rxPbEVP7PaUMuDjcGUtgWdOK_gj01r_yILajWZg/edit?usp=sharing tanuki-.nnue-pytorch-2024-03-06
思考時間	持ち時間 300 秒 + 1 手 2 秒加算
対局数	5000
同時対局数	64
ハッシュサイズ	384
開始局面	dlshogi 互角局面集の角換わりの割合が 10% になるよう間引いたもの

実験結果

機械学習

レーティング測定

以下は 5 億局面学習させたときのレーティングの計測結果である。

思考エンジン1 思考エンジン2

name YaneuraOu NNUE 7.63 64ZEN2 TOURNAMENT YaneuraOu NNUE 7.63 64ZEN2 TOURNAMENT

author by yaneurao by yaneurao

exeファイル C:\Jenkins\workspace\TanukiColiseum.2023-04-16\engine1\source\YaneuraOu-by-gcc.exe C:\Jenkins\workspace\TanukiColiseum.2023-04-16\engine2\source\YaneuraOu-by-gcc.exe

評価関数フォルダパス D:\hnoda\shogi\eval\tanuki-.nnue-pytorch-2024-03-20.500 D:\hnoda\shogi\eval\tanuki-.nnue-pytorch-2024-03-06

定跡手数 256 256

定跡ファイル名 no_book no_book

思考ノード数 0 0

思考ノード数に加える乱数(%) 0 0

思考ノード数の乱数を1手毎に変化させる False False

持ち時間(ms) 300000 300000

秒読み時間(ms) 0 0

加算時間(ms) 2000 2000

乱数付き思考時間(ms) 0 0

スレッド数 1 1

BookEvalDiff 30 30

定跡の採択率を考慮する false false

定跡の手数を無視する false false

SlowMover 100 100

DrawValue -2 -2

BookEvalBlackLimit 0 0

BookEvalWhiteLimit -140 -140

FVScale 16 16

Depth=0 0

MinimumThinkingTime 1000 1000

対局数2000 先手勝ち1058(55.5%) 後手勝ち849(44.5%) 引き分け93

engine1

勝ち664(34.8% R-103.5 +-15.9) 先手勝ち383(20.1%) 後手勝ち281(14.7%)

宣言勝ち28 先手宣言勝ち13 後手宣言勝ち15 先手引き分け51 後手引き分け42

engine2

勝ち1243(65.2%) 先手勝ち675(35.4%) 後手勝ち568(29.8%)

宣言勝ち19 先手宣言勝ち14 後手宣言勝ち5 先手引き分け42 後手引き分け51

664,93,1243

思考エンジン1 思考エンジン2

name YaneuraOu NNUE 7.63 64ZEN2 TOURNAMENT YaneuraOu NNUE 7.63 64ZEN2 TOURNAMENT

author by yaneurao by yaneurao

exeファイル C:\Jenkins\workspace\TanukiColiseum.2023-04-16\engine1\source\YaneuraOu-by-gcc.exe C:\Jenkins\workspace\TanukiColiseum.2023-04-16\engine2\source\YaneuraOu-by-gcc.exe

評価関数フォルダパス D:\hnoda\shogi\eval\tanuki-.nnue-pytorch-2024-03-21.500 D:\hnoda\shogi\eval\tanuki-.nnue-pytorch-2024-03-06

定跡手数 256 256

定跡ファイル名 no_book no_book

思考ノード数 0 0

思考ノード数に加える乱数(%) 0 0

思考ノード数の乱数を1手毎に変化させる False False

持ち時間(ms) 300000 300000

秒読み時間(ms) 0 0

加算時間(ms) 2000 2000

乱数付き思考時間(ms) 0 0

スレッド数 1 1

BookEvalDiff 30 30

定跡の採択率を考慮する false false

定跡の手数を無視する false false

SlowMover 100 100

DrawValue -2 -2

BookEvalBlackLimit 0 0

BookEvalWhiteLimit -140 -140

FVScale 16 16

Depth=0 0

MinimumThinkingTime 1000 1000

対局数2000 先手勝ち1166(63.1%) 後手勝ち682(36.9%) 引き分け152

engine1

勝ち880(47.6% R-15.3 +-15.2) 先手勝ち565(30.6%) 後手勝ち315(17.0%)

宣言勝ち40 先手宣言勝ち29 後手宣言勝ち11 先手引き分け73 後手引き分け79

engine2

勝ち968(52.4%) 先手勝ち601(32.5%) 後手勝ち367(19.9%)

宣言勝ち45 先手宣言勝ち23 後手宣言勝ち22 先手引き分け79 後手引き分け73

880,152,968

思考エンジン1 思考エンジン2

name YaneuraOu NNUE 7.63 64ZEN2 TOURNAMENT YaneuraOu NNUE 7.63 64ZEN2 TOURNAMENT

author by yaneurao by yaneurao

exeファイル C:\Jenkins\workspace\TanukiColiseum.2023-04-16\engine1\source\YaneuraOu-by-gcc.exe C:\Jenkins\workspace\TanukiColiseum.2023-04-16\engine2\source\YaneuraOu-by-gcc.exe

評価関数フォルダパス D:\hnoda\shogi\eval\tanuki-.nnue-pytorch-2024-03-22.500 D:\hnoda\shogi\eval\tanuki-.nnue-pytorch-2024-03-06

定跡手数 256 256

定跡ファイル名 no_book no_book

思考ノード数 0 0

思考ノード数に加える乱数(%) 0 0

思考ノード数の乱数を1手毎に変化させる False False

持ち時間(ms) 300000 300000

秒読み時間(ms) 0 0

加算時間(ms) 2000 2000

乱数付き思考時間(ms) 0 0

スレッド数 1 1

BookEvalDiff 30 30

定跡の採択率を考慮する false false

定跡の手数を無視する false false

SlowMover 100 100

DrawValue -2 -2

BookEvalBlackLimit 0 0

BookEvalWhiteLimit -140 -140

FVScale 16 16

Depth=0 0

MinimumThinkingTime 1000 1000

対局数2000 先手勝ち891(56.9%) 後手勝ち674(43.1%) 引き分け435

engine1

勝ち858(54.8% R26.3 +-15.3) 先手勝ち497(31.8%) 後手勝ち361(23.1%)

宣言勝ち36 先手宣言勝ち17 後手宣言勝ち19 先手引き分け188 後手引き分け247

engine2

勝ち707(45.2%) 先手勝ち394(25.2%) 後手勝ち313(20.0%)

宣言勝ち25 先手宣言勝ち7 後手宣言勝ち18 先手引き分け247 後手引き分け188

858,435,707

思考エンジン1 思考エンジン2

name YaneuraOu NNUE 7.63 64ZEN2 TOURNAMENT YaneuraOu NNUE 7.63 64ZEN2 TOURNAMENT

author by yaneurao by yaneurao

exeファイル C:\Jenkins\workspace\TanukiColiseum.2023-04-16\engine1\source\YaneuraOu-by-gcc.exe C:\Jenkins\workspace\TanukiColiseum.2023-04-16\engine2\source\YaneuraOu-by-gcc.exe

評価関数フォルダパス D:\hnoda\shogi\eval\tanuki-.nnue-pytorch-2024-03-24.500 D:\hnoda\shogi\eval\tanuki-.nnue-pytorch-2024-03-06

定跡手数 256 256

定跡ファイル名 no_book no_book

思考ノード数 0 0

思考ノード数に加える乱数(%) 0 0

思考ノード数の乱数を1手毎に変化させる False False

持ち時間(ms) 300000 300000

秒読み時間(ms) 0 0

加算時間(ms) 2000 2000

乱数付き思考時間(ms) 0 0

スレッド数 1 1

BookEvalDiff 30 30

定跡の採択率を考慮する false false

定跡の手数を無視する false false

SlowMover 100 100

DrawValue -2 -2

BookEvalBlackLimit 0 0

BookEvalWhiteLimit -140 -140

FVScale 16 16

Depth=0 0

MinimumThinkingTime 1000 1000

対局数2000 先手勝ち861(54.7%) 後手勝ち713(45.3%) 引き分け426

engine1

勝ち831(52.8% R15.3 +-15.2) 先手勝ち460(29.2%) 後手勝ち371(23.6%)

宣言勝ち35 先手宣言勝ち20 後手宣言勝ち15 先手引き分け197 後手引き分け229

engine2

勝ち743(47.2%) 先手勝ち401(25.5%) 後手勝ち342(21.7%)

宣言勝ち45 先手宣言勝ち22 後手宣言勝ち23 先手引き分け229 後手引き分け197

831,426,743

思考エンジン1 思考エンジン2

name YaneuraOu NNUE 7.63 64ZEN2 TOURNAMENT YaneuraOu NNUE 7.63 64ZEN2 TOURNAMENT

author by yaneurao by yaneurao

exeファイル C:\Jenkins\workspace\TanukiColiseum.2023-04-16\engine1\source\YaneuraOu-by-gcc.exe C:\Jenkins\workspace\TanukiColiseum.2023-04-16\engine2\source\YaneuraOu-by-gcc.exe

評価関数フォルダパス D:\hnoda\shogi\eval\tanuki-.nnue-pytorch-2024-03-25.500 D:\hnoda\shogi\eval\tanuki-.nnue-pytorch-2024-03-06

定跡手数 256 256

定跡ファイル名 no_book no_book

思考ノード数 0 0

思考ノード数に加える乱数(%) 0 0

思考ノード数の乱数を1手毎に変化させる False False

持ち時間(ms) 300000 300000

秒読み時間(ms) 0 0

加算時間(ms) 2000 2000

乱数付き思考時間(ms) 0 0

スレッド数 1 1

BookEvalDiff 30 30

定跡の採択率を考慮する false false

定跡の手数を無視する false false

SlowMover 100 100

DrawValue -2 -2

BookEvalBlackLimit 0 0

BookEvalWhiteLimit -140 -140

FVScale 16 16

Depth=0 0

MinimumThinkingTime 1000 1000

対局数2000 先手勝ち1026(60.5%) 後手勝ち671(39.5%) 引き分け303

engine1

勝ち855(50.4% R2.3 +-15.2) 先手勝ち516(30.4%) 後手勝ち339(20.0%)

宣言勝ち38 先手宣言勝ち21 後手宣言勝ち17 先手引き分け150 後手引き分け153

engine2

勝ち842(49.6%) 先手勝ち510(30.1%) 後手勝ち332(19.6%)

宣言勝ち53 先手宣言勝ち31 後手宣言勝ち22 先手引き分け153 後手引き分け150

855,303,842

lr	レーティング差
1e-4	-103.5
1e-5	-15.3
1e-6	26.3
1e-7	15.3
1e-8	2.3

学習ロスと検証ロスは、学習が進むにつれて下がっていった。

学習ロスと検証ロスは、学習率が高いほど大きく下がった。

学習ロスと検証ロスは、学習率が 1e-8 のときにはほとんど下がらなかった。

レーティングは、学習率が 1e-4・1e-5 のときに有意に下がった。学習率が 1e-6・1e-7 のときは有意に上がった。

考察

学習ロスと検証ロスが、学習が進むにつれて下がっていったことは、学習データに対する過学習が起こらなかったことを表していると思う。

学習ロスと検証ロスが、学習率が 1e-8 のときにほとんど下がらなかったのは、アンダーフローが発生し、ネットワークパラメーターがほとんど変化しなかったことが原因だと思う。

レーティングが、学習率が 1e-4・1e-5 で有意に下がったのは、教師データに対する過学習が怒ったためだと思う。

レーティングが、学習率が 1e-6・1e-7 で有意に上がったのは、元のネットワークパラメーターの性質をあまり壊すことなく、教師データの良い部分を学習できたためだと思う。

レーティングが、学習率が 1e-8 でほとんど変わらなかったのは、ネットワークパラメーターがほとんど変化しなかったためだと思う。

まとめ

nnue-pytorch で学習した halfkp_1024x2-8-32 ネットワークを、 Suisho10Mn_psv を用いて Fine-tuning した。その際、学習率を変えて学習させた。

レーティングは、学習率が 1e-4・1e-5 のときに有意に下がった。学習率が 1e-6・1e-7 のときは有意に上がった。

レーティングが、学習率が 1e-4・1e-5 で有意に下がったのは、教師データに対する過学習が怒ったためだと思う。レーティングが、学習率が 1e-6・1e-7 で有意に上がったのは、元のネットワークパラメーターの性質をあまり壊すことなく、教師データの良い部分を学習できたためだと思う。レーティングが、学習率が 1e-8 でほとんど変わらなかったのは、ネットワークパラメーターがほとんど変化しなかったためだと思う。

次回は、学習率が 1e-6・1e-7 とのきについて、学習局面数を増やしたときのレーティングを測定したい。