tanuki- 2022-03-16 save_eval_interval

実験内容

save_eval_interval を変化させ、レーティングに変化があるか調べる。

棋譜生成

生成ルーチン	tanuki-棋譜生成ルーチン
評価関数	水匠5 FV_SCALE=16
1手あたりの思考	深さ最大 9 思考ノード数最大 50,000 ノード
開始局面	foodgate の 2020 年～ 2021 年の棋譜のうち、レーティング 3900 以上同士の対局の 32 手目までから 1 局面ランダムに選択し、その局面を開始局面としたランダムムーブなし
生成局面数	10 億局面 × 2 セット
生成条件	対局は打ち切らず詰みの局面まで学習データに出力した

機械学習

機械学習ルーチン	やねうら王機械学習ルーチン
学習モデル	halfkp_vm_256x2-32-32
学習手法	SGD ミニバッチ法
USI_Hash	1024
Threads	16
loop	100
batchsize	1000000
lambda	0.5
eta	1.0
newbob_decay	0.5
nn_batch_size	1000
eval_save_interval	100000000/200000000/300000000/400000000/500000000
loss_output_interval	1000000
mirror_percentage	50
eval_limit	32000
weight_by_progress	無効
次元下げ	なし
学習データ内で重複した局面の除外	しない
初期ネットワークパラメーター	tanuki-wcsc29
勝敗項の教師信号	0.80

レーティング測定

対局相手	tanuki-wcsc29.halfkp_vm_256x2-32-32 に水匠 5 で生成した学習データを学習させたもの
思考時間	持ち時間 900 秒 + 1 手 5 秒加算
対局数	5000
同時対局数	64
ハッシュサイズ	768
開始局面	たややん互換局面集

実験結果

レーティング測定

eval_save_interval=200000000

対局数=2000 同時対局数=64 ハッシュサイズ=768 開始手数=24 最大手数=320 開始局面ファイル=C:\Jenkins\workspace\TanukiColiseum.2021-09-05\TanukiColiseum\taya36_2020-11-06.sfen NUMAノード数=2 表示更新間隔(ms)=3600000

思考エンジン1 name=YaneuraOu NNUE 7.00 64ZEN2 TOURNAMENT author=by yaneurao exeファイル=C:\Jenkins\workspace\TanukiColiseum.2021-09-05\engine1\source\YaneuraOu-by-gcc.exe 評価関数フォルダパス=D:\hnoda\shogi\eval\suisho5.eval_save_interval=200000000\final 定跡手数=256 定跡ファイル名=no_book 思考ノード数=0 思考ノード数に加える乱数(%)=0 思考ノード数の乱数を1手毎に変化させる=False 持ち時間(ms)=300000 秒読み時間(ms)=0 加算時間(ms)=2000 乱数付き思考時間(ms)=0 スレッド数=1 BookEvalDiff=30 定跡の採択率を考慮する=false 定跡の手数を無視する=false SlowMover=100 DrawValue=-2 BookEvalBlackLimit=0 BookEvalWhiteLimit=-140

思考エンジン2 name=YaneuraOu NNUE 7.00 64ZEN2 TOURNAMENT author=by yaneurao exeファイル=C:\Jenkins\workspace\TanukiColiseum.2021-09-05\engine2\source\YaneuraOu-by-gcc.exe 評価関数フォルダパス=D:\hnoda\shogi\eval\suisho5\final 定跡手数=256 定跡ファイル名=no_book 思考ノード数=0 思考ノード数に加える乱数(%)=0 思考ノード数の乱数を1手毎に変化させる=False 持ち時間(ms)=300000 秒読み時間(ms)=0 加算時間(ms)=2000 乱数付き思考時間(ms)=0 スレッド数=1 BookEvalDiff=30 定跡の採択率を考慮する=false 定跡の手数を無視する=false SlowMover=100 DrawValue=-2 BookEvalBlackLimit=0 BookEvalWhiteLimit=-140

対局数2000 先手勝ち844(53.5%) 後手勝ち735(46.5%) 引き分け421

engine1

勝ち754(47.8% R-12.3 +-15.2) 先手勝ち407(25.8%) 後手勝ち347(22.0%)

宣言勝ち72 先手宣言勝ち31 後手宣言勝ち41 先手引き分け205 後手引き分け216

engine2

勝ち825(52.2%) 先手勝ち437(27.7%) 後手勝ち388(24.6%)

宣言勝ち31 先手宣言勝ち10 後手宣言勝ち21 先手引き分け216 後手引き分け205

754,421,825

eval_save_interval=300000000

思考エンジン1 name=YaneuraOu NNUE 7.00 64ZEN2 TOURNAMENT author=by yaneurao exeファイル=C:\Jenkins\workspace\TanukiColiseum.2021-09-05\engine1\source\YaneuraOu-by-gcc.exe 評価関数フォルダパス=D:\hnoda\shogi\eval\suisho5.eval_save_interval=300000000\final 定跡手数=256 定跡ファイル名=no_book 思考ノード数=0 思考ノード数に加える乱数(%)=0 思考ノード数の乱数を1手毎に変化させる=False 持ち時間(ms)=300000 秒読み時間(ms)=0 加算時間(ms)=2000 乱数付き思考時間(ms)=0 スレッド数=1 BookEvalDiff=30 定跡の採択率を考慮する=false 定跡の手数を無視する=false SlowMover=100 DrawValue=-2 BookEvalBlackLimit=0 BookEvalWhiteLimit=-140

対局数2000 先手勝ち860(55.2%) 後手勝ち697(44.8%) 引き分け443

engine1

勝ち798(51.3% R6.8 +-15.2) 先手勝ち443(28.5%) 後手勝ち355(22.8%)

宣言勝ち42 先手宣言勝ち18 後手宣言勝ち24 先手引き分け212 後手引き分け231

engine2

勝ち759(48.7%) 先手勝ち417(26.8%) 後手勝ち342(22.0%)

宣言勝ち38 先手宣言勝ち18 後手宣言勝ち20 先手引き分け231 後手引き分け212

798,443,759

eval_save_interval=400000000

思考エンジン1 name=YaneuraOu NNUE 7.00 64ZEN2 TOURNAMENT author=by yaneurao exeファイル=C:\Jenkins\workspace\TanukiColiseum.2021-09-05\engine1\source\YaneuraOu-by-gcc.exe 評価関数フォルダパス=D:\hnoda\shogi\eval\suisho5.eval_save_interval=400000000\final 定跡手数=256 定跡ファイル名=no_book 思考ノード数=0 思考ノード数に加える乱数(%)=0 思考ノード数の乱数を1手毎に変化させる=False 持ち時間(ms)=300000 秒読み時間(ms)=0 加算時間(ms)=2000 乱数付き思考時間(ms)=0 スレッド数=1 BookEvalDiff=30 定跡の採択率を考慮する=false 定跡の手数を無視する=false SlowMover=100 DrawValue=-2 BookEvalBlackLimit=0 BookEvalWhiteLimit=-140

対局数2000 先手勝ち854(53.4%) 後手勝ち745(46.6%) 引き分け401

engine1

勝ち800(50.0% R0.2 +-15.2) 先手勝ち436(27.3%) 後手勝ち364(22.8%)

宣言勝ち54 先手宣言勝ち29 後手宣言勝ち25 先手引き分け182 後手引き分け219

engine2

勝ち799(50.0%) 先手勝ち418(26.1%) 後手勝ち381(23.8%)

宣言勝ち31 先手宣言勝ち13 後手宣言勝ち18 先手引き分け219 後手引き分け182

800,401,799

eval_save_interval=500000000

思考エンジン1 name=YaneuraOu NNUE 7.00 64ZEN2 TOURNAMENT author=by yaneurao exeファイル=C:\Jenkins\workspace\TanukiColiseum.2021-09-05\engine1\source\YaneuraOu-by-gcc.exe 評価関数フォルダパス=D:\hnoda\shogi\eval\suisho5.eval_save_interval=500000000\final 定跡手数=256 定跡ファイル名=no_book 思考ノード数=0 思考ノード数に加える乱数(%)=0 思考ノード数の乱数を1手毎に変化させる=False 持ち時間(ms)=300000 秒読み時間(ms)=0 加算時間(ms)=2000 乱数付き思考時間(ms)=0 スレッド数=1 BookEvalDiff=30 定跡の採択率を考慮する=false 定跡の手数を無視する=false SlowMover=100 DrawValue=-2 BookEvalBlackLimit=0 BookEvalWhiteLimit=-140

対局数2000 先手勝ち857(54.5%) 後手勝ち715(45.5%) 引き分け428

engine1

勝ち811(51.6% R8.7 +-15.2) 先手勝ち440(28.0%) 後手勝ち371(23.6%)

宣言勝ち54 先手宣言勝ち23 後手宣言勝ち31 先手引き分け214 後手引き分け214

engine2

勝ち761(48.4%) 先手勝ち417(26.5%) 後手勝ち344(21.9%)

宣言勝ち26 先手宣言勝ち13 後手宣言勝ち13 先手引き分け214 後手引き分け214

811,428,761

まとめ

save_eval_interval を変化させ、レーティングに変化があるか調べた。

学習ロスと検証ロスは、大きな差はなかった。

収束までの学習局面数は、 eval_save_interval が大きくなるほど多くなった。また eval_save_interval=400000000 くらいからは伸びが鈍化した。

平手局面の評価値は、大きな差はなかった。

評価値の絶対値は、大きな差はなかった

レーティングは、 tanuki-wcsc29.halfkp_vm_256x2-32-32 に水匠 5 で生成した学習データを学習させたものと比べて、有意な差はなかった。

学習ロスと検証ロスについては、 eval_save_interval はほとんど影響がないという事なのだと思われる。

収束までの学習局面数については、 eval_save_interval が大きいほどノイズが小さくなり、学習率が下がる機会が減るためだと思われる。

平手局面の評価値については、 eval_save_interval はほとんど影響がないという事なのだと思われる。

評価値の絶対値については、 eval_save_interval はほとんど影響がないという事なのだと思われる。

レーティングについては、 eval_save_interval はほとんど影響がないという事なのだと思われる。

eval_save_interval はレーティングには大きな影響はないという事が分かった。今後は、今まで通り、ランダムパラメーター空の学習には eval_save_interval=500M、追加学習には eval_save_interval=100M を使用したいと思う。

nodchipのコンピューター将棋ブログ

コンピューター将棋ソフト「tanuki-」シリーズの実験結果を掲載しています。

tanuki- 2022-03-16 save_eval_interval

tanuki- 2022-03-16 save_eval_interval

実験内容

棋譜生成

機械学習

レーティング測定

実験結果

機械学習

レーティング測定

eval_save_interval=200000000

eval_save_interval=300000000

eval_save_interval=400000000

eval_save_interval=500000000

まとめ