tanuki- 2024-03-18 nnue-pytorch halfkp_1024x2-8-32 Fine-tuning Suisho10Mn_psv
実験内容
- nnue-pytorch で学習した halfkp_1024x2-8-32 ネットワークを、 Suisho10Mn_psv を用いて Fine-tuning する。
シャッフル条件
生成ルーチン | tanuki-シャッフルルーチン |
qsearch() | あり |
置換表 | 無効 |
機械学習
機械学習ルーチン | nnue-pytorch + やねうら王 https://github.com/nodchip/nnue-pytorch/tree/shogi.2023-10-29.halfkp_1024x2-8-32 |
学習モデル | halfkp_1024x2-8-32 |
学習手法 | ミニバッチ SGD |
初期学習率 (lr) | 0.0005 |
最適化手法 | なし |
学習率調整手法 | Warmup + Newbob 風 |
batch-size | 16384 |
threads | 8 |
num-workers | 8 |
accelerator | gpu |
devices | 1 |
features | HalfKP |
max-epoch | 1000000 |
score-scaling | 361 |
lambda | 0.0 |
勝敗項の教師信号 | 0.999 |
num-batches-warmup | 10000 |
newbob-decay | 0.5 |
epoch-size | 1000000 |
num-epochs-to-adjust-lr | 500 |
学習を打ち切る下限 newbob scale | 1e-5 |
1 epoch 毎のネットワークパラメーターのクリップ | あり |
ネットワークパラメーターの量子化 | 量子化なしで学習し、収束後に量子化する。 |
ネットワークパラメーターの初期化方法 | pytorch のデフォルトの初期化手法で初期化する。 |
勾配の正規化 | なし |
momentum | 0.9 |
入玉ボーナス | 入玉時、持ち駒および敵陣三段目までに侵入している駒について、小駒 1 枚につき 20 点、大駒 1 枚につき 100 点、敵陣三段目までに侵入している駒 1 枚につき 20 点追加する。 |
レーティング測定
対局相手 | https://docs.google.com/document/d/1i_h7rxPbEVP7PaUMuDjcGUtgWdOK_gj01r_yILajWZg/edit?usp=sharing tanuki-.nnue-pytorch-2024-03-06 |
思考時間 | 持ち時間 300 秒 + 1 手 2 秒加算 |
対局数 | 5000 |
同時対局数 | 64 |
ハッシュサイズ | 384 |
開始局面 | dlshogi 互角局面集の角換わりの割合が 10% になるよう間引いたもの |
実験結果
機械学習
レーティング測定
対局数=2000 同時対局数=64 ハッシュサイズ=384 開始手数=24 最大手数=320 開始局面ファイル=C:\Jenkins\workspace\TanukiColiseum.2023-04-16\TanukiColiseum\bishop_exchange.2023-06-25.sfen NUMAノード数=1 表示更
新間隔(ms)=3600000
思考エンジン1 思考エンジン2
name YaneuraOu NNUE 7.63 64ZEN2 TOURNAMENT YaneuraOu NNUE 7.63 64ZEN2 TOURNAMENT
author by yaneurao by yaneurao
exeファイル C:\Jenkins\workspace\TanukiColiseum.2023-04-16\engine1\source\YaneuraOu-by-gcc.exe C:\Jenkins\workspace\TanukiColiseum.2023-04-16\engine2\source\YaneuraOu-by-gcc.exe
評価関数フォルダパス D:\hnoda\shogi\eval\tanuki-.nnue-pytorch-2024-03-16.500 D:\hnoda\shogi\eval\tanuki-.nnue-pytorch-2024-03-06
定跡手数 256 256
定跡ファイル名 no_book no_book
思考ノード数 0 0
思考ノード数に加える乱数(%) 0 0
思考ノード数の乱数を1手毎に変化させる False False
持ち時間(ms) 300000 300000
秒読み時間(ms) 0 0
加算時間(ms) 2000 2000
乱数付き思考時間(ms) 0 0
スレッド数 1 1
BookEvalDiff 30 30
定跡の採択率を考慮する false false
定跡の手数を無視する false false
SlowMover 100 100
DrawValue -2 -2
BookEvalBlackLimit 0 0
BookEvalWhiteLimit -140 -140
FVScale 16 16
Depth=0 0
MinimumThinkingTime 1000 1000
対局数2000 先手勝ち1057(55.2%) 後手勝ち857(44.8%) 引き分け86
engine1
勝ち516(27.0% R-164.5 +-17.0) 先手勝ち303(15.8%) 後手勝ち213(11.1%)
宣言勝ち23 先手宣言勝ち10 後手宣言勝ち13 先手引き分け55 後手引き分け31
engine2
勝ち1398(73.0%) 先手勝ち754(39.4%) 後手勝ち644(33.6%)
宣言勝ち20 先手宣言勝ち6 後手宣言勝ち14 先手引き分け31 後手引き分け55
516,86,1398
対局数=2000 同時対局数=64 ハッシュサイズ=384 開始手数=24 最大手数=320 開始局面ファイル=C:\Jenkins\workspace\TanukiColiseum.2023-04-16\TanukiColiseum\bishop_exchange.2023-06-25.sfen NUMAノード数=1 表示更
新間隔(ms)=3600000
思考エンジン1 思考エンジン2
name YaneuraOu NNUE 7.63 64ZEN2 TOURNAMENT YaneuraOu NNUE 7.63 64ZEN2 TOURNAMENT
author by yaneurao by yaneurao
exeファイル C:\Jenkins\workspace\TanukiColiseum.2023-04-16\engine1\source\YaneuraOu-by-gcc.exe C:\Jenkins\workspace\TanukiColiseum.2023-04-16\engine2\source\YaneuraOu-by-gcc.exe
評価関数フォルダパス D:\hnoda\shogi\eval\tanuki-.nnue-pytorch-2024-03-16.1000 D:\hnoda\shogi\eval\tanuki-.nnue-pytorch-2024-03-06
定跡手数 256 256
定跡ファイル名 no_book no_book
思考ノード数 0 0
思考ノード数に加える乱数(%) 0 0
思考ノード数の乱数を1手毎に変化させる False False
持ち時間(ms) 300000 300000
秒読み時間(ms) 0 0
加算時間(ms) 2000 2000
乱数付き思考時間(ms) 0 0
スレッド数 1 1
BookEvalDiff 30 30
定跡の採択率を考慮する false false
定跡の手数を無視する false false
SlowMover 100 100
DrawValue -2 -2
BookEvalBlackLimit 0 0
BookEvalWhiteLimit -140 -140
FVScale 16 16
Depth=0 0
MinimumThinkingTime 1000 1000
対局数2000 先手勝ち952(49.4%) 後手勝ち977(50.6%) 引き分け71
engine1
勝ち407(21.1% R-218.6 +-18.3) 先手勝ち202(10.5%) 後手勝ち205(10.6%)
宣言勝ち27 先手宣言勝ち11 後手宣言勝ち16 先手引き分け26 後手引き分け45
engine2
勝ち1522(78.9%) 先手勝ち750(38.9%) 後手勝ち772(40.0%)
宣言勝ち11 先手宣言勝ち7 後手宣言勝ち4 先手引き分け45 後手引き分け26
407,71,1522
対局数=2000 同時対局数=64 ハッシュサイズ=384 開始手数=24 最大手数=320 開始局面ファイル=C:\Jenkins\workspace\TanukiColiseum.2023-04-16\TanukiColiseum\bishop_exchange.2023-06-25.sfen NUMAノード数=1 表示更
新間隔(ms)=3600000
思考エンジン1 思考エンジン2
name YaneuraOu NNUE 7.63 64ZEN2 TOURNAMENT YaneuraOu NNUE 7.63 64ZEN2 TOURNAMENT
author by yaneurao by yaneurao
exeファイル C:\Jenkins\workspace\TanukiColiseum.2023-04-16\engine1\source\YaneuraOu-by-gcc.exe C:\Jenkins\workspace\TanukiColiseum.2023-04-16\engine2\source\YaneuraOu-by-gcc.exe
評価関数フォルダパス D:\hnoda\shogi\eval\tanuki-.nnue-pytorch-2024-03-16.1500 D:\hnoda\shogi\eval\tanuki-.nnue-pytorch-2024-03-06
定跡手数 256 256
定跡ファイル名 no_book no_book
思考ノード数 0 0
思考ノード数に加える乱数(%) 0 0
思考ノード数の乱数を1手毎に変化させる False False
持ち時間(ms) 300000 300000
秒読み時間(ms) 0 0
加算時間(ms) 2000 2000
乱数付き思考時間(ms) 0 0
スレッド数 1 1
BookEvalDiff 30 30
定跡の採択率を考慮する false false
定跡の手数を無視する false false
SlowMover 100 100
DrawValue -2 -2
BookEvalBlackLimit 0 0
BookEvalWhiteLimit -140 -140
FVScale 16 16
Depth=0 0
MinimumThinkingTime 1000 1000
対局数2000 先手勝ち923(47.3%) 後手勝ち1029(52.7%) 引き分け48
engine1
勝ち298(15.3% R-286.8 +-20.7) 先手勝ち129(6.6%) 後手勝ち169(8.7%)
宣言勝ち10 先手宣言勝ち2 後手宣言勝ち8 先手引き分け12 後手引き分け36
engine2
勝ち1654(84.7%) 先手勝ち794(40.7%) 後手勝ち860(44.1%)
宣言勝ち6 先手宣言勝ち4 後手宣言勝ち2 先手引き分け36 後手引き分け12
298,48,1654
対局数=2000 同時対局数=64 ハッシュサイズ=384 開始手数=24 最大手数=320 開始局面ファイル=C:\Jenkins\workspace\TanukiColiseum.2023-04-16\TanukiColiseum\bishop_exchange.2023-06-25.sfen NUMAノード数=1 表示更
新間隔(ms)=3600000
思考エンジン1 思考エンジン2
name YaneuraOu NNUE 7.63 64ZEN2 TOURNAMENT YaneuraOu NNUE 7.63 64ZEN2 TOURNAMENT
author by yaneurao by yaneurao
exeファイル C:\Jenkins\workspace\TanukiColiseum.2023-04-16\engine1\source\YaneuraOu-by-gcc.exe C:\Jenkins\workspace\TanukiColiseum.2023-04-16\engine2\source\YaneuraOu-by-gcc.exe
評価関数フォルダパス D:\hnoda\shogi\eval\tanuki-.nnue-pytorch-2024-03-16.2000 D:\hnoda\shogi\eval\tanuki-.nnue-pytorch-2024-03-06
定跡手数 256 256
定跡ファイル名 no_book no_book
思考ノード数 0 0
思考ノード数に加える乱数(%) 0 0
思考ノード数の乱数を1手毎に変化させる False False
持ち時間(ms) 300000 300000
秒読み時間(ms) 0 0
加算時間(ms) 2000 2000
乱数付き思考時間(ms) 0 0
スレッド数 1 1
BookEvalDiff 30 30
定跡の採択率を考慮する false false
定跡の手数を無視する false false
SlowMover 100 100
DrawValue -2 -2
BookEvalBlackLimit 0 0
BookEvalWhiteLimit -140 -140
FVScale 16 16
Depth=0 0
MinimumThinkingTime 1000 1000
対局数2000 先手勝ち1000(51.2%) 後手勝ち953(48.8%) 引き分け47
engine1
勝ち345(17.7% R-258.5 +-19.6) 先手勝ち185(9.5%) 後手勝ち160(8.2%)
宣言勝ち19 先手宣言勝ち7 後手宣言勝ち12 先手引き分け24 後手引き分け23
engine2
勝ち1608(82.3%) 先手勝ち815(41.7%) 後手勝ち793(40.6%)
宣言勝ち10 先手宣言勝ち5 後手宣言勝ち5 先手引き分け23 後手引き分け24
345,47,1608
対局数=2000 同時対局数=64 ハッシュサイズ=384 開始手数=24 最大手数=320 開始局面ファイル=C:\Jenkins\workspace\TanukiColiseum.2023-04-16\TanukiColiseum\bishop_exchange.2023-06-25.sfen NUMAノード数=1 表示更
新間隔(ms)=3600000
思考エンジン1 思考エンジン2
name YaneuraOu NNUE 7.63 64ZEN2 TOURNAMENT YaneuraOu NNUE 7.63 64ZEN2 TOURNAMENT
author by yaneurao by yaneurao
exeファイル C:\Jenkins\workspace\TanukiColiseum.2023-04-16\engine1\source\YaneuraOu-by-gcc.exe C:\Jenkins\workspace\TanukiColiseum.2023-04-16\engine2\source\YaneuraOu-by-gcc.exe
評価関数フォルダパス D:\hnoda\shogi\eval\tanuki-.nnue-pytorch-2024-03-16.2500 D:\hnoda\shogi\eval\tanuki-.nnue-pytorch-2024-03-06
定跡手数 256 256
定跡ファイル名 no_book no_book
思考ノード数 0 0
思考ノード数に加える乱数(%) 0 0
思考ノード数の乱数を1手毎に変化させる False False
持ち時間(ms) 300000 300000
秒読み時間(ms) 0 0
加算時間(ms) 2000 2000
乱数付き思考時間(ms) 0 0
スレッド数 1 1
BookEvalDiff 30 30
定跡の採択率を考慮する false false
定跡の手数を無視する false false
SlowMover 100 100
DrawValue -2 -2
BookEvalBlackLimit 0 0
BookEvalWhiteLimit -140 -140
FVScale 16 16
Depth=0 0
MinimumThinkingTime 1000 1000
対局数2000 先手勝ち887(45.0%) 後手勝ち1083(55.0%) 引き分け30
engine1
勝ち300(15.2% R-291.3 +-20.9) 先手勝ち104(5.3%) 後手勝ち196(9.9%)
宣言勝ち12 先手宣言勝ち5 後手宣言勝ち7 先手引き分け8 後手引き分け22
engine2
勝ち1670(84.8%) 先手勝ち783(39.7%) 後手勝ち887(45.0%)
宣言勝ち7 先手宣言勝ち5 後手宣言勝ち2 先手引き分け22 後手引き分け8
300,30,1670
対局数=2000 同時対局数=64 ハッシュサイズ=384 開始手数=24 最大手数=320 開始局面ファイル=C:\Jenkins\workspace\TanukiColiseum.2023-04-16\TanukiColiseum\bishop_exchange.2023-06-25.sfen NUMAノード数=1 表示更
新間隔(ms)=3600000
思考エンジン1 思考エンジン2
name YaneuraOu NNUE 7.63 64ZEN2 TOURNAMENT YaneuraOu NNUE 7.63 64ZEN2 TOURNAMENT
author by yaneurao by yaneurao
exeファイル C:\Jenkins\workspace\TanukiColiseum.2023-04-16\engine1\source\YaneuraOu-by-gcc.exe C:\Jenkins\workspace\TanukiColiseum.2023-04-16\engine2\source\YaneuraOu-by-gcc.exe
評価関数フォルダパス D:\hnoda\shogi\eval\tanuki-.nnue-pytorch-2024-03-16.3000 D:\hnoda\shogi\eval\tanuki-.nnue-pytorch-2024-03-06
定跡手数 256 256
定跡ファイル名 no_book no_book
思考ノード数 0 0
思考ノード数に加える乱数(%) 0 0
思考ノード数の乱数を1手毎に変化させる False False
持ち時間(ms) 300000 300000
秒読み時間(ms) 0 0
加算時間(ms) 2000 2000
乱数付き思考時間(ms) 0 0
スレッド数 1 1
BookEvalDiff 30 30
定跡の採択率を考慮する false false
定跡の手数を無視する false false
SlowMover 100 100
DrawValue -2 -2
BookEvalBlackLimit 0 0
BookEvalWhiteLimit -140 -140
FVScale 16 16
Depth=0 0
MinimumThinkingTime 1000 1000
対局数2000 先手勝ち1012(52.8%) 後手勝ち906(47.2%) 引き分け82
engine1
勝ち361(18.8% R-239.7 +-19.0) 先手勝ち198(10.3%) 後手勝ち163(8.5%)
宣言勝ち16 先手宣言勝ち4 後手宣言勝ち12 先手引き分け58 後手引き分け24
engine2
勝ち1557(81.2%) 先手勝ち814(42.4%) 後手勝ち743(38.7%)
宣言勝ち9 先手宣言勝ち6 後手宣言勝ち3 先手引き分け24 後手引き分け58
361,82,1557
対局数=2000 同時対局数=64 ハッシュサイズ=384 開始手数=24 最大手数=320 開始局面ファイル=C:\Jenkins\workspace\TanukiColiseum.2023-04-16\TanukiColiseum\bishop_exchange.2023-06-25.sfen NUMAノード数=1 表示更
新間隔(ms)=3600000
思考エンジン1 思考エンジン2
name YaneuraOu NNUE 7.63 64ZEN2 TOURNAMENT YaneuraOu NNUE 7.63 64ZEN2 TOURNAMENT
author by yaneurao by yaneurao
exeファイル C:\Jenkins\workspace\TanukiColiseum.2023-04-16\engine1\source\YaneuraOu-by-gcc.exe C:\Jenkins\workspace\TanukiColiseum.2023-04-16\engine2\source\YaneuraOu-by-gcc.exe
評価関数フォルダパス D:\hnoda\shogi\eval\tanuki-.nnue-pytorch-2024-03-16.3500 D:\hnoda\shogi\eval\tanuki-.nnue-pytorch-2024-03-06
定跡手数 256 256
定跡ファイル名 no_book no_book
思考ノード数 0 0
思考ノード数に加える乱数(%) 0 0
思考ノード数の乱数を1手毎に変化させる False False
持ち時間(ms) 300000 300000
秒読み時間(ms) 0 0
加算時間(ms) 2000 2000
乱数付き思考時間(ms) 0 0
スレッド数 1 1
BookEvalDiff 30 30
定跡の採択率を考慮する false false
定跡の手数を無視する false false
SlowMover 100 100
DrawValue -2 -2
BookEvalBlackLimit 0 0
BookEvalWhiteLimit -140 -140
FVScale 16 16
Depth=0 0
MinimumThinkingTime 1000 1000
対局数2000 先手勝ち984(50.3%) 後手勝ち974(49.7%) 引き分け42
engine1
勝ち329(16.8% R-269.4 +-20.0) 先手勝ち171(8.7%) 後手勝ち158(8.1%)
宣言勝ち11 先手宣言勝ち3 後手宣言勝ち8 先手引き分け15 後手引き分け27
engine2
勝ち1629(83.2%) 先手勝ち813(41.5%) 後手勝ち816(41.7%)
宣言勝ち8 先手宣言勝ち6 後手宣言勝ち2 先手引き分け27 後手引き分け15
329,42,1629
対局数=2000 同時対局数=64 ハッシュサイズ=384 開始手数=24 最大手数=320 開始局面ファイル=C:\Jenkins\workspace\TanukiColiseum.2023-04-16\TanukiColiseum\bishop_exchange.2023-06-25.sfen NUMAノード数=1 表示更
新間隔(ms)=3600000
思考エンジン1 思考エンジン2
name YaneuraOu NNUE 7.63 64ZEN2 TOURNAMENT YaneuraOu NNUE 7.63 64ZEN2 TOURNAMENT
author by yaneurao by yaneurao
exeファイル C:\Jenkins\workspace\TanukiColiseum.2023-04-16\engine1\source\YaneuraOu-by-gcc.exe C:\Jenkins\workspace\TanukiColiseum.2023-04-16\engine2\source\YaneuraOu-by-gcc.exe
評価関数フォルダパス D:\hnoda\shogi\eval\tanuki-.nnue-pytorch-2024-03-16.4000 D:\hnoda\shogi\eval\tanuki-.nnue-pytorch-2024-03-06
定跡手数 256 256
定跡ファイル名 no_book no_book
思考ノード数 0 0
思考ノード数に加える乱数(%) 0 0
思考ノード数の乱数を1手毎に変化させる False False
持ち時間(ms) 300000 300000
秒読み時間(ms) 0 0
加算時間(ms) 2000 2000
乱数付き思考時間(ms) 0 0
スレッド数 1 1
BookEvalDiff 30 30
定跡の採択率を考慮する false false
定跡の手数を無視する false false
SlowMover 100 100
DrawValue -2 -2
BookEvalBlackLimit 0 0
BookEvalWhiteLimit -140 -140
FVScale 16 16
Depth=0 0
MinimumThinkingTime 1000 1000
対局数2000 先手勝ち1036(55.2%) 後手勝ち840(44.8%) 引き分け124
engine1
勝ち358(19.1% R-230.2 +-18.7) 先手勝ち208(11.1%) 後手勝ち150(8.0%)
宣言勝ち10 先手宣言勝ち5 後手宣言勝ち5 先手引き分け102 後手引き分け22
engine2
勝ち1518(80.9%) 先手勝ち828(44.1%) 後手勝ち690(36.8%)
宣言勝ち9 先手宣言勝ち3 後手宣言勝ち6 先手引き分け22 後手引き分け102
358,124,1518
対局数=2000 同時対局数=64 ハッシュサイズ=384 開始手数=24 最大手数=320 開始局面ファイル=C:\Jenkins\workspace\TanukiColiseum.2023-04-16\TanukiColiseum\bishop_exchange.2023-06-25.sfen NUMAノード数=1 表示更
新間隔(ms)=3600000
思考エンジン1 思考エンジン2
name YaneuraOu NNUE 7.63 64ZEN2 TOURNAMENT YaneuraOu NNUE 7.63 64ZEN2 TOURNAMENT
author by yaneurao by yaneurao
exeファイル C:\Jenkins\workspace\TanukiColiseum.2023-04-16\engine1\source\YaneuraOu-by-gcc.exe C:\Jenkins\workspace\TanukiColiseum.2023-04-16\engine2\source\YaneuraOu-by-gcc.exe
評価関数フォルダパス D:\hnoda\shogi\eval\tanuki-.nnue-pytorch-2024-03-16.4500 D:\hnoda\shogi\eval\tanuki-.nnue-pytorch-2024-03-06
定跡手数 256 256
定跡ファイル名 no_book no_book
思考ノード数 0 0
思考ノード数に加える乱数(%) 0 0
思考ノード数の乱数を1手毎に変化させる False False
持ち時間(ms) 300000 300000
秒読み時間(ms) 0 0
加算時間(ms) 2000 2000
乱数付き思考時間(ms) 0 0
スレッド数 1 1
BookEvalDiff 30 30
定跡の採択率を考慮する false false
定跡の手数を無視する false false
SlowMover 100 100
DrawValue -2 -2
BookEvalBlackLimit 0 0
BookEvalWhiteLimit -140 -140
FVScale 16 16
Depth=0 0
MinimumThinkingTime 1000 1000
対局数2000 先手勝ち1009(51.8%) 後手勝ち939(48.2%) 引き分け52
engine1
勝ち402(20.6% R-226.0 +-18.6) 先手勝ち222(11.4%) 後手勝ち180(9.2%)
宣言勝ち10 先手宣言勝ち3 後手宣言勝ち7 先手引き分け21 後手引き分け31
engine2
勝ち1546(79.4%) 先手勝ち787(40.4%) 後手勝ち759(39.0%)
宣言勝ち13 先手宣言勝ち4 後手宣言勝ち9 先手引き分け31 後手引き分け21
402,52,1546
対局数=2000 同時対局数=64 ハッシュサイズ=384 開始手数=24 最大手数=320 開始局面ファイル=C:\Jenkins\workspace\TanukiColiseum.2023-04-16\TanukiColiseum\bishop_exchange.2023-06-25.sfen NUMAノード数=1 表示更
新間隔(ms)=3600000
思考エンジン1 思考エンジン2
name YaneuraOu NNUE 7.63 64ZEN2 TOURNAMENT YaneuraOu NNUE 7.63 64ZEN2 TOURNAMENT
author by yaneurao by yaneurao
exeファイル C:\Jenkins\workspace\TanukiColiseum.2023-04-16\engine1\source\YaneuraOu-by-gcc.exe C:\Jenkins\workspace\TanukiColiseum.2023-04-16\engine2\source\YaneuraOu-by-gcc.exe
評価関数フォルダパス D:\hnoda\shogi\eval\tanuki-.nnue-pytorch-2024-03-16.5000 D:\hnoda\shogi\eval\tanuki-.nnue-pytorch-2024-03-06
定跡手数 256 256
定跡ファイル名 no_book no_book
思考ノード数 0 0
思考ノード数に加える乱数(%) 0 0
思考ノード数の乱数を1手毎に変化させる False False
持ち時間(ms) 300000 300000
秒読み時間(ms) 0 0
加算時間(ms) 2000 2000
乱数付き思考時間(ms) 0 0
スレッド数 1 1
BookEvalDiff 30 30
定跡の採択率を考慮する false false
定跡の手数を無視する false false
SlowMover 100 100
DrawValue -2 -2
BookEvalBlackLimit 0 0
BookEvalWhiteLimit -140 -140
FVScale 16 16
Depth=0 0
MinimumThinkingTime 1000 1000
対局数2000 先手勝ち1054(55.2%) 後手勝ち855(44.8%) 引き分け91
engine1
勝ち392(20.5% R-221.1 +-18.4) 先手勝ち234(12.3%) 後手勝ち158(8.3%)
宣言勝ち8 先手宣言勝ち4 後手宣言勝ち4 先手引き分け71 後手引き分け20
engine2
勝ち1517(79.5%) 先手勝ち820(43.0%) 後手勝ち697(36.5%)
宣言勝ち15 先手宣言勝ち8 後手宣言勝ち7 先手引き分け20 後手引き分け71
392,91,1517
学習局面数 | レーティング差 |
5 億 | -164.5 |
10 億 | -218.6 |
15 億 | -286.8 |
20 億 | -258.5 |
25 億 | -291.3 |
30 億 | -239.7 |
35 億 | -269.4 |
40 億 | -230.2 |
45 億 | -226.0 |
50 億 | -221.1 |
学習ロスは、学習が進むにつれて下がっていった。
検証ロスは、学習が進むにつれて下がったあと、上がっていった。
レーティングは、 tanuki-.nnue-pytorch-2024-03-06 に比べていずれも有意に低かった。
考察
学習ロスと検証ロスは、過学習が起こっていることを表していると思う。
レーティングが有意に低かったのは、過学習が起こったためだと思う。過学習を防ぐには、学習率を下げればよいと思う。
まとめ
nnue-pytorch で学習した halfkp_1024x2-8-32 ネットワークを、 Suisho10Mn_psv を用いて Fine-tuning した。
結果、レーティングは、 tanuki-.nnue-pytorch-2024-03-06 に比べていずれも有意に低かった。レーティングが有意に低かったのは、過学習が起こったためだと思う。過学習を防ぐには、学習率を下げればよいと思う。
次回は、やねうら王純正の学習器で同様の学習を行い、レーティングを測定し、 nnue-pytorch との違いを比較したい。