tanuki- 2024-03-15 nnue-pytorch halfkp_1024x2-8-32 Fine-tuning Suishopsv-150m

実験内容

nnue-pytorch で学習した halfkp_1024x2-8-32 ネットワークを、 Suishopsv-150m を用いて Fine-tuning する。

シャッフル条件

生成ルーチン	tanuki-シャッフルルーチン
qsearch()	あり
置換表	無効

機械学習

機械学習ルーチン	やねうら王機械学習ルーチン
学習モデル	halfkp_1024x2-8-32
学習手法	SGD ミニバッチ法
USI_Hash	1024
Threads	16
loop	1000
batchsize	1000000
lambda	0.0
eta	eta1=1e-8 eta2=0.001 eta1_epoch=100
newbob_decay	0.5
nn_batch_size	1000
eval_save_interval	500000000
loss_output_interval	1000000
mirror_percentage	50
eval_limit	32000
weight_by_progress	無効
次元下げ	K・P・相対KP
学習データ内で重複した局面の除外	バージョンのデフォルトに依存する
初期ネットワークパラメーター	tanuki-.nnue-pytorch-2024-03-06
勝敗項の教師信号	0.999

レーティング測定

対局相手	https://docs.google.com/document/d/1i_h7rxPbEVP7PaUMuDjcGUtgWdOK_gj01r_yILajWZg/edit?usp=sharing tanuki-.nnue-pytorch-2024-03-06
思考時間	持ち時間 300 秒 + 1 手 2 秒加算
対局数	5000
同時対局数	64
ハッシュサイズ	384
開始局面	dlshogi 互角局面集の角換わりの割合が 10% になるよう間引いたもの

実験結果

レーティング測定

対局数=2000 同時対局数=64 ハッシュサイズ=384 開始手数=24 最大手数=320 開始局面ファイル=C:\Jenkins\workspace\TanukiColiseum.2023-04-16\TanukiColiseum\bishop_exchange.2023-06-25.sfen NUMAノード数=1 表示更新間隔(ms)=3600000

思考エンジン1 思考エンジン2

name YaneuraOu NNUE 7.63 64ZEN2 TOURNAMENT YaneuraOu NNUE 7.63 64ZEN2 TOURNAMENT

author by yaneurao by yaneurao

exeファイル C:\Jenkins\workspace\TanukiColiseum.2023-04-16\engine1\source\YaneuraOu-by-gcc.exe C:\Jenkins\workspace\TanukiColiseum.2023-04-16\engine2\source\YaneuraOu-by-gcc.exe

評価関数フォルダパス D:\hnoda\shogi\eval\tanuki-.nnue-pytorch-2024-02-28.Suishopsv-150m\0 D:\hnoda\shogi\eval\tanuki-.nnue-pytorch-2024-02-28

定跡手数 256 256

定跡ファイル名 no_book no_book

思考ノード数 0 0

思考ノード数に加える乱数(%) 0 0

思考ノード数の乱数を1手毎に変化させる False False

持ち時間(ms) 300000 300000

秒読み時間(ms) 0 0

加算時間(ms) 2000 2000

乱数付き思考時間(ms) 0 0

スレッド数 1 1

BookEvalDiff 30 30

定跡の採択率を考慮する false false

定跡の手数を無視する false false

SlowMover 100 100

DrawValue -2 -2

BookEvalBlackLimit 0 0

BookEvalWhiteLimit -140 -140

FVScale 16 16

Depth=0 0

MinimumThinkingTime 1000 1000

対局数2000 先手勝ち1025(60.5%) 後手勝ち669(39.5%) 引き分け306

engine1

勝ち797(47.0% R-17.4 +-15.3) 先手勝ち501(29.6%) 後手勝ち296(17.5%)

宣言勝ち28 先手宣言勝ち18 後手宣言勝ち10 先手引き分け129 後手引き分け177

engine2

勝ち897(53.0%) 先手勝ち524(30.9%) 後手勝ち373(22.0%)

宣言勝ち21 先手宣言勝ち10 後手宣言勝ち11 先手引き分け177 後手引き分け129

797,306,897

思考エンジン1 思考エンジン2

name YaneuraOu NNUE 7.63 64ZEN2 TOURNAMENT YaneuraOu NNUE 7.63 64ZEN2 TOURNAMENT

author by yaneurao by yaneurao

exeファイル C:\Jenkins\workspace\TanukiColiseum.2023-04-16\engine1\source\YaneuraOu-by-gcc.exe C:\Jenkins\workspace\TanukiColiseum.2023-04-16\engine2\source\YaneuraOu-by-gcc.exe

評価関数フォルダパス D:\hnoda\shogi\eval\tanuki-.nnue-pytorch-2024-02-28.Suishopsv-150m\1 D:\hnoda\shogi\eval\tanuki-.nnue-pytorch-2024-02-28

定跡手数 256 256

定跡ファイル名 no_book no_book

思考ノード数 0 0

思考ノード数に加える乱数(%) 0 0

思考ノード数の乱数を1手毎に変化させる False False

持ち時間(ms) 300000 300000

秒読み時間(ms) 0 0

加算時間(ms) 2000 2000

乱数付き思考時間(ms) 0 0

スレッド数 1 1

BookEvalDiff 30 30

定跡の採択率を考慮する false false

定跡の手数を無視する false false

SlowMover 100 100

DrawValue -2 -2

BookEvalBlackLimit 0 0

BookEvalWhiteLimit -140 -140

FVScale 16 16

Depth=0 0

MinimumThinkingTime 1000 1000

対局数2000 先手勝ち1077(61.4%) 後手勝ち677(38.6%) 引き分け246

engine1

勝ち906(51.7% R10.1 +-15.2) 先手勝ち572(32.6%) 後手勝ち334(19.0%)

宣言勝ち32 先手宣言勝ち17 後手宣言勝ち15 先手引き分け88 後手引き分け158

engine2

勝ち848(48.3%) 先手勝ち505(28.8%) 後手勝ち343(19.6%)

宣言勝ち25 先手宣言勝ち8 後手宣言勝ち17 先手引き分け158 後手引き分け88

906,246,848

思考エンジン1 思考エンジン2

name YaneuraOu NNUE 7.63 64ZEN2 TOURNAMENT YaneuraOu NNUE 7.63 64ZEN2 TOURNAMENT

author by yaneurao by yaneurao

exeファイル C:\Jenkins\workspace\TanukiColiseum.2023-04-16\engine1\source\YaneuraOu-by-gcc.exe C:\Jenkins\workspace\TanukiColiseum.2023-04-16\engine2\source\YaneuraOu-by-gcc.exe

評価関数フォルダパス D:\hnoda\shogi\eval\tanuki-.nnue-pytorch-2024-02-28.Suishopsv-150m\2 D:\hnoda\shogi\eval\tanuki-.nnue-pytorch-2024-02-28

定跡手数 256 256

定跡ファイル名 no_book no_book

思考ノード数 0 0

思考ノード数に加える乱数(%) 0 0

思考ノード数の乱数を1手毎に変化させる False False

持ち時間(ms) 300000 300000

秒読み時間(ms) 0 0

加算時間(ms) 2000 2000

乱数付き思考時間(ms) 0 0

スレッド数 1 1

BookEvalDiff 30 30

定跡の採択率を考慮する false false

定跡の手数を無視する false false

SlowMover 100 100

DrawValue -2 -2

BookEvalBlackLimit 0 0

BookEvalWhiteLimit -140 -140

FVScale 16 16

Depth=0 0

MinimumThinkingTime 1000 1000

対局数2000 先手勝ち1154(62.4%) 後手勝ち695(37.6%) 引き分け151

engine1

勝ち892(48.2% R-11.3 +-15.2) 先手勝ち562(30.4%) 後手勝ち330(17.8%)

宣言勝ち25 先手宣言勝ち21 後手宣言勝ち4 先手引き分け73 後手引き分け78

engine2

勝ち957(51.8%) 先手勝ち592(32.0%) 後手勝ち365(19.7%)

宣言勝ち26 先手宣言勝ち9 後手宣言勝ち17 先手引き分け78 後手引き分け73

892,151,957

思考エンジン1 思考エンジン2

name YaneuraOu NNUE 7.63 64ZEN2 TOURNAMENT YaneuraOu NNUE 7.63 64ZEN2 TOURNAMENT

author by yaneurao by yaneurao

exeファイル C:\Jenkins\workspace\TanukiColiseum.2023-04-16\engine1\source\YaneuraOu-by-gcc.exe C:\Jenkins\workspace\TanukiColiseum.2023-04-16\engine2\source\YaneuraOu-by-gcc.exe

評価関数フォルダパス D:\hnoda\shogi\eval\tanuki-.nnue-pytorch-2024-02-28.Suishopsv-150m\3 D:\hnoda\shogi\eval\tanuki-.nnue-pytorch-2024-02-28

定跡手数 256 256

定跡ファイル名 no_book no_book

思考ノード数 0 0

思考ノード数に加える乱数(%) 0 0

思考ノード数の乱数を1手毎に変化させる False False

持ち時間(ms) 300000 300000

秒読み時間(ms) 0 0

加算時間(ms) 2000 2000

乱数付き思考時間(ms) 0 0

スレッド数 1 1

BookEvalDiff 30 30

定跡の採択率を考慮する false false

定跡の手数を無視する false false

SlowMover 100 100

DrawValue -2 -2

BookEvalBlackLimit 0 0

BookEvalWhiteLimit -140 -140

FVScale 16 16

Depth=0 0

MinimumThinkingTime 1000 1000

対局数2000 先手勝ち1183(63.8%) 後手勝ち671(36.2%) 引き分け146

engine1

勝ち774(41.7% R-53.6 +-15.4) 先手勝ち513(27.7%) 後手勝ち261(14.1%)

宣言勝ち26 先手宣言勝ち17 後手宣言勝ち9 先手引き分け80 後手引き分け66

engine2

勝ち1080(58.3%) 先手勝ち670(36.1%) 後手勝ち410(22.1%)

宣言勝ち21 先手宣言勝ち10 後手宣言勝ち11 先手引き分け66 後手引き分け80

774,146,1080

思考エンジン1 思考エンジン2

name YaneuraOu NNUE 7.63 64ZEN2 TOURNAMENT YaneuraOu NNUE 7.63 64ZEN2 TOURNAMENT

author by yaneurao by yaneurao

exeファイル C:\Jenkins\workspace\TanukiColiseum.2023-04-16\engine1\source\YaneuraOu-by-gcc.exe C:\Jenkins\workspace\TanukiColiseum.2023-04-16\engine2\source\YaneuraOu-by-gcc.exe

評価関数フォルダパス D:\hnoda\shogi\eval\tanuki-.nnue-pytorch-2024-02-28.Suishopsv-150m\4 D:\hnoda\shogi\eval\tanuki-.nnue-pytorch-2024-02-28

定跡手数 256 256

定跡ファイル名 no_book no_book

思考ノード数 0 0

思考ノード数に加える乱数(%) 0 0

思考ノード数の乱数を1手毎に変化させる False False

持ち時間(ms) 300000 300000

秒読み時間(ms) 0 0

加算時間(ms) 2000 2000

乱数付き思考時間(ms) 0 0

スレッド数 1 1

BookEvalDiff 30 30

定跡の採択率を考慮する false false

定跡の手数を無視する false false

SlowMover 100 100

DrawValue -2 -2

BookEvalBlackLimit 0 0

BookEvalWhiteLimit -140 -140

FVScale 16 16

Depth=0 0

MinimumThinkingTime 1000 1000

対局数2000 先手勝ち1132(62.0%) 後手勝ち694(38.0%) 引き分け174

engine1

勝ち861(47.2% R-18.1 +-15.3) 先手勝ち550(30.1%) 後手勝ち311(17.0%)

宣言勝ち36 先手宣言勝ち21 後手宣言勝ち15 先手引き分け68 後手引き分け106

engine2

勝ち965(52.8%) 先手勝ち582(31.9%) 後手勝ち383(21.0%)

宣言勝ち33 先手宣言勝ち15 後手宣言勝ち18 先手引き分け106 後手引き分け68

861,174,965

思考エンジン1 思考エンジン2

name YaneuraOu NNUE 7.63 64ZEN2 TOURNAMENT YaneuraOu NNUE 7.63 64ZEN2 TOURNAMENT

author by yaneurao by yaneurao

exeファイル C:\Jenkins\workspace\TanukiColiseum.2023-04-16\engine1\source\YaneuraOu-by-gcc.exe C:\Jenkins\workspace\TanukiColiseum.2023-04-16\engine2\source\YaneuraOu-by-gcc.exe

評価関数フォルダパス D:\hnoda\shogi\eval\tanuki-.nnue-pytorch-2024-02-28.Suishopsv-150m\5 D:\hnoda\shogi\eval\tanuki-.nnue-pytorch-2024-02-28

定跡手数 256 256

定跡ファイル名 no_book no_book

思考ノード数 0 0

思考ノード数に加える乱数(%) 0 0

思考ノード数の乱数を1手毎に変化させる False False

持ち時間(ms) 300000 300000

秒読み時間(ms) 0 0

加算時間(ms) 2000 2000

乱数付き思考時間(ms) 0 0

スレッド数 1 1

BookEvalDiff 30 30

定跡の採択率を考慮する false false

定跡の手数を無視する false false

SlowMover 100 100

DrawValue -2 -2

BookEvalBlackLimit 0 0

BookEvalWhiteLimit -140 -140

FVScale 16 16

Depth=0 0

MinimumThinkingTime 1000 1000

対局数2000 先手勝ち1074(58.6%) 後手勝ち760(41.4%) 引き分け166

engine1

勝ち843(46.0% R-25.8 +-15.3) 先手勝ち511(27.9%) 後手勝ち332(18.1%)

宣言勝ち28 先手宣言勝ち11 後手宣言勝ち17 先手引き分け61 後手引き分け105

engine2

勝ち991(54.0%) 先手勝ち563(30.7%) 後手勝ち428(23.3%)

宣言勝ち29 先手宣言勝ち9 後手宣言勝ち20 先手引き分け105 後手引き分け61

843,166,991

numGames=2000 numConcurrentGames=64 hashMb=384 numBookMoves=24 maxMovesToDraw=320 sfenFilePath=C:\Jenkins\workspace\TanukiColiseum.2023-04-16\TanukiColiseum\bishop_exchange.2023-06-25.sfen numNumaNodes=1 progressIntervalMs=3600000

engine1 engine2

name YaneuraOu NNUE 7.63 64ZEN2 TOURNAMENT YaneuraOu NNUE 7.63 64ZEN2 TOURNAMENT

author by yaneurao by yaneurao

engineFilePath C:\Jenkins\workspace\TanukiColiseum.2023-04-16\engine1\source\YaneuraOu-by-gcc.exe C:\Jenkins\workspace\TanukiColiseum.2023-04-16\engine2\source\YaneuraOu-by-gcc.exe

evalFolderPath D:\hnoda\shogi\eval\tanuki-.nnue-pytorch-2024-02-28.Suishopsv-150m\6 D:\hnoda\shogi\eval\tanuki-.nnue-pytorch-2024-02-28

numBookMoves 256 256

bookFileName no_book no_book

nodes 0 0

nodesRandomPercent 0 0

nodesRandomEveryMove False False

time 300000 300000

byoyomi 0 0

inc 2000 2000

rtime 0 0

numThreads 1 1

bookEvalDiff 30 30

considerBookMoveCount false false

ignoreBookPly false false

slowMover 100 100

drawValue -2 -2

bookEvalBlackLimit 0 0

bookEvalWhiteLimit -140 -140

fvScale 16 16

depth=0 0

minimumThinkingTime 1000 1000

numFinishedGames=2000 blackWin=1103(59.7%) whiteWin=744(40.3%) numDraw=153

engine1

engine1Win=916(49.6% R-2.6 +-15.2) engine1BlackWin=553(29.9%) engine1WhiteWin=363(19.7%)

engine1DeclarationWin=40 engine1DeclarationWinBlack=25 engine1DeclarationWinWhite=15 engine1DrawBlack=69 engine2DrawBlack=84

engine2

engine2Win=931(50.4%) engine2BlackWin=550(29.8%) engine2WhiteWin=381(20.6%)

engine2DeclarationWin=29 engine2DeclarationWinBlack=15 engine2DeclarationWinWhite=14 engine2DrawBlack=84 engine1DrawBlack=69

916,153,931

思考エンジン1 思考エンジン2

name YaneuraOu NNUE 7.63 64ZEN2 TOURNAMENT YaneuraOu NNUE 7.63 64ZEN2 TOURNAMENT

author by yaneurao by yaneurao

exeファイル C:\Jenkins\workspace\TanukiColiseum.2023-04-16\engine1\source\YaneuraOu-by-gcc.exe C:\Jenkins\workspace\TanukiColiseum.2023-04-16\engine2\source\YaneuraOu-by-gcc.exe

評価関数フォルダパス D:\hnoda\shogi\eval\tanuki-.nnue-pytorch-2024-02-28.Suishopsv-150m\7 D:\hnoda\shogi\eval\tanuki-.nnue-pytorch-2024-02-28

定跡手数 256 256

定跡ファイル名 no_book no_book

思考ノード数 0 0

思考ノード数に加える乱数(%) 0 0

思考ノード数の乱数を1手毎に変化させる False False

持ち時間(ms) 300000 300000

秒読み時間(ms) 0 0

加算時間(ms) 2000 2000

乱数付き思考時間(ms) 0 0

スレッド数 1 1

BookEvalDiff 30 30

定跡の採択率を考慮する false false

定跡の手数を無視する false false

SlowMover 100 100

DrawValue -2 -2

BookEvalBlackLimit 0 0

BookEvalWhiteLimit -140 -140

FVScale 16 16

Depth=0 0

MinimumThinkingTime 1000 1000

対局数2000 先手勝ち1093(58.5%) 後手勝ち774(41.5%) 引き分け133

engine1

勝ち855(45.8% R-27.3 +-15.3) 先手勝ち506(27.1%) 後手勝ち349(18.7%)

宣言勝ち32 先手宣言勝ち18 後手宣言勝ち14 先手引き分け65 後手引き分け68

engine2

勝ち1012(54.2%) 先手勝ち587(31.4%) 後手勝ち425(22.8%)

宣言勝ち15 先手宣言勝ち3 後手宣言勝ち12 先手引き分け68 後手引き分け65

855,133,1012

思考エンジン1 思考エンジン2

name YaneuraOu NNUE 7.63 64ZEN2 TOURNAMENT YaneuraOu NNUE 7.63 64ZEN2 TOURNAMENT

author by yaneurao by yaneurao

exeファイル C:\Jenkins\workspace\TanukiColiseum.2023-04-16\engine1\source\YaneuraOu-by-gcc.exe C:\Jenkins\workspace\TanukiColiseum.2023-04-16\engine2\source\YaneuraOu-by-gcc.exe

評価関数フォルダパス D:\hnoda\shogi\eval\tanuki-.nnue-pytorch-2024-02-28.Suishopsv-150m\8 D:\hnoda\shogi\eval\tanuki-.nnue-pytorch-2024-02-28

定跡手数 256 256

定跡ファイル名 no_book no_book

思考ノード数 0 0

思考ノード数に加える乱数(%) 0 0

思考ノード数の乱数を1手毎に変化させる False False

持ち時間(ms) 300000 300000

秒読み時間(ms) 0 0

加算時間(ms) 2000 2000

乱数付き思考時間(ms) 0 0

スレッド数 1 1

BookEvalDiff 30 30

定跡の採択率を考慮する false false

定跡の手数を無視する false false

SlowMover 100 100

DrawValue -2 -2

BookEvalBlackLimit 0 0

BookEvalWhiteLimit -140 -140

FVScale 16 16

Depth=0 0

MinimumThinkingTime 1000 1000

対局数2000 先手勝ち1042(55.6%) 後手勝ち833(44.4%) 引き分け125

engine1

勝ち830(44.3% R-37.5 +-15.3) 先手勝ち469(25.0%) 後手勝ち361(19.3%)

宣言勝ち36 先手宣言勝ち20 後手宣言勝ち16 先手引き分け63 後手引き分け62

engine2

勝ち1045(55.7%) 先手勝ち573(30.6%) 後手勝ち472(25.2%)

宣言勝ち18 先手宣言勝ち3 後手宣言勝ち15 先手引き分け62 後手引き分け63

830,125,1045

思考エンジン1 思考エンジン2

name YaneuraOu NNUE 7.63 64ZEN2 TOURNAMENT YaneuraOu NNUE 7.63 64ZEN2 TOURNAMENT

author by yaneurao by yaneurao

exeファイル C:\Jenkins\workspace\TanukiColiseum.2023-04-16\engine1\source\YaneuraOu-by-gcc.exe C:\Jenkins\workspace\TanukiColiseum.2023-04-16\engine2\source\YaneuraOu-by-gcc.exe

評価関数フォルダパス D:\hnoda\shogi\eval\tanuki-.nnue-pytorch-2024-02-28.Suishopsv-150m\final D:\hnoda\shogi\eval\tanuki-.nnue-pytorch-2024-02-28

定跡手数 256 256

定跡ファイル名 no_book no_book

思考ノード数 0 0

思考ノード数に加える乱数(%) 0 0

思考ノード数の乱数を1手毎に変化させる False False

持ち時間(ms) 300000 300000

秒読み時間(ms) 0 0

加算時間(ms) 2000 2000

乱数付き思考時間(ms) 0 0

スレッド数 1 1

BookEvalDiff 30 30

定跡の採択率を考慮する false false

定跡の手数を無視する false false

SlowMover 100 100

DrawValue -2 -2

BookEvalBlackLimit 0 0

BookEvalWhiteLimit -140 -140

FVScale 16 16

Depth=0 0

MinimumThinkingTime 1000 1000

対局数2000 先手勝ち1024(55.2%) 後手勝ち830(44.8%) 引き分け146

engine1

勝ち843(45.5% R-29.3 +-15.3) 先手勝ち471(25.4%) 後手勝ち372(20.1%)

宣言勝ち40 先手宣言勝ち19 後手宣言勝ち21 先手引き分け71 後手引き分け75

engine2

勝ち1011(54.5%) 先手勝ち553(29.8%) 後手勝ち458(24.7%)

宣言勝ち18 先手宣言勝ち6 後手宣言勝ち12 先手引き分け75 後手引き分け71

843,146,1011

学習局面数	レーティング差
5 億	-17.4
10 億	10.1
15 億	-11.3
20 億	-53.6
25 億	-18.1
30 億	-25.8
35 億	-2.6
40 億	-27.3
45 億	-37.5
50 億	-29.3

学習ロスと検証ロスは、学習が進むにつれて下がっていった。

平手局面の評価値は、学習が進むにつれて上がっていった。

評価値の絶対値は、学習が進むにつれて上がっていった。

レーティングは、 tanuki-.nnue-pytorch-2024-03-06 に比べて有意に高いものはなかった。

考察

学習ロスト検証ロスは、学習に発散等、大きな問題がなかったことを表していると思う。

平手局面の評価値は、 Suishopsv-150m の先手勝率が高いことを表していると思う。

評価値の絶対値は、 Suishopsv-150m で Fine-tuning を進めることにより、評価値の絶対値が大きくなることを表していると思う。

レーティングはが有意に高くならなかったのは、 tanuki-.nnue-pytorch-2024-03-06 の学習データが Hao だったためだと思う。 Hao は Suishopsv-150m で Fine-tuning してあるため、再度 Fine-tuning しようとして過学習してしまったのだと思う。

まとめ

nnue-pytorch で学習した halfkp_1024x2-8-32 ネットワークを、 Suishopsv-150m を用いて Fine-tuning した。

レーティングは、 tanuki-.nnue-pytorch-2024-03-06 に比べて有意に高いものはなかった。レーティングはが有意に高くならなかったのは、 tanuki-.nnue-pytorch-2024-03-06 の学習データが Hao だったためだと思う。 Hao は Suishopsv-150m で Fine-tuning してあるため、再度 Fine-tuning しようとして過学習してしまったのだと思う。

次回は、 tanuki-.nnue-pytorch-2024-03-06 を nnue-pytorch と Suisho10Mn_psv を用いて Fine-tuning し、レーティングを測定したい。