nodchipのコンピューター将棋ブログ

コンピューター将棋ソフト「tanuki-」シリーズの実験結果を掲載しています。

tanuki- 2024-03-20 halfkp_1024x2-8-32 Fine-tuning Suisho10Mn_psv

将棋 コンピュータ将棋

tanuki- 2024-03-20 halfkp_1024x2-8-32 Fine-tuning Suisho10Mn_psv

実験内容

  • nnue-pytorch で学習した halfkp_1024x2-8-32 ネットワークを、 Suisho10Mn_psv を用いて、やねうら王純正の学習器を用いて Fine-tuning する。

シャッフル条件

生成ルーチン tanuki-シャッフルルーチン
qsearch() あり
置換表 無効
min_progress 0.1

機械学習

機械学習ルーチン やねうら王機械学習ルーチン
学習モデル halfkp_1024x2-8-32
学習手法 SGD ミニバッチ法
USI_Hash 1024
Threads 16
loop 1000
batchsize 1000000
lambda 0.0
eta eta1=1e-8 eta2=0.001 eta1_epoch=100
newbob_decay 0.5
nn_batch_size 1000
eval_save_interval 500000000
loss_output_interval 1000000
mirror_percentage 50
eval_limit 32000
weight_by_progress 無効
次元下げ K・P・相対KP
学習データ内で重複した局面の除外 バージョンのデフォルトに依存する
初期ネットワークパラメーター tanuki-.nnue-pytorch-2024-02-28
勝敗項の教師信号 0.999

レーティング測定

対局相手 https://docs.google.com/document/d/1razZwLBDtB47gLhNsWQwNZqW9S1qC3S7ZVfEzGwaAxo/edit?usp=sharing tanuki-.nnue-pytorch-2024-02-28
思考時間 持ち時間 300 秒 + 1 手 2 秒加算
対局数 5000
同時対局数 64
ハッシュサイズ 384
開始局面 dlshogi 互角局面集の角換わりの割合が 10% になるよう間引いたもの

実験結果

機械学習

レーティング測定

対局数=2000 同時対局数=64 ハッシュサイズ=384 開始手数=24 最大手数=320 開始局面ファイル=C:\Jenkins\workspace\TanukiColiseum.2023-04-16\TanukiColiseum\bishop_exchange.2023-06-25.sfen NUMAノード数=1 表示更新間隔(ms)=3600000

思考エンジン1 思考エンジン2

name YaneuraOu NNUE 7.63 64ZEN2 TOURNAMENT YaneuraOu NNUE 7.63 64ZEN2 TOURNAMENT

author by yaneurao by yaneurao

exeファイル C:\Jenkins\workspace\TanukiColiseum.2023-04-16\engine1\source\YaneuraOu-by-gcc.exe C:\Jenkins\workspace\TanukiColiseum.2023-04-16\engine2\source\YaneuraOu-by-gcc.exe

評価関数フォルダパス D:\hnoda\shogi\eval\tanuki-.nnue-pytorch-2024-02-28.Suisho10Mn_psv.min_progress=0.1\0 D:\hnoda\shogi\eval\tanuki-.nnue-pytorch-2024-02-28

定跡手数 256 256

定跡ファイル名 no_book no_book

思考ノード数 0 0

思考ノード数に加える乱数(%) 0 0

思考ノード数の乱数を1手毎に変化させる False False

持ち時間(ms) 300000 300000

秒読み時間(ms) 0 0

加算時間(ms) 2000 2000

乱数付き思考時間(ms) 0 0

スレッド数 1 1

BookEvalDiff 30 30

定跡の採択率を考慮する false false

定跡の手数を無視する false false

SlowMover 100 100

DrawValue -2 -2

BookEvalBlackLimit 0 0

BookEvalWhiteLimit -140 -140

FVScale 16 16

Depth=0 0

MinimumThinkingTime 1000 1000

対局数2000 先手勝ち901(47.6%) 後手勝ち990(52.4%) 引き分け109

engine1

勝ち559(29.6% R-141.6 +-16.5) 先手勝ち258(13.6%) 後手勝ち301(15.9%)

宣言勝ち42 先手宣言勝ち15 後手宣言勝ち27 先手引き分け53 後手引き分け56

engine2

勝ち1332(70.4%) 先手勝ち643(34.0%) 後手勝ち689(36.4%)

宣言勝ち9 先手宣言勝ち5 後手宣言勝ち4 先手引き分け56 後手引き分け53

559,109,1332

学習ロスと検証ロスは、学習が進むにつれて下がっていった。

検証ロスは途中で下げ止まり、学習率が下がった。

レーティングは、 tanuki-.nnue-pytorch-2024-02-28 に比べて有意に低かった。

考察

学習ロスト検証ロスは、 Fine-tuning を行うにあたり、学習率が高すぎることを表していると思う。

レーティングが有意に低かったのは、学習率が高すぎ、学習データに過学習しているためだと思う。

まとめ

nnue-pytorch で学習した halfkp_1024x2-8-32 ネットワークを、 Suisho10Mn_psv を用いて、やねうら王純正の学習器を用いて Fine-tuning した。

レーティングは、 tanuki-.nnue-pytorch-2024-02-28 に比べて有意に低かった。レーティングが有意に低かったのは、学習率が高すぎ、学習データに過学習しているためだと思う。

次回は、 nnue-pytorch を使い、学習率を大幅に下げて学習させ、レーティングを測定したい。

tanuki- 2024-03-18 nnue-pytorch halfkp_1024x2-8-32 Fine-tuning Suisho10Mn_psv

将棋 コンピュータ将棋

tanuki- 2024-03-18 nnue-pytorch halfkp_1024x2-8-32 Fine-tuning Suisho10Mn_psv

実験内容

  • nnue-pytorch で学習した halfkp_1024x2-8-32 ネットワークを、 Suisho10Mn_psv を用いて Fine-tuning する。

シャッフル条件

生成ルーチン tanuki-シャッフルルーチン
qsearch() あり
置換表 無効

機械学習

機械学習ルーチン nnue-pytorch + やねうら王 https://github.com/nodchip/nnue-pytorch/tree/shogi.2023-10-29.halfkp_1024x2-8-32
学習モデル halfkp_1024x2-8-32
学習手法 ミニバッチ SGD
初期学習率 (lr) 0.0005
最適化手法 なし
学習率調整手法 Warmup + Newbob 風
batch-size 16384
threads 8
num-workers 8
accelerator gpu
devices 1
features HalfKP
max-epoch 1000000
score-scaling 361
lambda 0.0
勝敗項の教師信号 0.999
num-batches-warmup 10000
newbob-decay 0.5
epoch-size 1000000
num-epochs-to-adjust-lr 500
学習を打ち切る下限 newbob scale 1e-5
1 epoch 毎のネットワークパラメーターのクリップ あり
ネットワークパラメーターの量子化 量子化なしで学習し、収束後に量子化する。
ネットワークパラメーターの初期化方法 pytorch のデフォルトの初期化手法で初期化する。
勾配の正規化 なし
momentum 0.9
入玉ボーナス 入玉時、持ち駒および敵陣三段目までに侵入している駒について、小駒 1 枚につき 20 点、大駒 1 枚につき 100 点、敵陣三段目までに侵入している駒 1 枚につき 20 点追加する。

レーティング測定

対局相手 https://docs.google.com/document/d/1i_h7rxPbEVP7PaUMuDjcGUtgWdOK_gj01r_yILajWZg/edit?usp=sharing tanuki-.nnue-pytorch-2024-03-06
思考時間 持ち時間 300 秒 + 1 手 2 秒加算
対局数 5000
同時対局数 64
ハッシュサイズ 384
開始局面 dlshogi 互角局面集の角換わりの割合が 10% になるよう間引いたもの

実験結果

機械学習

レーティング測定

対局数=2000 同時対局数=64 ハッシュサイズ=384 開始手数=24 最大手数=320 開始局面ファイル=C:\Jenkins\workspace\TanukiColiseum.2023-04-16\TanukiColiseum\bishop_exchange.2023-06-25.sfen NUMAノード数=1 表示更

新間隔(ms)=3600000

思考エンジン1 思考エンジン2

name YaneuraOu NNUE 7.63 64ZEN2 TOURNAMENT YaneuraOu NNUE 7.63 64ZEN2 TOURNAMENT

author by yaneurao by yaneurao

exeファイル C:\Jenkins\workspace\TanukiColiseum.2023-04-16\engine1\source\YaneuraOu-by-gcc.exe C:\Jenkins\workspace\TanukiColiseum.2023-04-16\engine2\source\YaneuraOu-by-gcc.exe

評価関数フォルダパス D:\hnoda\shogi\eval\tanuki-.nnue-pytorch-2024-03-16.500 D:\hnoda\shogi\eval\tanuki-.nnue-pytorch-2024-03-06

定跡手数 256 256

定跡ファイル名 no_book no_book

思考ノード数 0 0

思考ノード数に加える乱数(%) 0 0

思考ノード数の乱数を1手毎に変化させる False False

持ち時間(ms) 300000 300000

秒読み時間(ms) 0 0

加算時間(ms) 2000 2000

乱数付き思考時間(ms) 0 0

スレッド数 1 1

BookEvalDiff 30 30

定跡の採択率を考慮する false false

定跡の手数を無視する false false

SlowMover 100 100

DrawValue -2 -2

BookEvalBlackLimit 0 0

BookEvalWhiteLimit -140 -140

FVScale 16 16

Depth=0 0

MinimumThinkingTime 1000 1000

対局数2000 先手勝ち1057(55.2%) 後手勝ち857(44.8%) 引き分け86

engine1

勝ち516(27.0% R-164.5 +-17.0) 先手勝ち303(15.8%) 後手勝ち213(11.1%)

宣言勝ち23 先手宣言勝ち10 後手宣言勝ち13 先手引き分け55 後手引き分け31

engine2

勝ち1398(73.0%) 先手勝ち754(39.4%) 後手勝ち644(33.6%)

宣言勝ち20 先手宣言勝ち6 後手宣言勝ち14 先手引き分け31 後手引き分け55

516,86,1398

対局数=2000 同時対局数=64 ハッシュサイズ=384 開始手数=24 最大手数=320 開始局面ファイル=C:\Jenkins\workspace\TanukiColiseum.2023-04-16\TanukiColiseum\bishop_exchange.2023-06-25.sfen NUMAノード数=1 表示更

新間隔(ms)=3600000

思考エンジン1 思考エンジン2

name YaneuraOu NNUE 7.63 64ZEN2 TOURNAMENT YaneuraOu NNUE 7.63 64ZEN2 TOURNAMENT

author by yaneurao by yaneurao

exeファイル C:\Jenkins\workspace\TanukiColiseum.2023-04-16\engine1\source\YaneuraOu-by-gcc.exe C:\Jenkins\workspace\TanukiColiseum.2023-04-16\engine2\source\YaneuraOu-by-gcc.exe

評価関数フォルダパス D:\hnoda\shogi\eval\tanuki-.nnue-pytorch-2024-03-16.1000 D:\hnoda\shogi\eval\tanuki-.nnue-pytorch-2024-03-06

定跡手数 256 256

定跡ファイル名 no_book no_book

思考ノード数 0 0

思考ノード数に加える乱数(%) 0 0

思考ノード数の乱数を1手毎に変化させる False False

持ち時間(ms) 300000 300000

秒読み時間(ms) 0 0

加算時間(ms) 2000 2000

乱数付き思考時間(ms) 0 0

スレッド数 1 1

BookEvalDiff 30 30

定跡の採択率を考慮する false false

定跡の手数を無視する false false

SlowMover 100 100

DrawValue -2 -2

BookEvalBlackLimit 0 0

BookEvalWhiteLimit -140 -140

FVScale 16 16

Depth=0 0

MinimumThinkingTime 1000 1000

対局数2000 先手勝ち952(49.4%) 後手勝ち977(50.6%) 引き分け71

engine1

勝ち407(21.1% R-218.6 +-18.3) 先手勝ち202(10.5%) 後手勝ち205(10.6%)

宣言勝ち27 先手宣言勝ち11 後手宣言勝ち16 先手引き分け26 後手引き分け45

engine2

勝ち1522(78.9%) 先手勝ち750(38.9%) 後手勝ち772(40.0%)

宣言勝ち11 先手宣言勝ち7 後手宣言勝ち4 先手引き分け45 後手引き分け26

407,71,1522

対局数=2000 同時対局数=64 ハッシュサイズ=384 開始手数=24 最大手数=320 開始局面ファイル=C:\Jenkins\workspace\TanukiColiseum.2023-04-16\TanukiColiseum\bishop_exchange.2023-06-25.sfen NUMAノード数=1 表示更

新間隔(ms)=3600000

思考エンジン1 思考エンジン2

name YaneuraOu NNUE 7.63 64ZEN2 TOURNAMENT YaneuraOu NNUE 7.63 64ZEN2 TOURNAMENT

author by yaneurao by yaneurao

exeファイル C:\Jenkins\workspace\TanukiColiseum.2023-04-16\engine1\source\YaneuraOu-by-gcc.exe C:\Jenkins\workspace\TanukiColiseum.2023-04-16\engine2\source\YaneuraOu-by-gcc.exe

評価関数フォルダパス D:\hnoda\shogi\eval\tanuki-.nnue-pytorch-2024-03-16.1500 D:\hnoda\shogi\eval\tanuki-.nnue-pytorch-2024-03-06

定跡手数 256 256

定跡ファイル名 no_book no_book

思考ノード数 0 0

思考ノード数に加える乱数(%) 0 0

思考ノード数の乱数を1手毎に変化させる False False

持ち時間(ms) 300000 300000

秒読み時間(ms) 0 0

加算時間(ms) 2000 2000

乱数付き思考時間(ms) 0 0

スレッド数 1 1

BookEvalDiff 30 30

定跡の採択率を考慮する false false

定跡の手数を無視する false false

SlowMover 100 100

DrawValue -2 -2

BookEvalBlackLimit 0 0

BookEvalWhiteLimit -140 -140

FVScale 16 16

Depth=0 0

MinimumThinkingTime 1000 1000

対局数2000 先手勝ち923(47.3%) 後手勝ち1029(52.7%) 引き分け48

engine1

勝ち298(15.3% R-286.8 +-20.7) 先手勝ち129(6.6%) 後手勝ち169(8.7%)

宣言勝ち10 先手宣言勝ち2 後手宣言勝ち8 先手引き分け12 後手引き分け36

engine2

勝ち1654(84.7%) 先手勝ち794(40.7%) 後手勝ち860(44.1%)

宣言勝ち6 先手宣言勝ち4 後手宣言勝ち2 先手引き分け36 後手引き分け12

298,48,1654

対局数=2000 同時対局数=64 ハッシュサイズ=384 開始手数=24 最大手数=320 開始局面ファイル=C:\Jenkins\workspace\TanukiColiseum.2023-04-16\TanukiColiseum\bishop_exchange.2023-06-25.sfen NUMAノード数=1 表示更

新間隔(ms)=3600000

思考エンジン1 思考エンジン2

name YaneuraOu NNUE 7.63 64ZEN2 TOURNAMENT YaneuraOu NNUE 7.63 64ZEN2 TOURNAMENT

author by yaneurao by yaneurao

exeファイル C:\Jenkins\workspace\TanukiColiseum.2023-04-16\engine1\source\YaneuraOu-by-gcc.exe C:\Jenkins\workspace\TanukiColiseum.2023-04-16\engine2\source\YaneuraOu-by-gcc.exe

評価関数フォルダパス D:\hnoda\shogi\eval\tanuki-.nnue-pytorch-2024-03-16.2000 D:\hnoda\shogi\eval\tanuki-.nnue-pytorch-2024-03-06

定跡手数 256 256

定跡ファイル名 no_book no_book

思考ノード数 0 0

思考ノード数に加える乱数(%) 0 0

思考ノード数の乱数を1手毎に変化させる False False

持ち時間(ms) 300000 300000

秒読み時間(ms) 0 0

加算時間(ms) 2000 2000

乱数付き思考時間(ms) 0 0

スレッド数 1 1

BookEvalDiff 30 30

定跡の採択率を考慮する false false

定跡の手数を無視する false false

SlowMover 100 100

DrawValue -2 -2

BookEvalBlackLimit 0 0

BookEvalWhiteLimit -140 -140

FVScale 16 16

Depth=0 0

MinimumThinkingTime 1000 1000

対局数2000 先手勝ち1000(51.2%) 後手勝ち953(48.8%) 引き分け47

engine1

勝ち345(17.7% R-258.5 +-19.6) 先手勝ち185(9.5%) 後手勝ち160(8.2%)

宣言勝ち19 先手宣言勝ち7 後手宣言勝ち12 先手引き分け24 後手引き分け23

engine2

勝ち1608(82.3%) 先手勝ち815(41.7%) 後手勝ち793(40.6%)

宣言勝ち10 先手宣言勝ち5 後手宣言勝ち5 先手引き分け23 後手引き分け24

345,47,1608

対局数=2000 同時対局数=64 ハッシュサイズ=384 開始手数=24 最大手数=320 開始局面ファイル=C:\Jenkins\workspace\TanukiColiseum.2023-04-16\TanukiColiseum\bishop_exchange.2023-06-25.sfen NUMAノード数=1 表示更

新間隔(ms)=3600000

思考エンジン1 思考エンジン2

name YaneuraOu NNUE 7.63 64ZEN2 TOURNAMENT YaneuraOu NNUE 7.63 64ZEN2 TOURNAMENT

author by yaneurao by yaneurao

exeファイル C:\Jenkins\workspace\TanukiColiseum.2023-04-16\engine1\source\YaneuraOu-by-gcc.exe C:\Jenkins\workspace\TanukiColiseum.2023-04-16\engine2\source\YaneuraOu-by-gcc.exe

評価関数フォルダパス D:\hnoda\shogi\eval\tanuki-.nnue-pytorch-2024-03-16.2500 D:\hnoda\shogi\eval\tanuki-.nnue-pytorch-2024-03-06

定跡手数 256 256

定跡ファイル名 no_book no_book

思考ノード数 0 0

思考ノード数に加える乱数(%) 0 0

思考ノード数の乱数を1手毎に変化させる False False

持ち時間(ms) 300000 300000

秒読み時間(ms) 0 0

加算時間(ms) 2000 2000

乱数付き思考時間(ms) 0 0

スレッド数 1 1

BookEvalDiff 30 30

定跡の採択率を考慮する false false

定跡の手数を無視する false false

SlowMover 100 100

DrawValue -2 -2

BookEvalBlackLimit 0 0

BookEvalWhiteLimit -140 -140

FVScale 16 16

Depth=0 0

MinimumThinkingTime 1000 1000

対局数2000 先手勝ち887(45.0%) 後手勝ち1083(55.0%) 引き分け30

engine1

勝ち300(15.2% R-291.3 +-20.9) 先手勝ち104(5.3%) 後手勝ち196(9.9%)

宣言勝ち12 先手宣言勝ち5 後手宣言勝ち7 先手引き分け8 後手引き分け22

engine2

勝ち1670(84.8%) 先手勝ち783(39.7%) 後手勝ち887(45.0%)

宣言勝ち7 先手宣言勝ち5 後手宣言勝ち2 先手引き分け22 後手引き分け8

300,30,1670

対局数=2000 同時対局数=64 ハッシュサイズ=384 開始手数=24 最大手数=320 開始局面ファイル=C:\Jenkins\workspace\TanukiColiseum.2023-04-16\TanukiColiseum\bishop_exchange.2023-06-25.sfen NUMAノード数=1 表示更

新間隔(ms)=3600000

思考エンジン1 思考エンジン2

name YaneuraOu NNUE 7.63 64ZEN2 TOURNAMENT YaneuraOu NNUE 7.63 64ZEN2 TOURNAMENT

author by yaneurao by yaneurao

exeファイル C:\Jenkins\workspace\TanukiColiseum.2023-04-16\engine1\source\YaneuraOu-by-gcc.exe C:\Jenkins\workspace\TanukiColiseum.2023-04-16\engine2\source\YaneuraOu-by-gcc.exe

評価関数フォルダパス D:\hnoda\shogi\eval\tanuki-.nnue-pytorch-2024-03-16.3000 D:\hnoda\shogi\eval\tanuki-.nnue-pytorch-2024-03-06

定跡手数 256 256

定跡ファイル名 no_book no_book

思考ノード数 0 0

思考ノード数に加える乱数(%) 0 0

思考ノード数の乱数を1手毎に変化させる False False

持ち時間(ms) 300000 300000

秒読み時間(ms) 0 0

加算時間(ms) 2000 2000

乱数付き思考時間(ms) 0 0

スレッド数 1 1

BookEvalDiff 30 30

定跡の採択率を考慮する false false

定跡の手数を無視する false false

SlowMover 100 100

DrawValue -2 -2

BookEvalBlackLimit 0 0

BookEvalWhiteLimit -140 -140

FVScale 16 16

Depth=0 0

MinimumThinkingTime 1000 1000

対局数2000 先手勝ち1012(52.8%) 後手勝ち906(47.2%) 引き分け82

engine1

勝ち361(18.8% R-239.7 +-19.0) 先手勝ち198(10.3%) 後手勝ち163(8.5%)

宣言勝ち16 先手宣言勝ち4 後手宣言勝ち12 先手引き分け58 後手引き分け24

engine2

勝ち1557(81.2%) 先手勝ち814(42.4%) 後手勝ち743(38.7%)

宣言勝ち9 先手宣言勝ち6 後手宣言勝ち3 先手引き分け24 後手引き分け58

361,82,1557

対局数=2000 同時対局数=64 ハッシュサイズ=384 開始手数=24 最大手数=320 開始局面ファイル=C:\Jenkins\workspace\TanukiColiseum.2023-04-16\TanukiColiseum\bishop_exchange.2023-06-25.sfen NUMAノード数=1 表示更

新間隔(ms)=3600000

思考エンジン1 思考エンジン2

name YaneuraOu NNUE 7.63 64ZEN2 TOURNAMENT YaneuraOu NNUE 7.63 64ZEN2 TOURNAMENT

author by yaneurao by yaneurao

exeファイル C:\Jenkins\workspace\TanukiColiseum.2023-04-16\engine1\source\YaneuraOu-by-gcc.exe C:\Jenkins\workspace\TanukiColiseum.2023-04-16\engine2\source\YaneuraOu-by-gcc.exe

評価関数フォルダパス D:\hnoda\shogi\eval\tanuki-.nnue-pytorch-2024-03-16.3500 D:\hnoda\shogi\eval\tanuki-.nnue-pytorch-2024-03-06

定跡手数 256 256

定跡ファイル名 no_book no_book

思考ノード数 0 0

思考ノード数に加える乱数(%) 0 0

思考ノード数の乱数を1手毎に変化させる False False

持ち時間(ms) 300000 300000

秒読み時間(ms) 0 0

加算時間(ms) 2000 2000

乱数付き思考時間(ms) 0 0

スレッド数 1 1

BookEvalDiff 30 30

定跡の採択率を考慮する false false

定跡の手数を無視する false false

SlowMover 100 100

DrawValue -2 -2

BookEvalBlackLimit 0 0

BookEvalWhiteLimit -140 -140

FVScale 16 16

Depth=0 0

MinimumThinkingTime 1000 1000

対局数2000 先手勝ち984(50.3%) 後手勝ち974(49.7%) 引き分け42

engine1

勝ち329(16.8% R-269.4 +-20.0) 先手勝ち171(8.7%) 後手勝ち158(8.1%)

宣言勝ち11 先手宣言勝ち3 後手宣言勝ち8 先手引き分け15 後手引き分け27

engine2

勝ち1629(83.2%) 先手勝ち813(41.5%) 後手勝ち816(41.7%)

宣言勝ち8 先手宣言勝ち6 後手宣言勝ち2 先手引き分け27 後手引き分け15

329,42,1629

対局数=2000 同時対局数=64 ハッシュサイズ=384 開始手数=24 最大手数=320 開始局面ファイル=C:\Jenkins\workspace\TanukiColiseum.2023-04-16\TanukiColiseum\bishop_exchange.2023-06-25.sfen NUMAノード数=1 表示更

新間隔(ms)=3600000

思考エンジン1 思考エンジン2

name YaneuraOu NNUE 7.63 64ZEN2 TOURNAMENT YaneuraOu NNUE 7.63 64ZEN2 TOURNAMENT

author by yaneurao by yaneurao

exeファイル C:\Jenkins\workspace\TanukiColiseum.2023-04-16\engine1\source\YaneuraOu-by-gcc.exe C:\Jenkins\workspace\TanukiColiseum.2023-04-16\engine2\source\YaneuraOu-by-gcc.exe

評価関数フォルダパス D:\hnoda\shogi\eval\tanuki-.nnue-pytorch-2024-03-16.4000 D:\hnoda\shogi\eval\tanuki-.nnue-pytorch-2024-03-06

定跡手数 256 256

定跡ファイル名 no_book no_book

思考ノード数 0 0

思考ノード数に加える乱数(%) 0 0

思考ノード数の乱数を1手毎に変化させる False False

持ち時間(ms) 300000 300000

秒読み時間(ms) 0 0

加算時間(ms) 2000 2000

乱数付き思考時間(ms) 0 0

スレッド数 1 1

BookEvalDiff 30 30

定跡の採択率を考慮する false false

定跡の手数を無視する false false

SlowMover 100 100

DrawValue -2 -2

BookEvalBlackLimit 0 0

BookEvalWhiteLimit -140 -140

FVScale 16 16

Depth=0 0

MinimumThinkingTime 1000 1000

対局数2000 先手勝ち1036(55.2%) 後手勝ち840(44.8%) 引き分け124

engine1

勝ち358(19.1% R-230.2 +-18.7) 先手勝ち208(11.1%) 後手勝ち150(8.0%)

宣言勝ち10 先手宣言勝ち5 後手宣言勝ち5 先手引き分け102 後手引き分け22

engine2

勝ち1518(80.9%) 先手勝ち828(44.1%) 後手勝ち690(36.8%)

宣言勝ち9 先手宣言勝ち3 後手宣言勝ち6 先手引き分け22 後手引き分け102

358,124,1518

対局数=2000 同時対局数=64 ハッシュサイズ=384 開始手数=24 最大手数=320 開始局面ファイル=C:\Jenkins\workspace\TanukiColiseum.2023-04-16\TanukiColiseum\bishop_exchange.2023-06-25.sfen NUMAノード数=1 表示更

新間隔(ms)=3600000

思考エンジン1 思考エンジン2

name YaneuraOu NNUE 7.63 64ZEN2 TOURNAMENT YaneuraOu NNUE 7.63 64ZEN2 TOURNAMENT

author by yaneurao by yaneurao

exeファイル C:\Jenkins\workspace\TanukiColiseum.2023-04-16\engine1\source\YaneuraOu-by-gcc.exe C:\Jenkins\workspace\TanukiColiseum.2023-04-16\engine2\source\YaneuraOu-by-gcc.exe

評価関数フォルダパス D:\hnoda\shogi\eval\tanuki-.nnue-pytorch-2024-03-16.4500 D:\hnoda\shogi\eval\tanuki-.nnue-pytorch-2024-03-06

定跡手数 256 256

定跡ファイル名 no_book no_book

思考ノード数 0 0

思考ノード数に加える乱数(%) 0 0

思考ノード数の乱数を1手毎に変化させる False False

持ち時間(ms) 300000 300000

秒読み時間(ms) 0 0

加算時間(ms) 2000 2000

乱数付き思考時間(ms) 0 0

スレッド数 1 1

BookEvalDiff 30 30

定跡の採択率を考慮する false false

定跡の手数を無視する false false

SlowMover 100 100

DrawValue -2 -2

BookEvalBlackLimit 0 0

BookEvalWhiteLimit -140 -140

FVScale 16 16

Depth=0 0

MinimumThinkingTime 1000 1000

対局数2000 先手勝ち1009(51.8%) 後手勝ち939(48.2%) 引き分け52

engine1

勝ち402(20.6% R-226.0 +-18.6) 先手勝ち222(11.4%) 後手勝ち180(9.2%)

宣言勝ち10 先手宣言勝ち3 後手宣言勝ち7 先手引き分け21 後手引き分け31

engine2

勝ち1546(79.4%) 先手勝ち787(40.4%) 後手勝ち759(39.0%)

宣言勝ち13 先手宣言勝ち4 後手宣言勝ち9 先手引き分け31 後手引き分け21

402,52,1546

対局数=2000 同時対局数=64 ハッシュサイズ=384 開始手数=24 最大手数=320 開始局面ファイル=C:\Jenkins\workspace\TanukiColiseum.2023-04-16\TanukiColiseum\bishop_exchange.2023-06-25.sfen NUMAノード数=1 表示更

新間隔(ms)=3600000

思考エンジン1 思考エンジン2

name YaneuraOu NNUE 7.63 64ZEN2 TOURNAMENT YaneuraOu NNUE 7.63 64ZEN2 TOURNAMENT

author by yaneurao by yaneurao

exeファイル C:\Jenkins\workspace\TanukiColiseum.2023-04-16\engine1\source\YaneuraOu-by-gcc.exe C:\Jenkins\workspace\TanukiColiseum.2023-04-16\engine2\source\YaneuraOu-by-gcc.exe

評価関数フォルダパス D:\hnoda\shogi\eval\tanuki-.nnue-pytorch-2024-03-16.5000 D:\hnoda\shogi\eval\tanuki-.nnue-pytorch-2024-03-06

定跡手数 256 256

定跡ファイル名 no_book no_book

思考ノード数 0 0

思考ノード数に加える乱数(%) 0 0

思考ノード数の乱数を1手毎に変化させる False False

持ち時間(ms) 300000 300000

秒読み時間(ms) 0 0

加算時間(ms) 2000 2000

乱数付き思考時間(ms) 0 0

スレッド数 1 1

BookEvalDiff 30 30

定跡の採択率を考慮する false false

定跡の手数を無視する false false

SlowMover 100 100

DrawValue -2 -2

BookEvalBlackLimit 0 0

BookEvalWhiteLimit -140 -140

FVScale 16 16

Depth=0 0

MinimumThinkingTime 1000 1000

対局数2000 先手勝ち1054(55.2%) 後手勝ち855(44.8%) 引き分け91

engine1

勝ち392(20.5% R-221.1 +-18.4) 先手勝ち234(12.3%) 後手勝ち158(8.3%)

宣言勝ち8 先手宣言勝ち4 後手宣言勝ち4 先手引き分け71 後手引き分け20

engine2

勝ち1517(79.5%) 先手勝ち820(43.0%) 後手勝ち697(36.5%)

宣言勝ち15 先手宣言勝ち8 後手宣言勝ち7 先手引き分け20 後手引き分け71

392,91,1517

学習局面数 レーティング差
5 億 -164.5
10 億 -218.6
15 億 -286.8
20 億 -258.5
25 億 -291.3
30 億 -239.7
35 億 -269.4
40 億 -230.2
45 億 -226.0
50 億 -221.1

学習ロスは、学習が進むにつれて下がっていった。

検証ロスは、学習が進むにつれて下がったあと、上がっていった。

レーティングは、 tanuki-.nnue-pytorch-2024-03-06 に比べていずれも有意に低かった。

考察

学習ロスと検証ロスは、過学習が起こっていることを表していると思う。

レーティングが有意に低かったのは、過学習が起こったためだと思う。過学習を防ぐには、学習率を下げればよいと思う。

まとめ

nnue-pytorch で学習した halfkp_1024x2-8-32 ネットワークを、 Suisho10Mn_psv を用いて Fine-tuning した。

結果、レーティングは、 tanuki-.nnue-pytorch-2024-03-06 に比べていずれも有意に低かった。レーティングが有意に低かったのは、過学習が起こったためだと思う。過学習を防ぐには、学習率を下げればよいと思う。

次回は、やねうら王純正の学習器で同様の学習を行い、レーティングを測定し、 nnue-pytorch との違いを比較したい。

tanuki- 2024-03-15 nnue-pytorch halfkp_1024x2-8-32 Fine-tuning Suishopsv-150m

将棋 コンピュータ将棋

tanuki- 2024-03-15 nnue-pytorch halfkp_1024x2-8-32 Fine-tuning Suishopsv-150m

実験内容

  • nnue-pytorch で学習した halfkp_1024x2-8-32 ネットワークを、 Suishopsv-150m を用いて Fine-tuning する。

シャッフル条件

生成ルーチン tanuki-シャッフルルーチン
qsearch() あり
置換表 無効

機械学習

機械学習ルーチン やねうら王機械学習ルーチン
学習モデル halfkp_1024x2-8-32
学習手法 SGD ミニバッチ法
USI_Hash 1024
Threads 16
loop 1000
batchsize 1000000
lambda 0.0
eta eta1=1e-8 eta2=0.001 eta1_epoch=100
newbob_decay 0.5
nn_batch_size 1000
eval_save_interval 500000000
loss_output_interval 1000000
mirror_percentage 50
eval_limit 32000
weight_by_progress 無効
次元下げ K・P・相対KP
学習データ内で重複した局面の除外 バージョンのデフォルトに依存する
初期ネットワークパラメーター tanuki-.nnue-pytorch-2024-03-06
勝敗項の教師信号 0.999

レーティング測定

対局相手 https://docs.google.com/document/d/1i_h7rxPbEVP7PaUMuDjcGUtgWdOK_gj01r_yILajWZg/edit?usp=sharing tanuki-.nnue-pytorch-2024-03-06
思考時間 持ち時間 300 秒 + 1 手 2 秒加算
対局数 5000
同時対局数 64
ハッシュサイズ 384
開始局面 dlshogi 互角局面集の角換わりの割合が 10% になるよう間引いたもの

実験結果

機械学習

レーティング測定

対局数=2000 同時対局数=64 ハッシュサイズ=384 開始手数=24 最大手数=320 開始局面ファイル=C:\Jenkins\workspace\TanukiColiseum.2023-04-16\TanukiColiseum\bishop_exchange.2023-06-25.sfen NUMAノード数=1 表示更新間隔(ms)=3600000

思考エンジン1 思考エンジン2

name YaneuraOu NNUE 7.63 64ZEN2 TOURNAMENT YaneuraOu NNUE 7.63 64ZEN2 TOURNAMENT

author by yaneurao by yaneurao

exeファイル C:\Jenkins\workspace\TanukiColiseum.2023-04-16\engine1\source\YaneuraOu-by-gcc.exe C:\Jenkins\workspace\TanukiColiseum.2023-04-16\engine2\source\YaneuraOu-by-gcc.exe

評価関数フォルダパス D:\hnoda\shogi\eval\tanuki-.nnue-pytorch-2024-02-28.Suishopsv-150m\0 D:\hnoda\shogi\eval\tanuki-.nnue-pytorch-2024-02-28

定跡手数 256 256

定跡ファイル名 no_book no_book

思考ノード数 0 0

思考ノード数に加える乱数(%) 0 0

思考ノード数の乱数を1手毎に変化させる False False

持ち時間(ms) 300000 300000

秒読み時間(ms) 0 0

加算時間(ms) 2000 2000

乱数付き思考時間(ms) 0 0

スレッド数 1 1

BookEvalDiff 30 30

定跡の採択率を考慮する false false

定跡の手数を無視する false false

SlowMover 100 100

DrawValue -2 -2

BookEvalBlackLimit 0 0

BookEvalWhiteLimit -140 -140

FVScale 16 16

Depth=0 0

MinimumThinkingTime 1000 1000

対局数2000 先手勝ち1025(60.5%) 後手勝ち669(39.5%) 引き分け306

engine1

勝ち797(47.0% R-17.4 +-15.3) 先手勝ち501(29.6%) 後手勝ち296(17.5%)

宣言勝ち28 先手宣言勝ち18 後手宣言勝ち10 先手引き分け129 後手引き分け177

engine2

勝ち897(53.0%) 先手勝ち524(30.9%) 後手勝ち373(22.0%)

宣言勝ち21 先手宣言勝ち10 後手宣言勝ち11 先手引き分け177 後手引き分け129

797,306,897

対局数=2000 同時対局数=64 ハッシュサイズ=384 開始手数=24 最大手数=320 開始局面ファイル=C:\Jenkins\workspace\TanukiColiseum.2023-04-16\TanukiColiseum\bishop_exchange.2023-06-25.sfen NUMAノード数=1 表示更新間隔(ms)=3600000

思考エンジン1 思考エンジン2

name YaneuraOu NNUE 7.63 64ZEN2 TOURNAMENT YaneuraOu NNUE 7.63 64ZEN2 TOURNAMENT

author by yaneurao by yaneurao

exeファイル C:\Jenkins\workspace\TanukiColiseum.2023-04-16\engine1\source\YaneuraOu-by-gcc.exe C:\Jenkins\workspace\TanukiColiseum.2023-04-16\engine2\source\YaneuraOu-by-gcc.exe

評価関数フォルダパス D:\hnoda\shogi\eval\tanuki-.nnue-pytorch-2024-02-28.Suishopsv-150m\1 D:\hnoda\shogi\eval\tanuki-.nnue-pytorch-2024-02-28

定跡手数 256 256

定跡ファイル名 no_book no_book

思考ノード数 0 0

思考ノード数に加える乱数(%) 0 0

思考ノード数の乱数を1手毎に変化させる False False

持ち時間(ms) 300000 300000

秒読み時間(ms) 0 0

加算時間(ms) 2000 2000

乱数付き思考時間(ms) 0 0

スレッド数 1 1

BookEvalDiff 30 30

定跡の採択率を考慮する false false

定跡の手数を無視する false false

SlowMover 100 100

DrawValue -2 -2

BookEvalBlackLimit 0 0

BookEvalWhiteLimit -140 -140

FVScale 16 16

Depth=0 0

MinimumThinkingTime 1000 1000

対局数2000 先手勝ち1077(61.4%) 後手勝ち677(38.6%) 引き分け246

engine1

勝ち906(51.7% R10.1 +-15.2) 先手勝ち572(32.6%) 後手勝ち334(19.0%)

宣言勝ち32 先手宣言勝ち17 後手宣言勝ち15 先手引き分け88 後手引き分け158

engine2

勝ち848(48.3%) 先手勝ち505(28.8%) 後手勝ち343(19.6%)

宣言勝ち25 先手宣言勝ち8 後手宣言勝ち17 先手引き分け158 後手引き分け88

906,246,848

対局数=2000 同時対局数=64 ハッシュサイズ=384 開始手数=24 最大手数=320 開始局面ファイル=C:\Jenkins\workspace\TanukiColiseum.2023-04-16\TanukiColiseum\bishop_exchange.2023-06-25.sfen NUMAノード数=1 表示更新間隔(ms)=3600000

思考エンジン1 思考エンジン2

name YaneuraOu NNUE 7.63 64ZEN2 TOURNAMENT YaneuraOu NNUE 7.63 64ZEN2 TOURNAMENT

author by yaneurao by yaneurao

exeファイル C:\Jenkins\workspace\TanukiColiseum.2023-04-16\engine1\source\YaneuraOu-by-gcc.exe C:\Jenkins\workspace\TanukiColiseum.2023-04-16\engine2\source\YaneuraOu-by-gcc.exe

評価関数フォルダパス D:\hnoda\shogi\eval\tanuki-.nnue-pytorch-2024-02-28.Suishopsv-150m\2 D:\hnoda\shogi\eval\tanuki-.nnue-pytorch-2024-02-28

定跡手数 256 256

定跡ファイル名 no_book no_book

思考ノード数 0 0

思考ノード数に加える乱数(%) 0 0

思考ノード数の乱数を1手毎に変化させる False False

持ち時間(ms) 300000 300000

秒読み時間(ms) 0 0

加算時間(ms) 2000 2000

乱数付き思考時間(ms) 0 0

スレッド数 1 1

BookEvalDiff 30 30

定跡の採択率を考慮する false false

定跡の手数を無視する false false

SlowMover 100 100

DrawValue -2 -2

BookEvalBlackLimit 0 0

BookEvalWhiteLimit -140 -140

FVScale 16 16

Depth=0 0

MinimumThinkingTime 1000 1000

対局数2000 先手勝ち1154(62.4%) 後手勝ち695(37.6%) 引き分け151

engine1

勝ち892(48.2% R-11.3 +-15.2) 先手勝ち562(30.4%) 後手勝ち330(17.8%)

宣言勝ち25 先手宣言勝ち21 後手宣言勝ち4 先手引き分け73 後手引き分け78

engine2

勝ち957(51.8%) 先手勝ち592(32.0%) 後手勝ち365(19.7%)

宣言勝ち26 先手宣言勝ち9 後手宣言勝ち17 先手引き分け78 後手引き分け73

892,151,957

対局数=2000 同時対局数=64 ハッシュサイズ=384 開始手数=24 最大手数=320 開始局面ファイル=C:\Jenkins\workspace\TanukiColiseum.2023-04-16\TanukiColiseum\bishop_exchange.2023-06-25.sfen NUMAノード数=1 表示更新間隔(ms)=3600000

思考エンジン1 思考エンジン2

name YaneuraOu NNUE 7.63 64ZEN2 TOURNAMENT YaneuraOu NNUE 7.63 64ZEN2 TOURNAMENT

author by yaneurao by yaneurao

exeファイル C:\Jenkins\workspace\TanukiColiseum.2023-04-16\engine1\source\YaneuraOu-by-gcc.exe C:\Jenkins\workspace\TanukiColiseum.2023-04-16\engine2\source\YaneuraOu-by-gcc.exe

評価関数フォルダパス D:\hnoda\shogi\eval\tanuki-.nnue-pytorch-2024-02-28.Suishopsv-150m\3 D:\hnoda\shogi\eval\tanuki-.nnue-pytorch-2024-02-28

定跡手数 256 256

定跡ファイル名 no_book no_book

思考ノード数 0 0

思考ノード数に加える乱数(%) 0 0

思考ノード数の乱数を1手毎に変化させる False False

持ち時間(ms) 300000 300000

秒読み時間(ms) 0 0

加算時間(ms) 2000 2000

乱数付き思考時間(ms) 0 0

スレッド数 1 1

BookEvalDiff 30 30

定跡の採択率を考慮する false false

定跡の手数を無視する false false

SlowMover 100 100

DrawValue -2 -2

BookEvalBlackLimit 0 0

BookEvalWhiteLimit -140 -140

FVScale 16 16

Depth=0 0

MinimumThinkingTime 1000 1000

対局数2000 先手勝ち1183(63.8%) 後手勝ち671(36.2%) 引き分け146

engine1

勝ち774(41.7% R-53.6 +-15.4) 先手勝ち513(27.7%) 後手勝ち261(14.1%)

宣言勝ち26 先手宣言勝ち17 後手宣言勝ち9 先手引き分け80 後手引き分け66

engine2

勝ち1080(58.3%) 先手勝ち670(36.1%) 後手勝ち410(22.1%)

宣言勝ち21 先手宣言勝ち10 後手宣言勝ち11 先手引き分け66 後手引き分け80

774,146,1080

対局数=2000 同時対局数=64 ハッシュサイズ=384 開始手数=24 最大手数=320 開始局面ファイル=C:\Jenkins\workspace\TanukiColiseum.2023-04-16\TanukiColiseum\bishop_exchange.2023-06-25.sfen NUMAノード数=1 表示更新間隔(ms)=3600000

思考エンジン1 思考エンジン2

name YaneuraOu NNUE 7.63 64ZEN2 TOURNAMENT YaneuraOu NNUE 7.63 64ZEN2 TOURNAMENT

author by yaneurao by yaneurao

exeファイル C:\Jenkins\workspace\TanukiColiseum.2023-04-16\engine1\source\YaneuraOu-by-gcc.exe C:\Jenkins\workspace\TanukiColiseum.2023-04-16\engine2\source\YaneuraOu-by-gcc.exe

評価関数フォルダパス D:\hnoda\shogi\eval\tanuki-.nnue-pytorch-2024-02-28.Suishopsv-150m\4 D:\hnoda\shogi\eval\tanuki-.nnue-pytorch-2024-02-28

定跡手数 256 256

定跡ファイル名 no_book no_book

思考ノード数 0 0

思考ノード数に加える乱数(%) 0 0

思考ノード数の乱数を1手毎に変化させる False False

持ち時間(ms) 300000 300000

秒読み時間(ms) 0 0

加算時間(ms) 2000 2000

乱数付き思考時間(ms) 0 0

スレッド数 1 1

BookEvalDiff 30 30

定跡の採択率を考慮する false false

定跡の手数を無視する false false

SlowMover 100 100

DrawValue -2 -2

BookEvalBlackLimit 0 0

BookEvalWhiteLimit -140 -140

FVScale 16 16

Depth=0 0

MinimumThinkingTime 1000 1000

対局数2000 先手勝ち1132(62.0%) 後手勝ち694(38.0%) 引き分け174

engine1

勝ち861(47.2% R-18.1 +-15.3) 先手勝ち550(30.1%) 後手勝ち311(17.0%)

宣言勝ち36 先手宣言勝ち21 後手宣言勝ち15 先手引き分け68 後手引き分け106

engine2

勝ち965(52.8%) 先手勝ち582(31.9%) 後手勝ち383(21.0%)

宣言勝ち33 先手宣言勝ち15 後手宣言勝ち18 先手引き分け106 後手引き分け68

861,174,965

対局数=2000 同時対局数=64 ハッシュサイズ=384 開始手数=24 最大手数=320 開始局面ファイル=C:\Jenkins\workspace\TanukiColiseum.2023-04-16\TanukiColiseum\bishop_exchange.2023-06-25.sfen NUMAノード数=1 表示更新間隔(ms)=3600000

思考エンジン1 思考エンジン2

name YaneuraOu NNUE 7.63 64ZEN2 TOURNAMENT YaneuraOu NNUE 7.63 64ZEN2 TOURNAMENT

author by yaneurao by yaneurao

exeファイル C:\Jenkins\workspace\TanukiColiseum.2023-04-16\engine1\source\YaneuraOu-by-gcc.exe C:\Jenkins\workspace\TanukiColiseum.2023-04-16\engine2\source\YaneuraOu-by-gcc.exe

評価関数フォルダパス D:\hnoda\shogi\eval\tanuki-.nnue-pytorch-2024-02-28.Suishopsv-150m\5 D:\hnoda\shogi\eval\tanuki-.nnue-pytorch-2024-02-28

定跡手数 256 256

定跡ファイル名 no_book no_book

思考ノード数 0 0

思考ノード数に加える乱数(%) 0 0

思考ノード数の乱数を1手毎に変化させる False False

持ち時間(ms) 300000 300000

秒読み時間(ms) 0 0

加算時間(ms) 2000 2000

乱数付き思考時間(ms) 0 0

スレッド数 1 1

BookEvalDiff 30 30

定跡の採択率を考慮する false false

定跡の手数を無視する false false

SlowMover 100 100

DrawValue -2 -2

BookEvalBlackLimit 0 0

BookEvalWhiteLimit -140 -140

FVScale 16 16

Depth=0 0

MinimumThinkingTime 1000 1000

対局数2000 先手勝ち1074(58.6%) 後手勝ち760(41.4%) 引き分け166

engine1

勝ち843(46.0% R-25.8 +-15.3) 先手勝ち511(27.9%) 後手勝ち332(18.1%)

宣言勝ち28 先手宣言勝ち11 後手宣言勝ち17 先手引き分け61 後手引き分け105

engine2

勝ち991(54.0%) 先手勝ち563(30.7%) 後手勝ち428(23.3%)

宣言勝ち29 先手宣言勝ち9 後手宣言勝ち20 先手引き分け105 後手引き分け61

843,166,991

numGames=2000 numConcurrentGames=64 hashMb=384 numBookMoves=24 maxMovesToDraw=320 sfenFilePath=C:\Jenkins\workspace\TanukiColiseum.2023-04-16\TanukiColiseum\bishop_exchange.2023-06-25.sfen numNumaNodes=1 progressIntervalMs=3600000

engine1 engine2

name YaneuraOu NNUE 7.63 64ZEN2 TOURNAMENT YaneuraOu NNUE 7.63 64ZEN2 TOURNAMENT

author by yaneurao by yaneurao

engineFilePath C:\Jenkins\workspace\TanukiColiseum.2023-04-16\engine1\source\YaneuraOu-by-gcc.exe C:\Jenkins\workspace\TanukiColiseum.2023-04-16\engine2\source\YaneuraOu-by-gcc.exe

evalFolderPath D:\hnoda\shogi\eval\tanuki-.nnue-pytorch-2024-02-28.Suishopsv-150m\6 D:\hnoda\shogi\eval\tanuki-.nnue-pytorch-2024-02-28

numBookMoves 256 256

bookFileName no_book no_book

nodes 0 0

nodesRandomPercent 0 0

nodesRandomEveryMove False False

time 300000 300000

byoyomi 0 0

inc 2000 2000

rtime 0 0

numThreads 1 1

bookEvalDiff 30 30

considerBookMoveCount false false

ignoreBookPly false false

slowMover 100 100

drawValue -2 -2

bookEvalBlackLimit 0 0

bookEvalWhiteLimit -140 -140

fvScale 16 16

depth=0 0

minimumThinkingTime 1000 1000

numFinishedGames=2000 blackWin=1103(59.7%) whiteWin=744(40.3%) numDraw=153

engine1

engine1Win=916(49.6% R-2.6 +-15.2) engine1BlackWin=553(29.9%) engine1WhiteWin=363(19.7%)

engine1DeclarationWin=40 engine1DeclarationWinBlack=25 engine1DeclarationWinWhite=15 engine1DrawBlack=69 engine2DrawBlack=84

engine2

engine2Win=931(50.4%) engine2BlackWin=550(29.8%) engine2WhiteWin=381(20.6%)

engine2DeclarationWin=29 engine2DeclarationWinBlack=15 engine2DeclarationWinWhite=14 engine2DrawBlack=84 engine1DrawBlack=69

916,153,931

対局数=2000 同時対局数=64 ハッシュサイズ=384 開始手数=24 最大手数=320 開始局面ファイル=C:\Jenkins\workspace\TanukiColiseum.2023-04-16\TanukiColiseum\bishop_exchange.2023-06-25.sfen NUMAノード数=1 表示更新間隔(ms)=3600000

思考エンジン1 思考エンジン2

name YaneuraOu NNUE 7.63 64ZEN2 TOURNAMENT YaneuraOu NNUE 7.63 64ZEN2 TOURNAMENT

author by yaneurao by yaneurao

exeファイル C:\Jenkins\workspace\TanukiColiseum.2023-04-16\engine1\source\YaneuraOu-by-gcc.exe C:\Jenkins\workspace\TanukiColiseum.2023-04-16\engine2\source\YaneuraOu-by-gcc.exe

評価関数フォルダパス D:\hnoda\shogi\eval\tanuki-.nnue-pytorch-2024-02-28.Suishopsv-150m\7 D:\hnoda\shogi\eval\tanuki-.nnue-pytorch-2024-02-28

定跡手数 256 256

定跡ファイル名 no_book no_book

思考ノード数 0 0

思考ノード数に加える乱数(%) 0 0

思考ノード数の乱数を1手毎に変化させる False False

持ち時間(ms) 300000 300000

秒読み時間(ms) 0 0

加算時間(ms) 2000 2000

乱数付き思考時間(ms) 0 0

スレッド数 1 1

BookEvalDiff 30 30

定跡の採択率を考慮する false false

定跡の手数を無視する false false

SlowMover 100 100

DrawValue -2 -2

BookEvalBlackLimit 0 0

BookEvalWhiteLimit -140 -140

FVScale 16 16

Depth=0 0

MinimumThinkingTime 1000 1000

対局数2000 先手勝ち1093(58.5%) 後手勝ち774(41.5%) 引き分け133

engine1

勝ち855(45.8% R-27.3 +-15.3) 先手勝ち506(27.1%) 後手勝ち349(18.7%)

宣言勝ち32 先手宣言勝ち18 後手宣言勝ち14 先手引き分け65 後手引き分け68

engine2

勝ち1012(54.2%) 先手勝ち587(31.4%) 後手勝ち425(22.8%)

宣言勝ち15 先手宣言勝ち3 後手宣言勝ち12 先手引き分け68 後手引き分け65

855,133,1012

対局数=2000 同時対局数=64 ハッシュサイズ=384 開始手数=24 最大手数=320 開始局面ファイル=C:\Jenkins\workspace\TanukiColiseum.2023-04-16\TanukiColiseum\bishop_exchange.2023-06-25.sfen NUMAノード数=1 表示更新間隔(ms)=3600000

思考エンジン1 思考エンジン2

name YaneuraOu NNUE 7.63 64ZEN2 TOURNAMENT YaneuraOu NNUE 7.63 64ZEN2 TOURNAMENT

author by yaneurao by yaneurao

exeファイル C:\Jenkins\workspace\TanukiColiseum.2023-04-16\engine1\source\YaneuraOu-by-gcc.exe C:\Jenkins\workspace\TanukiColiseum.2023-04-16\engine2\source\YaneuraOu-by-gcc.exe

評価関数フォルダパス D:\hnoda\shogi\eval\tanuki-.nnue-pytorch-2024-02-28.Suishopsv-150m\8 D:\hnoda\shogi\eval\tanuki-.nnue-pytorch-2024-02-28

定跡手数 256 256

定跡ファイル名 no_book no_book

思考ノード数 0 0

思考ノード数に加える乱数(%) 0 0

思考ノード数の乱数を1手毎に変化させる False False

持ち時間(ms) 300000 300000

秒読み時間(ms) 0 0

加算時間(ms) 2000 2000

乱数付き思考時間(ms) 0 0

スレッド数 1 1

BookEvalDiff 30 30

定跡の採択率を考慮する false false

定跡の手数を無視する false false

SlowMover 100 100

DrawValue -2 -2

BookEvalBlackLimit 0 0

BookEvalWhiteLimit -140 -140

FVScale 16 16

Depth=0 0

MinimumThinkingTime 1000 1000

対局数2000 先手勝ち1042(55.6%) 後手勝ち833(44.4%) 引き分け125

engine1

勝ち830(44.3% R-37.5 +-15.3) 先手勝ち469(25.0%) 後手勝ち361(19.3%)

宣言勝ち36 先手宣言勝ち20 後手宣言勝ち16 先手引き分け63 後手引き分け62

engine2

勝ち1045(55.7%) 先手勝ち573(30.6%) 後手勝ち472(25.2%)

宣言勝ち18 先手宣言勝ち3 後手宣言勝ち15 先手引き分け62 後手引き分け63

830,125,1045

対局数=2000 同時対局数=64 ハッシュサイズ=384 開始手数=24 最大手数=320 開始局面ファイル=C:\Jenkins\workspace\TanukiColiseum.2023-04-16\TanukiColiseum\bishop_exchange.2023-06-25.sfen NUMAノード数=1 表示更新間隔(ms)=3600000

思考エンジン1 思考エンジン2

name YaneuraOu NNUE 7.63 64ZEN2 TOURNAMENT YaneuraOu NNUE 7.63 64ZEN2 TOURNAMENT

author by yaneurao by yaneurao

exeファイル C:\Jenkins\workspace\TanukiColiseum.2023-04-16\engine1\source\YaneuraOu-by-gcc.exe C:\Jenkins\workspace\TanukiColiseum.2023-04-16\engine2\source\YaneuraOu-by-gcc.exe

評価関数フォルダパス D:\hnoda\shogi\eval\tanuki-.nnue-pytorch-2024-02-28.Suishopsv-150m\final D:\hnoda\shogi\eval\tanuki-.nnue-pytorch-2024-02-28

定跡手数 256 256

定跡ファイル名 no_book no_book

思考ノード数 0 0

思考ノード数に加える乱数(%) 0 0

思考ノード数の乱数を1手毎に変化させる False False

持ち時間(ms) 300000 300000

秒読み時間(ms) 0 0

加算時間(ms) 2000 2000

乱数付き思考時間(ms) 0 0

スレッド数 1 1

BookEvalDiff 30 30

定跡の採択率を考慮する false false

定跡の手数を無視する false false

SlowMover 100 100

DrawValue -2 -2

BookEvalBlackLimit 0 0

BookEvalWhiteLimit -140 -140

FVScale 16 16

Depth=0 0

MinimumThinkingTime 1000 1000

対局数2000 先手勝ち1024(55.2%) 後手勝ち830(44.8%) 引き分け146

engine1

勝ち843(45.5% R-29.3 +-15.3) 先手勝ち471(25.4%) 後手勝ち372(20.1%)

宣言勝ち40 先手宣言勝ち19 後手宣言勝ち21 先手引き分け71 後手引き分け75

engine2

勝ち1011(54.5%) 先手勝ち553(29.8%) 後手勝ち458(24.7%)

宣言勝ち18 先手宣言勝ち6 後手宣言勝ち12 先手引き分け75 後手引き分け71

843,146,1011

学習局面数 レーティング差
5 億 -17.4
10 億 10.1
15 億 -11.3
20 億 -53.6
25 億 -18.1
30 億 -25.8
35 億 -2.6
40 億 -27.3
45 億 -37.5
50 億 -29.3

学習ロスと検証ロスは、学習が進むにつれて下がっていった。

平手局面の評価値は、学習が進むにつれて上がっていった。

評価値の絶対値は、学習が進むにつれて上がっていった。

レーティングは、 tanuki-.nnue-pytorch-2024-03-06 に比べて有意に高いものはなかった。

考察

学習ロスト検証ロスは、学習に発散等、大きな問題がなかったことを表していると思う。

平手局面の評価値は、 Suishopsv-150m の先手勝率が高いことを表していると思う。

評価値の絶対値は、 Suishopsv-150m で Fine-tuning を進めることにより、評価値の絶対値が大きくなることを表していると思う。

レーティングはが有意に高くならなかったのは、 tanuki-.nnue-pytorch-2024-03-06 の学習データが Hao だったためだと思う。 Hao は Suishopsv-150m で Fine-tuning してあるため、再度 Fine-tuning しようとして過学習してしまったのだと思う。

まとめ

nnue-pytorch で学習した halfkp_1024x2-8-32 ネットワークを、 Suishopsv-150m を用いて Fine-tuning した。

レーティングは、 tanuki-.nnue-pytorch-2024-03-06 に比べて有意に高いものはなかった。レーティングはが有意に高くならなかったのは、 tanuki-.nnue-pytorch-2024-03-06 の学習データが Hao だったためだと思う。 Hao は Suishopsv-150m で Fine-tuning してあるため、再度 Fine-tuning しようとして過学習してしまったのだと思う。

次回は、 tanuki-.nnue-pytorch-2024-03-06 を nnue-pytorch と Suisho10Mn_psv を用いて Fine-tuning し、レーティングを測定したい。

tanuki- 2024-03-07 nnue-pytorch halfkp_1024x2-8-32 バッチサイズ調整

将棋 コンピュータ将棋

tanuki- 2024-03-07 nnue-pytorch halfkp_1024x2-8-32 バッチサイズ調整

実験内容

  • nnue-pytorch を用い、 halfkp_1024x2-8-32 ネットワークを学習させる。
  • バッチサイズを 16384 に増やして学習させる。

棋譜生成

生成ルーチン tanuki-棋譜生成ルーチン
評価関数 Hao (tanuki-.halfkp_256x2-32-32.2023-05-08)
1手あたりの思考 深さ最大 9 思考ノード数最大 50,000 ノード
開始局面 foodgate の 2020 年～ 2021 年の棋譜を使用した。レーティング 3900 以上同士の対局のみ使用した。戦型が角換わりの対局が 10% になるよう調整した。 32 手目までから 1 局面ランダムに選択し、その局面を開始局面とした。ランダムムーブはしなかった。
生成局面数 10 億局面 × 8 セット
生成条件 対局は打ち切らず詰みの局面まで学習データに出力した
フォルダ名 tanuki-.halfkp_256x2-32-32.2023-05-08

生成ルーチン tanuki-棋譜生成ルーチン 深さ 9 の思考でレーティングが上がるよう、探索パラメーターを調整している
評価関数 水匠 5
1手あたりの思考 深さ最大 9 思考ノード数最大 50,000 ノード
開始局面 foodgate の 2017 年以降の棋譜のうち、入玉を含む棋譜を使用した。
生成局面数 5 億局面 × 1 セット
生成条件 対局は打ち切らず詰みの局面まで学習データに出力した
フォルダ名 suisho5.entering_king.2024-02-20

シャッフル条件

生成ルーチン tanuki-シャッフルルーチン
qsearch() あり
置換表 無効

機械学習

機械学習ルーチン nnue-pytorch + やねうら王 https://github.com/nodchip/nnue-pytorch/tree/shogi.2023-10-29.halfkp_1024x2-8-32
学習モデル halfkp_1024x2-8-32
学習手法 ミニバッチ SGD
初期学習率 (lr) 0.5 収束後 0.05
最適化手法 なし
学習率調整手法 Warmup + Newbob 風
batch-size 16384
threads 8
num-workers 8
accelerator gpu
devices 1
features HalfKP
max-epoch 1000000
score-scaling 361
lambda 1.0 収束後 0.5
勝敗項の教師信号 0.999
num-batches-warmup 10000
newbob-decay 0.5
epoch-size 1000000
num-epochs-to-adjust-lr 500
学習を打ち切る下限 newbob scale 1e-5
1 epoch 毎のネットワークパラメーターのクリップ あり
ネットワークパラメーターの量子化 量子化なしで学習し、収束後に量子化する。
ネットワークパラメーターの初期化方法 pytorch のデフォルトの初期化手法で初期化する。
勾配の正規化 なし
momentum 0.9
入玉ボーナス 入玉時、持ち駒および敵陣三段目までに侵入している駒について、小駒 1 枚につき 20 点、大駒 1 枚につき 100 点、敵陣三段目までに侵入している駒 1 枚につき 20 点追加する。

レーティング測定

対局相手 https://docs.google.com/document/d/1razZwLBDtB47gLhNsWQwNZqW9S1qC3S7ZVfEzGwaAxo/edit?usp=sharing tanuki-.nnue-pytorch-2024-02-28
思考時間 持ち時間 300 秒 + 1 手 2 秒加算
対局数 5000
同時対局数 64
ハッシュサイズ 384
開始局面 dlshogi 互角局面集の角換わりの割合が 10% になるよう間引いたもの

実験結果

機械学習

検証ロス

batch-size=16384 … 0.2612318373649352

batch-size=8192 … 0.26106551361083985

学習時間

batch-size=16384 … 67:00:31.889

batch-size=8192 … 109:01:56.602

ネットワークパラメーターの分布

mean=-24.9853515625 std=23.355863571166992

mean=-0.0070372032932937145 std=3.420506000518799

mean=2012.625 std=1921.447265625

mean=-0.1197509765625 std=5.809447765350342

mean=-3127.375 std=4714.5380859375

mean=4.34375 std=32.68085479736328

mean=776.0 std=nan

mean=0.875 std=48.20905303955078

レーティング測定

対局数=5000 同時対局数=64 ハッシュサイズ=384 開始手数=24 最大手数=320 開始局面ファイル=C:\Jenkins\workspace\TanukiColiseum.2023-04-16\TanukiColiseum\floodgate32-80.adjust_bishop_exchange.sfen NUMAノード数=1 表示更新間隔(ms)=3600000

思考エンジン1 思考エンジン2

name YaneuraOu NNUE 7.63 64ZEN2 TOURNAMENT YaneuraOu NNUE 7.63 64ZEN2 TOURNAMENT

author by yaneurao by yaneurao

exeファイル C:\Jenkins\workspace\TanukiColiseum.2023-04-16\engine1\source\YaneuraOu-by-gcc.exe C:\Jenkins\workspace\TanukiColiseum.2023-04-16\engine2\source\YaneuraOu-by-gcc.exe

評価関数フォルダパス D:\hnoda\shogi\eval\tanuki-.nnue-pytorch-2024-03-06 D:\hnoda\shogi\eval\tanuki-.nnue-pytorch-2024-02-28

定跡手数 256 256

定跡ファイル名 no_book no_book

思考ノード数 0 0

思考ノード数に加える乱数(%) 0 0

思考ノード数の乱数を1手毎に変化させる False False

持ち時間(ms) 300000 300000

秒読み時間(ms) 0 0

加算時間(ms) 2000 2000

乱数付き思考時間(ms) 0 0

スレッド数 1 1

BookEvalDiff 30 30

定跡の採択率を考慮する true true

定跡の手数を無視する true true

SlowMover 100 100

DrawValue -2 -2

BookEvalBlackLimit 0 0

BookEvalWhiteLimit -140 -140

FVScale 16 16

Depth=0 0

MinimumThinkingTime 1000 1000

対局数5000 先手勝ち2472(54.7%) 後手勝ち2050(45.3%) 引き分け478

engine1

勝ち2224(49.2% R-5.1 +-9.6) 先手勝ち1224(27.1%) 後手勝ち1000(22.1%)

宣言勝ち40 先手宣言勝ち14 後手宣言勝ち26 先手引き分け227 後手引き分け251

engine2

勝ち2298(50.8%) 先手勝ち1248(27.6%) 後手勝ち1050(23.2%)

宣言勝ち68 先手宣言勝ち35 後手宣言勝ち33 先手引き分け251 後手引き分け227

2224,478,2298

学習ロスと検証ロスは、 tanuki-.nnue-pytorch-2024-03-06 のほうがやや高かった。

学習時間は、 tanuki-.nnue-pytorch-2024-03-06 のほうが 3 割ほど速かった。

レーティングは、 tanuki-.nnue-pytorch-2024-02-28 に対して R5.1 低かったが、有意な差はなかった。

考察

学習ロスと検証ロスが tanuki-.nnue-pytorch-2024-03-06 より高いのは、バッチサイズを大きくしたことにより、汎化性能が下がったためだと思う。

学習時間が速くなったのは、バッチサイズが大きくなったことにより、 GPU とのデータ転送の回数が減ったことが原因だと思う。

レーティングに有意差がなかった原因は、モーメンタムにより教師信号や勾配のノイズが減ったためだと思う。ただし、さらにバッチサイズを大きくし、有意差が出た場合、バッチサイズを大きくするにしたがってレーティングが下がると言えると思う。実験段階ではバッチサイズを大きくし、実験のイテレーションを速く回せるようにするのが良いと思う。大会に出場する際の評価関数を作成する際は、バッチサイズを小さくし、レーティングを挙げるのが良いと思う。

まとめ

nnue-pytorch を用い、 halfkp_1024x2-8-32 ネットワークを学習させた。その際、バッチサイズを 16384 に増やして学習させた。

レーティングは、 tanuki-.nnue-pytorch-2024-02-28 に対して R5.1 低かったが、有意な差はなかった。レーティングに有意差がなかった原因は、モーメンタムにより教師信号や勾配のノイズが減ったためだと思う。ただし、さらにバッチサイズを大きくし、有意差が出た場合、バッチサイズを大きくするにしたがってレーティングが下がると言えると思う。実験段階ではバッチサイズを大きくし、実験のイテレーションを速く回せるようにするのが良いと思う。大会に出場する際の評価関数を作成する際は、バッチサイズを小さくし、レーティングを挙げるのが良いと思う。

次回は、バッチサイズを 32768 に増やして学習させ、学習時間とレーティングを測定したい。

tanuki- 2024-03-01 nnue-pytorch halfkp_1024x2-8-32 水匠 5 で生成した入玉将棋の棋譜の混合

将棋 コンピュータ将棋

tanuki- 2024-03-01 nnue-pytorch halfkp_1024x2-8-32 水匠 5 で生成した入玉将棋の棋譜の混合

実験内容

  • nnue-pytorch を用い、 halfkp_1024x2-8-32 ネットワークを学習させる。
  • Hao で生成した学習データに、水匠 5 で生成した学習データを混合する。
    • 水匠 5 で学習データを生成する際は、 floodgate 上の 2017 年以降の入玉を含む将棋の棋譜から局面をランダムに選び、その局面を開始局面として自己対局させる。
    • 学習データの混合作業の都合上、検証データには水匠 5 で生成した学習データは含めない。

    棋譜生成

    生成ルーチン tanuki-棋譜生成ルーチン
    評価関数 Hao (tanuki-.halfkp_256x2-32-32.2023-05-08)
    1手あたりの思考 深さ最大 9 思考ノード数最大 50,000 ノード
    開始局面 foodgate の 2020 年～ 2021 年の棋譜を使用した。レーティング 3900 以上同士の対局のみ使用した。戦型が角換わりの対局が 10% になるよう調整した。 32 手目までから 1 局面ランダムに選択し、その局面を開始局面とした。ランダムムーブはしなかった。
    生成局面数 10 億局面 × 8 セット
    生成条件 対局は打ち切らず詰みの局面まで学習データに出力した
    フォルダ名 tanuki-.halfkp_256x2-32-32.2023-05-08

    生成ルーチン tanuki-棋譜生成ルーチン 深さ 9 の思考でレーティングが上がるよう、探索パラメーターを調整している
    評価関数 水匠 5
    1手あたりの思考 深さ最大 9 思考ノード数最大 50,000 ノード
    開始局面 foodgate の 2017 年以降の棋譜のうち、入玉を含む棋譜を使用した。
    生成局面数 5 億局面 × 1 セット
    生成条件 対局は打ち切らず詰みの局面まで学習データに出力した
    フォルダ名 suisho5.entering_king.2024-02-20

    シャッフル条件

    生成ルーチン tanuki-シャッフルルーチン
    qsearch() あり
    置換表 無効

    機械学習

    機械学習ルーチン nnue-pytorch + やねうら王 https://github.com/nodchip/nnue-pytorch/tree/shogi.2023-10-29.halfkp_1024x2-8-32
    学習モデル halfkp_1024x2-8-32
    学習手法 ミニバッチ SGD
    初期学習率 (lr) 0.25 収束後 0.025
    最適化手法 なし
    学習率調整手法 Warmup + Newbob 風
    batch-size 8192
    threads 8
    num-workers 32
    accelerator gpu
    devices 1
    features HalfKP
    max-epoch 1000000
    score-scaling 361
    lambda 1.0 収束後 0.5
    勝敗項の教師信号 0.999
    num-batches-warmup 10000
    newbob-decay 0.5
    epoch-size 1000000
    num-epochs-to-adjust-lr 500
    学習を打ち切る下限 newbob scale 1e-5
    1 epoch 毎のネットワークパラメーターのクリップ あり
    ネットワークパラメーターの量子化 量子化なしで学習し、収束後に量子化する。
    ネットワークパラメーターの初期化方法 pytorch のデフォルトの初期化手法で初期化する。
    勾配の正規化 なし
    momentum 0.9
    入玉ボーナス 入玉時、持ち駒および敵陣三段目までに侵入している駒について、小駒 1 枚につき 20 点、大駒 1 枚につき 100 点、敵陣三段目までに侵入している駒 1 枚につき 20 点追加する。

    レーティング測定

    対局相手 https://docs.google.com/document/d/1mTWCV4d3WJEwbDNAIQDIcy77R2oRG0UE7rgd1fV8KXw/edit?usp=sharing tanuki-.nnue-pytorch-2024-01-22 https://docs.google.com/document/d/1AbaBBbd7ZJ9AlVdL9oFsJqMq_GLEogRZI8LMblkaR5w/edit?usp=sharing tanuki-.nnue-pytorch-2024-02-14
    思考時間 持ち時間 300 秒 + 1 手 2 秒加算
    対局数 5000
    同時対局数 64
    ハッシュサイズ 384
    開始局面 dlshogi 互角局面集の角換わりの割合が 10% になるよう間引いたもの

    実験結果

    機械学習

    検証ロス

    tanuki-.halfkp_256x2-32-32.2023-05-08+suisho5.entering_king.2024-02-20 … 0.26106551361083985

    tanuki-.halfkp_256x2-32-32.2023-05-08 … 0.26124961288576176

    ネットワークパラメーターの分布

    mean=-30.869140625 std=26.96865463256836

    mean=-0.009024830535054207 std=3.827279567718506

    mean=5596.25 std=2352.6533203125

    mean=-0.51971435546875 std=5.738049030303955

    mean=-3181.125 std=7088.650390625

    mean=0.84375 std=37.54525375366211

    mean=2475.0 std=nan

    mean=6.34375 std=53.184165954589844

    レーティング測定

    対局数=5000 同時対局数=64 ハッシュサイズ=384 開始手数=24 最大手数=320 開始局面ファイル=C:\Jenkins\workspace\TanukiColiseum.2023-04-16\TanukiColiseum\floodgate32-80.adjust_bishop_exchange.sfen NUMAノード数=1 表示更新間隔(ms)=3600000

    思考エンジン1 思考エンジン2

    name YaneuraOu NNUE 7.63 64ZEN2 TOURNAMENT YaneuraOu NNUE 7.63 64ZEN2 TOURNAMENT

    author by yaneurao by yaneurao

    exeファイル C:\Jenkins\workspace\TanukiColiseum.2023-04-16\engine1\source\YaneuraOu-by-gcc.exe C:\Jenkins\workspace\TanukiColiseum.2023-04-16\engine2\source\YaneuraOu-by-gcc.exe

    評価関数フォルダパス D:\hnoda\shogi\eval\tanuki-.nnue-pytorch-2024-02-28 D:\hnoda\shogi\eval\tanuki-.nnue-pytorch-2024-01-22

    定跡手数 256 256

    定跡ファイル名 no_book no_book

    思考ノード数 0 0

    思考ノード数に加える乱数(%) 0 0

    思考ノード数の乱数を1手毎に変化させる False False

    持ち時間(ms) 300000 300000

    秒読み時間(ms) 0 0

    加算時間(ms) 2000 2000

    乱数付き思考時間(ms) 0 0

    スレッド数 1 1

    BookEvalDiff 30 30

    定跡の採択率を考慮する true true

    定跡の手数を無視する true true

    SlowMover 100 100

    DrawValue -2 -2

    BookEvalBlackLimit 0 0

    BookEvalWhiteLimit -140 -140

    FVScale 16 16

    Depth=0 0

    MinimumThinkingTime 1000 1000

    対局数5000 先手勝ち2444(53.4%) 後手勝ち2134(46.6%) 引き分け422

    engine1

    勝ち2485(54.3% R27.3 +-9.7) 先手勝ち1313(28.7%) 後手勝ち1172(25.6%)

    宣言勝ち43 先手宣言勝ち25 後手宣言勝ち18 先手引き分け221 後手引き分け201

    engine2

    勝ち2093(45.7%) 先手勝ち1131(24.7%) 後手勝ち962(21.0%)

    宣言勝ち58 先手宣言勝ち26 後手宣言勝ち32 先手引き分け201 後手引き分け221

    2485,422,2093

    対局数=5000 同時対局数=64 ハッシュサイズ=384 開始手数=24 最大手数=320 開始局面ファイル=C:\Jenkins\workspace\TanukiColiseum.2023-04-16\TanukiColiseum\floodgate32-80.adjust_bishop_exchange.sfen NUMAノード数=1 表示更新間隔(ms)=3600000

    思考エンジン1 思考エンジン2

    name YaneuraOu NNUE 7.63 64ZEN2 TOURNAMENT YaneuraOu NNUE 7.63 64ZEN2 TOURNAMENT

    author by yaneurao by yaneurao

    exeファイル C:\Jenkins\workspace\TanukiColiseum.2023-04-16\engine1\source\YaneuraOu-by-gcc.exe C:\Jenkins\workspace\TanukiColiseum.2023-04-16\engine2\source\YaneuraOu-by-gcc.exe

    評価関数フォルダパス D:\hnoda\shogi\eval\tanuki-.nnue-pytorch-2024-02-28 D:\hnoda\shogi\eval\tanuki-.nnue-pytorch-2024-02-14

    定跡手数 256 256

    定跡ファイル名 no_book no_book

    思考ノード数 0 0

    思考ノード数に加える乱数(%) 0 0

    思考ノード数の乱数を1手毎に変化させる False False

    持ち時間(ms) 300000 300000

    秒読み時間(ms) 0 0

    加算時間(ms) 2000 2000

    乱数付き思考時間(ms) 0 0

    スレッド数 1 1

    BookEvalDiff 30 30

    定跡の採択率を考慮する true true

    定跡の手数を無視する true true

    SlowMover 100 100

    DrawValue -2 -2

    BookEvalBlackLimit 0 0

    BookEvalWhiteLimit -140 -140

    FVScale 16 16

    Depth=0 0

    MinimumThinkingTime 1000 1000

    対局数5000 先手勝ち2457(54.7%) 後手勝ち2032(45.3%) 引き分け511

    engine1

    勝ち2320(51.7% R10.5 +-9.6) 先手勝ち1271(28.3%) 後手勝ち1049(23.4%)

    宣言勝ち91 先手宣言勝ち49 後手宣言勝ち42 先手引き分け244 後手引き分け267

    engine2

    勝ち2169(48.3%) 先手勝ち1186(26.4%) 後手勝ち983(21.9%)

    宣言勝ち33 先手宣言勝ち15 後手宣言勝ち18 先手引き分け267 後手引き分け244

    2320,511,2169

    学習ロスと検証ロスは、 tanuki-.halfkp_256x2-32-32.2023-05-08+suisho5.entering_king.2024-02-20 のほうが低くなった。

    学習率が下がるタイミングは、 tanuki-.halfkp_256x2-32-32.2023-05-08+suisho5.entering_king.2024-02-20 のほうが遅かった。

    レーティングは、 tanuki-.nnue-pytorch-2024-01-22 に対しては R27.3 高く、有意な差があった。また、宣言勝ちの回数は 43 対 58 で、やや少なかった。 tanuki-.nnue-pytorch-2024-02-14 に対しては R10.5 高く、有意な差があった。また、宣言勝ちの回数は 91 対 33 と、大きく上回った。

    考察

    学習ロスが低くなったのは、 suisho5.entering_king.2024-02-20 を混ぜたためだと思う。 suisho5.entering_king.2024-02-20 には入玉の局面が多く含まれている。それらの局面の評価値の絶対値は大きいことが多い。評価値の絶対値が大きい場合、交差エントロピーの値が大きくなる。

    検証ロスが低くなった理由は分からなかった。 suisho5.entering_king.2024-02-20 を混ぜたことにより、局所最適解に陥りにくくなったことが原因の可能性がある。

    レーティングが tanuki-.nnue-pytorch-2024-01-22 に対して優位に高かったのは、 Hao で生成した学習データを使用していたためだと思う。 Hao は水匠 5 よりレーティングが高いため、学習データの室が良くなったのだと思う。

    宣言勝ち回数が tanuki-.nnue-pytorch-2024-01-22 に比べてやや少なかったのは、水匠 5 で生成した学習データのみを使ったわけではないためだと思う。水匠 5 で生成した学習データの割合を増やすことで、宣言勝ちの回数の割合を、より近くまで引き上げることができると思う。ただ、今回の結果でも、実用上は十分だと思う。

    レーティングが tanuki-.nnue-pytorch-2024-02-14 に対して有意に高かった理由は、検証ロスが下がったためだと思う。

    宣言勝ち回数が tanuki-.nnue-pytorch-2024-02-14 に対して大幅に上回ったのは、 suisho5.entering_king.2024-02-20 により、入玉将棋における中段玉の判断の精度が向上したためだと思う。

    まとめ

    nnue-pytorch を用い、 halfkp_1024x2-8-32 ネットワークを学習させた。その際、 Hao で生成した学習データに、水匠 5 で生成した学習データを混合した。水匠 5 で学習データを生成する際は、 floodgate 上の 2017 年以降の入玉を含む将棋の棋譜から局面をランダムに選び、その局面を開始局面として自己対局させた。また、学習データの混合作業の都合上、検証データには水匠 5 で生成した学習データは含めなかった。

    レーティングは、 tanuki-.nnue-pytorch-2024-01-22 に対しては R27.3 高く、有意な差があった。また、宣言勝ちの回数は 43 対 58 で、やや少なかった。 tanuki-.nnue-pytorch-2024-02-14 に対しては R10.5 高く、有意な差があった。また、宣言勝ちの回数は 91 対 33 と、大きく上回った。

    レーティングが tanuki-.nnue-pytorch-2024-01-22 に対して優位に高かったのは、 Hao で生成した学習データを使用していたためだと思う。 Hao は水匠 5 よりレーティングが高いため、学習データの室が良くなったのだと思う。

    宣言勝ち回数が tanuki-.nnue-pytorch-2024-01-22 に比べてやや少なかったのは、水匠 5 で生成した学習データのみを使ったわけではないためだと思う。水匠 5 で生成した学習データの割合を増やすことで、宣言勝ちの回数の割合を、より近くまで引き上げることができると思う。ただ、今回の結果でも、実用上は十分だと思う。

    レーティングが tanuki-.nnue-pytorch-2024-02-14 に対して有意に高かった理由は、検証ロスが下がったためだと思う。

    宣言勝ち回数が tanuki-.nnue-pytorch-2024-02-14 に対して大幅に上回ったのは、 suisho5.entering_king.2024-02-20 により、入玉将棋における中段玉の判断の精度が向上したためだと思う。

    次回は、学習高速化のため、バッチサイズを増やして学習させ、レーティングにリグレッションがあるかどうかを実験したい。

tanuki- 2024-02-21 nnue-pytorch halfkp_1024x2-8-32 入玉ボーナス (2)

将棋 コンピュータ将棋

tanuki- 2024-02-21 nnue-pytorch halfkp_1024x2-8-32 入玉ボーナス (2)

実験内容

  • nnue-pytorch を用い、 halfkp_1024x2-8-32 ネットワークを学習させる。
  • 学習データの読み込み時、入玉していた場合の評価値のボーナスを、前回の 2 倍にする。
    • 入玉時、持ち駒および敵陣三段目までに侵入している駒について、小駒 1 枚につき 20 点、大駒 1 枚につき 100 点、敵陣三段目までに侵入している駒 1 枚につき 20 点追加する。

    棋譜生成

    生成ルーチン tanuki-棋譜生成ルーチン
    評価関数 Hao (tanuki-.halfkp_256x2-32-32.2023-05-08)
    1手あたりの思考 深さ最大 9 思考ノード数最大 50,000 ノード
    開始局面 foodgate の 2020 年～ 2021 年の棋譜を使用した。レーティング 3900 以上同士の対局のみ使用した。戦型が角換わりの対局が 10% になるよう調整した。 32 手目までから 1 局面ランダムに選択し、その局面を開始局面とした。ランダムムーブはしなかった。
    生成局面数 10 億局面 × 8 セット
    生成条件 対局は打ち切らず詰みの局面まで学習データに出力した

    シャッフル条件

    生成ルーチン tanuki-シャッフルルーチン
    qsearch() あり
    置換表 無効

    機械学習

    機械学習ルーチン nnue-pytorch + やねうら王 https://github.com/nodchip/nnue-pytorch/tree/shogi.2023-10-29.halfkp_1024x2-8-32
    学習モデル halfkp_1024x2-8-32
    学習手法 ミニバッチ SGD
    初期学習率 (lr) 0.25 収束後 0.025
    最適化手法 なし
    学習率調整手法 Warmup + Newbob 風
    batch-size 8192
    threads 8
    num-workers 32
    accelerator gpu
    devices 1
    features HalfKP
    max-epoch 1000000
    score-scaling 361
    lambda 1.0 収束後 0.5
    勝敗項の教師信号 0.999
    num-batches-warmup 10000
    newbob-decay 0.5
    epoch-size 1000000
    num-epochs-to-adjust-lr 500
    学習を打ち切る下限 newbob scale 1e-5
    1 epoch 毎のネットワークパラメーターのクリップ あり
    ネットワークパラメーターの量子化 量子化なしで学習し、収束後に量子化する。
    ネットワークパラメーターの初期化方法 pytorch のデフォルトの初期化手法で初期化する。
    勾配の正規化 なし
    momentum 0.9
    入玉ボーナス 入玉時、持ち駒および敵陣三段目までに侵入している駒について、小駒 1 枚につき 10 点、大駒 1 枚につき 50 点、敵陣三段目までに侵入している駒 1 枚につき 10 点追加する。

    レーティング測定

    対局相手 https://docs.google.com/document/d/1mTWCV4d3WJEwbDNAIQDIcy77R2oRG0UE7rgd1fV8KXw/edit?usp=sharing tanuki-.nnue-pytorch-2024-01-22 https://docs.google.com/document/d/1-C636vmDdw61N0w536jKR74g4YvD4MyKIeu3vmHyVpA/edit?usp=sharing tanuki-.nnue-pytorch-2024-01-31
    思考時間 持ち時間 300 秒 + 1 手 2 秒加算
    対局数 5000
    同時対局数 64
    ハッシュサイズ 384
    開始局面 dlshogi 互角局面集の角換わりの割合が 10% になるよう間引いたもの

    実験結果

    機械学習

    検証ロス

    入玉ボーナス (2) … 0.26124961288576176

    入玉ボーナス (1) … 0.2613000047885307

    ネットワークパラメーターの分布

    mean=-30.5439453125 std=27.475788116455078

    mean=-0.008883885107934475 std=3.8584723472595215

    mean=3064.5 std=2628.400390625

    mean=-0.2987060546875 std=5.779980659484863

    mean=-2891.71875 std=7352.70556640625

    mean=2.44921875 std=39.38703536987305

    mean=3586.0 std=nan

    mean=9.125 std=51.75422668457031

    レーティング測定

    対局数=5000 同時対局数=64 ハッシュサイズ=384 開始手数=24 最大手数=320 開始局面ファイル=C:\Jenkins\workspace\TanukiColiseum.2023-04-16\TanukiColiseum\floodgate32-80.adjust_bishop_exchange.sfen NUMAノード数=1 表示更新間隔(ms)=3600000

    思考エンジン1 思考エンジン2

    name YaneuraOu NNUE 7.63 64ZEN2 TOURNAMENT YaneuraOu NNUE 7.63 64ZEN2 TOURNAMENT

    author by yaneurao by yaneurao

    exeファイル C:\Jenkins\workspace\TanukiColiseum.2023-04-16\engine1\source\YaneuraOu-by-gcc.exe C:\Jenkins\workspace\TanukiColiseum.2023-04-16\engine2\source\YaneuraOu-by-gcc.exe

    評価関数フォルダパス D:\hnoda\shogi\eval\tanuki-.nnue-pytorch-2024-02-14 D:\hnoda\shogi\eval\tanuki-.nnue-pytorch-2024-01-22

    定跡手数 256 256

    定跡ファイル名 no_book no_book

    思考ノード数 0 0

    思考ノード数に加える乱数(%) 0 0

    思考ノード数の乱数を1手毎に変化させる False False

    持ち時間(ms) 300000 300000

    秒読み時間(ms) 0 0

    加算時間(ms) 2000 2000

    乱数付き思考時間(ms) 0 0

    スレッド数 1 1

    BookEvalDiff 30 30

    定跡の採択率を考慮する true true

    定跡の手数を無視する true true

    SlowMover 100 100

    DrawValue -2 -2

    BookEvalBlackLimit 0 0

    BookEvalWhiteLimit -140 -140

    FVScale 16 16

    Depth=0 0

    MinimumThinkingTime 1000 1000

    対局数5000 先手勝ち2485(53.8%) 後手勝ち2131(46.2%) 引き分け384

    engine1

    勝ち2550(55.2% R33.7 +-9.7) 先手勝ち1354(29.3%) 後手勝ち1196(25.9%)

    宣言勝ち28 先手宣言勝ち10 後手宣言勝ち18 先手引き分け211 後手引き分け173

    engine2

    勝ち2066(44.8%) 先手勝ち1131(24.5%) 後手勝ち935(20.3%)

    宣言勝ち54 先手宣言勝ち18 後手宣言勝ち36 先手引き分け173 後手引き分け211

    2550,384,2066

    対局数=5000 同時対局数=64 ハッシュサイズ=384 開始手数=24 最大手数=320 開始局面ファイル=C:\Jenkins\workspace\TanukiColiseum.2023-04-16\TanukiColiseum\floodgate32-80.adjust_bishop_exchange.sfen NUMAノード数=1 表示更新間隔(ms)=3600000

    思考エンジン1 思考エンジン2

    name YaneuraOu NNUE 7.63 64ZEN2 TOURNAMENT YaneuraOu NNUE 7.63 64ZEN2 TOURNAMENT

    author by yaneurao by yaneurao

    exeファイル C:\Jenkins\workspace\TanukiColiseum.2023-04-16\engine1\source\YaneuraOu-by-gcc.exe C:\Jenkins\workspace\TanukiColiseum.2023-04-16\engine2\source\YaneuraOu-by-gcc.exe

    評価関数フォルダパス D:\hnoda\shogi\eval\tanuki-.nnue-pytorch-2024-02-14 D:\hnoda\shogi\eval\tanuki-.nnue-pytorch-2024-01-31

    定跡手数 256 256

    定跡ファイル名 no_book no_book

    思考ノード数 0 0

    思考ノード数に加える乱数(%) 0 0

    思考ノード数の乱数を1手毎に変化させる False False

    持ち時間(ms) 300000 300000

    秒読み時間(ms) 0 0

    加算時間(ms) 2000 2000

    乱数付き思考時間(ms) 0 0

    スレッド数 1 1

    BookEvalDiff 30 30

    定跡の採択率を考慮する true true

    定跡の手数を無視する true true

    SlowMover 100 100

    DrawValue -2 -2

    BookEvalBlackLimit 0 0

    BookEvalWhiteLimit -140 -140

    FVScale 16 16

    Depth=0 0

    MinimumThinkingTime 1000 1000

    対局数5000 先手勝ち2478(55.3%) 後手勝ち2001(44.7%) 引き分け521

    engine1

    勝ち2318(51.8% R10.9 +-9.6) 先手勝ち1285(28.7%) 後手勝ち1033(23.1%)

    宣言勝ち86 先手宣言勝ち51 後手宣言勝ち35 先手引き分け250 後手引き分け271

    engine2

    勝ち2161(48.2%) 先手勝ち1193(26.6%) 後手勝ち968(21.6%)

    宣言勝ち74 先手宣言勝ち38 後手宣言勝ち36 先手引き分け271 後手引き分け250

    2318,521,2161

    学習ロスと検証ロスは、入玉ボーナスを 2 倍にしたほうが低くなった。

    学習率が下がるタイミングは、入玉ボーナスを 2 倍にしたほうが早かった。

    レーティングは、 水匠 5 で生成した学習データで学習させた評価関数に対して R33.7 高く、有意な差があった。ただし、宣言勝ちの回数は、 水匠 5 で生成した学習データで学習させた評価関数のほうが 2 倍近く多かった。また、入玉ボーナス 1 倍で学習させた評価関数に対して R10.9 高く、有意な差があった。 宣言勝ちの回数は、入玉ボーナス 1 倍で学習させた評価関数に対してやや多かった。

    考察

    学習ロスと検証ロスが、入玉ボーナス 2 倍のもののほうが低くなった理由は、教師データの評価値の絶対値の平均値が上がり、クロスエントロピーが下がったためだと思う。

    学習率が下がるタイミングが、入玉ボーナス 2 倍のもののほうが早かった理由は、分からなかった。

    水匠 5 との対局の宣言勝ちの回数が、入玉ボーナス 1 倍のものとあまり変わらなかったのは、今回加えた入玉ボーナスでは、これ以上倍率を上げても、入玉将棋に対する効果が薄いことを表していると思う。これ以上対策を行うのであれば、水匠 5 で生成した入玉将棋の学習データを混ぜる等が考えられる。

    入玉ボーナス 1 倍で学習させた評価関数に対して有意にレーティングが高かった理由は分からなかった。

    まとめ

    nnue-pytorch を用い、 halfkp_1024x2-8-32 ネットワークを学習させた。その際、学習データの読み込み時、入玉していた場合の評価値のボーナスを、前回の 2 倍にした。

    レーティングは、 水匠 5 で生成した学習データで学習させた評価関数に対して R33.7 高く、有意な差があった。ただし、宣言勝ちの回数は、 水匠 5 で生成した学習データで学習させた評価関数のほうが 2 倍近く多かった。また、入玉ボーナス 1 倍で学習させた評価関数に対して R10.9 高く、有意な差があった。 宣言勝ちの回数は、入玉ボーナス 1 倍で学習させた評価関数に対してやや多かった。

    水匠 5 との対局の宣言勝ちの回数が、入玉ボーナス 1 倍のものとあまり変わらなかったのは、今回加えた入玉ボーナスでは、これ以上倍率を上げても、入玉将棋に対する効果が薄いことを表していると思う。これ以上対策を行うのであれば、水匠 5 で生成した入玉将棋の学習データを混ぜる等が考えられる。

    次回は、水匠 5 で生成した入玉将棋の学習データを混ぜて学習させ、レーティングと入玉回数を調べたい。

tanuki- 2024-02-14 nnue-pytorch halfkp_1024x2-8-32 入玉ボーナス

将棋 コンピュータ将棋

tanuki- 2024-02-14 nnue-pytorch halfkp_1024x2-8-32 入玉ボーナス

実験内容

  • nnue-pytorch を用い、 halfkp_1024x2-8-32 ネットワークを学習させる。
  • 学習データの読み込み時、入玉していた場合に評価値にボーナスを追加する。
    • 入玉時、持ち駒および敵陣三段目までに侵入している駒について、小駒 1 枚につき 10 点、大駒 1 枚につき 50 点、敵陣三段目までに侵入している駒 1 枚につき 10 点追加する。

    棋譜生成

    生成ルーチン tanuki-棋譜生成ルーチン
    評価関数 Hao (tanuki-.halfkp_256x2-32-32.2023-05-08)
    1手あたりの思考 深さ最大 9 思考ノード数最大 50,000 ノード
    開始局面 foodgate の 2020 年～ 2021 年の棋譜を使用した。レーティング 3900 以上同士の対局のみ使用した。戦型が角換わりの対局が 10% になるよう調整した。 32 手目までから 1 局面ランダムに選択し、その局面を開始局面とした。ランダムムーブはしなかった。
    生成局面数 10 億局面 × 8 セット
    生成条件 対局は打ち切らず詰みの局面まで学習データに出力した

    シャッフル条件

    生成ルーチン tanuki-シャッフルルーチン
    qsearch() あり
    置換表 無効

    機械学習

    機械学習ルーチン nnue-pytorch + やねうら王 https://github.com/nodchip/nnue-pytorch/tree/shogi.2023-10-29.halfkp_1024x2-8-32
    学習モデル halfkp_1024x2-8-32
    学習手法 ミニバッチ SGD
    初期学習率 (lr) 0.25 収束後 0.025
    最適化手法 なし
    学習率調整手法 Warmup + Newbob 風
    batch-size 8192
    threads 8
    num-workers 32
    accelerator gpu
    devices 1
    features HalfKP
    max-epoch 1000000
    score-scaling 361
    lambda 1.0 収束後 0.5
    勝敗項の教師信号 0.999
    num-batches-warmup 10000
    newbob-decay 0.5
    epoch-size 1000000
    num-epochs-to-adjust-lr 500
    学習を打ち切る下限 newbob scale 1e-5
    1 epoch 毎のネットワークパラメーターのクリップ あり
    ネットワークパラメーターの量子化 量子化なしで学習し、収束後に量子化する。
    ネットワークパラメーターの初期化方法 pytorch のデフォルトの初期化手法で初期化する。
    勾配の正規化 なし
    momentum 0.9
    入玉ボーナス 入玉時、持ち駒および敵陣三段目までに侵入している駒について、小駒 1 枚につき 10 点、大駒 1 枚につき 50 点、敵陣三段目までに侵入している駒 1 枚につき 10 点追加する。

    レーティング測定

    対局相手 https://docs.google.com/document/d/1mTWCV4d3WJEwbDNAIQDIcy77R2oRG0UE7rgd1fV8KXw/edit?usp=sharing tanuki-.nnue-pytorch-2024-01-22 https://docs.google.com/document/d/1-C636vmDdw61N0w536jKR74g4YvD4MyKIeu3vmHyVpA/edit?usp=sharing tanuki-.nnue-pytorch-2024-01-31
    思考時間 持ち時間 300 秒 + 1 手 2 秒加算
    対局数 5000
    同時対局数 64
    ハッシュサイズ 384
    開始局面 dlshogi 互角局面集の角換わりの割合が 10% になるよう間引いたもの

    実験結果

    機械学習

    検証ロス

    入玉ボーナスあり … 0.2613000047885307

    入玉ボーナスなし … 0.261410128337581

    ネットワークパラメーターの分布

    mean=-32.138671875 std=29.36127281188965

    mean=-0.00931315403431654 std=3.898991584777832

    mean=2108.75 std=2065.105224609375

    mean=-0.06732177734375 std=5.976457595825195

    mean=-2485.1875 std=5012.57373046875

    mean=4.328125 std=32.8122673034668

    mean=5335.0 std=nan

    mean=1.78125 std=50.12483596801758

    レーティング測定

    対局数=5000 同時対局数=64 ハッシュサイズ=384 開始手数=24 最大手数=320 開始局面ファイル=C:\Jenkins\workspace\TanukiColiseum.2023-04-16\TanukiColiseum\floodgate32-80.adjust_bishop_exchange.sfen NUMAノード数=1 表示更新間隔(ms)=3600000

    思考エンジン1 思考エンジン2

    name YaneuraOu NNUE 7.63 64ZEN2 TOURNAMENT YaneuraOu NNUE 7.63 64ZEN2 TOURNAMENT

    author by yaneurao by yaneurao

    exeファイル C:\Jenkins\workspace\TanukiColiseum.2023-04-16\engine1\source\YaneuraOu-by-gcc.exe C:\Jenkins\workspace\TanukiColiseum.2023-04-16\engine2\source\YaneuraOu-by-gcc.exe

    評価関数フォルダパス D:\hnoda\shogi\eval\tanuki-.nnue-pytorch-2024-02-06 D:\hnoda\shogi\eval\tanuki-.nnue-pytorch-2024-01-22

    定跡手数 256 256

    定跡ファイル名 no_book no_book

    思考ノード数 0 0

    思考ノード数に加える乱数(%) 0 0

    思考ノード数の乱数を1手毎に変化させる False False

    持ち時間(ms) 300000 300000

    秒読み時間(ms) 0 0

    加算時間(ms) 2000 2000

    乱数付き思考時間(ms) 0 0

    スレッド数 1 1

    BookEvalDiff 30 30

    定跡の採択率を考慮する true true

    定跡の手数を無視する true true

    SlowMover 100 100

    DrawValue -2 -2

    BookEvalBlackLimit 0 0

    BookEvalWhiteLimit -140 -140

    FVScale 16 16

    Depth=0 0

    MinimumThinkingTime 1000 1000

    対局数5000 先手勝ち2432(53.1%) 後手勝ち2146(46.9%) 引き分け422

    engine1

    勝ち2477(54.1% R26.2 +-9.7) 先手勝ち1313(28.7%) 後手勝ち1164(25.4%)

    宣言勝ち32 先手宣言勝ち18 後手宣言勝ち14 先手引き分け204 後手引き分け218

    engine2

    勝ち2101(45.9%) 先手勝ち1119(24.4%) 後手勝ち982(21.5%)

    宣言勝ち69 先手宣言勝ち32 後手宣言勝ち37 先手引き分け218 後手引き分け204

    2477,422,2101

    対局数=5000 同時対局数=64 ハッシュサイズ=384 開始手数=24 最大手数=320 開始局面ファイル=C:\Jenkins\workspace\TanukiColiseum.2023-04-16\TanukiColiseum\floodgate32-80.adjust_bishop_exchange.sfen NUMAノード数=1 表示更新間隔(ms)=3600000

    思考エンジン1 思考エンジン2

    name YaneuraOu NNUE 7.63 64ZEN2 TOURNAMENT YaneuraOu NNUE 7.63 64ZEN2 TOURNAMENT

    author by yaneurao by yaneurao

    exeファイル C:\Jenkins\workspace\TanukiColiseum.2023-04-16\engine1\source\YaneuraOu-by-gcc.exe C:\Jenkins\workspace\TanukiColiseum.2023-04-16\engine2\source\YaneuraOu-by-gcc.exe

    評価関数フォルダパス D:\hnoda\shogi\eval\tanuki-.nnue-pytorch-2024-02-06 D:\hnoda\shogi\eval\tanuki-.nnue-pytorch-2024-01-31

    定跡手数 256 256

    定跡ファイル名 no_book no_book

    思考ノード数 0 0

    思考ノード数に加える乱数(%) 0 0

    思考ノード数の乱数を1手毎に変化させる False False

    持ち時間(ms) 300000 300000

    秒読み時間(ms) 0 0

    加算時間(ms) 2000 2000

    乱数付き思考時間(ms) 0 0

    スレッド数 1 1

    BookEvalDiff 30 30

    定跡の採択率を考慮する true true

    定跡の手数を無視する true true

    SlowMover 100 100

    DrawValue -2 -2

    BookEvalBlackLimit 0 0

    BookEvalWhiteLimit -140 -140

    FVScale 16 16

    Depth=0 0

    MinimumThinkingTime 1000 1000

    対局数5000 先手勝ち2413(53.1%) 後手勝ち2133(46.9%) 引き分け454

    engine1

    勝ち2254(49.6% R-2.6 +-9.6) 先手勝ち1185(26.1%) 後手勝ち1069(23.5%)

    宣言勝ち51 先手宣言勝ち26 後手宣言勝ち25 先手引き分け249 後手引き分け205

    engine2

    勝ち2292(50.4%) 先手勝ち1228(27.0%) 後手勝ち1064(23.4%)

    宣言勝ち56 先手宣言勝ち29 後手宣言勝ち27 先手引き分け205 後手引き分け249

    2254,454,2292

    学習ロスと検証ロスは、入玉ボーナスを加えたほうが低くなった。

    学習率が下がるタイミングは、入玉ボーナスを加えたほうが遅かった。

    レーティングは、 水匠 5 で生成した学習データで学習させた評価関数に対して R24.2 高く、有意な差があった。ただし、宣言勝ちの回数は、 水匠 5 で生成した学習データで学習させた評価関数のほうが 2 倍近く多かった。また、入玉ボーナスなしで学習させた評価関数に対して R2.6 低かったが、有意な差はなかった。

    考察

    学習ロスと検証ロスが、入玉ボーナスを加えたほうが低くなった理由は、今日データの評価値の絶対値の平均値が上がり、クロスエントロピーが下がったためだと思う。

    学習率が下がるタイミングが、入玉ボーナスを加えたほうが遅かった理由は、収束するまでの間に、より多くの学習が必要だったためだと思う。

    レーティングが水匠 5 で生成した学習データで学習させた評価関数に対して有意に高かった理由は、前回同様、学習データを作成した際に使用した Hao のレーティングが、水匠 5 より高いためだと思う。

    また、宣言勝ちの回数に 2 倍近い差があったのも、前回同様、 Hao を Suishopsv-150m で Fine-tuning した際、勝敗項の教師信号を 0.99 と低めに設定したためだと思う。ただし、前回の実験では 3 倍近い差がついていており、それと比べると、やや改善していると思う。

    入玉ボーナスなしで学習させた評価関数と有意な差がなかった理由は、入玉ボーナスが棋力に悪影響を及ぼさないことを表していると思う。

    まとめ

    nnue-pytorch を用い、 halfkp_1024x2-8-32 ネットワークを学習させた。その際、学習データの読み込み時、入玉していた場合に評価値にボーナスを追加した。ボーナスは、入玉時、持ち駒および敵陣三段目までに侵入している駒について、小駒 1 枚につき 10 点、大駒 1 枚につき 50 点、敵陣三段目までに侵入している駒 1 枚につき 10 点とした。

    レーティングは、 水匠 5 で生成した学習データで学習させた評価関数に対して R24.2 高く、有意な差があった。ただし、宣言勝ちの回数は、 水匠 5 で生成した学習データで学習させた評価関数のほうが 2 倍近く多かった。また、入玉ボーナスなしで学習させた評価関数に対して R2.6 低かったが、有意な差はなかった。

    レーティングが水匠 5 で生成した学習データで学習させた評価関数に対して有意に高かった理由は、前回同様、学習データを作成した際に使用した Hao のレーティングが、水匠 5 より高いためだと思う。また、宣言勝ちの回数に 2 倍近い差があったのも、前回同様、 Hao を Suishopsv-150m で Fine-tuning した際、勝敗項の教師信号を 0.99 と低めに設定したためだと思う。ただし、前回の実験では 3 倍近い差がついていており、それと比べると、やや改善していると思う。 入玉ボーナスなしで学習させた評価関数と有意な差がなかった理由は、入玉ボーナスが棋力に悪影響を及ぼさないことを表していると思う。

    次回は、ボーナス点を 2 倍にして学習させ、レーティングを測定したい。