nodchipのコンピューター将棋ブログ

コンピューター将棋ソフト「tanuki-」シリーズの実験結果を掲載しています。

tanuki- 2024-03-27 nnue-pytorch halfkp_1024x2-8-32 Fine-tuning Suisho10Mn_psv (3)

将棋 コンピュータ将棋

tanuki- 2024-03-23 nnue-pytorch halfkp_1024x2-8-32 Fine-tuning Suisho10Mn_psv (2)

実験内容

  • nnue-pytorch で学習した halfkp_1024x2-8-32 ネットワークを、 Suisho10Mn_psv を用いて Fine-tuning する。
  • 学習率を 1e-6 または 1e-7 とし、学習局面数を変えて学習させ、レーティングを測定する。

シャッフル条件

生成ルーチン tanuki-シャッフルルーチン
qsearch() あり
置換表 無効
min_progress 0.1

機械学習

機械学習ルーチン nnue-pytorch + やねうら王 https://github.com/nodchip/nnue-pytorch/tree/shogi.2023-10-29.halfkp_1024x2-8-32
学習モデル halfkp_1024x2-8-32
学習手法 ミニバッチ SGD
初期学習率 (lr) 1e-6・1e-7
最適化手法 なし
学習率調整手法 Warmup + Newbob 風
batch-size 16384
threads 8
num-workers 8
accelerator gpu
devices 1
features HalfKP
max-epoch 5001
score-scaling 361
lambda 0.0
勝敗項の教師信号 0.999
num-batches-warmup 10000
newbob-decay 0.5
epoch-size 1000000
num-epochs-to-adjust-lr 500
学習を打ち切る下限 newbob scale 1e-5
1 epoch 毎のネットワークパラメーターのクリップ あり
ネットワークパラメーターの量子化 量子化なしで学習し、収束後に量子化する。
ネットワークパラメーターの初期化方法 pytorch のデフォルトの初期化手法で初期化する。
勾配の正規化 なし
momentum 0.9
入玉ボーナス 入玉時、持ち駒および敵陣三段目までに侵入している駒について、小駒 1 枚につき 20 点、大駒 1 枚につき 100 点、敵陣三段目までに侵入している駒 1 枚につき 20 点追加する。

レーティング測定

対局相手 https://docs.google.com/document/d/1i_h7rxPbEVP7PaUMuDjcGUtgWdOK_gj01r_yILajWZg/edit?usp=sharing tanuki-.nnue-pytorch-2024-03-06
思考時間 持ち時間 300 秒 + 1 手 2 秒加算
対局数 5000
同時対局数 64
ハッシュサイズ 384
開始局面 dlshogi 互角局面集の角換わりの割合が 10% になるよう間引いたもの

実験結果

機械学習

https://docs.google.com/document/d/1uVHjDqXoh5YAEwXkVMF9SIMNQXeABCVb_tHHj-Hm5kY/edit?usp=sharing 参照

レーティング測定

lr=1e-6

対局数=2000 同時対局数=64 ハッシュサイズ=384 開始手数=24 最大手数=320 開始局面ファイル=C:\Jenkins\workspace\TanukiColiseum.2023-04-16\TanukiColiseum\bishop_exchange.2023-06-25.sfen NUMAノード数=1 表示更新間隔(ms)=3600000

思考エンジン1 思考エンジン2

name YaneuraOu NNUE 7.63 64ZEN2 TOURNAMENT YaneuraOu NNUE 7.63 64ZEN2 TOURNAMENT

author by yaneurao by yaneurao

exeファイル C:\Jenkins\workspace\TanukiColiseum.2023-04-16\engine1\source\YaneuraOu-by-gcc.exe C:\Jenkins\workspace\TanukiColiseum.2023-04-16\engine2\source\YaneuraOu-by-gcc.exe

評価関数フォルダパス D:\hnoda\shogi\eval\tanuki-.nnue-pytorch-2024-03-22.500 D:\hnoda\shogi\eval\tanuki-.nnue-pytorch-2024-03-06

定跡手数 256 256

定跡ファイル名 no_book no_book

思考ノード数 0 0

思考ノード数に加える乱数(%) 0 0

思考ノード数の乱数を1手毎に変化させる False False

持ち時間(ms) 300000 300000

秒読み時間(ms) 0 0

加算時間(ms) 2000 2000

乱数付き思考時間(ms) 0 0

スレッド数 1 1

BookEvalDiff 30 30

定跡の採択率を考慮する false false

定跡の手数を無視する false false

SlowMover 100 100

DrawValue -2 -2

BookEvalBlackLimit 0 0

BookEvalWhiteLimit -140 -140

FVScale 16 16

Depth=0 0

MinimumThinkingTime 1000 1000

対局数2000 先手勝ち891(56.9%) 後手勝ち674(43.1%) 引き分け435

engine1

勝ち858(54.8% R26.3 +-15.3) 先手勝ち497(31.8%) 後手勝ち361(23.1%)

宣言勝ち36 先手宣言勝ち17 後手宣言勝ち19 先手引き分け188 後手引き分け247

engine2

勝ち707(45.2%) 先手勝ち394(25.2%) 後手勝ち313(20.0%)

宣言勝ち25 先手宣言勝ち7 後手宣言勝ち18 先手引き分け247 後手引き分け188

858,435,707

対局数=2000 同時対局数=64 ハッシュサイズ=384 開始手数=24 最大手数=320 開始局面ファイル=C:\Jenkins\workspace\TanukiColiseum.2023-04-16\TanukiColiseum\bishop_exchange.2023-06-25.sfen NUMAノード数=1 表示更新間隔(ms)=3600000

思考エンジン1 思考エンジン2

name YaneuraOu NNUE 7.63 64ZEN2 TOURNAMENT YaneuraOu NNUE 7.63 64ZEN2 TOURNAMENT

author by yaneurao by yaneurao

exeファイル C:\Jenkins\workspace\TanukiColiseum.2023-04-16\engine1\source\YaneuraOu-by-gcc.exe C:\Jenkins\workspace\TanukiColiseum.2023-04-16\engine2\source\YaneuraOu-by-gcc.exe

評価関数フォルダパス D:\hnoda\shogi\eval\tanuki-.nnue-pytorch-2024-03-22.1000 D:\hnoda\shogi\eval\tanuki-.nnue-pytorch-2024-03-06

定跡手数 256 256

定跡ファイル名 no_book no_book

思考ノード数 0 0

思考ノード数に加える乱数(%) 0 0

思考ノード数の乱数を1手毎に変化させる False False

持ち時間(ms) 300000 300000

秒読み時間(ms) 0 0

加算時間(ms) 2000 2000

乱数付き思考時間(ms) 0 0

スレッド数 1 1

BookEvalDiff 30 30

定跡の採択率を考慮する false false

定跡の手数を無視する false false

SlowMover 100 100

DrawValue -2 -2

BookEvalBlackLimit 0 0

BookEvalWhiteLimit -140 -140

FVScale 16 16

Depth=0 0

MinimumThinkingTime 1000 1000

対局数2000 先手勝ち870(55.7%) 後手勝ち691(44.3%) 引き分け439

engine1

勝ち711(45.5% R-24.2 +-15.3) 先手勝ち416(26.6%) 後手勝ち295(18.9%)

宣言勝ち31 先手宣言勝ち18 後手宣言勝ち13 先手引き分け187 後手引き分け252

engine2

勝ち850(54.5%) 先手勝ち454(29.1%) 後手勝ち396(25.4%)

宣言勝ち37 先手宣言勝ち14 後手宣言勝ち23 先手引き分け252 後手引き分け187

711,439,850

対局数=2000 同時対局数=64 ハッシュサイズ=384 開始手数=24 最大手数=320 開始局面ファイル=C:\Jenkins\workspace\TanukiColiseum.2023-04-16\TanukiColiseum\bishop_exchange.2023-06-25.sfen NUMAノード数=1 表示更新間隔(ms)=3600000

思考エンジン1 思考エンジン2

name YaneuraOu NNUE 7.63 64ZEN2 TOURNAMENT YaneuraOu NNUE 7.63 64ZEN2 TOURNAMENT

author by yaneurao by yaneurao

exeファイル C:\Jenkins\workspace\TanukiColiseum.2023-04-16\engine1\source\YaneuraOu-by-gcc.exe C:\Jenkins\workspace\TanukiColiseum.2023-04-16\engine2\source\YaneuraOu-by-gcc.exe

評価関数フォルダパス D:\hnoda\shogi\eval\tanuki-.nnue-pytorch-2024-03-22.1500 D:\hnoda\shogi\eval\tanuki-.nnue-pytorch-2024-03-06

定跡手数 256 256

定跡ファイル名 no_book no_book

思考ノード数 0 0

思考ノード数に加える乱数(%) 0 0

思考ノード数の乱数を1手毎に変化させる False False

持ち時間(ms) 300000 300000

秒読み時間(ms) 0 0

加算時間(ms) 2000 2000

乱数付き思考時間(ms) 0 0

スレッド数 1 1

BookEvalDiff 30 30

定跡の採択率を考慮する false false

定跡の手数を無視する false false

SlowMover 100 100

DrawValue -2 -2

BookEvalBlackLimit 0 0

BookEvalWhiteLimit -140 -140

FVScale 16 16

Depth=0 0

MinimumThinkingTime 1000 1000

対局数2000 先手勝ち902(56.4%) 後手勝ち698(43.6%) 引き分け400

engine1

勝ち813(50.8% R4.5 +-15.2) 先手勝ち459(28.7%) 後手勝ち354(22.1%)

宣言勝ち36 先手宣言勝ち19 後手宣言勝ち17 先手引き分け195 後手引き分け205

engine2

勝ち787(49.2%) 先手勝ち443(27.7%) 後手勝ち344(21.5%)

宣言勝ち39 先手宣言勝ち19 後手宣言勝ち20 先手引き分け205 後手引き分け195

813,400,787

対局数=2000 同時対局数=64 ハッシュサイズ=384 開始手数=24 最大手数=320 開始局面ファイル=C:\Jenkins\workspace\TanukiColiseum.2023-04-16\TanukiColiseum\bishop_exchange.2023-06-25.sfen NUMAノード数=1 表示更新間隔(ms)=3600000

思考エンジン1 思考エンジン2

name YaneuraOu NNUE 7.63 64ZEN2 TOURNAMENT YaneuraOu NNUE 7.63 64ZEN2 TOURNAMENT

author by yaneurao by yaneurao

exeファイル C:\Jenkins\workspace\TanukiColiseum.2023-04-16\engine1\source\YaneuraOu-by-gcc.exe C:\Jenkins\workspace\TanukiColiseum.2023-04-16\engine2\source\YaneuraOu-by-gcc.exe

評価関数フォルダパス D:\hnoda\shogi\eval\tanuki-.nnue-pytorch-2024-03-22.2000 D:\hnoda\shogi\eval\tanuki-.nnue-pytorch-2024-03-06

定跡手数 256 256

定跡ファイル名 no_book no_book

思考ノード数 0 0

思考ノード数に加える乱数(%) 0 0

思考ノード数の乱数を1手毎に変化させる False False

持ち時間(ms) 300000 300000

秒読み時間(ms) 0 0

加算時間(ms) 2000 2000

乱数付き思考時間(ms) 0 0

スレッド数 1 1

BookEvalDiff 30 30

定跡の採択率を考慮する false false

定跡の手数を無視する false false

SlowMover 100 100

DrawValue -2 -2

BookEvalBlackLimit 0 0

BookEvalWhiteLimit -140 -140

FVScale 16 16

Depth=0 0

MinimumThinkingTime 1000 1000

対局数2000 先手勝ち916(55.3%) 後手勝ち740(44.7%) 引き分け344

engine1

勝ち811(49.0% R-5.9 +-15.2) 先手勝ち456(27.5%) 後手勝ち355(21.4%)

宣言勝ち45 先手宣言勝ち17 後手宣言勝ち28 先手引き分け162 後手引き分け182

engine2

勝ち845(51.0%) 先手勝ち460(27.8%) 後手勝ち385(23.2%)

宣言勝ち50 先手宣言勝ち19 後手宣言勝ち31 先手引き分け182 後手引き分け162

811,344,845

対局数=2000 同時対局数=64 ハッシュサイズ=384 開始手数=24 最大手数=320 開始局面ファイル=C:\Jenkins\workspace\TanukiColiseum.2023-04-16\TanukiColiseum\bishop_exchange.2023-06-25.sfen NUMAノード数=1 表示更新間隔(ms)=3600000

思考エンジン1 思考エンジン2

name YaneuraOu NNUE 7.63 64ZEN2 TOURNAMENT YaneuraOu NNUE 7.63 64ZEN2 TOURNAMENT

author by yaneurao by yaneurao

exeファイル C:\Jenkins\workspace\TanukiColiseum.2023-04-16\engine1\source\YaneuraOu-by-gcc.exe C:\Jenkins\workspace\TanukiColiseum.2023-04-16\engine2\source\YaneuraOu-by-gcc.exe

評価関数フォルダパス D:\hnoda\shogi\eval\tanuki-.nnue-pytorch-2024-03-22.2500 D:\hnoda\shogi\eval\tanuki-.nnue-pytorch-2024-03-06

定跡手数 256 256

定跡ファイル名 no_book no_book

思考ノード数 0 0

思考ノード数に加える乱数(%) 0 0

思考ノード数の乱数を1手毎に変化させる False False

持ち時間(ms) 300000 300000

秒読み時間(ms) 0 0

加算時間(ms) 2000 2000

乱数付き思考時間(ms) 0 0

スレッド数 1 1

BookEvalDiff 30 30

定跡の採択率を考慮する false false

定跡の手数を無視する false false

SlowMover 100 100

DrawValue -2 -2

BookEvalBlackLimit 0 0

BookEvalWhiteLimit -140 -140

FVScale 16 16

Depth=0 0

MinimumThinkingTime 1000 1000

対局数2000 先手勝ち903(54.7%) 後手勝ち747(45.3%) 引き分け350

engine1

勝ち791(47.9% R-11.8 +-15.2) 先手勝ち456(27.6%) 後手勝ち335(20.3%)

宣言勝ち35 先手宣言勝ち16 後手宣言勝ち19 先手引き分け133 後手引き分け217

engine2

勝ち859(52.1%) 先手勝ち447(27.1%) 後手勝ち412(25.0%)

宣言勝ち37 先手宣言勝ち15 後手宣言勝ち22 先手引き分け217 後手引き分け133

791,350,859

対局数=2000 同時対局数=64 ハッシュサイズ=384 開始手数=24 最大手数=320 開始局面ファイル=C:\Jenkins\workspace\TanukiColiseum.2023-04-16\TanukiColiseum\bishop_exchange.2023-06-25.sfen NUMAノード数=1 表示更新間隔(ms)=3600000

思考エンジン1 思考エンジン2

name YaneuraOu NNUE 7.63 64ZEN2 TOURNAMENT YaneuraOu NNUE 7.63 64ZEN2 TOURNAMENT

author by yaneurao by yaneurao

exeファイル C:\Jenkins\workspace\TanukiColiseum.2023-04-16\engine1\source\YaneuraOu-by-gcc.exe C:\Jenkins\workspace\TanukiColiseum.2023-04-16\engine2\source\YaneuraOu-by-gcc.exe

評価関数フォルダパス D:\hnoda\shogi\eval\tanuki-.nnue-pytorch-2024-03-22.3000 D:\hnoda\shogi\eval\tanuki-.nnue-pytorch-2024-03-06

定跡手数 256 256

定跡ファイル名 no_book no_book

思考ノード数 0 0

思考ノード数に加える乱数(%) 0 0

思考ノード数の乱数を1手毎に変化させる False False

持ち時間(ms) 300000 300000

秒読み時間(ms) 0 0

加算時間(ms) 2000 2000

乱数付き思考時間(ms) 0 0

スレッド数 1 1

BookEvalDiff 30 30

定跡の採択率を考慮する false false

定跡の手数を無視する false false

SlowMover 100 100

DrawValue -2 -2

BookEvalBlackLimit 0 0

BookEvalWhiteLimit -140 -140

FVScale 16 16

Depth=0 0

MinimumThinkingTime 1000 1000

対局数2000 先手勝ち1084(60.0%) 後手勝ち722(40.0%) 引き分け194

engine1

勝ち813(45.0% R-31.4 +-15.3) 先手勝ち495(27.4%) 後手勝ち318(17.6%)

宣言勝ち45 先手宣言勝ち21 後手宣言勝ち24 先手引き分け99 後手引き分け95

engine2

勝ち993(55.0%) 先手勝ち589(32.6%) 後手勝ち404(22.4%)

宣言勝ち49 先手宣言勝ち25 後手宣言勝ち24 先手引き分け95 後手引き分け99

813,194,993

対局数=2000 同時対局数=64 ハッシュサイズ=384 開始手数=24 最大手数=320 開始局面ファイル=C:\Jenkins\workspace\TanukiColiseum.2023-04-16\TanukiColiseum\bishop_exchange.2023-06-25.sfen NUMAノード数=1 表示更新間隔(ms)=3600000

思考エンジン1 思考エンジン2

name YaneuraOu NNUE 7.63 64ZEN2 TOURNAMENT YaneuraOu NNUE 7.63 64ZEN2 TOURNAMENT

author by yaneurao by yaneurao

exeファイル C:\Jenkins\workspace\TanukiColiseum.2023-04-16\engine1\source\YaneuraOu-by-gcc.exe C:\Jenkins\workspace\TanukiColiseum.2023-04-16\engine2\source\YaneuraOu-by-gcc.exe

評価関数フォルダパス D:\hnoda\shogi\eval\tanuki-.nnue-pytorch-2024-03-22.3500 D:\hnoda\shogi\eval\tanuki-.nnue-pytorch-2024-03-06

定跡手数 256 256

定跡ファイル名 no_book no_book

思考ノード数 0 0

思考ノード数に加える乱数(%) 0 0

思考ノード数の乱数を1手毎に変化させる False False

持ち時間(ms) 300000 300000

秒読み時間(ms) 0 0

加算時間(ms) 2000 2000

乱数付き思考時間(ms) 0 0

スレッド数 1 1

BookEvalDiff 30 30

定跡の採択率を考慮する false false

定跡の手数を無視する false false

SlowMover 100 100

DrawValue -2 -2

BookEvalBlackLimit 0 0

BookEvalWhiteLimit -140 -140

FVScale 16 16

Depth=0 0

MinimumThinkingTime 1000 1000

対局数2000 先手勝ち1059(59.7%) 後手勝ち715(40.3%) 引き分け226

engine1

勝ち893(50.3% R2.1 +-15.2) 先手勝ち533(30.0%) 後手勝ち360(20.3%)

宣言勝ち34 先手宣言勝ち16 後手宣言勝ち18 先手引き分け109 後手引き分け117

engine2

勝ち881(49.7%) 先手勝ち526(29.7%) 後手勝ち355(20.0%)

宣言勝ち37 先手宣言勝ち20 後手宣言勝ち17 先手引き分け117 後手引き分け109

893,226,881

対局数=2000 同時対局数=64 ハッシュサイズ=384 開始手数=24 最大手数=320 開始局面ファイル=C:\Jenkins\workspace\TanukiColiseum.2023-04-16\TanukiColiseum\bishop_exchange.2023-06-25.sfen NUMAノード数=1 表示更新間隔(ms)=3600000

思考エンジン1 思考エンジン2

name YaneuraOu NNUE 7.63 64ZEN2 TOURNAMENT YaneuraOu NNUE 7.63 64ZEN2 TOURNAMENT

author by yaneurao by yaneurao

exeファイル C:\Jenkins\workspace\TanukiColiseum.2023-04-16\engine1\source\YaneuraOu-by-gcc.exe C:\Jenkins\workspace\TanukiColiseum.2023-04-16\engine2\source\YaneuraOu-by-gcc.exe

評価関数フォルダパス D:\hnoda\shogi\eval\tanuki-.nnue-pytorch-2024-03-22.4000 D:\hnoda\shogi\eval\tanuki-.nnue-pytorch-2024-03-06

定跡手数 256 256

定跡ファイル名 no_book no_book

思考ノード数 0 0

思考ノード数に加える乱数(%) 0 0

思考ノード数の乱数を1手毎に変化させる False False

持ち時間(ms) 300000 300000

秒読み時間(ms) 0 0

加算時間(ms) 2000 2000

乱数付き思考時間(ms) 0 0

スレッド数 1 1

BookEvalDiff 30 30

定跡の採択率を考慮する false false

定跡の手数を無視する false false

SlowMover 100 100

DrawValue -2 -2

BookEvalBlackLimit 0 0

BookEvalWhiteLimit -140 -140

FVScale 16 16

Depth=0 0

MinimumThinkingTime 1000 1000

対局数2000 先手勝ち980(56.7%) 後手勝ち749(43.3%) 引き分け271

engine1

勝ち790(45.7% R-25.9 +-15.3) 先手勝ち456(26.4%) 後手勝ち334(19.3%)

宣言勝ち40 先手宣言勝ち21 後手宣言勝ち19 先手引き分け128 後手引き分け143

engine2

勝ち939(54.3%) 先手勝ち524(30.3%) 後手勝ち415(24.0%)

宣言勝ち49 先手宣言勝ち18 後手宣言勝ち31 先手引き分け143 後手引き分け128

790,271,939

対局数=2000 同時対局数=64 ハッシュサイズ=384 開始手数=24 最大手数=320 開始局面ファイル=C:\Jenkins\workspace\TanukiColiseum.2023-04-16\TanukiColiseum\bishop_exchange.2023-06-25.sfen NUMAノード数=1 表示更新間隔(ms)=3600000

思考エンジン1 思考エンジン2

name YaneuraOu NNUE 7.63 64ZEN2 TOURNAMENT YaneuraOu NNUE 7.63 64ZEN2 TOURNAMENT

author by yaneurao by yaneurao

exeファイル C:\Jenkins\workspace\TanukiColiseum.2023-04-16\engine1\source\YaneuraOu-by-gcc.exe C:\Jenkins\workspace\TanukiColiseum.2023-04-16\engine2\source\YaneuraOu-by-gcc.exe

評価関数フォルダパス D:\hnoda\shogi\eval\tanuki-.nnue-pytorch-2024-03-22.4500 D:\hnoda\shogi\eval\tanuki-.nnue-pytorch-2024-03-06

定跡手数 256 256

定跡ファイル名 no_book no_book

思考ノード数 0 0

思考ノード数に加える乱数(%) 0 0

思考ノード数の乱数を1手毎に変化させる False False

持ち時間(ms) 300000 300000

秒読み時間(ms) 0 0

加算時間(ms) 2000 2000

乱数付き思考時間(ms) 0 0

スレッド数 1 1

BookEvalDiff 30 30

定跡の採択率を考慮する false false

定跡の手数を無視する false false

SlowMover 100 100

DrawValue -2 -2

BookEvalBlackLimit 0 0

BookEvalWhiteLimit -140 -140

FVScale 16 16

Depth=0 0

MinimumThinkingTime 1000 1000

対局数2000 先手勝ち1149(63.1%) 後手勝ち671(36.9%) 引き分け180

engine1

勝ち908(49.9% R-0.7 +-15.2) 先手勝ち578(31.8%) 後手勝ち330(18.1%)

宣言勝ち40 先手宣言勝ち25 後手宣言勝ち15 先手引き分け82 後手引き分け98

engine2

勝ち912(50.1%) 先手勝ち571(31.4%) 後手勝ち341(18.7%)

宣言勝ち30 先手宣言勝ち18 後手宣言勝ち12 先手引き分け98 後手引き分け82

908,180,912

対局数=2000 同時対局数=64 ハッシュサイズ=384 開始手数=24 最大手数=320 開始局面ファイル=C:\Jenkins\workspace\TanukiColiseum.2023-04-16\TanukiColiseum\bishop_exchange.2023-06-25.sfen NUMAノード数=1 表示更新間隔(ms)=3600000

思考エンジン1 思考エンジン2

name YaneuraOu NNUE 7.63 64ZEN2 TOURNAMENT YaneuraOu NNUE 7.63 64ZEN2 TOURNAMENT

author by yaneurao by yaneurao

exeファイル C:\Jenkins\workspace\TanukiColiseum.2023-04-16\engine1\source\YaneuraOu-by-gcc.exe C:\Jenkins\workspace\TanukiColiseum.2023-04-16\engine2\source\YaneuraOu-by-gcc.exe

評価関数フォルダパス D:\hnoda\shogi\eval\tanuki-.nnue-pytorch-2024-03-22.5000 D:\hnoda\shogi\eval\tanuki-.nnue-pytorch-2024-03-06

定跡手数 256 256

定跡ファイル名 no_book no_book

思考ノード数 0 0

思考ノード数に加える乱数(%) 0 0

思考ノード数の乱数を1手毎に変化させる False False

持ち時間(ms) 300000 300000

秒読み時間(ms) 0 0

加算時間(ms) 2000 2000

乱数付き思考時間(ms) 0 0

スレッド数 1 1

BookEvalDiff 30 30

定跡の採択率を考慮する false false

定跡の手数を無視する false false

SlowMover 100 100

DrawValue -2 -2

BookEvalBlackLimit 0 0

BookEvalWhiteLimit -140 -140

FVScale 16 16

Depth=0 0

MinimumThinkingTime 1000 1000

対局数2000 先手勝ち1090(60.4%) 後手勝ち716(39.6%) 引き分け194

engine1

勝ち835(46.2% R-23.7 +-15.3) 先手勝ち513(28.4%) 後手勝ち322(17.8%)

宣言勝ち47 先手宣言勝ち31 後手宣言勝ち16 先手引き分け94 後手引き分け100

engine2

勝ち971(53.8%) 先手勝ち577(31.9%) 後手勝ち394(21.8%)

宣言勝ち40 先手宣言勝ち15 後手宣言勝ち25 先手引き分け100 後手引き分け94

835,194,971

学習局面数 レーティング差
5 億 26.3
10 億 -24.2
15 億 4.5
20 億 -5.9
25 億 -11.8
30 億 -31.4
35 億 2.1
40 億 -25.9
45 億 -0.7
50 億 -23.7

lr=1e-7

対局数=2000 同時対局数=64 ハッシュサイズ=384 開始手数=24 最大手数=320 開始局面ファイル=C:\Jenkins\workspace\TanukiColiseum.2023-04-16\TanukiColiseum\bishop_exchange.2023-06-25.sfen NUMAノード数=1 表示更新間隔(ms)=3600000

思考エンジン1 思考エンジン2

name YaneuraOu NNUE 7.63 64ZEN2 TOURNAMENT YaneuraOu NNUE 7.63 64ZEN2 TOURNAMENT

author by yaneurao by yaneurao

exeファイル C:\Jenkins\workspace\TanukiColiseum.2023-04-16\engine1\source\YaneuraOu-by-gcc.exe C:\Jenkins\workspace\TanukiColiseum.2023-04-16\engine2\source\YaneuraOu-by-gcc.exe

評価関数フォルダパス D:\hnoda\shogi\eval\tanuki-.nnue-pytorch-2024-03-24.500 D:\hnoda\shogi\eval\tanuki-.nnue-pytorch-2024-03-06

定跡手数 256 256

定跡ファイル名 no_book no_book

思考ノード数 0 0

思考ノード数に加える乱数(%) 0 0

思考ノード数の乱数を1手毎に変化させる False False

持ち時間(ms) 300000 300000

秒読み時間(ms) 0 0

加算時間(ms) 2000 2000

乱数付き思考時間(ms) 0 0

スレッド数 1 1

BookEvalDiff 30 30

定跡の採択率を考慮する false false

定跡の手数を無視する false false

SlowMover 100 100

DrawValue -2 -2

BookEvalBlackLimit 0 0

BookEvalWhiteLimit -140 -140

FVScale 16 16

Depth=0 0

MinimumThinkingTime 1000 1000

対局数2000 先手勝ち861(54.7%) 後手勝ち713(45.3%) 引き分け426

engine1

勝ち831(52.8% R15.3 +-15.2) 先手勝ち460(29.2%) 後手勝ち371(23.6%)

宣言勝ち35 先手宣言勝ち20 後手宣言勝ち15 先手引き分け197 後手引き分け229

engine2

勝ち743(47.2%) 先手勝ち401(25.5%) 後手勝ち342(21.7%)

宣言勝ち45 先手宣言勝ち22 後手宣言勝ち23 先手引き分け229 後手引き分け197

831,426,743

対局数=2000 同時対局数=64 ハッシュサイズ=384 開始手数=24 最大手数=320 開始局面ファイル=C:\Jenkins\workspace\TanukiColiseum.2023-04-16\TanukiColiseum\bishop_exchange.2023-06-25.sfen NUMAノード数=1 表示更新間隔(ms)=3600000

思考エンジン1 思考エンジン2

name YaneuraOu NNUE 7.63 64ZEN2 TOURNAMENT YaneuraOu NNUE 7.63 64ZEN2 TOURNAMENT

author by yaneurao by yaneurao

exeファイル C:\Jenkins\workspace\TanukiColiseum.2023-04-16\engine1\source\YaneuraOu-by-gcc.exe C:\Jenkins\workspace\TanukiColiseum.2023-04-16\engine2\source\YaneuraOu-by-gcc.exe

評価関数フォルダパス D:\hnoda\shogi\eval\tanuki-.nnue-pytorch-2024-03-24.1000 D:\hnoda\shogi\eval\tanuki-.nnue-pytorch-2024-03-06

定跡手数 256 256

定跡ファイル名 no_book no_book

思考ノード数 0 0

思考ノード数に加える乱数(%) 0 0

思考ノード数の乱数を1手毎に変化させる False False

持ち時間(ms) 300000 300000

秒読み時間(ms) 0 0

加算時間(ms) 2000 2000

乱数付き思考時間(ms) 0 0

スレッド数 1 1

BookEvalDiff 30 30

定跡の採択率を考慮する false false

定跡の手数を無視する false false

SlowMover 100 100

DrawValue -2 -2

BookEvalBlackLimit 0 0

BookEvalWhiteLimit -140 -140

FVScale 16 16

Depth=0 0

MinimumThinkingTime 1000 1000

対局数2000 先手勝ち907(55.6%) 後手勝ち725(44.4%) 引き分け368

engine1

勝ち909(55.7% R32.4 +-15.3) 先手勝ち512(31.4%) 後手勝ち397(24.3%)

宣言勝ち41 先手宣言勝ち23 後手宣言勝ち18 先手引き分け161 後手引き分け207

engine2

勝ち723(44.3%) 先手勝ち395(24.2%) 後手勝ち328(20.1%)

宣言勝ち41 先手宣言勝ち16 後手宣言勝ち25 先手引き分け207 後手引き分け161

909,368,723

対局数=2000 同時対局数=64 ハッシュサイズ=384 開始手数=24 最大手数=320 開始局面ファイル=C:\Jenkins\workspace\TanukiColiseum.2023-04-16\TanukiColiseum\bishop_exchange.2023-06-25.sfen NUMAノード数=1 表示更新間隔(ms)=3600000

思考エンジン1 思考エンジン2

name YaneuraOu NNUE 7.63 64ZEN2 TOURNAMENT YaneuraOu NNUE 7.63 64ZEN2 TOURNAMENT

author by yaneurao by yaneurao

exeファイル C:\Jenkins\workspace\TanukiColiseum.2023-04-16\engine1\source\YaneuraOu-by-gcc.exe C:\Jenkins\workspace\TanukiColiseum.2023-04-16\engine2\source\YaneuraOu-by-gcc.exe

評価関数フォルダパス D:\hnoda\shogi\eval\tanuki-.nnue-pytorch-2024-03-24.1500 D:\hnoda\shogi\eval\tanuki-.nnue-pytorch-2024-03-06

定跡手数 256 256

定跡ファイル名 no_book no_book

思考ノード数 0 0

思考ノード数に加える乱数(%) 0 0

思考ノード数の乱数を1手毎に変化させる False False

持ち時間(ms) 300000 300000

秒読み時間(ms) 0 0

加算時間(ms) 2000 2000

乱数付き思考時間(ms) 0 0

スレッド数 1 1

BookEvalDiff 30 30

定跡の採択率を考慮する false false

定跡の手数を無視する false false

SlowMover 100 100

DrawValue -2 -2

BookEvalBlackLimit 0 0

BookEvalWhiteLimit -140 -140

FVScale 16 16

Depth=0 0

MinimumThinkingTime 1000 1000

対局数2000 先手勝ち937(57.0%) 後手勝ち708(43.0%) 引き分け355

engine1

勝ち880(53.5% R20.0 +-15.3) 先手勝ち507(30.8%) 後手勝ち373(22.7%)

宣言勝ち48 先手宣言勝ち29 後手宣言勝ち19 先手引き分け159 後手引き分け196

engine2

勝ち765(46.5%) 先手勝ち430(26.1%) 後手勝ち335(20.4%)

宣言勝ち41 先手宣言勝ち22 後手宣言勝ち19 先手引き分け196 後手引き分け159

880,355,765

対局数=2000 同時対局数=64 ハッシュサイズ=384 開始手数=24 最大手数=320 開始局面ファイル=C:\Jenkins\workspace\TanukiColiseum.2023-04-16\TanukiColiseum\bishop_exchange.2023-06-25.sfen NUMAノード数=1 表示更新間隔(ms)=3600000

思考エンジン1 思考エンジン2

name YaneuraOu NNUE 7.63 64ZEN2 TOURNAMENT YaneuraOu NNUE 7.63 64ZEN2 TOURNAMENT

author by yaneurao by yaneurao

exeファイル C:\Jenkins\workspace\TanukiColiseum.2023-04-16\engine1\source\YaneuraOu-by-gcc.exe C:\Jenkins\workspace\TanukiColiseum.2023-04-16\engine2\source\YaneuraOu-by-gcc.exe

評価関数フォルダパス D:\hnoda\shogi\eval\tanuki-.nnue-pytorch-2024-03-24.2000 D:\hnoda\shogi\eval\tanuki-.nnue-pytorch-2024-03-06

定跡手数 256 256

定跡ファイル名 no_book no_book

思考ノード数 0 0

思考ノード数に加える乱数(%) 0 0

思考ノード数の乱数を1手毎に変化させる False False

持ち時間(ms) 300000 300000

秒読み時間(ms) 0 0

加算時間(ms) 2000 2000

乱数付き思考時間(ms) 0 0

スレッド数 1 1

BookEvalDiff 30 30

定跡の採択率を考慮する false false

定跡の手数を無視する false false

SlowMover 100 100

DrawValue -2 -2

BookEvalBlackLimit 0 0

BookEvalWhiteLimit -140 -140

FVScale 16 16

Depth=0 0

MinimumThinkingTime 1000 1000

対局数2000 先手勝ち892(58.4%) 後手勝ち636(41.6%) 引き分け472

engine1

勝ち788(51.6% R8.3 +-15.2) 先手勝ち468(30.6%) 後手勝ち320(20.9%)

宣言勝ち37 先手宣言勝ち22 後手宣言勝ち15 先手引き分け219 後手引き分け253

engine2

勝ち740(48.4%) 先手勝ち424(27.7%) 後手勝ち316(20.7%)

宣言勝ち38 先手宣言勝ち22 後手宣言勝ち16 先手引き分け253 後手引き分け219

788,472,740

対局数=2000 同時対局数=64 ハッシュサイズ=384 開始手数=24 最大手数=320 開始局面ファイル=C:\Jenkins\workspace\TanukiColiseum.2023-04-16\TanukiColiseum\bishop_exchange.2023-06-25.sfen NUMAノード数=1 表示更新間隔(ms)=3600000

思考エンジン1 思考エンジン2

name YaneuraOu NNUE 7.63 64ZEN2 TOURNAMENT YaneuraOu NNUE 7.63 64ZEN2 TOURNAMENT

author by yaneurao by yaneurao

exeファイル C:\Jenkins\workspace\TanukiColiseum.2023-04-16\engine1\source\YaneuraOu-by-gcc.exe C:\Jenkins\workspace\TanukiColiseum.2023-04-16\engine2\source\YaneuraOu-by-gcc.exe

評価関数フォルダパス D:\hnoda\shogi\eval\tanuki-.nnue-pytorch-2024-03-24.2500 D:\hnoda\shogi\eval\tanuki-.nnue-pytorch-2024-03-06

定跡手数 256 256

定跡ファイル名 no_book no_book

思考ノード数 0 0

思考ノード数に加える乱数(%) 0 0

思考ノード数の乱数を1手毎に変化させる False False

持ち時間(ms) 300000 300000

秒読み時間(ms) 0 0

加算時間(ms) 2000 2000

乱数付き思考時間(ms) 0 0

スレッド数 1 1

BookEvalDiff 30 30

定跡の採択率を考慮する false false

定跡の手数を無視する false false

SlowMover 100 100

DrawValue -2 -2

BookEvalBlackLimit 0 0

BookEvalWhiteLimit -140 -140

FVScale 16 16

Depth=0 0

MinimumThinkingTime 1000 1000

対局数2000 先手勝ち897(57.8%) 後手勝ち655(42.2%) 引き分け448

engine1

勝ち794(51.2% R6.3 +-15.2) 先手勝ち453(29.2%) 後手勝ち341(22.0%)

宣言勝ち53 先手宣言勝ち29 後手宣言勝ち24 先手引き分け232 後手引き分け216

engine2

勝ち758(48.8%) 先手勝ち444(28.6%) 後手勝ち314(20.2%)

宣言勝ち26 先手宣言勝ち10 後手宣言勝ち16 先手引き分け216 後手引き分け232

794,448,758

対局数=2000 同時対局数=64 ハッシュサイズ=384 開始手数=24 最大手数=320 開始局面ファイル=C:\Jenkins\workspace\TanukiColiseum.2023-04-16\TanukiColiseum\bishop_exchange.2023-06-25.sfen NUMAノード数=1 表示更新間隔(ms)=3600000

思考エンジン1 思考エンジン2

name YaneuraOu NNUE 7.63 64ZEN2 TOURNAMENT YaneuraOu NNUE 7.63 64ZEN2 TOURNAMENT

author by yaneurao by yaneurao

exeファイル C:\Jenkins\workspace\TanukiColiseum.2023-04-16\engine1\source\YaneuraOu-by-gcc.exe C:\Jenkins\workspace\TanukiColiseum.2023-04-16\engine2\source\YaneuraOu-by-gcc.exe

評価関数フォルダパス D:\hnoda\shogi\eval\tanuki-.nnue-pytorch-2024-03-24.3000 D:\hnoda\shogi\eval\tanuki-.nnue-pytorch-2024-03-06

定跡手数 256 256

定跡ファイル名 no_book no_book

思考ノード数 0 0

思考ノード数に加える乱数(%) 0 0

思考ノード数の乱数を1手毎に変化させる False False

持ち時間(ms) 300000 300000

秒読み時間(ms) 0 0

加算時間(ms) 2000 2000

乱数付き思考時間(ms) 0 0

スレッド数 1 1

BookEvalDiff 30 30

定跡の採択率を考慮する false false

定跡の手数を無視する false false

SlowMover 100 100

DrawValue -2 -2

BookEvalBlackLimit 0 0

BookEvalWhiteLimit -140 -140

FVScale 16 16

Depth=0 0

MinimumThinkingTime 1000 1000

対局数2000 先手勝ち942(56.6%) 後手勝ち722(43.4%) 引き分け336

engine1

勝ち914(54.9% R28.6 +-15.3) 先手勝ち525(31.6%) 後手勝ち389(23.4%)

宣言勝ち46 先手宣言勝ち30 後手宣言勝ち16 先手引き分け145 後手引き分け191

engine2

勝ち750(45.1%) 先手勝ち417(25.1%) 後手勝ち333(20.0%)

宣言勝ち26 先手宣言勝ち6 後手宣言勝ち20 先手引き分け191 後手引き分け145

914,336,750

対局数=2000 同時対局数=64 ハッシュサイズ=384 開始手数=24 最大手数=320 開始局面ファイル=C:\Jenkins\workspace\TanukiColiseum.2023-04-16\TanukiColiseum\bishop_exchange.2023-06-25.sfen NUMAノード数=1 表示更新間隔(ms)=3600000

思考エンジン1 思考エンジン2

name YaneuraOu NNUE 7.63 64ZEN2 TOURNAMENT YaneuraOu NNUE 7.63 64ZEN2 TOURNAMENT

author by yaneurao by yaneurao

exeファイル C:\Jenkins\workspace\TanukiColiseum.2023-04-16\engine1\source\YaneuraOu-by-gcc.exe C:\Jenkins\workspace\TanukiColiseum.2023-04-16\engine2\source\YaneuraOu-by-gcc.exe

評価関数フォルダパス D:\hnoda\shogi\eval\tanuki-.nnue-pytorch-2024-03-24.3500 D:\hnoda\shogi\eval\tanuki-.nnue-pytorch-2024-03-06

定跡手数 256 256

定跡ファイル名 no_book no_book

思考ノード数 0 0

思考ノード数に加える乱数(%) 0 0

思考ノード数の乱数を1手毎に変化させる False False

持ち時間(ms) 300000 300000

秒読み時間(ms) 0 0

加算時間(ms) 2000 2000

乱数付き思考時間(ms) 0 0

スレッド数 1 1

BookEvalDiff 30 30

定跡の採択率を考慮する false false

定跡の手数を無視する false false

SlowMover 100 100

DrawValue -2 -2

BookEvalBlackLimit 0 0

BookEvalWhiteLimit -140 -140

FVScale 16 16

Depth=0 0

MinimumThinkingTime 1000 1000

対局数2000 先手勝ち820(52.7%) 後手勝ち737(47.3%) 引き分け443

engine1

勝ち844(54.2% R22.8 +-15.3) 先手勝ち436(28.0%) 後手勝ち408(26.2%)

宣言勝ち44 先手宣言勝ち31 後手宣言勝ち13 先手引き分け235 後手引き分け208

engine2

勝ち713(45.8%) 先手勝ち384(24.7%) 後手勝ち329(21.1%)

宣言勝ち41 先手宣言勝ち19 後手宣言勝ち22 先手引き分け208 後手引き分け235

844,443,713

対局数=2000 同時対局数=64 ハッシュサイズ=384 開始手数=24 最大手数=320 開始局面ファイル=C:\Jenkins\workspace\TanukiColiseum.2023-04-16\TanukiColiseum\bishop_exchange.2023-06-25.sfen NUMAノード数=1 表示更新間隔(ms)=3600000

思考エンジン1 思考エンジン2

name YaneuraOu NNUE 7.63 64ZEN2 TOURNAMENT YaneuraOu NNUE 7.63 64ZEN2 TOURNAMENT

author by yaneurao by yaneurao

exeファイル C:\Jenkins\workspace\TanukiColiseum.2023-04-16\engine1\source\YaneuraOu-by-gcc.exe C:\Jenkins\workspace\TanukiColiseum.2023-04-16\engine2\source\YaneuraOu-by-gcc.exe

評価関数フォルダパス D:\hnoda\shogi\eval\tanuki-.nnue-pytorch-2024-03-24.4000 D:\hnoda\shogi\eval\tanuki-.nnue-pytorch-2024-03-06

定跡手数 256 256

定跡ファイル名 no_book no_book

思考ノード数 0 0

思考ノード数に加える乱数(%) 0 0

思考ノード数の乱数を1手毎に変化させる False False

持ち時間(ms) 300000 300000

秒読み時間(ms) 0 0

加算時間(ms) 2000 2000

乱数付き思考時間(ms) 0 0

スレッド数 1 1

BookEvalDiff 30 30

定跡の採択率を考慮する false false

定跡の手数を無視する false false

SlowMover 100 100

DrawValue -2 -2

BookEvalBlackLimit 0 0

BookEvalWhiteLimit -140 -140

FVScale 16 16

Depth=0 0

MinimumThinkingTime 1000 1000

対局数2000 先手勝ち918(56.4%) 後手勝ち711(43.6%) 引き分け371

engine1

勝ち864(53.0% R17.2 +-15.3) 先手勝ち493(30.3%) 後手勝ち371(22.8%)

宣言勝ち37 先手宣言勝ち23 後手宣言勝ち14 先手引き分け166 後手引き分け205

engine2

勝ち765(47.0%) 先手勝ち425(26.1%) 後手勝ち340(20.9%)

宣言勝ち42 先手宣言勝ち24 後手宣言勝ち18 先手引き分け205 後手引き分け166

864,371,765

対局数=2000 同時対局数=64 ハッシュサイズ=384 開始手数=24 最大手数=320 開始局面ファイル=C:\Jenkins\workspace\TanukiColiseum.2023-04-16\TanukiColiseum\bishop_exchange.2023-06-25.sfen NUMAノード数=1 表示更新間隔(ms)=3600000

思考エンジン1 思考エンジン2

name YaneuraOu NNUE 7.63 64ZEN2 TOURNAMENT YaneuraOu NNUE 7.63 64ZEN2 TOURNAMENT

author by yaneurao by yaneurao

exeファイル C:\Jenkins\workspace\TanukiColiseum.2023-04-16\engine1\source\YaneuraOu-by-gcc.exe C:\Jenkins\workspace\TanukiColiseum.2023-04-16\engine2\source\YaneuraOu-by-gcc.exe

評価関数フォルダパス D:\hnoda\shogi\eval\tanuki-.nnue-pytorch-2024-03-24.4500 D:\hnoda\shogi\eval\tanuki-.nnue-pytorch-2024-03-06

定跡手数 256 256

定跡ファイル名 no_book no_book

思考ノード数 0 0

思考ノード数に加える乱数(%) 0 0

思考ノード数の乱数を1手毎に変化させる False False

持ち時間(ms) 300000 300000

秒読み時間(ms) 0 0

加算時間(ms) 2000 2000

乱数付き思考時間(ms) 0 0

スレッド数 1 1

BookEvalDiff 30 30

定跡の採択率を考慮する false false

定跡の手数を無視する false false

SlowMover 100 100

DrawValue -2 -2

BookEvalBlackLimit 0 0

BookEvalWhiteLimit -140 -140

FVScale 16 16

Depth=0 0

MinimumThinkingTime 1000 1000

対局数2000 先手勝ち932(57.2%) 後手勝ち698(42.8%) 引き分け370

engine1

勝ち900(55.2% R29.6 +-15.3) 先手勝ち508(31.2%) 後手勝ち392(24.0%)

宣言勝ち43 先手宣言勝ち19 後手宣言勝ち24 先手引き分け183 後手引き分け187

engine2

勝ち730(44.8%) 先手勝ち424(26.0%) 後手勝ち306(18.8%)

宣言勝ち25 先手宣言勝ち13 後手宣言勝ち12 先手引き分け187 後手引き分け183

900,370,730

対局数=2000 同時対局数=64 ハッシュサイズ=384 開始手数=24 最大手数=320 開始局面ファイル=C:\Jenkins\workspace\TanukiColiseum.2023-04-16\TanukiColiseum\bishop_exchange.2023-06-25.sfen NUMAノード数=1 表示更新間隔(ms)=3600000

思考エンジン1 思考エンジン2

name YaneuraOu NNUE 7.63 64ZEN2 TOURNAMENT YaneuraOu NNUE 7.63 64ZEN2 TOURNAMENT

author by yaneurao by yaneurao

exeファイル C:\Jenkins\workspace\TanukiColiseum.2023-04-16\engine1\source\YaneuraOu-by-gcc.exe C:\Jenkins\workspace\TanukiColiseum.2023-04-16\engine2\source\YaneuraOu-by-gcc.exe

評価関数フォルダパス D:\hnoda\shogi\eval\tanuki-.nnue-pytorch-2024-03-24.5000 D:\hnoda\shogi\eval\tanuki-.nnue-pytorch-2024-03-06

定跡手数 256 256

定跡ファイル名 no_book no_book

思考ノード数 0 0

思考ノード数に加える乱数(%) 0 0

思考ノード数の乱数を1手毎に変化させる False False

持ち時間(ms) 300000 300000

秒読み時間(ms) 0 0

加算時間(ms) 2000 2000

乱数付き思考時間(ms) 0 0

スレッド数 1 1

BookEvalDiff 30 30

定跡の採択率を考慮する false false

定跡の手数を無視する false false

SlowMover 100 100

DrawValue -2 -2

BookEvalBlackLimit 0 0

BookEvalWhiteLimit -140 -140

FVScale 16 16

Depth=0 0

MinimumThinkingTime 1000 1000

対局数2000 先手勝ち848(54.9%) 後手勝ち697(45.1%) 引き分け455

engine1

勝ち814(52.7% R14.4 +-15.2) 先手勝ち436(28.2%) 後手勝ち378(24.5%)

宣言勝ち45 先手宣言勝ち21 後手宣言勝ち24 先手引き分け243 後手引き分け212

engine2

勝ち731(47.3%) 先手勝ち412(26.7%) 後手勝ち319(20.6%)

宣言勝ち41 先手宣言勝ち17 後手宣言勝ち24 先手引き分け212 後手引き分け243

814,455,731

学習局面数 レーティング差
5 億 15.3
10 億 32.4
15 億 20.0
20 億 8.3
25 億 6.3
30 億 28.6
35 億 22.8
40 億 17.2
45 億 29.6
50 億 14.4

lr=1e-6 のとき、学習局面が 5 億局面のもの以外は、レーティングに有意な差がないか、有意に低かった。

lr=1e-7 のとき、いくつかの学習局面数において、有意にレーティングが向上した。

lr=1e-6 のときも lr=1e-7 のときも、学習局面数とレーティングに単調減少や単調増加といった特徴は見られなかった。

考察

lr=1e-6 のとき、 学習局面が 5 億局面のもの以外、レーティングに有意な差がないか、有意に低かったのは、学習データに過学習し、元のネットワークパラメーターのうち、レーティングに寄与するものを壊してしまったためだと思う。

lr=1e-7 のとき、いくつかの学習局面数において、有意にレーティングが向上したのは、元のネットワークパラメーターのうち、レーティングに寄与するものを維持しつつ、学習データを学習できたためだと思う。

lr=1e-6 のときも lr=1e-7 のときも、学習局面数とレーティングに単調減少や単調増加といった特徴は見られなかったのは、対局階数が少なく、計測誤差が大きかったからだと思う。

今回の実験により、あるネットワークについて、ランダムパラメーターから学習させ、 Fine-tuning によりレーティングを向上させるまでの一通りの流れが確立できたと思う。

まとめ

nnue-pytorch で学習した halfkp_1024x2-8-32 ネットワークを、 Suisho10Mn_psv を用いて Fine-tuning した。その際、学習率を 1e-6 または 1e-7 とし、学習局面数を変えて学習させ、レーティングを測定した。

結果、 lr=1e-7 のとき、いくつかの学習局面数において、有意にレーティングが向上した。 lr=1e-7 のとき、いくつかの学習局面数において、有意にレーティングが向上したのは、元のネットワークパラメーターのうち、レーティングに寄与するものを維持しつつ、学習データを学習できたためだと思う。

次回は、 halfkp_1024x2-16-32 ネットワークパラメーターで学習させ、レーティングを計測したい。

tanuki- 2024-03-23 nnue-pytorch halfkp_1024x2-8-32 Fine-tuning Suisho10Mn_psv (2)

将棋 コンピュータ将棋

 

tanuki- 2024-03-23 nnue-pytorch halfkp_1024x2-8-32 Fine-tuning Suisho10Mn_psv (2)

実験内容

  • nnue-pytorch で学習した halfkp_1024x2-8-32 ネットワークを、 Suisho10Mn_psv を用いて Fine-tuning する。
  • 学習率を変えて学習させる。

シャッフル条件

生成ルーチン tanuki-シャッフルルーチン
qsearch() あり
置換表 無効
min_progress 0.1

機械学習

機械学習ルーチン nnue-pytorch + やねうら王 https://github.com/nodchip/nnue-pytorch/tree/shogi.2023-10-29.halfkp_1024x2-8-32
学習モデル halfkp_1024x2-8-32
学習手法 ミニバッチ SGD
初期学習率 (lr) 1e-4・1e-5・1e-6・1e-7・1e-8
最適化手法 なし
学習率調整手法 Warmup + Newbob 風
batch-size 16384
threads 8
num-workers 8
accelerator gpu
devices 1
features HalfKP
max-epoch 5001
score-scaling 361
lambda 0.0
勝敗項の教師信号 0.999
num-batches-warmup 10000
newbob-decay 0.5
epoch-size 1000000
num-epochs-to-adjust-lr 500
学習を打ち切る下限 newbob scale 1e-5
1 epoch 毎のネットワークパラメーターのクリップ あり
ネットワークパラメーターの量子化 量子化なしで学習し、収束後に量子化する。
ネットワークパラメーターの初期化方法 pytorch のデフォルトの初期化手法で初期化する。
勾配の正規化 なし
momentum 0.9
入玉ボーナス 入玉時、持ち駒および敵陣三段目までに侵入している駒について、小駒 1 枚につき 20 点、大駒 1 枚につき 100 点、敵陣三段目までに侵入している駒 1 枚につき 20 点追加する。

レーティング測定

対局相手 https://docs.google.com/document/d/1i_h7rxPbEVP7PaUMuDjcGUtgWdOK_gj01r_yILajWZg/edit?usp=sharing tanuki-.nnue-pytorch-2024-03-06
思考時間 持ち時間 300 秒 + 1 手 2 秒加算
対局数 5000
同時対局数 64
ハッシュサイズ 384
開始局面 dlshogi 互角局面集の角換わりの割合が 10% になるよう間引いたもの

実験結果

機械学習

レーティング測定

以下は 5 億局面学習させたときのレーティングの計測結果である。

 

対局数=2000 同時対局数=64 ハッシュサイズ=384 開始手数=24 最大手数=320 開始局面ファイル=C:\Jenkins\workspace\TanukiColiseum.2023-04-16\TanukiColiseum\bishop_exchange.2023-06-25.sfen NUMAノード数=1 表示更新間隔(ms)=3600000

思考エンジン1 思考エンジン2

name YaneuraOu NNUE 7.63 64ZEN2 TOURNAMENT YaneuraOu NNUE 7.63 64ZEN2 TOURNAMENT

author by yaneurao by yaneurao

exeファイル C:\Jenkins\workspace\TanukiColiseum.2023-04-16\engine1\source\YaneuraOu-by-gcc.exe C:\Jenkins\workspace\TanukiColiseum.2023-04-16\engine2\source\YaneuraOu-by-gcc.exe

評価関数フォルダパス D:\hnoda\shogi\eval\tanuki-.nnue-pytorch-2024-03-20.500 D:\hnoda\shogi\eval\tanuki-.nnue-pytorch-2024-03-06

定跡手数 256 256

定跡ファイル名 no_book no_book

思考ノード数 0 0

思考ノード数に加える乱数(%) 0 0

思考ノード数の乱数を1手毎に変化させる False False

持ち時間(ms) 300000 300000

秒読み時間(ms) 0 0

加算時間(ms) 2000 2000

乱数付き思考時間(ms) 0 0

スレッド数 1 1

BookEvalDiff 30 30

定跡の採択率を考慮する false false

定跡の手数を無視する false false

SlowMover 100 100

DrawValue -2 -2

BookEvalBlackLimit 0 0

BookEvalWhiteLimit -140 -140

FVScale 16 16

Depth=0 0

MinimumThinkingTime 1000 1000

対局数2000 先手勝ち1058(55.5%) 後手勝ち849(44.5%) 引き分け93

engine1

勝ち664(34.8% R-103.5 +-15.9) 先手勝ち383(20.1%) 後手勝ち281(14.7%)

宣言勝ち28 先手宣言勝ち13 後手宣言勝ち15 先手引き分け51 後手引き分け42

engine2

勝ち1243(65.2%) 先手勝ち675(35.4%) 後手勝ち568(29.8%)

宣言勝ち19 先手宣言勝ち14 後手宣言勝ち5 先手引き分け42 後手引き分け51

664,93,1243

 

対局数=2000 同時対局数=64 ハッシュサイズ=384 開始手数=24 最大手数=320 開始局面ファイル=C:\Jenkins\workspace\TanukiColiseum.2023-04-16\TanukiColiseum\bishop_exchange.2023-06-25.sfen NUMAノード数=1 表示更新間隔(ms)=3600000

思考エンジン1 思考エンジン2

name YaneuraOu NNUE 7.63 64ZEN2 TOURNAMENT YaneuraOu NNUE 7.63 64ZEN2 TOURNAMENT

author by yaneurao by yaneurao

exeファイル C:\Jenkins\workspace\TanukiColiseum.2023-04-16\engine1\source\YaneuraOu-by-gcc.exe C:\Jenkins\workspace\TanukiColiseum.2023-04-16\engine2\source\YaneuraOu-by-gcc.exe

評価関数フォルダパス D:\hnoda\shogi\eval\tanuki-.nnue-pytorch-2024-03-21.500 D:\hnoda\shogi\eval\tanuki-.nnue-pytorch-2024-03-06

定跡手数 256 256

定跡ファイル名 no_book no_book

思考ノード数 0 0

思考ノード数に加える乱数(%) 0 0

思考ノード数の乱数を1手毎に変化させる False False

持ち時間(ms) 300000 300000

秒読み時間(ms) 0 0

加算時間(ms) 2000 2000

乱数付き思考時間(ms) 0 0

スレッド数 1 1

BookEvalDiff 30 30

定跡の採択率を考慮する false false

定跡の手数を無視する false false

SlowMover 100 100

DrawValue -2 -2

BookEvalBlackLimit 0 0

BookEvalWhiteLimit -140 -140

FVScale 16 16

Depth=0 0

MinimumThinkingTime 1000 1000

対局数2000 先手勝ち1166(63.1%) 後手勝ち682(36.9%) 引き分け152

engine1

勝ち880(47.6% R-15.3 +-15.2) 先手勝ち565(30.6%) 後手勝ち315(17.0%)

宣言勝ち40 先手宣言勝ち29 後手宣言勝ち11 先手引き分け73 後手引き分け79

engine2

勝ち968(52.4%) 先手勝ち601(32.5%) 後手勝ち367(19.9%)

宣言勝ち45 先手宣言勝ち23 後手宣言勝ち22 先手引き分け79 後手引き分け73

880,152,968

 

対局数=2000 同時対局数=64 ハッシュサイズ=384 開始手数=24 最大手数=320 開始局面ファイル=C:\Jenkins\workspace\TanukiColiseum.2023-04-16\TanukiColiseum\bishop_exchange.2023-06-25.sfen NUMAノード数=1 表示更新間隔(ms)=3600000

思考エンジン1 思考エンジン2

name YaneuraOu NNUE 7.63 64ZEN2 TOURNAMENT YaneuraOu NNUE 7.63 64ZEN2 TOURNAMENT

author by yaneurao by yaneurao

exeファイル C:\Jenkins\workspace\TanukiColiseum.2023-04-16\engine1\source\YaneuraOu-by-gcc.exe C:\Jenkins\workspace\TanukiColiseum.2023-04-16\engine2\source\YaneuraOu-by-gcc.exe

評価関数フォルダパス D:\hnoda\shogi\eval\tanuki-.nnue-pytorch-2024-03-22.500 D:\hnoda\shogi\eval\tanuki-.nnue-pytorch-2024-03-06

定跡手数 256 256

定跡ファイル名 no_book no_book

思考ノード数 0 0

思考ノード数に加える乱数(%) 0 0

思考ノード数の乱数を1手毎に変化させる False False

持ち時間(ms) 300000 300000

秒読み時間(ms) 0 0

加算時間(ms) 2000 2000

乱数付き思考時間(ms) 0 0

スレッド数 1 1

BookEvalDiff 30 30

定跡の採択率を考慮する false false

定跡の手数を無視する false false

SlowMover 100 100

DrawValue -2 -2

BookEvalBlackLimit 0 0

BookEvalWhiteLimit -140 -140

FVScale 16 16

Depth=0 0

MinimumThinkingTime 1000 1000

対局数2000 先手勝ち891(56.9%) 後手勝ち674(43.1%) 引き分け435

engine1

勝ち858(54.8% R26.3 +-15.3) 先手勝ち497(31.8%) 後手勝ち361(23.1%)

宣言勝ち36 先手宣言勝ち17 後手宣言勝ち19 先手引き分け188 後手引き分け247

engine2

勝ち707(45.2%) 先手勝ち394(25.2%) 後手勝ち313(20.0%)

宣言勝ち25 先手宣言勝ち7 後手宣言勝ち18 先手引き分け247 後手引き分け188

858,435,707

 

対局数=2000 同時対局数=64 ハッシュサイズ=384 開始手数=24 最大手数=320 開始局面ファイル=C:\Jenkins\workspace\TanukiColiseum.2023-04-16\TanukiColiseum\bishop_exchange.2023-06-25.sfen NUMAノード数=1 表示更新間隔(ms)=3600000

思考エンジン1 思考エンジン2

name YaneuraOu NNUE 7.63 64ZEN2 TOURNAMENT YaneuraOu NNUE 7.63 64ZEN2 TOURNAMENT

author by yaneurao by yaneurao

exeファイル C:\Jenkins\workspace\TanukiColiseum.2023-04-16\engine1\source\YaneuraOu-by-gcc.exe C:\Jenkins\workspace\TanukiColiseum.2023-04-16\engine2\source\YaneuraOu-by-gcc.exe

評価関数フォルダパス D:\hnoda\shogi\eval\tanuki-.nnue-pytorch-2024-03-24.500 D:\hnoda\shogi\eval\tanuki-.nnue-pytorch-2024-03-06

定跡手数 256 256

定跡ファイル名 no_book no_book

思考ノード数 0 0

思考ノード数に加える乱数(%) 0 0

思考ノード数の乱数を1手毎に変化させる False False

持ち時間(ms) 300000 300000

秒読み時間(ms) 0 0

加算時間(ms) 2000 2000

乱数付き思考時間(ms) 0 0

スレッド数 1 1

BookEvalDiff 30 30

定跡の採択率を考慮する false false

定跡の手数を無視する false false

SlowMover 100 100

DrawValue -2 -2

BookEvalBlackLimit 0 0

BookEvalWhiteLimit -140 -140

FVScale 16 16

Depth=0 0

MinimumThinkingTime 1000 1000

対局数2000 先手勝ち861(54.7%) 後手勝ち713(45.3%) 引き分け426

engine1

勝ち831(52.8% R15.3 +-15.2) 先手勝ち460(29.2%) 後手勝ち371(23.6%)

宣言勝ち35 先手宣言勝ち20 後手宣言勝ち15 先手引き分け197 後手引き分け229

engine2

勝ち743(47.2%) 先手勝ち401(25.5%) 後手勝ち342(21.7%)

宣言勝ち45 先手宣言勝ち22 後手宣言勝ち23 先手引き分け229 後手引き分け197

831,426,743

 

対局数=2000 同時対局数=64 ハッシュサイズ=384 開始手数=24 最大手数=320 開始局面ファイル=C:\Jenkins\workspace\TanukiColiseum.2023-04-16\TanukiColiseum\bishop_exchange.2023-06-25.sfen NUMAノード数=1 表示更新間隔(ms)=3600000

思考エンジン1 思考エンジン2

name YaneuraOu NNUE 7.63 64ZEN2 TOURNAMENT YaneuraOu NNUE 7.63 64ZEN2 TOURNAMENT

author by yaneurao by yaneurao

exeファイル C:\Jenkins\workspace\TanukiColiseum.2023-04-16\engine1\source\YaneuraOu-by-gcc.exe C:\Jenkins\workspace\TanukiColiseum.2023-04-16\engine2\source\YaneuraOu-by-gcc.exe

評価関数フォルダパス D:\hnoda\shogi\eval\tanuki-.nnue-pytorch-2024-03-25.500 D:\hnoda\shogi\eval\tanuki-.nnue-pytorch-2024-03-06

定跡手数 256 256

定跡ファイル名 no_book no_book

思考ノード数 0 0

思考ノード数に加える乱数(%) 0 0

思考ノード数の乱数を1手毎に変化させる False False

持ち時間(ms) 300000 300000

秒読み時間(ms) 0 0

加算時間(ms) 2000 2000

乱数付き思考時間(ms) 0 0

スレッド数 1 1

BookEvalDiff 30 30

定跡の採択率を考慮する false false

定跡の手数を無視する false false

SlowMover 100 100

DrawValue -2 -2

BookEvalBlackLimit 0 0

BookEvalWhiteLimit -140 -140

FVScale 16 16

Depth=0 0

MinimumThinkingTime 1000 1000

対局数2000 先手勝ち1026(60.5%) 後手勝ち671(39.5%) 引き分け303

engine1

勝ち855(50.4% R2.3 +-15.2) 先手勝ち516(30.4%) 後手勝ち339(20.0%)

宣言勝ち38 先手宣言勝ち21 後手宣言勝ち17 先手引き分け150 後手引き分け153

engine2

勝ち842(49.6%) 先手勝ち510(30.1%) 後手勝ち332(19.6%)

宣言勝ち53 先手宣言勝ち31 後手宣言勝ち22 先手引き分け153 後手引き分け150

855,303,842

 

lr レーティング差
1e-4 -103.5
1e-5 -15.3
1e-6 26.3
1e-7 15.3
1e-8 2.3

 

学習ロスと検証ロスは、学習が進むにつれて下がっていった。

学習ロスと検証ロスは、学習率が高いほど大きく下がった。

学習ロスと検証ロスは、学習率が 1e-8 のときにはほとんど下がらなかった。

レーティングは、学習率が 1e-4・1e-5 のときに有意に下がった。学習率が 1e-6・1e-7 のときは有意に上がった。

考察

学習ロスと検証ロスが、学習が進むにつれて下がっていったことは、学習データに対する過学習が起こらなかったことを表していると思う。

学習ロスと検証ロスが、学習率が 1e-8 のときにほとんど下がらなかったのは、アンダーフローが発生し、ネットワークパラメーターがほとんど変化しなかったことが原因だと思う。

レーティングが、学習率が 1e-4・1e-5 で有意に下がったのは、教師データに対する過学習が怒ったためだと思う。

レーティングが、学習率が 1e-6・1e-7 で有意に上がったのは、元のネットワークパラメーターの性質をあまり壊すことなく、教師データの良い部分を学習できたためだと思う。

レーティングが、学習率が 1e-8 でほとんど変わらなかったのは、ネットワークパラメーターがほとんど変化しなかったためだと思う。

まとめ

nnue-pytorch で学習した halfkp_1024x2-8-32 ネットワークを、 Suisho10Mn_psv を用いて Fine-tuning した。その際、学習率を変えて学習させた。

レーティングは、学習率が 1e-4・1e-5 のときに有意に下がった。学習率が 1e-6・1e-7 のときは有意に上がった。

レーティングが、学習率が 1e-4・1e-5 で有意に下がったのは、教師データに対する過学習が怒ったためだと思う。レーティングが、学習率が 1e-6・1e-7 で有意に上がったのは、元のネットワークパラメーターの性質をあまり壊すことなく、教師データの良い部分を学習できたためだと思う。レーティングが、学習率が 1e-8 でほとんど変わらなかったのは、ネットワークパラメーターがほとんど変化しなかったためだと思う。

次回は、学習率が 1e-6・1e-7 とのきについて、学習局面数を増やしたときのレーティングを測定したい。

 

tanuki- 2024-03-20 halfkp_1024x2-8-32 Fine-tuning Suisho10Mn_psv

将棋 コンピュータ将棋

tanuki- 2024-03-20 halfkp_1024x2-8-32 Fine-tuning Suisho10Mn_psv

実験内容

  • nnue-pytorch で学習した halfkp_1024x2-8-32 ネットワークを、 Suisho10Mn_psv を用いて、やねうら王純正の学習器を用いて Fine-tuning する。

シャッフル条件

生成ルーチン tanuki-シャッフルルーチン
qsearch() あり
置換表 無効
min_progress 0.1

機械学習

機械学習ルーチン やねうら王機械学習ルーチン
学習モデル halfkp_1024x2-8-32
学習手法 SGD ミニバッチ法
USI_Hash 1024
Threads 16
loop 1000
batchsize 1000000
lambda 0.0
eta eta1=1e-8 eta2=0.001 eta1_epoch=100
newbob_decay 0.5
nn_batch_size 1000
eval_save_interval 500000000
loss_output_interval 1000000
mirror_percentage 50
eval_limit 32000
weight_by_progress 無効
次元下げ K・P・相対KP
学習データ内で重複した局面の除外 バージョンのデフォルトに依存する
初期ネットワークパラメーター tanuki-.nnue-pytorch-2024-02-28
勝敗項の教師信号 0.999

レーティング測定

対局相手 https://docs.google.com/document/d/1razZwLBDtB47gLhNsWQwNZqW9S1qC3S7ZVfEzGwaAxo/edit?usp=sharing tanuki-.nnue-pytorch-2024-02-28
思考時間 持ち時間 300 秒 + 1 手 2 秒加算
対局数 5000
同時対局数 64
ハッシュサイズ 384
開始局面 dlshogi 互角局面集の角換わりの割合が 10% になるよう間引いたもの

実験結果

機械学習

レーティング測定

対局数=2000 同時対局数=64 ハッシュサイズ=384 開始手数=24 最大手数=320 開始局面ファイル=C:\Jenkins\workspace\TanukiColiseum.2023-04-16\TanukiColiseum\bishop_exchange.2023-06-25.sfen NUMAノード数=1 表示更新間隔(ms)=3600000

思考エンジン1 思考エンジン2

name YaneuraOu NNUE 7.63 64ZEN2 TOURNAMENT YaneuraOu NNUE 7.63 64ZEN2 TOURNAMENT

author by yaneurao by yaneurao

exeファイル C:\Jenkins\workspace\TanukiColiseum.2023-04-16\engine1\source\YaneuraOu-by-gcc.exe C:\Jenkins\workspace\TanukiColiseum.2023-04-16\engine2\source\YaneuraOu-by-gcc.exe

評価関数フォルダパス D:\hnoda\shogi\eval\tanuki-.nnue-pytorch-2024-02-28.Suisho10Mn_psv.min_progress=0.1\0 D:\hnoda\shogi\eval\tanuki-.nnue-pytorch-2024-02-28

定跡手数 256 256

定跡ファイル名 no_book no_book

思考ノード数 0 0

思考ノード数に加える乱数(%) 0 0

思考ノード数の乱数を1手毎に変化させる False False

持ち時間(ms) 300000 300000

秒読み時間(ms) 0 0

加算時間(ms) 2000 2000

乱数付き思考時間(ms) 0 0

スレッド数 1 1

BookEvalDiff 30 30

定跡の採択率を考慮する false false

定跡の手数を無視する false false

SlowMover 100 100

DrawValue -2 -2

BookEvalBlackLimit 0 0

BookEvalWhiteLimit -140 -140

FVScale 16 16

Depth=0 0

MinimumThinkingTime 1000 1000

対局数2000 先手勝ち901(47.6%) 後手勝ち990(52.4%) 引き分け109

engine1

勝ち559(29.6% R-141.6 +-16.5) 先手勝ち258(13.6%) 後手勝ち301(15.9%)

宣言勝ち42 先手宣言勝ち15 後手宣言勝ち27 先手引き分け53 後手引き分け56

engine2

勝ち1332(70.4%) 先手勝ち643(34.0%) 後手勝ち689(36.4%)

宣言勝ち9 先手宣言勝ち5 後手宣言勝ち4 先手引き分け56 後手引き分け53

559,109,1332

学習ロスと検証ロスは、学習が進むにつれて下がっていった。

検証ロスは途中で下げ止まり、学習率が下がった。

レーティングは、 tanuki-.nnue-pytorch-2024-02-28 に比べて有意に低かった。

考察

学習ロスト検証ロスは、 Fine-tuning を行うにあたり、学習率が高すぎることを表していると思う。

レーティングが有意に低かったのは、学習率が高すぎ、学習データに過学習しているためだと思う。

まとめ

nnue-pytorch で学習した halfkp_1024x2-8-32 ネットワークを、 Suisho10Mn_psv を用いて、やねうら王純正の学習器を用いて Fine-tuning した。

レーティングは、 tanuki-.nnue-pytorch-2024-02-28 に比べて有意に低かった。レーティングが有意に低かったのは、学習率が高すぎ、学習データに過学習しているためだと思う。

次回は、 nnue-pytorch を使い、学習率を大幅に下げて学習させ、レーティングを測定したい。

tanuki- 2024-03-18 nnue-pytorch halfkp_1024x2-8-32 Fine-tuning Suisho10Mn_psv

将棋 コンピュータ将棋

tanuki- 2024-03-18 nnue-pytorch halfkp_1024x2-8-32 Fine-tuning Suisho10Mn_psv

実験内容

  • nnue-pytorch で学習した halfkp_1024x2-8-32 ネットワークを、 Suisho10Mn_psv を用いて Fine-tuning する。

シャッフル条件

生成ルーチン tanuki-シャッフルルーチン
qsearch() あり
置換表 無効

機械学習

機械学習ルーチン nnue-pytorch + やねうら王 https://github.com/nodchip/nnue-pytorch/tree/shogi.2023-10-29.halfkp_1024x2-8-32
学習モデル halfkp_1024x2-8-32
学習手法 ミニバッチ SGD
初期学習率 (lr) 0.0005
最適化手法 なし
学習率調整手法 Warmup + Newbob 風
batch-size 16384
threads 8
num-workers 8
accelerator gpu
devices 1
features HalfKP
max-epoch 1000000
score-scaling 361
lambda 0.0
勝敗項の教師信号 0.999
num-batches-warmup 10000
newbob-decay 0.5
epoch-size 1000000
num-epochs-to-adjust-lr 500
学習を打ち切る下限 newbob scale 1e-5
1 epoch 毎のネットワークパラメーターのクリップ あり
ネットワークパラメーターの量子化 量子化なしで学習し、収束後に量子化する。
ネットワークパラメーターの初期化方法 pytorch のデフォルトの初期化手法で初期化する。
勾配の正規化 なし
momentum 0.9
入玉ボーナス 入玉時、持ち駒および敵陣三段目までに侵入している駒について、小駒 1 枚につき 20 点、大駒 1 枚につき 100 点、敵陣三段目までに侵入している駒 1 枚につき 20 点追加する。

レーティング測定

対局相手 https://docs.google.com/document/d/1i_h7rxPbEVP7PaUMuDjcGUtgWdOK_gj01r_yILajWZg/edit?usp=sharing tanuki-.nnue-pytorch-2024-03-06
思考時間 持ち時間 300 秒 + 1 手 2 秒加算
対局数 5000
同時対局数 64
ハッシュサイズ 384
開始局面 dlshogi 互角局面集の角換わりの割合が 10% になるよう間引いたもの

実験結果

機械学習

レーティング測定

対局数=2000 同時対局数=64 ハッシュサイズ=384 開始手数=24 最大手数=320 開始局面ファイル=C:\Jenkins\workspace\TanukiColiseum.2023-04-16\TanukiColiseum\bishop_exchange.2023-06-25.sfen NUMAノード数=1 表示更

新間隔(ms)=3600000

思考エンジン1 思考エンジン2

name YaneuraOu NNUE 7.63 64ZEN2 TOURNAMENT YaneuraOu NNUE 7.63 64ZEN2 TOURNAMENT

author by yaneurao by yaneurao

exeファイル C:\Jenkins\workspace\TanukiColiseum.2023-04-16\engine1\source\YaneuraOu-by-gcc.exe C:\Jenkins\workspace\TanukiColiseum.2023-04-16\engine2\source\YaneuraOu-by-gcc.exe

評価関数フォルダパス D:\hnoda\shogi\eval\tanuki-.nnue-pytorch-2024-03-16.500 D:\hnoda\shogi\eval\tanuki-.nnue-pytorch-2024-03-06

定跡手数 256 256

定跡ファイル名 no_book no_book

思考ノード数 0 0

思考ノード数に加える乱数(%) 0 0

思考ノード数の乱数を1手毎に変化させる False False

持ち時間(ms) 300000 300000

秒読み時間(ms) 0 0

加算時間(ms) 2000 2000

乱数付き思考時間(ms) 0 0

スレッド数 1 1

BookEvalDiff 30 30

定跡の採択率を考慮する false false

定跡の手数を無視する false false

SlowMover 100 100

DrawValue -2 -2

BookEvalBlackLimit 0 0

BookEvalWhiteLimit -140 -140

FVScale 16 16

Depth=0 0

MinimumThinkingTime 1000 1000

対局数2000 先手勝ち1057(55.2%) 後手勝ち857(44.8%) 引き分け86

engine1

勝ち516(27.0% R-164.5 +-17.0) 先手勝ち303(15.8%) 後手勝ち213(11.1%)

宣言勝ち23 先手宣言勝ち10 後手宣言勝ち13 先手引き分け55 後手引き分け31

engine2

勝ち1398(73.0%) 先手勝ち754(39.4%) 後手勝ち644(33.6%)

宣言勝ち20 先手宣言勝ち6 後手宣言勝ち14 先手引き分け31 後手引き分け55

516,86,1398

対局数=2000 同時対局数=64 ハッシュサイズ=384 開始手数=24 最大手数=320 開始局面ファイル=C:\Jenkins\workspace\TanukiColiseum.2023-04-16\TanukiColiseum\bishop_exchange.2023-06-25.sfen NUMAノード数=1 表示更

新間隔(ms)=3600000

思考エンジン1 思考エンジン2

name YaneuraOu NNUE 7.63 64ZEN2 TOURNAMENT YaneuraOu NNUE 7.63 64ZEN2 TOURNAMENT

author by yaneurao by yaneurao

exeファイル C:\Jenkins\workspace\TanukiColiseum.2023-04-16\engine1\source\YaneuraOu-by-gcc.exe C:\Jenkins\workspace\TanukiColiseum.2023-04-16\engine2\source\YaneuraOu-by-gcc.exe

評価関数フォルダパス D:\hnoda\shogi\eval\tanuki-.nnue-pytorch-2024-03-16.1000 D:\hnoda\shogi\eval\tanuki-.nnue-pytorch-2024-03-06

定跡手数 256 256

定跡ファイル名 no_book no_book

思考ノード数 0 0

思考ノード数に加える乱数(%) 0 0

思考ノード数の乱数を1手毎に変化させる False False

持ち時間(ms) 300000 300000

秒読み時間(ms) 0 0

加算時間(ms) 2000 2000

乱数付き思考時間(ms) 0 0

スレッド数 1 1

BookEvalDiff 30 30

定跡の採択率を考慮する false false

定跡の手数を無視する false false

SlowMover 100 100

DrawValue -2 -2

BookEvalBlackLimit 0 0

BookEvalWhiteLimit -140 -140

FVScale 16 16

Depth=0 0

MinimumThinkingTime 1000 1000

対局数2000 先手勝ち952(49.4%) 後手勝ち977(50.6%) 引き分け71

engine1

勝ち407(21.1% R-218.6 +-18.3) 先手勝ち202(10.5%) 後手勝ち205(10.6%)

宣言勝ち27 先手宣言勝ち11 後手宣言勝ち16 先手引き分け26 後手引き分け45

engine2

勝ち1522(78.9%) 先手勝ち750(38.9%) 後手勝ち772(40.0%)

宣言勝ち11 先手宣言勝ち7 後手宣言勝ち4 先手引き分け45 後手引き分け26

407,71,1522

対局数=2000 同時対局数=64 ハッシュサイズ=384 開始手数=24 最大手数=320 開始局面ファイル=C:\Jenkins\workspace\TanukiColiseum.2023-04-16\TanukiColiseum\bishop_exchange.2023-06-25.sfen NUMAノード数=1 表示更

新間隔(ms)=3600000

思考エンジン1 思考エンジン2

name YaneuraOu NNUE 7.63 64ZEN2 TOURNAMENT YaneuraOu NNUE 7.63 64ZEN2 TOURNAMENT

author by yaneurao by yaneurao

exeファイル C:\Jenkins\workspace\TanukiColiseum.2023-04-16\engine1\source\YaneuraOu-by-gcc.exe C:\Jenkins\workspace\TanukiColiseum.2023-04-16\engine2\source\YaneuraOu-by-gcc.exe

評価関数フォルダパス D:\hnoda\shogi\eval\tanuki-.nnue-pytorch-2024-03-16.1500 D:\hnoda\shogi\eval\tanuki-.nnue-pytorch-2024-03-06

定跡手数 256 256

定跡ファイル名 no_book no_book

思考ノード数 0 0

思考ノード数に加える乱数(%) 0 0

思考ノード数の乱数を1手毎に変化させる False False

持ち時間(ms) 300000 300000

秒読み時間(ms) 0 0

加算時間(ms) 2000 2000

乱数付き思考時間(ms) 0 0

スレッド数 1 1

BookEvalDiff 30 30

定跡の採択率を考慮する false false

定跡の手数を無視する false false

SlowMover 100 100

DrawValue -2 -2

BookEvalBlackLimit 0 0

BookEvalWhiteLimit -140 -140

FVScale 16 16

Depth=0 0

MinimumThinkingTime 1000 1000

対局数2000 先手勝ち923(47.3%) 後手勝ち1029(52.7%) 引き分け48

engine1

勝ち298(15.3% R-286.8 +-20.7) 先手勝ち129(6.6%) 後手勝ち169(8.7%)

宣言勝ち10 先手宣言勝ち2 後手宣言勝ち8 先手引き分け12 後手引き分け36

engine2

勝ち1654(84.7%) 先手勝ち794(40.7%) 後手勝ち860(44.1%)

宣言勝ち6 先手宣言勝ち4 後手宣言勝ち2 先手引き分け36 後手引き分け12

298,48,1654

対局数=2000 同時対局数=64 ハッシュサイズ=384 開始手数=24 最大手数=320 開始局面ファイル=C:\Jenkins\workspace\TanukiColiseum.2023-04-16\TanukiColiseum\bishop_exchange.2023-06-25.sfen NUMAノード数=1 表示更

新間隔(ms)=3600000

思考エンジン1 思考エンジン2

name YaneuraOu NNUE 7.63 64ZEN2 TOURNAMENT YaneuraOu NNUE 7.63 64ZEN2 TOURNAMENT

author by yaneurao by yaneurao

exeファイル C:\Jenkins\workspace\TanukiColiseum.2023-04-16\engine1\source\YaneuraOu-by-gcc.exe C:\Jenkins\workspace\TanukiColiseum.2023-04-16\engine2\source\YaneuraOu-by-gcc.exe

評価関数フォルダパス D:\hnoda\shogi\eval\tanuki-.nnue-pytorch-2024-03-16.2000 D:\hnoda\shogi\eval\tanuki-.nnue-pytorch-2024-03-06

定跡手数 256 256

定跡ファイル名 no_book no_book

思考ノード数 0 0

思考ノード数に加える乱数(%) 0 0

思考ノード数の乱数を1手毎に変化させる False False

持ち時間(ms) 300000 300000

秒読み時間(ms) 0 0

加算時間(ms) 2000 2000

乱数付き思考時間(ms) 0 0

スレッド数 1 1

BookEvalDiff 30 30

定跡の採択率を考慮する false false

定跡の手数を無視する false false

SlowMover 100 100

DrawValue -2 -2

BookEvalBlackLimit 0 0

BookEvalWhiteLimit -140 -140

FVScale 16 16

Depth=0 0

MinimumThinkingTime 1000 1000

対局数2000 先手勝ち1000(51.2%) 後手勝ち953(48.8%) 引き分け47

engine1

勝ち345(17.7% R-258.5 +-19.6) 先手勝ち185(9.5%) 後手勝ち160(8.2%)

宣言勝ち19 先手宣言勝ち7 後手宣言勝ち12 先手引き分け24 後手引き分け23

engine2

勝ち1608(82.3%) 先手勝ち815(41.7%) 後手勝ち793(40.6%)

宣言勝ち10 先手宣言勝ち5 後手宣言勝ち5 先手引き分け23 後手引き分け24

345,47,1608

対局数=2000 同時対局数=64 ハッシュサイズ=384 開始手数=24 最大手数=320 開始局面ファイル=C:\Jenkins\workspace\TanukiColiseum.2023-04-16\TanukiColiseum\bishop_exchange.2023-06-25.sfen NUMAノード数=1 表示更

新間隔(ms)=3600000

思考エンジン1 思考エンジン2

name YaneuraOu NNUE 7.63 64ZEN2 TOURNAMENT YaneuraOu NNUE 7.63 64ZEN2 TOURNAMENT

author by yaneurao by yaneurao

exeファイル C:\Jenkins\workspace\TanukiColiseum.2023-04-16\engine1\source\YaneuraOu-by-gcc.exe C:\Jenkins\workspace\TanukiColiseum.2023-04-16\engine2\source\YaneuraOu-by-gcc.exe

評価関数フォルダパス D:\hnoda\shogi\eval\tanuki-.nnue-pytorch-2024-03-16.2500 D:\hnoda\shogi\eval\tanuki-.nnue-pytorch-2024-03-06

定跡手数 256 256

定跡ファイル名 no_book no_book

思考ノード数 0 0

思考ノード数に加える乱数(%) 0 0

思考ノード数の乱数を1手毎に変化させる False False

持ち時間(ms) 300000 300000

秒読み時間(ms) 0 0

加算時間(ms) 2000 2000

乱数付き思考時間(ms) 0 0

スレッド数 1 1

BookEvalDiff 30 30

定跡の採択率を考慮する false false

定跡の手数を無視する false false

SlowMover 100 100

DrawValue -2 -2

BookEvalBlackLimit 0 0

BookEvalWhiteLimit -140 -140

FVScale 16 16

Depth=0 0

MinimumThinkingTime 1000 1000

対局数2000 先手勝ち887(45.0%) 後手勝ち1083(55.0%) 引き分け30

engine1

勝ち300(15.2% R-291.3 +-20.9) 先手勝ち104(5.3%) 後手勝ち196(9.9%)

宣言勝ち12 先手宣言勝ち5 後手宣言勝ち7 先手引き分け8 後手引き分け22

engine2

勝ち1670(84.8%) 先手勝ち783(39.7%) 後手勝ち887(45.0%)

宣言勝ち7 先手宣言勝ち5 後手宣言勝ち2 先手引き分け22 後手引き分け8

300,30,1670

対局数=2000 同時対局数=64 ハッシュサイズ=384 開始手数=24 最大手数=320 開始局面ファイル=C:\Jenkins\workspace\TanukiColiseum.2023-04-16\TanukiColiseum\bishop_exchange.2023-06-25.sfen NUMAノード数=1 表示更

新間隔(ms)=3600000

思考エンジン1 思考エンジン2

name YaneuraOu NNUE 7.63 64ZEN2 TOURNAMENT YaneuraOu NNUE 7.63 64ZEN2 TOURNAMENT

author by yaneurao by yaneurao

exeファイル C:\Jenkins\workspace\TanukiColiseum.2023-04-16\engine1\source\YaneuraOu-by-gcc.exe C:\Jenkins\workspace\TanukiColiseum.2023-04-16\engine2\source\YaneuraOu-by-gcc.exe

評価関数フォルダパス D:\hnoda\shogi\eval\tanuki-.nnue-pytorch-2024-03-16.3000 D:\hnoda\shogi\eval\tanuki-.nnue-pytorch-2024-03-06

定跡手数 256 256

定跡ファイル名 no_book no_book

思考ノード数 0 0

思考ノード数に加える乱数(%) 0 0

思考ノード数の乱数を1手毎に変化させる False False

持ち時間(ms) 300000 300000

秒読み時間(ms) 0 0

加算時間(ms) 2000 2000

乱数付き思考時間(ms) 0 0

スレッド数 1 1

BookEvalDiff 30 30

定跡の採択率を考慮する false false

定跡の手数を無視する false false

SlowMover 100 100

DrawValue -2 -2

BookEvalBlackLimit 0 0

BookEvalWhiteLimit -140 -140

FVScale 16 16

Depth=0 0

MinimumThinkingTime 1000 1000

対局数2000 先手勝ち1012(52.8%) 後手勝ち906(47.2%) 引き分け82

engine1

勝ち361(18.8% R-239.7 +-19.0) 先手勝ち198(10.3%) 後手勝ち163(8.5%)

宣言勝ち16 先手宣言勝ち4 後手宣言勝ち12 先手引き分け58 後手引き分け24

engine2

勝ち1557(81.2%) 先手勝ち814(42.4%) 後手勝ち743(38.7%)

宣言勝ち9 先手宣言勝ち6 後手宣言勝ち3 先手引き分け24 後手引き分け58

361,82,1557

対局数=2000 同時対局数=64 ハッシュサイズ=384 開始手数=24 最大手数=320 開始局面ファイル=C:\Jenkins\workspace\TanukiColiseum.2023-04-16\TanukiColiseum\bishop_exchange.2023-06-25.sfen NUMAノード数=1 表示更

新間隔(ms)=3600000

思考エンジン1 思考エンジン2

name YaneuraOu NNUE 7.63 64ZEN2 TOURNAMENT YaneuraOu NNUE 7.63 64ZEN2 TOURNAMENT

author by yaneurao by yaneurao

exeファイル C:\Jenkins\workspace\TanukiColiseum.2023-04-16\engine1\source\YaneuraOu-by-gcc.exe C:\Jenkins\workspace\TanukiColiseum.2023-04-16\engine2\source\YaneuraOu-by-gcc.exe

評価関数フォルダパス D:\hnoda\shogi\eval\tanuki-.nnue-pytorch-2024-03-16.3500 D:\hnoda\shogi\eval\tanuki-.nnue-pytorch-2024-03-06

定跡手数 256 256

定跡ファイル名 no_book no_book

思考ノード数 0 0

思考ノード数に加える乱数(%) 0 0

思考ノード数の乱数を1手毎に変化させる False False

持ち時間(ms) 300000 300000

秒読み時間(ms) 0 0

加算時間(ms) 2000 2000

乱数付き思考時間(ms) 0 0

スレッド数 1 1

BookEvalDiff 30 30

定跡の採択率を考慮する false false

定跡の手数を無視する false false

SlowMover 100 100

DrawValue -2 -2

BookEvalBlackLimit 0 0

BookEvalWhiteLimit -140 -140

FVScale 16 16

Depth=0 0

MinimumThinkingTime 1000 1000

対局数2000 先手勝ち984(50.3%) 後手勝ち974(49.7%) 引き分け42

engine1

勝ち329(16.8% R-269.4 +-20.0) 先手勝ち171(8.7%) 後手勝ち158(8.1%)

宣言勝ち11 先手宣言勝ち3 後手宣言勝ち8 先手引き分け15 後手引き分け27

engine2

勝ち1629(83.2%) 先手勝ち813(41.5%) 後手勝ち816(41.7%)

宣言勝ち8 先手宣言勝ち6 後手宣言勝ち2 先手引き分け27 後手引き分け15

329,42,1629

対局数=2000 同時対局数=64 ハッシュサイズ=384 開始手数=24 最大手数=320 開始局面ファイル=C:\Jenkins\workspace\TanukiColiseum.2023-04-16\TanukiColiseum\bishop_exchange.2023-06-25.sfen NUMAノード数=1 表示更

新間隔(ms)=3600000

思考エンジン1 思考エンジン2

name YaneuraOu NNUE 7.63 64ZEN2 TOURNAMENT YaneuraOu NNUE 7.63 64ZEN2 TOURNAMENT

author by yaneurao by yaneurao

exeファイル C:\Jenkins\workspace\TanukiColiseum.2023-04-16\engine1\source\YaneuraOu-by-gcc.exe C:\Jenkins\workspace\TanukiColiseum.2023-04-16\engine2\source\YaneuraOu-by-gcc.exe

評価関数フォルダパス D:\hnoda\shogi\eval\tanuki-.nnue-pytorch-2024-03-16.4000 D:\hnoda\shogi\eval\tanuki-.nnue-pytorch-2024-03-06

定跡手数 256 256

定跡ファイル名 no_book no_book

思考ノード数 0 0

思考ノード数に加える乱数(%) 0 0

思考ノード数の乱数を1手毎に変化させる False False

持ち時間(ms) 300000 300000

秒読み時間(ms) 0 0

加算時間(ms) 2000 2000

乱数付き思考時間(ms) 0 0

スレッド数 1 1

BookEvalDiff 30 30

定跡の採択率を考慮する false false

定跡の手数を無視する false false

SlowMover 100 100

DrawValue -2 -2

BookEvalBlackLimit 0 0

BookEvalWhiteLimit -140 -140

FVScale 16 16

Depth=0 0

MinimumThinkingTime 1000 1000

対局数2000 先手勝ち1036(55.2%) 後手勝ち840(44.8%) 引き分け124

engine1

勝ち358(19.1% R-230.2 +-18.7) 先手勝ち208(11.1%) 後手勝ち150(8.0%)

宣言勝ち10 先手宣言勝ち5 後手宣言勝ち5 先手引き分け102 後手引き分け22

engine2

勝ち1518(80.9%) 先手勝ち828(44.1%) 後手勝ち690(36.8%)

宣言勝ち9 先手宣言勝ち3 後手宣言勝ち6 先手引き分け22 後手引き分け102

358,124,1518

対局数=2000 同時対局数=64 ハッシュサイズ=384 開始手数=24 最大手数=320 開始局面ファイル=C:\Jenkins\workspace\TanukiColiseum.2023-04-16\TanukiColiseum\bishop_exchange.2023-06-25.sfen NUMAノード数=1 表示更

新間隔(ms)=3600000

思考エンジン1 思考エンジン2

name YaneuraOu NNUE 7.63 64ZEN2 TOURNAMENT YaneuraOu NNUE 7.63 64ZEN2 TOURNAMENT

author by yaneurao by yaneurao

exeファイル C:\Jenkins\workspace\TanukiColiseum.2023-04-16\engine1\source\YaneuraOu-by-gcc.exe C:\Jenkins\workspace\TanukiColiseum.2023-04-16\engine2\source\YaneuraOu-by-gcc.exe

評価関数フォルダパス D:\hnoda\shogi\eval\tanuki-.nnue-pytorch-2024-03-16.4500 D:\hnoda\shogi\eval\tanuki-.nnue-pytorch-2024-03-06

定跡手数 256 256

定跡ファイル名 no_book no_book

思考ノード数 0 0

思考ノード数に加える乱数(%) 0 0

思考ノード数の乱数を1手毎に変化させる False False

持ち時間(ms) 300000 300000

秒読み時間(ms) 0 0

加算時間(ms) 2000 2000

乱数付き思考時間(ms) 0 0

スレッド数 1 1

BookEvalDiff 30 30

定跡の採択率を考慮する false false

定跡の手数を無視する false false

SlowMover 100 100

DrawValue -2 -2

BookEvalBlackLimit 0 0

BookEvalWhiteLimit -140 -140

FVScale 16 16

Depth=0 0

MinimumThinkingTime 1000 1000

対局数2000 先手勝ち1009(51.8%) 後手勝ち939(48.2%) 引き分け52

engine1

勝ち402(20.6% R-226.0 +-18.6) 先手勝ち222(11.4%) 後手勝ち180(9.2%)

宣言勝ち10 先手宣言勝ち3 後手宣言勝ち7 先手引き分け21 後手引き分け31

engine2

勝ち1546(79.4%) 先手勝ち787(40.4%) 後手勝ち759(39.0%)

宣言勝ち13 先手宣言勝ち4 後手宣言勝ち9 先手引き分け31 後手引き分け21

402,52,1546

対局数=2000 同時対局数=64 ハッシュサイズ=384 開始手数=24 最大手数=320 開始局面ファイル=C:\Jenkins\workspace\TanukiColiseum.2023-04-16\TanukiColiseum\bishop_exchange.2023-06-25.sfen NUMAノード数=1 表示更

新間隔(ms)=3600000

思考エンジン1 思考エンジン2

name YaneuraOu NNUE 7.63 64ZEN2 TOURNAMENT YaneuraOu NNUE 7.63 64ZEN2 TOURNAMENT

author by yaneurao by yaneurao

exeファイル C:\Jenkins\workspace\TanukiColiseum.2023-04-16\engine1\source\YaneuraOu-by-gcc.exe C:\Jenkins\workspace\TanukiColiseum.2023-04-16\engine2\source\YaneuraOu-by-gcc.exe

評価関数フォルダパス D:\hnoda\shogi\eval\tanuki-.nnue-pytorch-2024-03-16.5000 D:\hnoda\shogi\eval\tanuki-.nnue-pytorch-2024-03-06

定跡手数 256 256

定跡ファイル名 no_book no_book

思考ノード数 0 0

思考ノード数に加える乱数(%) 0 0

思考ノード数の乱数を1手毎に変化させる False False

持ち時間(ms) 300000 300000

秒読み時間(ms) 0 0

加算時間(ms) 2000 2000

乱数付き思考時間(ms) 0 0

スレッド数 1 1

BookEvalDiff 30 30

定跡の採択率を考慮する false false

定跡の手数を無視する false false

SlowMover 100 100

DrawValue -2 -2

BookEvalBlackLimit 0 0

BookEvalWhiteLimit -140 -140

FVScale 16 16

Depth=0 0

MinimumThinkingTime 1000 1000

対局数2000 先手勝ち1054(55.2%) 後手勝ち855(44.8%) 引き分け91

engine1

勝ち392(20.5% R-221.1 +-18.4) 先手勝ち234(12.3%) 後手勝ち158(8.3%)

宣言勝ち8 先手宣言勝ち4 後手宣言勝ち4 先手引き分け71 後手引き分け20

engine2

勝ち1517(79.5%) 先手勝ち820(43.0%) 後手勝ち697(36.5%)

宣言勝ち15 先手宣言勝ち8 後手宣言勝ち7 先手引き分け20 後手引き分け71

392,91,1517

学習局面数 レーティング差
5 億 -164.5
10 億 -218.6
15 億 -286.8
20 億 -258.5
25 億 -291.3
30 億 -239.7
35 億 -269.4
40 億 -230.2
45 億 -226.0
50 億 -221.1

学習ロスは、学習が進むにつれて下がっていった。

検証ロスは、学習が進むにつれて下がったあと、上がっていった。

レーティングは、 tanuki-.nnue-pytorch-2024-03-06 に比べていずれも有意に低かった。

考察

学習ロスと検証ロスは、過学習が起こっていることを表していると思う。

レーティングが有意に低かったのは、過学習が起こったためだと思う。過学習を防ぐには、学習率を下げればよいと思う。

まとめ

nnue-pytorch で学習した halfkp_1024x2-8-32 ネットワークを、 Suisho10Mn_psv を用いて Fine-tuning した。

結果、レーティングは、 tanuki-.nnue-pytorch-2024-03-06 に比べていずれも有意に低かった。レーティングが有意に低かったのは、過学習が起こったためだと思う。過学習を防ぐには、学習率を下げればよいと思う。

次回は、やねうら王純正の学習器で同様の学習を行い、レーティングを測定し、 nnue-pytorch との違いを比較したい。

tanuki- 2024-03-15 nnue-pytorch halfkp_1024x2-8-32 Fine-tuning Suishopsv-150m

将棋 コンピュータ将棋

tanuki- 2024-03-15 nnue-pytorch halfkp_1024x2-8-32 Fine-tuning Suishopsv-150m

実験内容

  • nnue-pytorch で学習した halfkp_1024x2-8-32 ネットワークを、 Suishopsv-150m を用いて Fine-tuning する。

シャッフル条件

生成ルーチン tanuki-シャッフルルーチン
qsearch() あり
置換表 無効

機械学習

機械学習ルーチン やねうら王機械学習ルーチン
学習モデル halfkp_1024x2-8-32
学習手法 SGD ミニバッチ法
USI_Hash 1024
Threads 16
loop 1000
batchsize 1000000
lambda 0.0
eta eta1=1e-8 eta2=0.001 eta1_epoch=100
newbob_decay 0.5
nn_batch_size 1000
eval_save_interval 500000000
loss_output_interval 1000000
mirror_percentage 50
eval_limit 32000
weight_by_progress 無効
次元下げ K・P・相対KP
学習データ内で重複した局面の除外 バージョンのデフォルトに依存する
初期ネットワークパラメーター tanuki-.nnue-pytorch-2024-03-06
勝敗項の教師信号 0.999

レーティング測定

対局相手 https://docs.google.com/document/d/1i_h7rxPbEVP7PaUMuDjcGUtgWdOK_gj01r_yILajWZg/edit?usp=sharing tanuki-.nnue-pytorch-2024-03-06
思考時間 持ち時間 300 秒 + 1 手 2 秒加算
対局数 5000
同時対局数 64
ハッシュサイズ 384
開始局面 dlshogi 互角局面集の角換わりの割合が 10% になるよう間引いたもの

実験結果

機械学習

レーティング測定

対局数=2000 同時対局数=64 ハッシュサイズ=384 開始手数=24 最大手数=320 開始局面ファイル=C:\Jenkins\workspace\TanukiColiseum.2023-04-16\TanukiColiseum\bishop_exchange.2023-06-25.sfen NUMAノード数=1 表示更新間隔(ms)=3600000

思考エンジン1 思考エンジン2

name YaneuraOu NNUE 7.63 64ZEN2 TOURNAMENT YaneuraOu NNUE 7.63 64ZEN2 TOURNAMENT

author by yaneurao by yaneurao

exeファイル C:\Jenkins\workspace\TanukiColiseum.2023-04-16\engine1\source\YaneuraOu-by-gcc.exe C:\Jenkins\workspace\TanukiColiseum.2023-04-16\engine2\source\YaneuraOu-by-gcc.exe

評価関数フォルダパス D:\hnoda\shogi\eval\tanuki-.nnue-pytorch-2024-02-28.Suishopsv-150m\0 D:\hnoda\shogi\eval\tanuki-.nnue-pytorch-2024-02-28

定跡手数 256 256

定跡ファイル名 no_book no_book

思考ノード数 0 0

思考ノード数に加える乱数(%) 0 0

思考ノード数の乱数を1手毎に変化させる False False

持ち時間(ms) 300000 300000

秒読み時間(ms) 0 0

加算時間(ms) 2000 2000

乱数付き思考時間(ms) 0 0

スレッド数 1 1

BookEvalDiff 30 30

定跡の採択率を考慮する false false

定跡の手数を無視する false false

SlowMover 100 100

DrawValue -2 -2

BookEvalBlackLimit 0 0

BookEvalWhiteLimit -140 -140

FVScale 16 16

Depth=0 0

MinimumThinkingTime 1000 1000

対局数2000 先手勝ち1025(60.5%) 後手勝ち669(39.5%) 引き分け306

engine1

勝ち797(47.0% R-17.4 +-15.3) 先手勝ち501(29.6%) 後手勝ち296(17.5%)

宣言勝ち28 先手宣言勝ち18 後手宣言勝ち10 先手引き分け129 後手引き分け177

engine2

勝ち897(53.0%) 先手勝ち524(30.9%) 後手勝ち373(22.0%)

宣言勝ち21 先手宣言勝ち10 後手宣言勝ち11 先手引き分け177 後手引き分け129

797,306,897

対局数=2000 同時対局数=64 ハッシュサイズ=384 開始手数=24 最大手数=320 開始局面ファイル=C:\Jenkins\workspace\TanukiColiseum.2023-04-16\TanukiColiseum\bishop_exchange.2023-06-25.sfen NUMAノード数=1 表示更新間隔(ms)=3600000

思考エンジン1 思考エンジン2

name YaneuraOu NNUE 7.63 64ZEN2 TOURNAMENT YaneuraOu NNUE 7.63 64ZEN2 TOURNAMENT

author by yaneurao by yaneurao

exeファイル C:\Jenkins\workspace\TanukiColiseum.2023-04-16\engine1\source\YaneuraOu-by-gcc.exe C:\Jenkins\workspace\TanukiColiseum.2023-04-16\engine2\source\YaneuraOu-by-gcc.exe

評価関数フォルダパス D:\hnoda\shogi\eval\tanuki-.nnue-pytorch-2024-02-28.Suishopsv-150m\1 D:\hnoda\shogi\eval\tanuki-.nnue-pytorch-2024-02-28

定跡手数 256 256

定跡ファイル名 no_book no_book

思考ノード数 0 0

思考ノード数に加える乱数(%) 0 0

思考ノード数の乱数を1手毎に変化させる False False

持ち時間(ms) 300000 300000

秒読み時間(ms) 0 0

加算時間(ms) 2000 2000

乱数付き思考時間(ms) 0 0

スレッド数 1 1

BookEvalDiff 30 30

定跡の採択率を考慮する false false

定跡の手数を無視する false false

SlowMover 100 100

DrawValue -2 -2

BookEvalBlackLimit 0 0

BookEvalWhiteLimit -140 -140

FVScale 16 16

Depth=0 0

MinimumThinkingTime 1000 1000

対局数2000 先手勝ち1077(61.4%) 後手勝ち677(38.6%) 引き分け246

engine1

勝ち906(51.7% R10.1 +-15.2) 先手勝ち572(32.6%) 後手勝ち334(19.0%)

宣言勝ち32 先手宣言勝ち17 後手宣言勝ち15 先手引き分け88 後手引き分け158

engine2

勝ち848(48.3%) 先手勝ち505(28.8%) 後手勝ち343(19.6%)

宣言勝ち25 先手宣言勝ち8 後手宣言勝ち17 先手引き分け158 後手引き分け88

906,246,848

対局数=2000 同時対局数=64 ハッシュサイズ=384 開始手数=24 最大手数=320 開始局面ファイル=C:\Jenkins\workspace\TanukiColiseum.2023-04-16\TanukiColiseum\bishop_exchange.2023-06-25.sfen NUMAノード数=1 表示更新間隔(ms)=3600000

思考エンジン1 思考エンジン2

name YaneuraOu NNUE 7.63 64ZEN2 TOURNAMENT YaneuraOu NNUE 7.63 64ZEN2 TOURNAMENT

author by yaneurao by yaneurao

exeファイル C:\Jenkins\workspace\TanukiColiseum.2023-04-16\engine1\source\YaneuraOu-by-gcc.exe C:\Jenkins\workspace\TanukiColiseum.2023-04-16\engine2\source\YaneuraOu-by-gcc.exe

評価関数フォルダパス D:\hnoda\shogi\eval\tanuki-.nnue-pytorch-2024-02-28.Suishopsv-150m\2 D:\hnoda\shogi\eval\tanuki-.nnue-pytorch-2024-02-28

定跡手数 256 256

定跡ファイル名 no_book no_book

思考ノード数 0 0

思考ノード数に加える乱数(%) 0 0

思考ノード数の乱数を1手毎に変化させる False False

持ち時間(ms) 300000 300000

秒読み時間(ms) 0 0

加算時間(ms) 2000 2000

乱数付き思考時間(ms) 0 0

スレッド数 1 1

BookEvalDiff 30 30

定跡の採択率を考慮する false false

定跡の手数を無視する false false

SlowMover 100 100

DrawValue -2 -2

BookEvalBlackLimit 0 0

BookEvalWhiteLimit -140 -140

FVScale 16 16

Depth=0 0

MinimumThinkingTime 1000 1000

対局数2000 先手勝ち1154(62.4%) 後手勝ち695(37.6%) 引き分け151

engine1

勝ち892(48.2% R-11.3 +-15.2) 先手勝ち562(30.4%) 後手勝ち330(17.8%)

宣言勝ち25 先手宣言勝ち21 後手宣言勝ち4 先手引き分け73 後手引き分け78

engine2

勝ち957(51.8%) 先手勝ち592(32.0%) 後手勝ち365(19.7%)

宣言勝ち26 先手宣言勝ち9 後手宣言勝ち17 先手引き分け78 後手引き分け73

892,151,957

対局数=2000 同時対局数=64 ハッシュサイズ=384 開始手数=24 最大手数=320 開始局面ファイル=C:\Jenkins\workspace\TanukiColiseum.2023-04-16\TanukiColiseum\bishop_exchange.2023-06-25.sfen NUMAノード数=1 表示更新間隔(ms)=3600000

思考エンジン1 思考エンジン2

name YaneuraOu NNUE 7.63 64ZEN2 TOURNAMENT YaneuraOu NNUE 7.63 64ZEN2 TOURNAMENT

author by yaneurao by yaneurao

exeファイル C:\Jenkins\workspace\TanukiColiseum.2023-04-16\engine1\source\YaneuraOu-by-gcc.exe C:\Jenkins\workspace\TanukiColiseum.2023-04-16\engine2\source\YaneuraOu-by-gcc.exe

評価関数フォルダパス D:\hnoda\shogi\eval\tanuki-.nnue-pytorch-2024-02-28.Suishopsv-150m\3 D:\hnoda\shogi\eval\tanuki-.nnue-pytorch-2024-02-28

定跡手数 256 256

定跡ファイル名 no_book no_book

思考ノード数 0 0

思考ノード数に加える乱数(%) 0 0

思考ノード数の乱数を1手毎に変化させる False False

持ち時間(ms) 300000 300000

秒読み時間(ms) 0 0

加算時間(ms) 2000 2000

乱数付き思考時間(ms) 0 0

スレッド数 1 1

BookEvalDiff 30 30

定跡の採択率を考慮する false false

定跡の手数を無視する false false

SlowMover 100 100

DrawValue -2 -2

BookEvalBlackLimit 0 0

BookEvalWhiteLimit -140 -140

FVScale 16 16

Depth=0 0

MinimumThinkingTime 1000 1000

対局数2000 先手勝ち1183(63.8%) 後手勝ち671(36.2%) 引き分け146

engine1

勝ち774(41.7% R-53.6 +-15.4) 先手勝ち513(27.7%) 後手勝ち261(14.1%)

宣言勝ち26 先手宣言勝ち17 後手宣言勝ち9 先手引き分け80 後手引き分け66

engine2

勝ち1080(58.3%) 先手勝ち670(36.1%) 後手勝ち410(22.1%)

宣言勝ち21 先手宣言勝ち10 後手宣言勝ち11 先手引き分け66 後手引き分け80

774,146,1080

対局数=2000 同時対局数=64 ハッシュサイズ=384 開始手数=24 最大手数=320 開始局面ファイル=C:\Jenkins\workspace\TanukiColiseum.2023-04-16\TanukiColiseum\bishop_exchange.2023-06-25.sfen NUMAノード数=1 表示更新間隔(ms)=3600000

思考エンジン1 思考エンジン2

name YaneuraOu NNUE 7.63 64ZEN2 TOURNAMENT YaneuraOu NNUE 7.63 64ZEN2 TOURNAMENT

author by yaneurao by yaneurao

exeファイル C:\Jenkins\workspace\TanukiColiseum.2023-04-16\engine1\source\YaneuraOu-by-gcc.exe C:\Jenkins\workspace\TanukiColiseum.2023-04-16\engine2\source\YaneuraOu-by-gcc.exe

評価関数フォルダパス D:\hnoda\shogi\eval\tanuki-.nnue-pytorch-2024-02-28.Suishopsv-150m\4 D:\hnoda\shogi\eval\tanuki-.nnue-pytorch-2024-02-28

定跡手数 256 256

定跡ファイル名 no_book no_book

思考ノード数 0 0

思考ノード数に加える乱数(%) 0 0

思考ノード数の乱数を1手毎に変化させる False False

持ち時間(ms) 300000 300000

秒読み時間(ms) 0 0

加算時間(ms) 2000 2000

乱数付き思考時間(ms) 0 0

スレッド数 1 1

BookEvalDiff 30 30

定跡の採択率を考慮する false false

定跡の手数を無視する false false

SlowMover 100 100

DrawValue -2 -2

BookEvalBlackLimit 0 0

BookEvalWhiteLimit -140 -140

FVScale 16 16

Depth=0 0

MinimumThinkingTime 1000 1000

対局数2000 先手勝ち1132(62.0%) 後手勝ち694(38.0%) 引き分け174

engine1

勝ち861(47.2% R-18.1 +-15.3) 先手勝ち550(30.1%) 後手勝ち311(17.0%)

宣言勝ち36 先手宣言勝ち21 後手宣言勝ち15 先手引き分け68 後手引き分け106

engine2

勝ち965(52.8%) 先手勝ち582(31.9%) 後手勝ち383(21.0%)

宣言勝ち33 先手宣言勝ち15 後手宣言勝ち18 先手引き分け106 後手引き分け68

861,174,965

対局数=2000 同時対局数=64 ハッシュサイズ=384 開始手数=24 最大手数=320 開始局面ファイル=C:\Jenkins\workspace\TanukiColiseum.2023-04-16\TanukiColiseum\bishop_exchange.2023-06-25.sfen NUMAノード数=1 表示更新間隔(ms)=3600000

思考エンジン1 思考エンジン2

name YaneuraOu NNUE 7.63 64ZEN2 TOURNAMENT YaneuraOu NNUE 7.63 64ZEN2 TOURNAMENT

author by yaneurao by yaneurao

exeファイル C:\Jenkins\workspace\TanukiColiseum.2023-04-16\engine1\source\YaneuraOu-by-gcc.exe C:\Jenkins\workspace\TanukiColiseum.2023-04-16\engine2\source\YaneuraOu-by-gcc.exe

評価関数フォルダパス D:\hnoda\shogi\eval\tanuki-.nnue-pytorch-2024-02-28.Suishopsv-150m\5 D:\hnoda\shogi\eval\tanuki-.nnue-pytorch-2024-02-28

定跡手数 256 256

定跡ファイル名 no_book no_book

思考ノード数 0 0

思考ノード数に加える乱数(%) 0 0

思考ノード数の乱数を1手毎に変化させる False False

持ち時間(ms) 300000 300000

秒読み時間(ms) 0 0

加算時間(ms) 2000 2000

乱数付き思考時間(ms) 0 0

スレッド数 1 1

BookEvalDiff 30 30

定跡の採択率を考慮する false false

定跡の手数を無視する false false

SlowMover 100 100

DrawValue -2 -2

BookEvalBlackLimit 0 0

BookEvalWhiteLimit -140 -140

FVScale 16 16

Depth=0 0

MinimumThinkingTime 1000 1000

対局数2000 先手勝ち1074(58.6%) 後手勝ち760(41.4%) 引き分け166

engine1

勝ち843(46.0% R-25.8 +-15.3) 先手勝ち511(27.9%) 後手勝ち332(18.1%)

宣言勝ち28 先手宣言勝ち11 後手宣言勝ち17 先手引き分け61 後手引き分け105

engine2

勝ち991(54.0%) 先手勝ち563(30.7%) 後手勝ち428(23.3%)

宣言勝ち29 先手宣言勝ち9 後手宣言勝ち20 先手引き分け105 後手引き分け61

843,166,991

numGames=2000 numConcurrentGames=64 hashMb=384 numBookMoves=24 maxMovesToDraw=320 sfenFilePath=C:\Jenkins\workspace\TanukiColiseum.2023-04-16\TanukiColiseum\bishop_exchange.2023-06-25.sfen numNumaNodes=1 progressIntervalMs=3600000

engine1 engine2

name YaneuraOu NNUE 7.63 64ZEN2 TOURNAMENT YaneuraOu NNUE 7.63 64ZEN2 TOURNAMENT

author by yaneurao by yaneurao

engineFilePath C:\Jenkins\workspace\TanukiColiseum.2023-04-16\engine1\source\YaneuraOu-by-gcc.exe C:\Jenkins\workspace\TanukiColiseum.2023-04-16\engine2\source\YaneuraOu-by-gcc.exe

evalFolderPath D:\hnoda\shogi\eval\tanuki-.nnue-pytorch-2024-02-28.Suishopsv-150m\6 D:\hnoda\shogi\eval\tanuki-.nnue-pytorch-2024-02-28

numBookMoves 256 256

bookFileName no_book no_book

nodes 0 0

nodesRandomPercent 0 0

nodesRandomEveryMove False False

time 300000 300000

byoyomi 0 0

inc 2000 2000

rtime 0 0

numThreads 1 1

bookEvalDiff 30 30

considerBookMoveCount false false

ignoreBookPly false false

slowMover 100 100

drawValue -2 -2

bookEvalBlackLimit 0 0

bookEvalWhiteLimit -140 -140

fvScale 16 16

depth=0 0

minimumThinkingTime 1000 1000

numFinishedGames=2000 blackWin=1103(59.7%) whiteWin=744(40.3%) numDraw=153

engine1

engine1Win=916(49.6% R-2.6 +-15.2) engine1BlackWin=553(29.9%) engine1WhiteWin=363(19.7%)

engine1DeclarationWin=40 engine1DeclarationWinBlack=25 engine1DeclarationWinWhite=15 engine1DrawBlack=69 engine2DrawBlack=84

engine2

engine2Win=931(50.4%) engine2BlackWin=550(29.8%) engine2WhiteWin=381(20.6%)

engine2DeclarationWin=29 engine2DeclarationWinBlack=15 engine2DeclarationWinWhite=14 engine2DrawBlack=84 engine1DrawBlack=69

916,153,931

対局数=2000 同時対局数=64 ハッシュサイズ=384 開始手数=24 最大手数=320 開始局面ファイル=C:\Jenkins\workspace\TanukiColiseum.2023-04-16\TanukiColiseum\bishop_exchange.2023-06-25.sfen NUMAノード数=1 表示更新間隔(ms)=3600000

思考エンジン1 思考エンジン2

name YaneuraOu NNUE 7.63 64ZEN2 TOURNAMENT YaneuraOu NNUE 7.63 64ZEN2 TOURNAMENT

author by yaneurao by yaneurao

exeファイル C:\Jenkins\workspace\TanukiColiseum.2023-04-16\engine1\source\YaneuraOu-by-gcc.exe C:\Jenkins\workspace\TanukiColiseum.2023-04-16\engine2\source\YaneuraOu-by-gcc.exe

評価関数フォルダパス D:\hnoda\shogi\eval\tanuki-.nnue-pytorch-2024-02-28.Suishopsv-150m\7 D:\hnoda\shogi\eval\tanuki-.nnue-pytorch-2024-02-28

定跡手数 256 256

定跡ファイル名 no_book no_book

思考ノード数 0 0

思考ノード数に加える乱数(%) 0 0

思考ノード数の乱数を1手毎に変化させる False False

持ち時間(ms) 300000 300000

秒読み時間(ms) 0 0

加算時間(ms) 2000 2000

乱数付き思考時間(ms) 0 0

スレッド数 1 1

BookEvalDiff 30 30

定跡の採択率を考慮する false false

定跡の手数を無視する false false

SlowMover 100 100

DrawValue -2 -2

BookEvalBlackLimit 0 0

BookEvalWhiteLimit -140 -140

FVScale 16 16

Depth=0 0

MinimumThinkingTime 1000 1000

対局数2000 先手勝ち1093(58.5%) 後手勝ち774(41.5%) 引き分け133

engine1

勝ち855(45.8% R-27.3 +-15.3) 先手勝ち506(27.1%) 後手勝ち349(18.7%)

宣言勝ち32 先手宣言勝ち18 後手宣言勝ち14 先手引き分け65 後手引き分け68

engine2

勝ち1012(54.2%) 先手勝ち587(31.4%) 後手勝ち425(22.8%)

宣言勝ち15 先手宣言勝ち3 後手宣言勝ち12 先手引き分け68 後手引き分け65

855,133,1012

対局数=2000 同時対局数=64 ハッシュサイズ=384 開始手数=24 最大手数=320 開始局面ファイル=C:\Jenkins\workspace\TanukiColiseum.2023-04-16\TanukiColiseum\bishop_exchange.2023-06-25.sfen NUMAノード数=1 表示更新間隔(ms)=3600000

思考エンジン1 思考エンジン2

name YaneuraOu NNUE 7.63 64ZEN2 TOURNAMENT YaneuraOu NNUE 7.63 64ZEN2 TOURNAMENT

author by yaneurao by yaneurao

exeファイル C:\Jenkins\workspace\TanukiColiseum.2023-04-16\engine1\source\YaneuraOu-by-gcc.exe C:\Jenkins\workspace\TanukiColiseum.2023-04-16\engine2\source\YaneuraOu-by-gcc.exe

評価関数フォルダパス D:\hnoda\shogi\eval\tanuki-.nnue-pytorch-2024-02-28.Suishopsv-150m\8 D:\hnoda\shogi\eval\tanuki-.nnue-pytorch-2024-02-28

定跡手数 256 256

定跡ファイル名 no_book no_book

思考ノード数 0 0

思考ノード数に加える乱数(%) 0 0

思考ノード数の乱数を1手毎に変化させる False False

持ち時間(ms) 300000 300000

秒読み時間(ms) 0 0

加算時間(ms) 2000 2000

乱数付き思考時間(ms) 0 0

スレッド数 1 1

BookEvalDiff 30 30

定跡の採択率を考慮する false false

定跡の手数を無視する false false

SlowMover 100 100

DrawValue -2 -2

BookEvalBlackLimit 0 0

BookEvalWhiteLimit -140 -140

FVScale 16 16

Depth=0 0

MinimumThinkingTime 1000 1000

対局数2000 先手勝ち1042(55.6%) 後手勝ち833(44.4%) 引き分け125

engine1

勝ち830(44.3% R-37.5 +-15.3) 先手勝ち469(25.0%) 後手勝ち361(19.3%)

宣言勝ち36 先手宣言勝ち20 後手宣言勝ち16 先手引き分け63 後手引き分け62

engine2

勝ち1045(55.7%) 先手勝ち573(30.6%) 後手勝ち472(25.2%)

宣言勝ち18 先手宣言勝ち3 後手宣言勝ち15 先手引き分け62 後手引き分け63

830,125,1045

対局数=2000 同時対局数=64 ハッシュサイズ=384 開始手数=24 最大手数=320 開始局面ファイル=C:\Jenkins\workspace\TanukiColiseum.2023-04-16\TanukiColiseum\bishop_exchange.2023-06-25.sfen NUMAノード数=1 表示更新間隔(ms)=3600000

思考エンジン1 思考エンジン2

name YaneuraOu NNUE 7.63 64ZEN2 TOURNAMENT YaneuraOu NNUE 7.63 64ZEN2 TOURNAMENT

author by yaneurao by yaneurao

exeファイル C:\Jenkins\workspace\TanukiColiseum.2023-04-16\engine1\source\YaneuraOu-by-gcc.exe C:\Jenkins\workspace\TanukiColiseum.2023-04-16\engine2\source\YaneuraOu-by-gcc.exe

評価関数フォルダパス D:\hnoda\shogi\eval\tanuki-.nnue-pytorch-2024-02-28.Suishopsv-150m\final D:\hnoda\shogi\eval\tanuki-.nnue-pytorch-2024-02-28

定跡手数 256 256

定跡ファイル名 no_book no_book

思考ノード数 0 0

思考ノード数に加える乱数(%) 0 0

思考ノード数の乱数を1手毎に変化させる False False

持ち時間(ms) 300000 300000

秒読み時間(ms) 0 0

加算時間(ms) 2000 2000

乱数付き思考時間(ms) 0 0

スレッド数 1 1

BookEvalDiff 30 30

定跡の採択率を考慮する false false

定跡の手数を無視する false false

SlowMover 100 100

DrawValue -2 -2

BookEvalBlackLimit 0 0

BookEvalWhiteLimit -140 -140

FVScale 16 16

Depth=0 0

MinimumThinkingTime 1000 1000

対局数2000 先手勝ち1024(55.2%) 後手勝ち830(44.8%) 引き分け146

engine1

勝ち843(45.5% R-29.3 +-15.3) 先手勝ち471(25.4%) 後手勝ち372(20.1%)

宣言勝ち40 先手宣言勝ち19 後手宣言勝ち21 先手引き分け71 後手引き分け75

engine2

勝ち1011(54.5%) 先手勝ち553(29.8%) 後手勝ち458(24.7%)

宣言勝ち18 先手宣言勝ち6 後手宣言勝ち12 先手引き分け75 後手引き分け71

843,146,1011

学習局面数 レーティング差
5 億 -17.4
10 億 10.1
15 億 -11.3
20 億 -53.6
25 億 -18.1
30 億 -25.8
35 億 -2.6
40 億 -27.3
45 億 -37.5
50 億 -29.3

学習ロスと検証ロスは、学習が進むにつれて下がっていった。

平手局面の評価値は、学習が進むにつれて上がっていった。

評価値の絶対値は、学習が進むにつれて上がっていった。

レーティングは、 tanuki-.nnue-pytorch-2024-03-06 に比べて有意に高いものはなかった。

考察

学習ロスト検証ロスは、学習に発散等、大きな問題がなかったことを表していると思う。

平手局面の評価値は、 Suishopsv-150m の先手勝率が高いことを表していると思う。

評価値の絶対値は、 Suishopsv-150m で Fine-tuning を進めることにより、評価値の絶対値が大きくなることを表していると思う。

レーティングはが有意に高くならなかったのは、 tanuki-.nnue-pytorch-2024-03-06 の学習データが Hao だったためだと思う。 Hao は Suishopsv-150m で Fine-tuning してあるため、再度 Fine-tuning しようとして過学習してしまったのだと思う。

まとめ

nnue-pytorch で学習した halfkp_1024x2-8-32 ネットワークを、 Suishopsv-150m を用いて Fine-tuning した。

レーティングは、 tanuki-.nnue-pytorch-2024-03-06 に比べて有意に高いものはなかった。レーティングはが有意に高くならなかったのは、 tanuki-.nnue-pytorch-2024-03-06 の学習データが Hao だったためだと思う。 Hao は Suishopsv-150m で Fine-tuning してあるため、再度 Fine-tuning しようとして過学習してしまったのだと思う。

次回は、 tanuki-.nnue-pytorch-2024-03-06 を nnue-pytorch と Suisho10Mn_psv を用いて Fine-tuning し、レーティングを測定したい。

tanuki- 2024-03-07 nnue-pytorch halfkp_1024x2-8-32 バッチサイズ調整

将棋 コンピュータ将棋

tanuki- 2024-03-07 nnue-pytorch halfkp_1024x2-8-32 バッチサイズ調整

実験内容

  • nnue-pytorch を用い、 halfkp_1024x2-8-32 ネットワークを学習させる。
  • バッチサイズを 16384 に増やして学習させる。

棋譜生成

生成ルーチン tanuki-棋譜生成ルーチン
評価関数 Hao (tanuki-.halfkp_256x2-32-32.2023-05-08)
1手あたりの思考 深さ最大 9 思考ノード数最大 50,000 ノード
開始局面 foodgate の 2020 年～ 2021 年の棋譜を使用した。レーティング 3900 以上同士の対局のみ使用した。戦型が角換わりの対局が 10% になるよう調整した。 32 手目までから 1 局面ランダムに選択し、その局面を開始局面とした。ランダムムーブはしなかった。
生成局面数 10 億局面 × 8 セット
生成条件 対局は打ち切らず詰みの局面まで学習データに出力した
フォルダ名 tanuki-.halfkp_256x2-32-32.2023-05-08

生成ルーチン tanuki-棋譜生成ルーチン 深さ 9 の思考でレーティングが上がるよう、探索パラメーターを調整している
評価関数 水匠 5
1手あたりの思考 深さ最大 9 思考ノード数最大 50,000 ノード
開始局面 foodgate の 2017 年以降の棋譜のうち、入玉を含む棋譜を使用した。
生成局面数 5 億局面 × 1 セット
生成条件 対局は打ち切らず詰みの局面まで学習データに出力した
フォルダ名 suisho5.entering_king.2024-02-20

シャッフル条件

生成ルーチン tanuki-シャッフルルーチン
qsearch() あり
置換表 無効

機械学習

機械学習ルーチン nnue-pytorch + やねうら王 https://github.com/nodchip/nnue-pytorch/tree/shogi.2023-10-29.halfkp_1024x2-8-32
学習モデル halfkp_1024x2-8-32
学習手法 ミニバッチ SGD
初期学習率 (lr) 0.5 収束後 0.05
最適化手法 なし
学習率調整手法 Warmup + Newbob 風
batch-size 16384
threads 8
num-workers 8
accelerator gpu
devices 1
features HalfKP
max-epoch 1000000
score-scaling 361
lambda 1.0 収束後 0.5
勝敗項の教師信号 0.999
num-batches-warmup 10000
newbob-decay 0.5
epoch-size 1000000
num-epochs-to-adjust-lr 500
学習を打ち切る下限 newbob scale 1e-5
1 epoch 毎のネットワークパラメーターのクリップ あり
ネットワークパラメーターの量子化 量子化なしで学習し、収束後に量子化する。
ネットワークパラメーターの初期化方法 pytorch のデフォルトの初期化手法で初期化する。
勾配の正規化 なし
momentum 0.9
入玉ボーナス 入玉時、持ち駒および敵陣三段目までに侵入している駒について、小駒 1 枚につき 20 点、大駒 1 枚につき 100 点、敵陣三段目までに侵入している駒 1 枚につき 20 点追加する。

レーティング測定

対局相手 https://docs.google.com/document/d/1razZwLBDtB47gLhNsWQwNZqW9S1qC3S7ZVfEzGwaAxo/edit?usp=sharing tanuki-.nnue-pytorch-2024-02-28
思考時間 持ち時間 300 秒 + 1 手 2 秒加算
対局数 5000
同時対局数 64
ハッシュサイズ 384
開始局面 dlshogi 互角局面集の角換わりの割合が 10% になるよう間引いたもの

実験結果

機械学習

検証ロス

batch-size=16384 … 0.2612318373649352

batch-size=8192 … 0.26106551361083985

学習時間

batch-size=16384 … 67:00:31.889

batch-size=8192 … 109:01:56.602

ネットワークパラメーターの分布

mean=-24.9853515625 std=23.355863571166992

mean=-0.0070372032932937145 std=3.420506000518799

mean=2012.625 std=1921.447265625

mean=-0.1197509765625 std=5.809447765350342

mean=-3127.375 std=4714.5380859375

mean=4.34375 std=32.68085479736328

mean=776.0 std=nan

mean=0.875 std=48.20905303955078

レーティング測定

対局数=5000 同時対局数=64 ハッシュサイズ=384 開始手数=24 最大手数=320 開始局面ファイル=C:\Jenkins\workspace\TanukiColiseum.2023-04-16\TanukiColiseum\floodgate32-80.adjust_bishop_exchange.sfen NUMAノード数=1 表示更新間隔(ms)=3600000

思考エンジン1 思考エンジン2

name YaneuraOu NNUE 7.63 64ZEN2 TOURNAMENT YaneuraOu NNUE 7.63 64ZEN2 TOURNAMENT

author by yaneurao by yaneurao

exeファイル C:\Jenkins\workspace\TanukiColiseum.2023-04-16\engine1\source\YaneuraOu-by-gcc.exe C:\Jenkins\workspace\TanukiColiseum.2023-04-16\engine2\source\YaneuraOu-by-gcc.exe

評価関数フォルダパス D:\hnoda\shogi\eval\tanuki-.nnue-pytorch-2024-03-06 D:\hnoda\shogi\eval\tanuki-.nnue-pytorch-2024-02-28

定跡手数 256 256

定跡ファイル名 no_book no_book

思考ノード数 0 0

思考ノード数に加える乱数(%) 0 0

思考ノード数の乱数を1手毎に変化させる False False

持ち時間(ms) 300000 300000

秒読み時間(ms) 0 0

加算時間(ms) 2000 2000

乱数付き思考時間(ms) 0 0

スレッド数 1 1

BookEvalDiff 30 30

定跡の採択率を考慮する true true

定跡の手数を無視する true true

SlowMover 100 100

DrawValue -2 -2

BookEvalBlackLimit 0 0

BookEvalWhiteLimit -140 -140

FVScale 16 16

Depth=0 0

MinimumThinkingTime 1000 1000

対局数5000 先手勝ち2472(54.7%) 後手勝ち2050(45.3%) 引き分け478

engine1

勝ち2224(49.2% R-5.1 +-9.6) 先手勝ち1224(27.1%) 後手勝ち1000(22.1%)

宣言勝ち40 先手宣言勝ち14 後手宣言勝ち26 先手引き分け227 後手引き分け251

engine2

勝ち2298(50.8%) 先手勝ち1248(27.6%) 後手勝ち1050(23.2%)

宣言勝ち68 先手宣言勝ち35 後手宣言勝ち33 先手引き分け251 後手引き分け227

2224,478,2298

学習ロスと検証ロスは、 tanuki-.nnue-pytorch-2024-03-06 のほうがやや高かった。

学習時間は、 tanuki-.nnue-pytorch-2024-03-06 のほうが 3 割ほど速かった。

レーティングは、 tanuki-.nnue-pytorch-2024-02-28 に対して R5.1 低かったが、有意な差はなかった。

考察

学習ロスと検証ロスが tanuki-.nnue-pytorch-2024-03-06 より高いのは、バッチサイズを大きくしたことにより、汎化性能が下がったためだと思う。

学習時間が速くなったのは、バッチサイズが大きくなったことにより、 GPU とのデータ転送の回数が減ったことが原因だと思う。

レーティングに有意差がなかった原因は、モーメンタムにより教師信号や勾配のノイズが減ったためだと思う。ただし、さらにバッチサイズを大きくし、有意差が出た場合、バッチサイズを大きくするにしたがってレーティングが下がると言えると思う。実験段階ではバッチサイズを大きくし、実験のイテレーションを速く回せるようにするのが良いと思う。大会に出場する際の評価関数を作成する際は、バッチサイズを小さくし、レーティングを挙げるのが良いと思う。

まとめ

nnue-pytorch を用い、 halfkp_1024x2-8-32 ネットワークを学習させた。その際、バッチサイズを 16384 に増やして学習させた。

レーティングは、 tanuki-.nnue-pytorch-2024-02-28 に対して R5.1 低かったが、有意な差はなかった。レーティングに有意差がなかった原因は、モーメンタムにより教師信号や勾配のノイズが減ったためだと思う。ただし、さらにバッチサイズを大きくし、有意差が出た場合、バッチサイズを大きくするにしたがってレーティングが下がると言えると思う。実験段階ではバッチサイズを大きくし、実験のイテレーションを速く回せるようにするのが良いと思う。大会に出場する際の評価関数を作成する際は、バッチサイズを小さくし、レーティングを挙げるのが良いと思う。

次回は、バッチサイズを 32768 に増やして学習させ、学習時間とレーティングを測定したい。

tanuki- 2024-03-01 nnue-pytorch halfkp_1024x2-8-32 水匠 5 で生成した入玉将棋の棋譜の混合

将棋 コンピュータ将棋

tanuki- 2024-03-01 nnue-pytorch halfkp_1024x2-8-32 水匠 5 で生成した入玉将棋の棋譜の混合

実験内容

  • nnue-pytorch を用い、 halfkp_1024x2-8-32 ネットワークを学習させる。
  • Hao で生成した学習データに、水匠 5 で生成した学習データを混合する。
    • 水匠 5 で学習データを生成する際は、 floodgate 上の 2017 年以降の入玉を含む将棋の棋譜から局面をランダムに選び、その局面を開始局面として自己対局させる。
    • 学習データの混合作業の都合上、検証データには水匠 5 で生成した学習データは含めない。

    棋譜生成

    生成ルーチン tanuki-棋譜生成ルーチン
    評価関数 Hao (tanuki-.halfkp_256x2-32-32.2023-05-08)
    1手あたりの思考 深さ最大 9 思考ノード数最大 50,000 ノード
    開始局面 foodgate の 2020 年～ 2021 年の棋譜を使用した。レーティング 3900 以上同士の対局のみ使用した。戦型が角換わりの対局が 10% になるよう調整した。 32 手目までから 1 局面ランダムに選択し、その局面を開始局面とした。ランダムムーブはしなかった。
    生成局面数 10 億局面 × 8 セット
    生成条件 対局は打ち切らず詰みの局面まで学習データに出力した
    フォルダ名 tanuki-.halfkp_256x2-32-32.2023-05-08

    生成ルーチン tanuki-棋譜生成ルーチン 深さ 9 の思考でレーティングが上がるよう、探索パラメーターを調整している
    評価関数 水匠 5
    1手あたりの思考 深さ最大 9 思考ノード数最大 50,000 ノード
    開始局面 foodgate の 2017 年以降の棋譜のうち、入玉を含む棋譜を使用した。
    生成局面数 5 億局面 × 1 セット
    生成条件 対局は打ち切らず詰みの局面まで学習データに出力した
    フォルダ名 suisho5.entering_king.2024-02-20

    シャッフル条件

    生成ルーチン tanuki-シャッフルルーチン
    qsearch() あり
    置換表 無効

    機械学習

    機械学習ルーチン nnue-pytorch + やねうら王 https://github.com/nodchip/nnue-pytorch/tree/shogi.2023-10-29.halfkp_1024x2-8-32
    学習モデル halfkp_1024x2-8-32
    学習手法 ミニバッチ SGD
    初期学習率 (lr) 0.25 収束後 0.025
    最適化手法 なし
    学習率調整手法 Warmup + Newbob 風
    batch-size 8192
    threads 8
    num-workers 32
    accelerator gpu
    devices 1
    features HalfKP
    max-epoch 1000000
    score-scaling 361
    lambda 1.0 収束後 0.5
    勝敗項の教師信号 0.999
    num-batches-warmup 10000
    newbob-decay 0.5
    epoch-size 1000000
    num-epochs-to-adjust-lr 500
    学習を打ち切る下限 newbob scale 1e-5
    1 epoch 毎のネットワークパラメーターのクリップ あり
    ネットワークパラメーターの量子化 量子化なしで学習し、収束後に量子化する。
    ネットワークパラメーターの初期化方法 pytorch のデフォルトの初期化手法で初期化する。
    勾配の正規化 なし
    momentum 0.9
    入玉ボーナス 入玉時、持ち駒および敵陣三段目までに侵入している駒について、小駒 1 枚につき 20 点、大駒 1 枚につき 100 点、敵陣三段目までに侵入している駒 1 枚につき 20 点追加する。

    レーティング測定

    対局相手 https://docs.google.com/document/d/1mTWCV4d3WJEwbDNAIQDIcy77R2oRG0UE7rgd1fV8KXw/edit?usp=sharing tanuki-.nnue-pytorch-2024-01-22 https://docs.google.com/document/d/1AbaBBbd7ZJ9AlVdL9oFsJqMq_GLEogRZI8LMblkaR5w/edit?usp=sharing tanuki-.nnue-pytorch-2024-02-14
    思考時間 持ち時間 300 秒 + 1 手 2 秒加算
    対局数 5000
    同時対局数 64
    ハッシュサイズ 384
    開始局面 dlshogi 互角局面集の角換わりの割合が 10% になるよう間引いたもの

    実験結果

    機械学習

    検証ロス

    tanuki-.halfkp_256x2-32-32.2023-05-08+suisho5.entering_king.2024-02-20 … 0.26106551361083985

    tanuki-.halfkp_256x2-32-32.2023-05-08 … 0.26124961288576176

    ネットワークパラメーターの分布

    mean=-30.869140625 std=26.96865463256836

    mean=-0.009024830535054207 std=3.827279567718506

    mean=5596.25 std=2352.6533203125

    mean=-0.51971435546875 std=5.738049030303955

    mean=-3181.125 std=7088.650390625

    mean=0.84375 std=37.54525375366211

    mean=2475.0 std=nan

    mean=6.34375 std=53.184165954589844

    レーティング測定

    対局数=5000 同時対局数=64 ハッシュサイズ=384 開始手数=24 最大手数=320 開始局面ファイル=C:\Jenkins\workspace\TanukiColiseum.2023-04-16\TanukiColiseum\floodgate32-80.adjust_bishop_exchange.sfen NUMAノード数=1 表示更新間隔(ms)=3600000

    思考エンジン1 思考エンジン2

    name YaneuraOu NNUE 7.63 64ZEN2 TOURNAMENT YaneuraOu NNUE 7.63 64ZEN2 TOURNAMENT

    author by yaneurao by yaneurao

    exeファイル C:\Jenkins\workspace\TanukiColiseum.2023-04-16\engine1\source\YaneuraOu-by-gcc.exe C:\Jenkins\workspace\TanukiColiseum.2023-04-16\engine2\source\YaneuraOu-by-gcc.exe

    評価関数フォルダパス D:\hnoda\shogi\eval\tanuki-.nnue-pytorch-2024-02-28 D:\hnoda\shogi\eval\tanuki-.nnue-pytorch-2024-01-22

    定跡手数 256 256

    定跡ファイル名 no_book no_book

    思考ノード数 0 0

    思考ノード数に加える乱数(%) 0 0

    思考ノード数の乱数を1手毎に変化させる False False

    持ち時間(ms) 300000 300000

    秒読み時間(ms) 0 0

    加算時間(ms) 2000 2000

    乱数付き思考時間(ms) 0 0

    スレッド数 1 1

    BookEvalDiff 30 30

    定跡の採択率を考慮する true true

    定跡の手数を無視する true true

    SlowMover 100 100

    DrawValue -2 -2

    BookEvalBlackLimit 0 0

    BookEvalWhiteLimit -140 -140

    FVScale 16 16

    Depth=0 0

    MinimumThinkingTime 1000 1000

    対局数5000 先手勝ち2444(53.4%) 後手勝ち2134(46.6%) 引き分け422

    engine1

    勝ち2485(54.3% R27.3 +-9.7) 先手勝ち1313(28.7%) 後手勝ち1172(25.6%)

    宣言勝ち43 先手宣言勝ち25 後手宣言勝ち18 先手引き分け221 後手引き分け201

    engine2

    勝ち2093(45.7%) 先手勝ち1131(24.7%) 後手勝ち962(21.0%)

    宣言勝ち58 先手宣言勝ち26 後手宣言勝ち32 先手引き分け201 後手引き分け221

    2485,422,2093

    対局数=5000 同時対局数=64 ハッシュサイズ=384 開始手数=24 最大手数=320 開始局面ファイル=C:\Jenkins\workspace\TanukiColiseum.2023-04-16\TanukiColiseum\floodgate32-80.adjust_bishop_exchange.sfen NUMAノード数=1 表示更新間隔(ms)=3600000

    思考エンジン1 思考エンジン2

    name YaneuraOu NNUE 7.63 64ZEN2 TOURNAMENT YaneuraOu NNUE 7.63 64ZEN2 TOURNAMENT

    author by yaneurao by yaneurao

    exeファイル C:\Jenkins\workspace\TanukiColiseum.2023-04-16\engine1\source\YaneuraOu-by-gcc.exe C:\Jenkins\workspace\TanukiColiseum.2023-04-16\engine2\source\YaneuraOu-by-gcc.exe

    評価関数フォルダパス D:\hnoda\shogi\eval\tanuki-.nnue-pytorch-2024-02-28 D:\hnoda\shogi\eval\tanuki-.nnue-pytorch-2024-02-14

    定跡手数 256 256

    定跡ファイル名 no_book no_book

    思考ノード数 0 0

    思考ノード数に加える乱数(%) 0 0

    思考ノード数の乱数を1手毎に変化させる False False

    持ち時間(ms) 300000 300000

    秒読み時間(ms) 0 0

    加算時間(ms) 2000 2000

    乱数付き思考時間(ms) 0 0

    スレッド数 1 1

    BookEvalDiff 30 30

    定跡の採択率を考慮する true true

    定跡の手数を無視する true true

    SlowMover 100 100

    DrawValue -2 -2

    BookEvalBlackLimit 0 0

    BookEvalWhiteLimit -140 -140

    FVScale 16 16

    Depth=0 0

    MinimumThinkingTime 1000 1000

    対局数5000 先手勝ち2457(54.7%) 後手勝ち2032(45.3%) 引き分け511

    engine1

    勝ち2320(51.7% R10.5 +-9.6) 先手勝ち1271(28.3%) 後手勝ち1049(23.4%)

    宣言勝ち91 先手宣言勝ち49 後手宣言勝ち42 先手引き分け244 後手引き分け267

    engine2

    勝ち2169(48.3%) 先手勝ち1186(26.4%) 後手勝ち983(21.9%)

    宣言勝ち33 先手宣言勝ち15 後手宣言勝ち18 先手引き分け267 後手引き分け244

    2320,511,2169

    学習ロスと検証ロスは、 tanuki-.halfkp_256x2-32-32.2023-05-08+suisho5.entering_king.2024-02-20 のほうが低くなった。

    学習率が下がるタイミングは、 tanuki-.halfkp_256x2-32-32.2023-05-08+suisho5.entering_king.2024-02-20 のほうが遅かった。

    レーティングは、 tanuki-.nnue-pytorch-2024-01-22 に対しては R27.3 高く、有意な差があった。また、宣言勝ちの回数は 43 対 58 で、やや少なかった。 tanuki-.nnue-pytorch-2024-02-14 に対しては R10.5 高く、有意な差があった。また、宣言勝ちの回数は 91 対 33 と、大きく上回った。

    考察

    学習ロスが低くなったのは、 suisho5.entering_king.2024-02-20 を混ぜたためだと思う。 suisho5.entering_king.2024-02-20 には入玉の局面が多く含まれている。それらの局面の評価値の絶対値は大きいことが多い。評価値の絶対値が大きい場合、交差エントロピーの値が大きくなる。

    検証ロスが低くなった理由は分からなかった。 suisho5.entering_king.2024-02-20 を混ぜたことにより、局所最適解に陥りにくくなったことが原因の可能性がある。

    レーティングが tanuki-.nnue-pytorch-2024-01-22 に対して優位に高かったのは、 Hao で生成した学習データを使用していたためだと思う。 Hao は水匠 5 よりレーティングが高いため、学習データの室が良くなったのだと思う。

    宣言勝ち回数が tanuki-.nnue-pytorch-2024-01-22 に比べてやや少なかったのは、水匠 5 で生成した学習データのみを使ったわけではないためだと思う。水匠 5 で生成した学習データの割合を増やすことで、宣言勝ちの回数の割合を、より近くまで引き上げることができると思う。ただ、今回の結果でも、実用上は十分だと思う。

    レーティングが tanuki-.nnue-pytorch-2024-02-14 に対して有意に高かった理由は、検証ロスが下がったためだと思う。

    宣言勝ち回数が tanuki-.nnue-pytorch-2024-02-14 に対して大幅に上回ったのは、 suisho5.entering_king.2024-02-20 により、入玉将棋における中段玉の判断の精度が向上したためだと思う。

    まとめ

    nnue-pytorch を用い、 halfkp_1024x2-8-32 ネットワークを学習させた。その際、 Hao で生成した学習データに、水匠 5 で生成した学習データを混合した。水匠 5 で学習データを生成する際は、 floodgate 上の 2017 年以降の入玉を含む将棋の棋譜から局面をランダムに選び、その局面を開始局面として自己対局させた。また、学習データの混合作業の都合上、検証データには水匠 5 で生成した学習データは含めなかった。

    レーティングは、 tanuki-.nnue-pytorch-2024-01-22 に対しては R27.3 高く、有意な差があった。また、宣言勝ちの回数は 43 対 58 で、やや少なかった。 tanuki-.nnue-pytorch-2024-02-14 に対しては R10.5 高く、有意な差があった。また、宣言勝ちの回数は 91 対 33 と、大きく上回った。

    レーティングが tanuki-.nnue-pytorch-2024-01-22 に対して優位に高かったのは、 Hao で生成した学習データを使用していたためだと思う。 Hao は水匠 5 よりレーティングが高いため、学習データの室が良くなったのだと思う。

    宣言勝ち回数が tanuki-.nnue-pytorch-2024-01-22 に比べてやや少なかったのは、水匠 5 で生成した学習データのみを使ったわけではないためだと思う。水匠 5 で生成した学習データの割合を増やすことで、宣言勝ちの回数の割合を、より近くまで引き上げることができると思う。ただ、今回の結果でも、実用上は十分だと思う。

    レーティングが tanuki-.nnue-pytorch-2024-02-14 に対して有意に高かった理由は、検証ロスが下がったためだと思う。

    宣言勝ち回数が tanuki-.nnue-pytorch-2024-02-14 に対して大幅に上回ったのは、 suisho5.entering_king.2024-02-20 により、入玉将棋における中段玉の判断の精度が向上したためだと思う。

    次回は、学習高速化のため、バッチサイズを増やして学習させ、レーティングにリグレッションがあるかどうかを実験したい。