tanuki- 2020-12-15 halfkp_256x2-32-32 Weighted Loss 追加学習
棋譜生成
| 生成ルーチン | tanuki-棋譜生成ルーチン |
| 評価関数 | 水匠2 / halfkpe9_256x2-32-32 を水匠2の評価関数で生成した棋譜でランダムパラメーターから学習後、lambdaの値を変えて追加学習した物を用いて生成した棋譜 |
| 1手あたりの思考 | 思考ノード数 5万 探索途中に思考ノード数上限に達したら即座に思考を停止した |
| 開始局面 | foodgate上の棋譜の32手目までから1局面ランダムに選択し、その局面を開始局面とした |
| 生成局面数 | 1億局面生成×20セット / 1億局面生成×10セット を混ぜたもの |
| 生成条件 | 対局は打ち切らず詰みの局面まで学習データに出力した |
| シャフル | tanuki-棋譜シャッフルルーチン |
機械学習
| 機械学習ルーチン | やねうら王機械学習ルーチン |
| 学習モデル | halfkp_256x2-32-32 |
| 学習手法 | SGD ミニバッチ法 |
| USI_Hash | 16 |
| Threads | 16 |
| loop | 100 |
| batchsize | 1000000 |
| lambda | 0.5 |
| eta | 0.01 0.02 0.05 0.10 0.20 0.50 1.00 |
| newbob_decay | 0.5 |
| nn_batch_size | 1000 |
| eval_save_interval | 100000000 |
| loss_output_interval | 1000000 |
| mirror_percentage | 50 |
| eval_limit | 32000 |
| weight_by_progress | 無効・有効 学習率に(1.0-進行度)を掛けて学習させた |
| 次元下げ | K・P・HalfRelativeKP・左右対称 |
| 学習データ内で重複した局面の除外 | しない |
| 初期ネットワークパラメーター | halfkp_256x2-32-32.weight_by_progress=1.eta=1.00 |
レーティング測定
| 対局相手 | 水匠2 |
| 思考時間 | 持ち時間180秒+1手1秒加算 |
| 対局数 | 1000 |
| 同時対局数 | 64 |
| ハッシュサイズ | 768 |
| 開始局面 | 平手 たややん互角局面集 24手目 |
実験結果
機械学習
レーティング計測
| パラメーター | 結果 |
| 0.01 | 対局数=1000 同時対局数=64 ハッシュサイズ=768 開始手数=36 開始局面ファイル=D:\Jenkins\workspace\TanukiColiseum.2020-12-08\TanukiColiseum\taya36_2020-11-06.sfen NUMAノード数=2 表示更新間隔(ms)=3600000 思考エンジン1 name=YaneuraOu NNUE 5.40 64ZEN2 TOURNAMENT author=by yaneurao exeファイル=D:\Jenkins\workspace\TanukiColiseum.2020-12-08\engine1\source\YaneuraOu-by-gcc.exe 評価関数フォルダパス=D:\hnoda\shogi\eval\halfkp_256x2-32-32.weight_by_progress=1.eta=1.00\final 定跡手数=256 定跡ファイル名=no_book 思考ノード数=0 思考ノード数に加える乱数(%)=0 思考ノード数の乱数を1手毎に変化させる=False 持ち時間(ms)=0 秒読み時間(ms)=0 加算時間(ms)=0 乱数付き思考時間(ms)=3000 スレッド数=1 BookEvalDiff=30 定跡の採択率を考慮する=false 定跡の手数を無視する=false 思考エンジン2 name=YaneuraOu NNUE 5.40 64ZEN2 TOURNAMENT author=by yaneurao exeファイル=D:\Jenkins\workspace\TanukiColiseum.2020-12-08\engine2\source\YaneuraOu-by-gcc.exe 評価関数フォルダパス=D:\hnoda\suisho-wcsoc2020\eval 定跡手数=256 定跡ファイル名=no_book 思考ノード数=0 思考ノード数に加える乱数(%)=0 思考ノード数の乱数を1手毎に変化させる=False 持ち時間(ms)=0 秒読み時間(ms)=0 加算時間(ms)=0 乱数付き思考時間(ms)=3000 スレッド数=1 BookEvalDiff=30 定跡の採択率を考慮する=false 定跡の手数を無視する=false 対局数1000 先手勝ち498(54.3%) 後手勝ち419(45.7%) 引き分け83 engine1 勝ち488(53.2% R20.5 +-21.6) 先手勝ち261(28.5%) 後手勝ち227(24.8%) 宣言勝ち6 先手宣言勝ち1 後手宣言勝ち5 先手引き分け35 後手引き分け48 engine2 勝ち429(46.8%) 先手勝ち237(25.8%) 後手勝ち192(20.9%) 宣言勝ち31 先手宣言勝ち14 後手宣言勝ち17 先手引き分け48 後手引き分け35 488,83,429 |
| 0.02 | 対局数=1000 同時対局数=64 ハッシュサイズ=768 開始手数=24 開始局面ファイル=D:\Jenkins\workspace\TanukiColiseum.2020-12-08\TanukiColiseum\taya36_2020-11-06.sfen NUMAノード数=2 表示更新間隔(ms)=3600000 思考エンジン1 name=YaneuraOu NNUE 5.40 64ZEN2 TOURNAMENT author=by yaneurao exeファイル=D:\Jenkins\workspace\TanukiColiseum.2020-12-08\engine1\source\YaneuraOu-by-gcc.exe 評価関数フォルダパス=D:\hnoda\shogi\eval\halfkp_256x2-32-32.weight_by_progress=1.add.eta=0.02\final 定跡手数=256 定跡ファイル名=no_book 思考ノード数=0 思考ノード数に加える乱数(%)=0 思考ノード数の乱数を1手毎に変化させる=False 持ち時間(ms)=180000 秒読み時間(ms)=0 加算時間(ms)=1000 乱数付き思考時間(ms)=0 スレッド数=1 BookEvalDiff=30 定跡の採択率を考慮する=false 定跡の手数を無視する=false 思考エンジン2 name=YaneuraOu NNUE 5.40 64ZEN2 TOURNAMENT author=by yaneurao exeファイル=D:\Jenkins\workspace\TanukiColiseum.2020-12-08\engine2\source\YaneuraOu-by-gcc.exe 評価関数フォルダパス=D:\hnoda\suisho-wcsoc2020\eval 定跡手数=256 定跡ファイル名=no_book 思考ノード数=0 思考ノード数に加える乱数(%)=0 思考ノード数の乱数を1手毎に変化させる=False 持ち時間(ms)=180000 秒読み時間(ms)=0 加算時間(ms)=1000 乱数付き思考時間(ms)=0 スレッド数=1 BookEvalDiff=30 定跡の採択率を考慮する=false 定跡の手数を無視する=false 対局数1000 先手勝ち501(54.3%) 後手勝ち422(45.7%) 引き分け77 engine1 勝ち501(54.3% R27.5 +-21.6) 先手勝ち274(29.7%) 後手勝ち227(24.6%) 宣言勝ち4 先手宣言勝ち2 後手宣言勝ち2 先手引き分け47 後手引き分け30 engine2 勝ち422(45.7%) 先手勝ち227(24.6%) 後手勝ち195(21.1%) 宣言勝ち19 先手宣言勝ち5 後手宣言勝ち14 先手引き分け30 後手引き分け47 501,77,422 |
| 0.05 | 対局数=1000 同時対局数=64 ハッシュサイズ=768 開始手数=24 開始局面ファイル=D:\Jenkins\workspace\TanukiColiseum.2020-12-08\TanukiColiseum\taya36_2020-11-06.sfen NUMAノード数=2 表示更新間隔(ms)=3600000 思考エンジン1 name=YaneuraOu NNUE 5.40 64ZEN2 TOURNAMENT author=by yaneurao exeファイル=D:\Jenkins\workspace\TanukiColiseum.2020-12-08\engine1\source\YaneuraOu-by-gcc.exe 評価関数フォルダパス=D:\hnoda\shogi\eval\halfkp_256x2-32-32.weight_by_progress=1.add.eta=0.05\final 定跡手数=256 定跡ファイル名=no_book 思考ノード数=0 思考ノード数に加える乱数(%)=0 思考ノード数の乱数を1手毎に変化させる=False 持ち時間(ms)=180000 秒読み時間(ms)=0 加算時間(ms)=1000 乱数付き思考時間(ms)=0 スレッド数=1 BookEvalDiff=30 定跡の採択率を考慮する=false 定跡の手数を無視する=false 思考エンジン2 name=YaneuraOu NNUE 5.40 64ZEN2 TOURNAMENT author=by yaneurao exeファイル=D:\Jenkins\workspace\TanukiColiseum.2020-12-08\engine2\source\YaneuraOu-by-gcc.exe 評価関数フォルダパス=D:\hnoda\suisho-wcsoc2020\eval 定跡手数=256 定跡ファイル名=no_book 思考ノード数=0 思考ノード数に加える乱数(%)=0 思考ノード数の乱数を1手毎に変化させる=False 持ち時間(ms)=180000 秒読み時間(ms)=0 加算時間(ms)=1000 乱数付き思考時間(ms)=0 スレッド数=1 BookEvalDiff=30 定跡の採択率を考慮する=false 定跡の手数を無視する=false 対局数1000 先手勝ち481(51.7%) 後手勝ち450(48.3%) 引き分け69 engine1 勝ち488(52.4% R15.6 +-21.6) 先手勝ち252(27.1%) 後手勝ち236(25.3%) 宣言勝ち2 先手宣言勝ち2 後手宣言勝ち0 先手引き分け36 後手引き分け33 engine2 勝ち443(47.6%) 先手勝ち229(24.6%) 後手勝ち214(23.0%) 宣言勝ち18 先手宣言勝ち8 後手宣言勝ち10 先手引き分け33 後手引き分け36 488,69,443 |
| 0.10 | 対局数=1000 同時対局数=64 ハッシュサイズ=768 開始手数=24 開始局面ファイル=D:\Jenkins\workspace\TanukiColiseum.2020-12-08\TanukiColiseum\taya36_2020-11-06.sfen NUMAノード数=2 表示更新間隔(ms)=3600000 思考エンジン1 name=YaneuraOu NNUE 5.40 64ZEN2 TOURNAMENT author=by yaneurao exeファイル=D:\Jenkins\workspace\TanukiColiseum.2020-12-08\engine1\source\YaneuraOu-by-gcc.exe 評価関数フォルダパス=D:\hnoda\shogi\eval\halfkp_256x2-32-32.weight_by_progress=1.add.eta=0.10\final 定跡手数=256 定跡ファイル名=no_book 思考ノード数=0 思考ノード数に加える乱数(%)=0 思考ノード数の乱数を1手毎に変化させる=False 持ち時間(ms)=180000 秒読み時間(ms)=0 加算時間(ms)=1000 乱数付き思考時間(ms)=0 スレッド数=1 BookEvalDiff=30 定跡の採択率を考慮する=false 定跡の手数を無視する=false 思考エンジン2 name=YaneuraOu NNUE 5.40 64ZEN2 TOURNAMENT author=by yaneurao exeファイル=D:\Jenkins\workspace\TanukiColiseum.2020-12-08\engine2\source\YaneuraOu-by-gcc.exe 評価関数フォルダパス=D:\hnoda\suisho-wcsoc2020\eval 定跡手数=256 定跡ファイル名=no_book 思考ノード数=0 思考ノード数に加える乱数(%)=0 思考ノード数の乱数を1手毎に変化させる=False 持ち時間(ms)=180000 秒読み時間(ms)=0 加算時間(ms)=1000 乱数付き思考時間(ms)=0 スレッド数=1 BookEvalDiff=30 定跡の採択率を考慮する=false 定跡の手数を無視する=false 対局数1000 先手勝ち508(54.7%) 後手勝ち420(45.3%) 引き分け72 engine1 勝ち494(53.2% R20.9 +-21.6) 先手勝ち270(29.1%) 後手勝ち224(24.1%) 宣言勝ち3 先手宣言勝ち3 後手宣言勝ち0 先手引き分け40 後手引き分け32 engine2 勝ち434(46.8%) 先手勝ち238(25.6%) 後手勝ち196(21.1%) 宣言勝ち23 先手宣言勝ち14 後手宣言勝ち9 先手引き分け32 後手引き分け40 494,72,434 |
| 0.20 | 対局数=1000 同時対局数=64 ハッシュサイズ=768 開始手数=24 開始局面ファイル=D:\Jenkins\workspace\TanukiColiseum.2020-12-08\TanukiColiseum\taya36_2020-11-06.sfen NUMAノード数=2 表示更新間隔(ms)=3600000 思考エンジン1 name=YaneuraOu NNUE 5.40 64ZEN2 TOURNAMENT author=by yaneurao exeファイル=D:\Jenkins\workspace\TanukiColiseum.2020-12-08\engine1\source\YaneuraOu-by-gcc.exe 評価関数フォルダパス=D:\hnoda\shogi\eval\halfkp_256x2-32-32.weight_by_progress=1.add.eta=0.20\final 定跡手数=256 定跡ファイル名=no_book 思考ノード数=0 思考ノード数に加える乱数(%)=0 思考ノード数の乱数を1手毎に変化させる=False 持ち時間(ms)=180000 秒読み時間(ms)=0 加算時間(ms)=1000 乱数付き思考時間(ms)=0 スレッド数=1 BookEvalDiff=30 定跡の採択率を考慮する=false 定跡の手数を無視する=false 思考エンジン2 name=YaneuraOu NNUE 5.40 64ZEN2 TOURNAMENT author=by yaneurao exeファイル=D:\Jenkins\workspace\TanukiColiseum.2020-12-08\engine2\source\YaneuraOu-by-gcc.exe 評価関数フォルダパス=D:\hnoda\suisho-wcsoc2020\eval 定跡手数=256 定跡ファイル名=no_book 思考ノード数=0 思考ノード数に加える乱数(%)=0 思考ノード数の乱数を1手毎に変化させる=False 持ち時間(ms)=180000 秒読み時間(ms)=0 加算時間(ms)=1000 乱数付き思考時間(ms)=0 スレッド数=1 BookEvalDiff=30 定跡の採択率を考慮する=false 定跡の手数を無視する=false 対局数1000 先手勝ち480(51.6%) 後手勝ち450(48.4%) 引き分け70 engine1 勝ち504(54.2% R27.2 +-21.6) 先手勝ち262(28.2%) 後手勝ち242(26.0%) 宣言勝ち6 先手宣言勝ち3 後手宣言勝ち3 先手引き分け41 後手引き分け29 engine2 勝ち426(45.8%) 先手勝ち218(23.4%) 後手勝ち208(22.4%) 宣言勝ち22 先手宣言勝ち12 後手宣言勝ち10 先手引き分け29 後手引き分け41 504,70,426 |
| 0.50 | 対局数=1000 同時対局数=64 ハッシュサイズ=768 開始手数=24 開始局面ファイル=D:\Jenkins\workspace\TanukiColiseum.2020-12-08\TanukiColiseum\taya36_2020-11-06.sfen NUMAノード数=2 表示更新間隔(ms)=3600000 思考エンジン1 name=YaneuraOu NNUE 5.40 64ZEN2 TOURNAMENT author=by yaneurao exeファイル=D:\Jenkins\workspace\TanukiColiseum.2020-12-08\engine1\source\YaneuraOu-by-gcc.exe 評価関数フォルダパス=D:\hnoda\shogi\eval\halfkp_256x2-32-32.weight_by_progress=1.add.eta=0.50\final 定跡手数=256 定跡ファイル名=no_book 思考ノード数=0 思考ノード数に加える乱数(%)=0 思考ノード数の乱数を1手毎に変化させる=False 持ち時間(ms)=180000 秒読み時間(ms)=0 加算時間(ms)=1000 乱数付き思考時間(ms)=0 スレッド数=1 BookEvalDiff=30 定跡の採択率を考慮する=false 定跡の手数を無視する=false 思考エンジン2 name=YaneuraOu NNUE 5.40 64ZEN2 TOURNAMENT author=by yaneurao exeファイル=D:\Jenkins\workspace\TanukiColiseum.2020-12-08\engine2\source\YaneuraOu-by-gcc.exe 評価関数フォルダパス=D:\hnoda\suisho-wcsoc2020\eval 定跡手数=256 定跡ファイル名=no_book 思考ノード数=0 思考ノード数に加える乱数(%)=0 思考ノード数の乱数を1手毎に変化させる=False 持ち時間(ms)=180000 秒読み時間(ms)=0 加算時間(ms)=1000 乱数付き思考時間(ms)=0 スレッド数=1 BookEvalDiff=30 定跡の採択率を考慮する=false 定跡の手数を無視する=false 対局数1000 先手勝ち479(51.7%) 後手勝ち448(48.3%) 引き分け73 engine1 勝ち497(53.6% R23.3 +-21.6) 先手勝ち254(27.4%) 後手勝ち243(26.2%) 宣言勝ち1 先手宣言勝ち0 後手宣言勝ち1 先手引き分け33 後手引き分け40 engine2 勝ち430(46.4%) 先手勝ち225(24.3%) 後手勝ち205(22.1%) 宣言勝ち18 先手宣言勝ち11 後手宣言勝ち7 先手引き分け40 後手引き分け33 497,73,430 |
| 1.00 | 対局数=1000 同時対局数=64 ハッシュサイズ=768 開始手数=24 開始局面ファイル=D:\Jenkins\workspace\TanukiColiseum.2020-12-08\TanukiColiseum\taya36_2020-11-06.sfen NUMAノード数=2 表示更新間隔(ms)=3600000 思考エンジン1 name=YaneuraOu NNUE 5.40 64ZEN2 TOURNAMENT author=by yaneurao exeファイル=D:\Jenkins\workspace\TanukiColiseum.2020-12-08\engine1\source\YaneuraOu-by-gcc.exe 評価関数フォルダパス=D:\hnoda\shogi\eval\halfkp_256x2-32-32.weight_by_progress=1.add.eta=1.00\final 定跡手数=256 定跡ファイル名=no_book 思考ノード数=0 思考ノード数に加える乱数(%)=0 思考ノード数の乱数を1手毎に変化させる=False 持ち時間(ms)=180000 秒読み時間(ms)=0 加算時間(ms)=1000 乱数付き思考時間(ms)=0 スレッド数=1 BookEvalDiff=30 定跡の採択率を考慮する=false 定跡の手数を無視する=false 思考エンジン2 name=YaneuraOu NNUE 5.40 64ZEN2 TOURNAMENT author=by yaneurao exeファイル=D:\Jenkins\workspace\TanukiColiseum.2020-12-08\engine2\source\YaneuraOu-by-gcc.exe 評価関数フォルダパス=D:\hnoda\suisho-wcsoc2020\eval 定跡手数=256 定跡ファイル名=no_book 思考ノード数=0 思考ノード数に加える乱数(%)=0 思考ノード数の乱数を1手毎に変化させる=False 持ち時間(ms)=180000 秒読み時間(ms)=0 加算時間(ms)=1000 乱数付き思考時間(ms)=0 スレッド数=1 BookEvalDiff=30 定跡の採択率を考慮する=false 定跡の手数を無視する=false 対局数1000 先手勝ち485(52.5%) 後手勝ち439(47.5%) 引き分け76 engine1 勝ち475(51.4% R9.0 +-21.6) 先手勝ち244(26.4%) 後手勝ち231(25.0%) 宣言勝ち0 先手宣言勝ち0 後手宣言勝ち0 先手引き分け28 後手引き分け48 engine2 勝ち449(48.6%) 先手勝ち241(26.1%) 後手勝ち208(22.5%) 宣言勝ち22 先手宣言勝ち11 後手宣言勝ち11 先手引き分け48 後手引き分け28 475,76,449 |
横軸:開始手数 縦軸:レーティング差
考察
