LC Zero Blog

By Guenter Stertenbrink Date 2018-06-19 19:24 Edited 2018-06-19 19:29

bugs:

Move count disabled
Underpromotion
First Play Urgency (FPU)
Two inputs to the Neural Network (rule50 and the all 1s plane) were not connected properly.
Oversampling
Rule 50 not normalized

Zugzaehler deaktiviert
Unterverwandlung
Erstspieldrang ?
50Zug und alles-1 Ebenen in NN nicht richtig verbunden
Ueberbewertung der Einzelnen Positionen aus neuen Trainingspartien (im Vergleich zu vergangenen Trainingspartien)
50Zug Regel nicht "normalisiert" ?

------------------------

der juengste Neuanfang sieht sehr gut aus, http://lczero.org/ , steil aufwaerts ,
war aber nicht mit einem der bugs begruendet, AFAIR ?!
Nun, es wurden evtl. Trainingspartien "geloescht"
die evtl. von bug-Versionen erzeugt wurden

By Guenter Stertenbrink Date 2018-06-20 08:04

ich vergass :

" learnable batch normalization beta bias "

der Schluessel zum 3200 Lelo ? hatte alpha-zero sowas auch ?

By Guenter Stertenbrink Date 2018-06-20 10:54 Edited 2018-06-20 11:02

https://blog.lczero.org/2018/06/20/bootstrap-nets/
Ben Reese

eliminate games 4-6.5 million as they were heavily infected with the “black underpromotion bug.
” Extra games were excluded (11-15 million) based on the regression observed in testing
(possibly affected by the oversampling issue).

The first bootstrap used 5 million games for the first half of training
and then between 500,000 and 1 million after that.

Starting with ID396, an experiment was implemented

Based on the lack of progress, a second bootstrap was started [with higher learning rate]
At 300,000 steps the second bootstrap had eclipsed the first.
it was switched over to the main pipeline at ID 421.

[looking at http://lczero.org/ , where is the 1st bootstrap without progress ?
There was no break after id396 in the matches ]

------------------------------------------------------------

https://blog.lczero.org/2018/06/20/bootstrap-nets/
von Ben Reese

Partien Nummer 4-6,5 Millionen wurden eliminiert, da sie stark mit dem "Unterverwandlungs Bug" infiziert waren.
Zusätzliche Partien wurden ausgeschlossen (Nummern 11-15 Millionen), wegen der bei den Tests
beobachteten Regression. (möglicherweise wegen Ueberbewertung neuer Partien).

Der erste Neuanfang verwendete 5 Millionen Partien für die erste Hälfte des Trainings.
und danach zwischen 500.000 und 1 Million.

Ausgehend von ID396 wurde ein Experiment durchgeführt.

Aufgrund des fehlenden Fortschritts wurde ein zweiter Neuanfang gestartet [mit höherer Lernrate].
Bei 300.000 Partien hatte der zweite Neuanfang den ersten überholt.
Es wurde auf die Hauptseite [?] bei ID421 umgestellt.

[unter http://lczero.org/, wo ist da der 1. Neuanfang ohne Fortschritt?
Es gab keine Pause nach id396 in den Trainings-Partien und Matches ]

By Peter Martan Date 2018-06-20 11:16

Guenter Stertenbrink schrieb:

" learnable batch..."
der Schluessel zum 3200 Lelo ? hatte alpha-zero sowas auch ?

Ja, damals hieß es noch Giraffe.