So ist halt das Schlitzohr Tom Paul
Interessanter ist schon die Frage, die ich mir stelle: Warum ist die Zahl der Trainingsspiele so unglaublich gesunken? Nur noch knapp über 150.000 pro Tag.
Da gab es schon Mal drei Millionen
Netzgröße?
fehlendes Interesse?

Ich bin neidisch, weil selten ist es mir gelungen dem Troll so exzellent zu antworten!

es ist anzunehmen, dass Lc0 bei besserer Hardware, laengerer Bedenkzeit
an Elo zulegt. Dafuer gibt es mehrere Hinweise.
Ich wuesste jetzt keine AB-engine, bei der ich aehnliches beobachtet haette.
Komodo, ja, aber nicht so viel, vielleicht 5 Elo pro Bedenkzeitverdopplung,
bei LC0 im unterer Bereich sind es bei mir 50 (auf CPU) .
Bei CEGT kann ich allerdings diesen Effekt nicht sehen.
Ich denke, man sollte immer mehrere Bedenkzeiten testen, da muesste
es doch fertige Software geben, die das optimiert und automatisiert ?!

------------------------------

http://www.thechessmind.net/blog/2019/3/13/leela-chess-rating-scaling.html
> Looks like about 50 elo between a 2060 and a 2080ti, but depends on time control,
> according to people on Leela's Discord Channel.

Zumal noch dazu kommt, daß, wenn man nur die Ergebnisse der beiden 40x256 Net-Testruns miteinander vergleicht, es sowieso logischerweise völlig unerheblich ist, ob kurze oder lange Bedenkzeit, schnelle oder langsame Hardware. Denn egal, ob das größere Net nun mit irgendeiner Testbedingung besser oder schlechter klarkommt, als die 20x256 Netze, wenn man nur die beiden 40x256 Testruns miteinander vergleicht, wären ja beide gleich gehandicapped oder bevorteilt. Insofern ist diese Kritik in diesem konkreten Beispiel noch unsinniger als sonst (und das will ja was heißen!). Die Regression des 103er 40x256 Nets verglichen zum 24er 40x256 Net ist und bleibt also Fakt.
Und das ist ja auch gar nicht so tragisch. Es zeigt nur mal wieder eindrücklich, daß eben Selfplay-Elos mit größter Vorsicht zu genießen sind.

Viel interessanter finde ich, daß sich in meinen Testruns der "offiziellen" 40xxx 20x256 Nets seit 42100 kein Fortschritt mehr zeigt - im Gegenteil. Ob hier schon das Maximum erreicht ist? Vorstellbar wäre das durchaus. Auch die 10xxx und die 30xxx Nets wurden ja irgendwann nicht mehr besser und dann auch beendet. Das Gute ist aber, daß sich in meinen Testruns mit jeder neuen Generation ein meßbarer Fortschritt zeigt. Auch bei den 40xxx ist das ja der Fall, was ich auch hoffen wollte, denn immerhin kam ja hier eine verbesserte Netzstruktur (SE-Nets) zum Einsatz. Dennoch scheint es aber so zu sein, daß es eben schon einen Endpunkt in der Fortentwicklung der Netze einer fixen Bauart gibt. Ob größere Netzstrukturen wirklich einen weiteren Fortschritt bringen können, ist eben die Frage. Viele (auch ich) sind der Meinung, daß Lc0 und der ganze (ja generell sehr langsame) NN-Ansatz von mehr Bedenkzeit und/oder mehr Hardware-Power mehr profitiert, als die klassischen AB-Engines. Sollte dem so sein, so heißt das natürlich im Umkehrschluß logischerweise, daß eine Vergößerung der Netzstruktur, die ja immer auch eine entsprechende Verlangsamung der Verarbeitung bedeutet, Lc0 auch (elomäßig) sehr schwer trifft und inwieweit die größere Netzstruktur das dann elomäßig ausgleichen oder eben sogar übertreffen kann, das ist die Frage. Ich vermute mal, daß Google, die ja nun wirklich schnelle Hardware hatten, sich schon aus einem guten Grund für die Netzgröße 20x256 für ihre Schaukämpfe gegen Stockfish entschieden haben - vermutlich war Google der Meinung, daß noch größere Netze mehr Elo durch langsamere Verarbeitung verlieren, als sie durch besseres Positionsspiel noch hinzugewinnen können. Das ist natülich nur eine Annahme meinerseits. Aber sicher keine ganz unplausible.
Aber die 20x256 Nets können ja sicherlich intern noch weiter verbessert werden. Das SE-Konzept muß hier noch lange nicht der Weisheit letzter Schluß sein. Verbesserungen in der internen Netzstruktur halte ich daher für erfolgsversprechender, als Netze einfach zu vergrößern.
So oder so bleibt es interessant!