Aktualisierte Lc0 Engine

By Peter Martan Date 2022-10-17 19:17 Upvotes 2

Lothar Jung schrieb:

Das T80 Netz braucht stärkere Hardware.

Ist aber nicht dein Ernst, nein?

Würden sich das die Entwickler wirklich antun, nur mehr für Hardware stärker als 3070ti (um mal eine mittlerweile vermutlich durchschnittliche GPU zu nennen, die zufällig auch meine ist) zu optimieren, könnten Sie die Hardware- Zeit- Leistung derer, die Hardware stiften, mit den heutigen Stromkosten bald ganz schön abschreiben, sag' ich mal so.

By Lothar Jung Date 2022-10-17 20:24 Upvotes 1

Ja, ist mein Ernst.
T80 hat deutlich weniger kN/sec. als T78.
Ob die bessere Policy das aufwiegt, muß sich erst zeigen.
Schwächere Hardware könnte das Nachsehen haben.
Manche Engine/Netze laufen nicht mit einer RTX 2080.
Die Programmieren orientieren sich immer mehr an die Nvidia X100 GPUs und davon womöglich 4 davon.
Ich jedenfalls investiere nicht mehr in stärkere Hardware, wegen abartiger Kosten und Energieverbrauch.
Ich bin zwar bekloppt, aber nicht blöd.

By Peter Martan Date 2022-10-17 20:33 Edited 2022-10-17 20:40

Lothar Jung schrieb:

Ja, ist mein Ernst.
T80 hat deutlich weniger kN/sec. als T78.

Na das sagt ja zunächst mal noch just nix.
Dass schwächere Hardware das Nachsehen gegen stärkere hat, wäre ja auch noch kein Wunder, aber dass durchschnittliche Hardware mit neuer Software gegen alte Software abstinkt, nenne ich Rückschritt in einer Software- Entwicklung.
Was mir nur schon länger auffällt ist, dass es seit ewig nur 1er runs von 80er Netzen gibt.
Dauert halt offenbar ewig, bis die immer größer werdenden Netze "fertig" trainiert sind?

By Lothar Jung Date 2022-10-17 20:44

Wieso soll man soviel Energie in dieses Experiment stecken.
Wenn es nicht erfolgreich ist, wird ein neues größeres Netz aufgesetzt und es dauert noch länger.
Mit noch mehr Energie.

By Clemens Keck Date 2022-10-29 09:49

Lothar Jung schrieb:

Ja, ist mein Ernst.
T80 hat deutlich weniger kN/sec. als T78.

Hmm
habe ich da irgend etwas in diesem Thread überlesen ?!
T80 ist auf RTX GPU doch deutlich schneller als T78.
Das Netz T80 ist doch auch kleiner als T78

verstehen nicht

CK

By Lothar Jung Date 2022-10-29 10:04

Du kannst Recht haben.
Ich hatte mit RTX 3060m getestet.
Damals war das Netz deutlich schwächer.
Das hat sich geändert:

In my current test of 805946 vs SF12 single core at 1min+2s TC after 100 of 200 games (And 50 openings) looks like it might be a new strongest net:
```   # PLAYER : RATING ERROR POINTS PLAYED   (%) CFS(%) W D L D(%)
   1 Lc0.net.805946 : 26.6   39.8 53.5    100 53.5 76   29   49   22 49.0 <== NEW
   2 Lc0.net.805435 :    9.5   28.1   102.5    200 51.3 75   40 125   35 62.5
   3 Stockfish_12_1CPU :    0.0   ----   457.5    900 50.8 79 170 575 155 63.9
   4 Lc0.net.805738 :   -11.4   28.0 97.0    200 48.5 65   31 132   37 66.0
   5 Lc0.net.805874 :   -19.0   27.4 95.0    200 47.5 54   30 130   40 65.0
   6 Lc0.net.805846 :   -20.9   28.1 94.5    200 47.3    ---   25 139   36 69.5```
Previous results were posted here (inclcuding those posted above):
https://discord.com/channels/425419482568196106/530486338236055583/1035537381954158604

So far the result is the best in this test (and the previous gauntlet) after 100 games:
```   # PLAYER : RATING ERROR POINTS PLAYED   (%) CFS(%) W D L D(%)
   1 Lc0.net.805946 : 29.3   49.5 53.5    100 53.5 72   29   49   22 49.0 <== NEW
   2 Lc0.net.805435 :    8.4   49.4 51.0    100 51.0 63   28   46   26 46.0
   3 Stockfish_12_1CPU :    0.0   ----   250.5    500 50.1 57 130 241 129 48.2
   4 Lc0.net.805738 : -4.2   49.3 49.5    100 49.5 55   27   45   28 45.0
   5 Lc0.net.805874 : -8.4   49.4 49.0    100 49.0 72   25   48   27 48.0
   6 Lc0.net.805846 :   -29.3   49.5 46.5    100 46.5    ---   20   53   27 53.0```
Full list of 100 games tests could be found here:
https://discord.com/channels/425419482568196106/530486338236055583/1034019700860014602

FWIW the 805946 net with 91/111 also has an outstanding ERET test result (ar 60s time per position).
This is the best ERET test result of the last 2000 nets.

Damals schnitt das T80 Netz bei den Suites schlechter ab.
Auch auf Schach.de war es nicht so stark wie T78.

By Peter Martan Date 2022-10-29 10:25 Edited 2022-10-29 10:30

Das 805874 hat 116 355 Kb
das 784968, das zu vorletzt im TCEC gespielt hatte, hat 158 037,
du hast recht.

Diese beiden sind ganz unten in der Liste vertreten, die zwei, um die's geht, mit dem selben 0.29 rc0- Compile:

https://forum.computerschach.de/cgi-bin/mwf/topic_show.pl?pid=158786#pid158786

By Reinhold Stibi Date 2022-10-17 21:03 Edited 2022-10-17 21:07 Upvotes 1

Wo kann man denn das T 80er Netz downloaden.

Gibt es da schon brauchbare Netze, oder steht man da am Anfang und es kann noch ca. 1 Monat dauern um brauchbare konkurrenzfähige
Ergebnisse zu erzielen.

Mit meinen 2 RTX 2070er im Verbund, entspricht einer RTX 3070 Ti, wird man das Ding doch zum laufen bringen ?

Kann vielleicht auch Peter mit seiner RTX 3070 Ti das T80er Netz testen ?

Danke !

By Peter Martan Date 2022-10-17 21:52 Edited 2022-10-17 22:12

Reinhold Stibi schrieb:

Kann vielleicht auch Peter mit seiner RTX 3070 Ti das T80er Netz testen ?

Ums Testen geht's da momentan noch nicht so sehr wie ums Trainieren, denke ich.
Das eine 80er, das ich mal probiert hatte (kann nicht mehr schauen, welches das war, das ist mit einer erst ein Jahr alten SSD eingegangen und war nicht gesichert) war auch nicht viel schlechter als die guten 70er aber auch nicht besser.
Das Problem ist ja überhaupt, aus der error bar zu kommen mit den Unterschieden.
Wie man an der Liste mit den 256 Stellungen sieht, war die neue 0.29 Prerelease- Version die erste seit langer Zeit, die mit dem TCEC- Netz einen Fortschritt gezeigt hat bei mir größer als die Irrtumswahrscheinlichkeit.

https://forum.computerschach.de/cgi-bin/mwf/topic_show.pl?pid=158487#pid158487

By Reinhold Stibi Date 2022-10-17 22:17

Danke Peter,

denke dass man mit dem 78er Netz nicht mehr weitergekommen ist und deshalb auf das größere Netz umschwenkt.

Aber es kann doch nicht sein, dass man dann eine riesenstarke Hardware braucht und nur ein ganz auserlesener Kreis
sich mit Lc0 beschäftigten kann.

Schade, dass dann auch eingeschworene Lc0 Fans das Schiff verlassen.

2000 EUR nur für eine Grafikkarte und der enorm hohe Stromverbrauch von über 500 Watt sind natürlich abschreckend
wenn man für das gleiche Geld einen kompletten sehr guten PC bekommt mit mindesten gleich guten Ergebnissen.

War aber mit Lc0 doch eine schöne Zeit, zum Schluss aber nicht mehr so.

Schade, wenn die Zukunft von Lc0 nicht mehr so rosig ausschaut.

By dkappe Date 2022-10-29 05:35

Reinhold Stibi schrieb:

Um bei TCEC und CCC mit SF und Dragon Schritt zu halten braucht man riesige Netze die auf billigem hardware nichts taugen. Aber bei SF und Dragon funktioniert das NNUE überall. T78 geht aber noch. Man muss sich halt überlegen: wozu will man eigentlich lc0 benutzen? Vielleicht brauch man nicht 4xA100 oder noch mehr.

By Reinhold Stibi Date 2022-10-29 09:29

Ja, so wird es sein.

Das große Netz wird man doch wohl mit einer RTX 3070 Ti betreiben können
mit guten praktischen Ergebnissen ?

Ich fand keinen Download um das große T80er Netz zu installieren.
Weiß da jemand Bescheid ?

By Lothar Jung Date 2022-10-29 09:40

Die neueren Netze laufen nicht alle auf einer RTX 2070.

By Reinhold Stibi Date 2022-10-29 09:49

Danke für die Info,

ich habe ja zwei RTX 2070er im Verbund, entspricht einer RTX 3070 Ti.

Mal schauen wie sich das beste Netz, wohl 78er macht, schon längere Zeit
nicht mit Lc0 gespielt und getestet.

By Peter Martan Date 2022-10-29 09:43 Edited 2022-10-29 09:48

Von hier

https://training.lczero.org/networks/

ist das

https://training.lczero.org/get_network?sha=550edead2f22210c45f9091d773e8d0aef52c3691c500b4720f0dcf993dcb7df

der direkte Download- Link zum 805874 (Anklicken funktioniert nicht, man muss den Link kopieren und in die Browser- Adress- Zeile einfügen), das hier

https://forum.computerschach.de/cgi-bin/mwf/topic_show.pl?pid=158751#pid158751

gute Resultate hatte, bei mir auch problemlos läuft mit der 0.29 rc0- Version und der 3070ti und im Stellungstest sogar ein paar Elo mehr außerhalb der error bar geschafft hat

https://forum.computerschach.de/cgi-bin/mwf/topic_show.pl?pid=158786#pid158786

Link as link can

By Reinhold Stibi Date 2022-10-29 10:51

Vielen Dank Peter, Du bist immer bestens informiert !

By Max Siegfried Date 2022-10-29 09:44

Reinhold Stibi schrieb:

1.Du brauchst ein gigantisches Netz.
2.Gute Ergebnisse werden geliefert aber wenn du gigantisch gute Ergebnisse haben möchtest, dann brauchst du eine gigantisch gute Grafikkarte.

RTX 4090:
Ab 10:50 Brandgefahr
https://www.youtube.com/watch?v=CCMjXpRm2ps

Kaufe dir lieber 2 bis 4 RTX 4090 Ti:
https://www.youtube.com/watch?v=HN5QP1njRvk

By Max Siegfried Date 2022-10-29 09:52

dkappe schrieb:

Reinhold Stibi schrieb:

Weil LC0 vom Spielertyp her ein Reflektor ist, während Stockfish und Dragon Pragmatiker sind.
Jetzt hat man mindestens 100 Gründe um LC0 zu benutzen.
Wer LC0 nicht benutzen möchte, der muss es nicht.

By Clemens Keck Date 2022-10-29 11:03

Also, mit Lc0 im Maschinenraum zu spielen macht keinen Spaß.
egal mit welcher hardware, egal mit welchem netz, egal mit welchen settings, egal mit velcher Lc0 Version.
Lc0 ist wirklich besser geworden. Total-Aussetzer sehr selten.
Aber remis ist halt remis, und mehr geht nicht mit Lc0 gegen die Fische.

CK

By Lothar Jung Date 2022-10-29 13:01

Stimmt im wesentlichen.
Mit meiner RTX 3060m habe ich zuletzt nicht mehr verloren.
Aber auch ein paar Partien gewonnen, sonst hätte nicht Lc0 eine so hohe Elozahl erreicht.
Aber gegen Dragon sehen die Gewinnchancen etwas besser aus.
Auch Lc0 bestraft Fehler (Timemanagement, Eröffungsfehler).
Stockfish auf 8/16 Kernen/Threads hält gegen viel stärkere sicher Remis, vorausgesetzt es wird mit einem guten Buch gespielt.

By Lothar Jung Date 2022-11-12 10:01 Edited 2022-11-12 10:09

Hier die Link zur neuesten Lc0 dag Versionen:

https://github.com/Etcaqab/lc0/commit/9f9d94906b93cdbc17d1f50abf4c86981297bfa2

https://ci.appveyor.com/project/Etcaqab/lc0/builds/45358238

`dag-master` (commit `9f9d9490`) has removed prefetch logic and parameters (using borg's patch).

`dag-no-oooe` (commit `b9b14066`) builds on `dag-master` and removes Out of Order Evaluation. I hope this improves the node quality while losing only a bit of speed.

Builds can be found via https://ci.appveyor.com/project/Etcaqab/lc0/history , feedback welcome!

Hier die aktuellen Tunes zum T80-Netz:

**Tune of T80**
**LC0 version:** v0.30.0-dev (c648428)
**LC0 options: **Network: 803938, SmartPruningMinimumBatches=2, MinibatchSize=192, CPuctFactor=3.973, CPuctBase=45669, MoveOverheadMs=0
**SF version: **Stockfish 15
**SF options: **Threads=8, Move Overhead=0
**Tuning ranges:** CPuct: [1.0, 3.5], FpuValue: [0.1, 1.0], PolicyTemperature: [1.0, 2.0]
**Tuning configuration:** acq_function: pvrs - 755 iterations, 37750 rounds/75500 games
**Hardware:** EPYC 7443 + NVIDIA A100
**Time control:** lc0: 45+0.45, SF: 15+0.15
**Book:** book-ply8-unifen-Q-0.25-0.40
**Tablebases:** 6-man
**Adjudication: **6-man TB, -resign movecount=3 score=550, -draw movenumber=1 movecount=10 score=8
**Software:** chess-tuning-tools
**Optimum found:** `{'CPuct': 1.8647217499277742, 'FpuValue': 0.5659480931597941, 'PolicyTemperature': 1.3868213852705664}`