Not logged inCSS-Forum
Forum CSS-Online Help Search Login
CSS-Shop Impressum Datenschutz
Up Topic Hauptforen / CSS-Forum / Aktualisierte Lc0 Engine
- By Lothar Jung Date 2022-10-09 11:05 Upvotes 1
Quelle: Discord/lc0/dev

I have just pushed `dag-ab` branch that is a combination of `dag-master`, Ankan's `AttentionBody` branch and my minor "fixes" of that code. I plan to keep `dag-ab` in sync with `dag-master` and any attention body improvements/fixes that become available.

Builds can be found via https://ci.appveyor.com/project/Etcaqab/lc0/history or at https://ci.appveyor.com/project/Etcaqab/lc0/builds/45011116 .

*NOTE: Please use `dag-master`, unless you need an attention body support, if you need attention body, use `dag-ab`. Other branches are considered temporary, experimental, intended for testers mostly, and can disappear without warning.*
- By Lothar Jung Date 2022-10-10 14:13 Edited 2022-10-10 14:16 Upvotes 1
Hier die Download Links:

https://ci.appveyor.com/project/Etcaqab/lc0/history

https://ci.appveyor.com/project/Etcaqab/lc0/builds/45015606

I think I have identified and fixed the source of the three-fold issue reported by <@271014575938207756> (Thanks!). All current branches are affected as the bug was introduced in the first part of my bound fixing effort that was already merged to `dag-master` and from there to the rest of my branches. I have fixed the issue in `dag-backup-bounds`, commit `39f97d97`.
- By Lothar Jung Date 2022-10-11 02:49 Upvotes 2
Hier das offizielle pre release von Lc0 0.29.0-rc0:

https://github.com/LeelaChessZero/lc0/releases/tag/v0.29.0-rc0
- By Lothar Jung Date 2022-10-14 08:28
Hier eine neue Version, die das Problem der Zugwiederholung löst:

Two more repetition-related issues were fixed in `dag-backup-bounds` commit `7e290597`. Two-folds had higher priority than terminals during backup and three-folds were not marked as repetitions to prevent bound breaches via delta updates. This time my thanks go to <@261931197607706624> for supplying a nice test position.

Please test `dag-backup-bounds` so that we can merge it soon and attempt to fix memory issues in time for SuFi.
- - By Lothar Jung Date 2022-10-17 18:33 Upvotes 1
Leider wird das T78 Netz nicht mehr trainiert und alle Ressourcen wurden auf das T80 Netz gelenkt.
Schade, da dass T78 Netz in den Turnieren ziemlich ordentlich abschnitt.
Das T80 Netz braucht stärkere Hardware.
Parent - - By Peter Martan Date 2022-10-17 19:17 Upvotes 2
Lothar Jung schrieb:

Das T80 Netz braucht stärkere Hardware.

Ist aber nicht dein Ernst, nein?

Würden sich das die Entwickler wirklich antun, nur mehr für Hardware stärker als 3070ti (um mal eine mittlerweile vermutlich durchschnittliche GPU zu nennen, die zufällig auch meine ist) zu optimieren, könnten Sie die Hardware- Zeit- Leistung derer, die Hardware stiften, mit den heutigen Stromkosten bald ganz schön abschreiben, sag' ich mal so.
Parent - - By Lothar Jung Date 2022-10-17 20:24 Upvotes 1
Ja, ist mein Ernst.
T80 hat deutlich weniger kN/sec. als T78.
Ob die bessere Policy das aufwiegt, muß sich erst zeigen.
Schwächere Hardware könnte das Nachsehen haben.
Manche Engine/Netze laufen nicht mit einer RTX 2080.
Die Programmieren orientieren sich immer mehr an die Nvidia X100 GPUs und davon womöglich 4 davon.
Ich jedenfalls investiere nicht mehr in stärkere Hardware, wegen abartiger Kosten und Energieverbrauch.
Ich bin zwar bekloppt, aber nicht blöd.
Parent - - By Peter Martan Date 2022-10-17 20:33 Edited 2022-10-17 20:40
Lothar Jung schrieb:

Ja, ist mein Ernst.
T80 hat deutlich weniger kN/sec. als T78.

Na das sagt ja zunächst mal noch just nix.
Dass schwächere Hardware das Nachsehen gegen stärkere hat, wäre ja auch noch kein Wunder, aber dass durchschnittliche Hardware mit neuer Software gegen alte Software abstinkt, nenne ich Rückschritt in einer Software- Entwicklung.
Was mir nur schon länger auffällt ist, dass es seit ewig nur 1er runs von 80er Netzen gibt.
Dauert halt offenbar ewig, bis die immer größer werdenden Netze "fertig" trainiert sind?
Parent - By Lothar Jung Date 2022-10-17 20:44
Wieso soll man soviel Energie in dieses Experiment stecken.
Wenn es nicht erfolgreich ist, wird ein neues größeres Netz aufgesetzt und es dauert noch länger.
Mit noch mehr Energie.
Parent - - By Clemens Keck Date 2022-10-29 09:49
Lothar Jung schrieb:

Ja, ist mein Ernst.
T80 hat deutlich weniger kN/sec. als T78.


Hmm
habe ich da irgend etwas in diesem Thread überlesen ?!
T80 ist auf RTX GPU doch deutlich schneller als T78.
Das Netz T80 ist doch auch kleiner als T78

verstehen nicht

CK
Parent - By Lothar Jung Date 2022-10-29 10:04
Du kannst Recht haben.
Ich hatte mit RTX 3060m getestet.
Damals war das Netz deutlich schwächer.
Das hat sich geändert:

In my current test of 805946 vs SF12 single core at 1min+2s TC after  100 of 200 games (And 50 openings) looks like it might be a new strongest net:
```   # PLAYER            :  RATING  ERROR  POINTS  PLAYED   (%)  CFS(%)    W    D    L  D(%)
   1 Lc0.net.805946    :    26.6   39.8    53.5     100  53.5      76   29   49   22  49.0  <== NEW
   2 Lc0.net.805435    :     9.5   28.1   102.5     200  51.3      75   40  125   35  62.5
   3 Stockfish_12_1CPU :     0.0   ----   457.5     900  50.8      79  170  575  155  63.9
   4 Lc0.net.805738    :   -11.4   28.0    97.0     200  48.5      65   31  132   37  66.0
   5 Lc0.net.805874    :   -19.0   27.4    95.0     200  47.5      54   30  130   40  65.0
   6 Lc0.net.805846    :   -20.9   28.1    94.5     200  47.3     ---   25  139   36  69.5```
Previous results were posted here (inclcuding those posted above):
https://discord.com/channels/425419482568196106/530486338236055583/1035537381954158604

So far the result is the best in this test (and the previous gauntlet) after 100 games:
```   # PLAYER            :  RATING  ERROR  POINTS  PLAYED   (%)  CFS(%)    W    D    L  D(%)
   1 Lc0.net.805946    :    29.3   49.5    53.5     100  53.5      72   29   49   22  49.0  <== NEW
   2 Lc0.net.805435    :     8.4   49.4    51.0     100  51.0      63   28   46   26  46.0
   3 Stockfish_12_1CPU :     0.0   ----   250.5     500  50.1      57  130  241  129  48.2
   4 Lc0.net.805738    :    -4.2   49.3    49.5     100  49.5      55   27   45   28  45.0
   5 Lc0.net.805874    :    -8.4   49.4    49.0     100  49.0      72   25   48   27  48.0
   6 Lc0.net.805846    :   -29.3   49.5    46.5     100  46.5     ---   20   53   27  53.0```
Full list of 100 games tests could be found here:
https://discord.com/channels/425419482568196106/530486338236055583/1034019700860014602

FWIW the 805946 net with 91/111 also has an outstanding ERET test result (ar 60s time per position).
This is the best ERET test result of the last 2000 nets.

Damals schnitt das T80 Netz bei den Suites schlechter ab.
Auch auf Schach.de war es nicht so stark wie T78.
Parent - By Peter Martan Date 2022-10-29 10:25 Edited 2022-10-29 10:30
Das 805874 hat 116 355 Kb
das 784968, das zu vorletzt im TCEC gespielt hatte, hat 158 037,
du hast recht.

Diese beiden sind ganz unten in der Liste vertreten, die zwei, um die's geht, mit dem selben 0.29 rc0- Compile:

https://forum.computerschach.de/cgi-bin/mwf/topic_show.pl?pid=158786#pid158786
- - By Lothar Jung Date 2022-10-17 20:53
Ja, der abgehobene akademische Ansatz von Lc0 könnte an dem Willen der Unterstützer scheitern, ihre Zeit und Energie zur Verfügung zu stellen.
Parent - - By Reinhold Stibi Date 2022-10-17 21:03 Edited 2022-10-17 21:07 Upvotes 1
Wo kann man denn das T 80er Netz downloaden.

Gibt es da schon brauchbare Netze, oder steht man da am Anfang und es kann noch ca. 1 Monat dauern um brauchbare konkurrenzfähige
Ergebnisse zu erzielen.

Mit meinen 2 RTX 2070er im Verbund, entspricht einer RTX 3070 Ti, wird man das Ding doch zum laufen bringen ?

Kann vielleicht auch Peter mit seiner RTX 3070 Ti das T80er Netz testen ? 

Danke !
Parent - - By Peter Martan Date 2022-10-17 21:52 Edited 2022-10-17 22:12
Reinhold Stibi schrieb:

Kann vielleicht auch Peter mit seiner RTX 3070 Ti das T80er Netz testen ? 

Ums Testen geht's da momentan noch nicht so sehr wie ums Trainieren, denke ich.
Das eine 80er, das ich mal probiert hatte (kann nicht mehr schauen, welches das war, das ist mit einer erst ein Jahr alten SSD eingegangen und war nicht gesichert) war auch nicht viel schlechter als die guten 70er aber auch nicht besser.
Das Problem ist ja überhaupt, aus der error bar zu kommen mit den Unterschieden.
Wie man an der Liste mit den 256 Stellungen sieht, war die neue 0.29  Prerelease- Version die erste seit langer Zeit, die mit dem TCEC- Netz einen Fortschritt gezeigt hat bei mir größer als die Irrtumswahrscheinlichkeit.

https://forum.computerschach.de/cgi-bin/mwf/topic_show.pl?pid=158487#pid158487
Parent - - By Reinhold Stibi Date 2022-10-17 22:17
Danke Peter,

denke dass man mit dem 78er Netz nicht mehr weitergekommen ist und deshalb auf das größere Netz umschwenkt.

Aber es kann doch nicht sein, dass man dann eine riesenstarke Hardware braucht und nur ein ganz auserlesener Kreis
sich mit Lc0 beschäftigten kann.

Schade, dass dann auch eingeschworene Lc0 Fans das Schiff verlassen.

2000 EUR nur für eine Grafikkarte und der enorm hohe Stromverbrauch von über 500 Watt sind natürlich abschreckend
wenn man für das gleiche Geld einen kompletten sehr guten PC bekommt mit mindesten gleich guten Ergebnissen. 

War aber mit Lc0 doch eine schöne Zeit, zum Schluss aber nicht mehr so.

Schade, wenn die Zukunft von Lc0 nicht mehr so rosig ausschaut.
Parent - - By dkappe Date 2022-10-29 05:35
Reinhold Stibi schrieb:

Danke Peter,

denke dass man mit dem 78er Netz nicht mehr weitergekommen ist und deshalb auf das größere Netz umschwenkt.

Aber es kann doch nicht sein, dass man dann eine riesenstarke Hardware braucht und nur ein ganz auserlesener Kreis
sich mit Lc0 beschäftigten kann.

Schade, dass dann auch eingeschworene Lc0 Fans das Schiff verlassen.

2000 EUR nur für eine Grafikkarte und der enorm hohe Stromverbrauch von über 500 Watt sind natürlich abschreckend
wenn man für das gleiche Geld einen kompletten sehr guten PC bekommt mit mindesten gleich guten Ergebnissen. 

War aber mit Lc0 doch eine schöne Zeit, zum Schluss aber nicht mehr so.

Schade, wenn die Zukunft von Lc0 nicht mehr so rosig ausschaut.


Um bei TCEC und CCC mit SF und Dragon Schritt zu halten braucht man riesige Netze die auf billigem hardware nichts taugen. Aber bei SF und Dragon funktioniert das NNUE überall. T78 geht aber noch. Man muss sich halt überlegen: wozu will man eigentlich lc0 benutzen? Vielleicht brauch man nicht 4xA100 oder noch mehr.
Parent - - By Reinhold Stibi Date 2022-10-29 09:29
Ja, so wird es sein.

Das große Netz wird man doch  wohl  mit einer RTX 3070 Ti betreiben können
mit guten praktischen Ergebnissen ?

Ich fand keinen Download um das große T80er Netz zu installieren.
Weiß da jemand Bescheid ?
Parent - - By Lothar Jung Date 2022-10-29 09:40
Die neueren Netze laufen nicht alle auf einer RTX 2070.
Parent - By Reinhold Stibi Date 2022-10-29 09:49
Danke für die Info,

ich habe ja zwei RTX 2070er im Verbund, entspricht einer RTX 3070 Ti.

Mal schauen wie sich das beste Netz, wohl 78er macht, schon längere Zeit
nicht mit Lc0 gespielt und getestet.
Parent - - By Peter Martan Date 2022-10-29 09:43 Edited 2022-10-29 09:48
Von hier

https://training.lczero.org/networks/

ist das

https://training.lczero.org/get_network?sha=550edead2f22210c45f9091d773e8d0aef52c3691c500b4720f0dcf993dcb7df

der direkte Download- Link zum 805874 (Anklicken funktioniert nicht, man muss den Link kopieren und in die Browser- Adress- Zeile einfügen), das hier

https://forum.computerschach.de/cgi-bin/mwf/topic_show.pl?pid=158751#pid158751

gute Resultate hatte, bei mir auch problemlos läuft mit der 0.29 rc0- Version und der 3070ti und im Stellungstest sogar ein paar Elo mehr außerhalb der error bar geschafft hat

https://forum.computerschach.de/cgi-bin/mwf/topic_show.pl?pid=158786#pid158786

Link as link can
Parent - By Reinhold Stibi Date 2022-10-29 10:51
Vielen Dank Peter, Du bist immer bestens informiert !
Parent - By Max Siegfried Date 2022-10-29 09:44
Reinhold Stibi schrieb:

Ja, so wird es sein.

Das große Netz wird man doch  wohl  mit einer RTX 3070 Ti betreiben können
mit guten praktischen Ergebnissen ?

Ich fand keinen Download um das große T80er Netz zu installieren.
Weiß da jemand Bescheid ?


1.Du brauchst ein gigantisches Netz.
2.Gute Ergebnisse werden geliefert aber wenn du gigantisch gute Ergebnisse haben möchtest, dann brauchst du eine gigantisch gute Grafikkarte.

RTX 4090:
Ab 10:50 Brandgefahr
https://www.youtube.com/watch?v=CCMjXpRm2ps

Kaufe dir lieber 2 bis 4 RTX 4090 Ti:
https://www.youtube.com/watch?v=HN5QP1njRvk
Parent - By Max Siegfried Date 2022-10-29 09:52
dkappe schrieb:

Reinhold Stibi schrieb:

Danke Peter,

denke dass man mit dem 78er Netz nicht mehr weitergekommen ist und deshalb auf das größere Netz umschwenkt.

Aber es kann doch nicht sein, dass man dann eine riesenstarke Hardware braucht und nur ein ganz auserlesener Kreis
sich mit Lc0 beschäftigten kann.

Schade, dass dann auch eingeschworene Lc0 Fans das Schiff verlassen.

2000 EUR nur für eine Grafikkarte und der enorm hohe Stromverbrauch von über 500 Watt sind natürlich abschreckend
wenn man für das gleiche Geld einen kompletten sehr guten PC bekommt mit mindesten gleich guten Ergebnissen. 

War aber mit Lc0 doch eine schöne Zeit, zum Schluss aber nicht mehr so.

Schade, wenn die Zukunft von Lc0 nicht mehr so rosig ausschaut.


Um bei TCEC und CCC mit SF und Dragon Schritt zu halten braucht man riesige Netze die auf billigem hardware nichts taugen. Aber bei SF und Dragon funktioniert das NNUE überall. T78 geht aber noch. Man muss sich halt überlegen: wozu will man eigentlich lc0 benutzen? Vielleicht brauch man nicht 4xA100 oder noch mehr.


Weil LC0 vom Spielertyp her ein Reflektor ist, während Stockfish und Dragon Pragmatiker sind.
Jetzt hat man mindestens 100 Gründe um LC0 zu benutzen.
Wer LC0 nicht benutzen möchte, der muss es nicht.
Parent - - By Clemens Keck Date 2022-10-29 11:03
Also, mit Lc0 im Maschinenraum zu spielen macht keinen Spaß.
egal mit welcher hardware, egal mit welchem netz, egal mit welchen settings, egal mit velcher Lc0 Version.
Lc0 ist wirklich besser geworden. Total-Aussetzer sehr selten.
Aber remis ist halt remis, und mehr geht nicht mit Lc0 gegen die Fische.

CK
Parent - By Lothar Jung Date 2022-10-29 13:01
Stimmt im wesentlichen.
Mit meiner RTX 3060m habe ich zuletzt nicht mehr verloren.
Aber auch ein paar Partien gewonnen, sonst hätte nicht Lc0 eine so hohe Elozahl erreicht.
Aber gegen Dragon sehen die Gewinnchancen etwas besser aus.
Auch Lc0 bestraft Fehler (Timemanagement, Eröffungsfehler).
Stockfish auf 8/16 Kernen/Threads hält gegen viel stärkere sicher Remis, vorausgesetzt es wird mit einem guten Buch gespielt.
- By Lothar Jung Date 2022-10-29 03:24
Hier eine neue dag Version:

`dag-master` (commit `9a9c42d`) acquired the TT maintenace fix from `dag-tt-maintenance`, to be ready for TCEC SuFi submission, and both branches are now identical

Builds can be found at https://ci.appveyor.com/project/Etcaqab/lc0/history , feedback welcome!
- By Lothar Jung Date 2022-11-03 09:55
Hier ein aktueller Lc0/SF Test - Blitz 3 + 3 - unter guter/sehr guter Hardware:

**Match:** SF-dev gauntlet vs. T78 & BT1024
**Networks:** T78: 785514 - BT1024: BT1024-RL-147k
**Lc0 version:** `dag-ab`, commit `d779e93`
**Lc0 options:** T78: MBS 384 - BT1024 - MBS 104 - both: Threads=3
**SF options:** Threads=16, Hash=3072
**Hardware:** EPYC 7443 + 2x NVIDIA A100
**Software:** cutechess-cli
**Time control:** 3m+3s
**Book:** book-ply8-unifen-Q-0.25-0.4
**Tablebases:** 6-man for engines and adjudication
**Adjudication:** -draw movenumber=30 movecount=10 score=8 -resign movecount=3 score=700

```
# PLAYER        :  RATING  ERROR  POINTS  PLAYED   (%)  CFS(%)    W     D    L  D(%)
   1 stockfish        :     0.0   ----   1076.0    2000    54      98  576  1000  424    50
   2 lc0-T78          :   -16.2   15.0   480.0    1000    48     100  232   496  272    50
   3 lc0-BT1024    :   -45.5   15.2   444.0    1000    44     ---  192   504  304    50

White advantage = 134.91 +/- 5.36
Draw rate (equal opponents) = 59.97 % +/- 1.36```
- By Lothar Jung Date 2022-11-12 10:01 Edited 2022-11-12 10:09
Hier die Link zur neuesten Lc0 dag Versionen:

https://github.com/Etcaqab/lc0/commit/9f9d94906b93cdbc17d1f50abf4c86981297bfa2

https://ci.appveyor.com/project/Etcaqab/lc0/builds/45358238

`dag-master` (commit `9f9d9490`) has removed prefetch logic and parameters (using borg's patch).

`dag-no-oooe` (commit `b9b14066`) builds on `dag-master` and removes Out of Order Evaluation. I hope this improves the node quality while losing only a bit of speed.

Builds can be found via https://ci.appveyor.com/project/Etcaqab/lc0/history , feedback welcome!

Hier die aktuellen Tunes zum T80-Netz:

**Tune of T80**
**LC0 version:** v0.30.0-dev (c648428)
**LC0 options: **Network: 803938, SmartPruningMinimumBatches=2, MinibatchSize=192, CPuctFactor=3.973, CPuctBase=45669, MoveOverheadMs=0
**SF version: **Stockfish 15
**SF options: **Threads=8, Move Overhead=0
**Tuning ranges:** CPuct: [1.0, 3.5], FpuValue: [0.1, 1.0], PolicyTemperature: [1.0, 2.0]
**Tuning configuration:** acq_function: pvrs - 755 iterations, 37750 rounds/75500 games
**Hardware:** EPYC 7443 + NVIDIA A100
**Time control:** lc0: 45+0.45, SF: 15+0.15
**Book:** book-ply8-unifen-Q-0.25-0.40
**Tablebases:** 6-man
**Adjudication: **6-man TB, -resign movecount=3 score=550, -draw movenumber=1 movecount=10 score=8
**Software:** chess-tuning-tools
**Optimum found:** `{'CPuct': 1.8647217499277742, 'FpuValue': 0.5659480931597941, 'PolicyTemperature': 1.3868213852705664}`
- By Lothar Jung Date 2022-11-18 10:21 Upvotes 1
Hier ist der neueste Stand für CCC:

```diff
diff --git a/engines.json b/engines.json
index dc807a5..7afe984 100644
--- a/engines.json
+++ b/engines.json
@@ -597,7 +597,7 @@
         "options": [
             {
                 "name": "MoveOverheadMs",
-                "value": "200"
+                "value": "1000"
             },
             {
                 "name": "WeightsFile",
@@ -657,7 +657,7 @@
             },
             {
                 "name": "TimeManager",
-                "value": "legacy"
+                "value": "legacy(book-ply-bonus=0.4)"
             },
             {
                 "name": "VerboseMoveStats",
```
```
$ ./lc0.sh
       _
|   _ | |
|_ |_ |_| v0.30.0-dag+git.9f9d949 built Nov 17 2022
```

Lc0 updated at CCC to dag-master (9f9d949), + TM config changes.
- By Lothar Jung Date 2022-11-21 04:38 Upvotes 1
Hier (wieder) eine neue Engineversion auf Discord:

`dag-svfan` (commit `1cbf769b`) should fix two months old issue with visit counts that are used to stop fixed node searches and in smooth time manager estimates.

Builds can be found via https://ci.appveyor.com/project/Etcaqab/lc0/history , feedback welcome!
- By Lothar Jung Date 2022-11-22 19:54 Upvotes 1
Jetzt die zusammengeführte aktuelle Engine Version:

`dag-master` as of commit `a00580d8` has working fixed node searches from `dag-svfan` and all updates from mainline `master`.
`dag-ab` as of commit `80272914` has all changes from `dag-master` merged in.

Builds can be found via https://ci.appveyor.com/project/Etcaqab/lc0/history , feedback welcome!
Up Topic Hauptforen / CSS-Forum / Aktualisierte Lc0 Engine

Powered by mwForum 2.29.3 © 1999-2014 Markus Wichitill