Lc0 0.31.0 erschienen

By Lothar Jung Date 2024-06-17 10:37 Edited 2024-06-17 10:59

We are pleased to announce the release of Lc0 v0.31.0: <https://github.com/LeelaChessZero/lc0/releases/tag/v0.31.0>
In this release:
* The blas, cuda, eigen, metal and onnx backends now have support for multihead network architecture and can run BT3/BT4 nets.
* Updated the internal Elo model to better align with regular Elo for human players.
* There is a new XLA backend that uses OpenXLA compiler to produce code to execute the neural network. See <https://github.com/LeelaChessZero/lc0/wiki/XLA-backend> for details. Related are new leela2onnx options to output the HLO format that XLA understands.
* There is a vastly simplified lc0 interface available by renaming the executable to `lc0simple`.
* The backends can now suggest a minibatch size to the search, this is enabled by `--minibatch-size=0` (the new default).
* If the cudnn backend detected an unsupported network architecture it will switch to the cuda backend.
* Two new selfplay options enable value and policy tournaments. A policy tournament is using a single node policy to select the move to play, while a value tournament searches all possible moves at depth 1 to select the one with the best q.
* While it is easy to get a single node policy evaluation (`go nodes 1` using uci), there was no simple way to get the effect of a value only evalaution, so the `--value-only` option was added.
* Button uci options were implemented and a button to clear the tree was added (as hidden option).
* Support for the uci `go mate` option was added.
* The rescorer can now be built from the lc0 code base instead of a separate branch.
* A dicrete onnx layernorm implementation was added to get around a onnxruntime bug with directml - this has some overhead so it is only enabled for onnx-dml and can be switched off with the `alt_layernorm=false` backend option.
* The `--onnx2pytoch` option was added to leela2onnx to generate pytorch compatible models.

Big transformer 4. New network architecture which builds off of BT3 by adding two types of auxiliary heads, future heads and categorical value heads. The categorical value heads predict a distribution over values of q rather than a WDL outcome distribution, and the future heads predict the moves that will be played over the next two plies. The hope is that these heads will give additional information to the net to improve training speed. We've also fixed half-precision training, so this model will be larger. BT4 training started in mid-October and is expected to take a few months. It has 15 layers with 1024 embedding size, 32 heads per layer, and 1536 dff size, for roughly a doubling in size over BT3. Training logs can be accessed at https://leela.plutie.ca/

Yaml specification in https://discord.com/channels/425419482568196106/1192835078099828895

Quickstart:
Network: https://plutie.ca/lc0/BT4-1024x15x32h-swa-6147500.pb.gz
Binary: https://ci.appveyor.com/project/Ergodice/lc0/builds/48488418

By Peter Martan Date 2024-06-17 11:44

Lothar Jung schrieb:

Binary: https://ci.appveyor.com/project/Ergodice/lc0/builds/48488418

Danke, aber da steht beim Datum der Erstellung 7 months ago, ich erwähne es nur, falls jemand schon ein neueres Compile in Verwendung hat.

By Lothar Jung Date 2024-06-17 13:01 Upvotes 1

Hier die neuer Version:

https://github.com/LeelaChessZero/lc0/releases/download/v0.31.0/lc0-v0.31.0-windows-gpu-nvidia-cuda-nodll.zip

By Lothar Jung Date 2024-06-17 18:31

Das beste Netz für ältere Grafikarten ist nicht das BT4 Netz sondern das BT3 Netz oder die jeweils komprimierte Version.

By Reinhold Stibi Date 2024-06-17 18:50 Edited 2024-06-17 18:53

Hallo Lothar,

Danke für den Hinweis.

Löse: C:\Schach\Tests\Eigenmann Test in cbh\Eigenmann Rapid Engine Test.cbh

Maximale Lösungszeit = 15s.   Lc0 v0.31.0 BT4 swa 6147500

mit RTX 2070 ERET 91   81,9 %   1.40 Sek.

1. ERET 001 - Entlastung, Akopian-Khenkin, Tilburg 1994   Gelöst in 0.39s/3; Gelöst: 1
2. ERET 002 - Zugzwang, Akerblom 1961   Gelöst in 7.45s/8; Gelöst: 2
3. ERET 003 - Linienoeffnen, Alvarez-Kokkila, CorrGame 1997   Gelöst in 0.36s/6; Gelöst: 3
4. ERET 004 - Endspiel L&S vs L&S, Anand-Shirov, Advanced Chess 2000   Gelöst in 0.36s/7; Gelöst: 4
5. ERET 005 - Laeuferopfer f7, Andriulaitis-Ruefenacht, CorrGame 1999   Gelöst in 0.41s/6; Gelöst: 5
6. ERET 006 - Springeropfer, Annageldyev-Akopian, Moskau 1994   > 15s.
7. ERET 007 - Laeuferpaar, Aronian-Anand, WiikAanZee 2013   Gelöst in 2.55s/12; Gelöst: 6
8. ERET 008 - Zentrum, Aronian-Kramnik, Monte Carlo 2011   Gelöst in 0.38s/7; Gelöst: 7
9. ERET 009 - Springeropfer, Aseev-Popv, Kazan 1995   > 15s.
10. ERET 010 - Freibauer, Atalik-Bregadze, St Louis 2013   Gelöst in 0.58s/7; Gelöst: 8
11. ERET 011 - Rochadeangriff, Atalik-Sax, Szeged 1997   Gelöst in 1.74s/7; Gelöst: 9
12. ERET 012 - Entlastung, Babula-Hoffmann, Dt-BL 2011   Gelöst in 0.38s/6; Gelöst: 10
13. ERET 013 - Zentrum, Bang-Umansky, CorrGame 1996   Gelöst in 0.39s/8; Gelöst: 11
14. ERET 014 - Endspiel T&L&S vs T&L&S, Barbre-D'Arruda, CorrGame 1994   Gelöst in 0.45s/5; Gelöst: 12
15. ERET 015 - Endspiel D&B vs T&L&B, Becker 2015   > 15s.
16. ERET 016 - Pos. Opfer, Bischoff-Fressinet, Dt. Bundesliga 2008   Gelöst in 0.38s/6; Gelöst: 13
17. ERET 017 - Koenigsangriff, Boudy-Szabo, Varna 1979   > 15s.
18. ERET 018 - Entwicklung, Bromberger-Areshchenko, Dt-BL 2010   Gelöst in 0.61s/6; Gelöst: 14
19. ERET 019 - Endspiel L&L&S&S vs L&S&B, Broni 1970   Gelöst in 0.36s/7; Gelöst: 15
20. ERET 020 - Laeuferopfer h7, Burmakin-Ziatdinov, Moskau 2009   Gelöst in 0.44s/5; Gelöst: 16
21. ERET 021 - Prophylaxe, Carlsen-Nakamura, London 2010   Gelöst in 0.44s/5; Gelöst: 17
22. ERET 022 - Freibauer, Carlsen-Nakamura, Medias 2011   Gelöst in 0.42s/5; Gelöst: 18
23. ERET 023 - Rochadeangriff, Copie-Patrici, CorrGame 1986   Gelöst in 0.36s/7; Gelöst: 19
24. ERET 024 - Entwicklung, Critter-Komodo, CompGame 2016   Gelöst in 0.36s/6; Gelöst: 20
25. ERET 025 - Endspiel T&L vs T&L, Critter-Naum, CompGame 2015   Gelöst in 0.39s/7; Gelöst: 21
26. ERET 026 - Springeropfer, Degraeve-Aseev, St.Petersburg 1996   Gelöst in 0.36s/4; Gelöst: 22
27. ERET 027 - Zugzwang, DeLimburg 1900   Gelöst in 0.36s/6; Gelöst: 23
28. ERET 028 - Vergifteter Bauer, Diep-DeepJunior, WCCC 2004   Gelöst in 0.39s/10; Gelöst: 24
29. ERET 029 - Qualitaetsopfer, Dolinskij-Tosic, Moskau 1999   Gelöst in 0.41s/6; Gelöst: 25
30. ERET 030 - Initiative, Dutra-Alfredo, CorrGame 2008   > 15s.
31. ERET 031 - Endspiel L vs L, Estrin-Ivashin, CorrGame 1947   Gelöst in 0.36s/6; Gelöst: 26
32. ERET 032 - Zugzwang, Fahrni 1922   > 15s.
33. ERET 033 - Initiative, Fedorchuk-Sokolov, Khanty-Mansiysk 2009   Gelöst in 0.38s/5; Gelöst: 27
34. ERET 034 - Laeuferpaar, Fischer-Incutto, Mar Del Plata 1960   Gelöst in 8.63s/12; Gelöst: 28
35. ERET 035 - Qualitaetsopfer, FischerW-Siigur, CorrGame 2009   Gelöst in 0.70s/9; Gelöst: 29
36. ERET 036 - Endspiel T&L&S vs T&L&S, Fritz 1965   > 15s.
37. ERET 037 - Zugzwang, Garcia 2000   > 15s.
38. ERET 038 - Endspiel S&S vs L&B, Garcia 2000   Gelöst in 1.70s/10; Gelöst: 30
39. ERET 039 - Entwicklung, Gelfand-Ivanchuk, Dagomys 2009   Gelöst in 0.44s/6; Gelöst: 31
40. ERET 040 - Koenigssicherheit, Gerasin-Dronov, CorrGame 1991   Gelöst in 0.39s/5; Gelöst: 32
41. ERET 041 - Springeropfer, Gerber-Georgiev, Luzern 2003   Gelöst in 0.39s/7; Gelöst: 33
42. ERET 042 - Endspiel S vs L, Glaurung-Rybka (Var), CompGame 2009   Gelöst in 0.38s/8; Gelöst: 34
43. ERET 043 - Springeropfer, Glek-Ulibin, Wien 1998   Gelöst in 0.45s/5; Gelöst: 35
44. ERET 044 - Linienoeffnen, Gligoric-Ghitescu, Zagreb 1970   Gelöst in 0.44s/6; Gelöst: 36
45. ERET 045 - Initiative, Gouw-BlancoG, CorrGame 2001   > 15s.
46. ERET 046 - Endspiel T&S vs T&S, Grandelius-Raznikov, Albena 2011   Gelöst in 0.39s/6; Gelöst: 37
47. ERET 047 - Entlastung, Grischuk-Aronian, Ohrid 2009   Gelöst in 0.69s/10; Gelöst: 38
48. ERET 048 - Starke Felder, Grivas-Svetushkin, Glifada 2001   Gelöst in 0.36s/6; Gelöst: 39
49. ERET 049 - Entwicklung, Gufeld-Ivanovic, Socchi 1979   > 15s.
50. ERET 050 - Koenigsangriff, Hansen-Barua, Biel 1993   > 15s.
51. ERET 051 - Verteidigung, Harding-Zavanelli, CorrGame 1985   Gelöst in 0.42s/6; Gelöst: 40
52. ERET 052 - Starke Felder, HarEven-Kofidis, CorrGame 1996   Gelöst in 0.36s/6; Gelöst: 41
53. ERET 053 - Pos. Opfer, Ivanisevic-Nisipeanu, Istanbul 2003   Gelöst in 0.38s/9; Gelöst: 42
54. ERET 054 - Endspiel D&T&L vs D&T&L, Jussupow-Kasparov, Linares 1990   Gelöst in 6.27s/14; Gelöst: 43
55. ERET 055 - Laeuferopfer h6, Kamsky-Lautier, Dortmund 1993   Gelöst in 0.36s/7; Gelöst: 44
56. ERET 056 - Zwischenzug, Karjakin-Kramnik, Moskau 2010   Gelöst in 0.42s/5; Gelöst: 45
57. ERET 057 - Abtausch, Kashlyak-Vandermeulen, CorrGame 2008   Gelöst in 0.36s/6; Gelöst: 46
58. ERET 058 - Endspiel T&L vs T&L, Kasparian 1954   Gelöst in 0.36s/10; Gelöst: 47
59. ERET 059 - Endspiel D&L vs D&T, Komodo-Stockfish, CompGame 2014   Gelöst in 0.38s/6; Gelöst: 48
60. ERET 060 - Koenigsangriff, Kortschnoj-Andersson, Ubeda 1997   Gelöst in 0.39s/6; Gelöst: 49
61. ERET 061 - Koenigsangriff, Kortschnoj-Shirov, Madrid 1996   Gelöst in 11.98s/15; Gelöst: 50
62. ERET 062 - Starke Felder, Kotronias-Davies, Gausdal 1094   Gelöst in 0.42s/8; Gelöst: 51
63. ERET 063 - Verteidigung, Kovacs-Sperkin, CorrGame 2012   Gelöst in 6.41s/14; Gelöst: 52
64. ERET 064 - Endspiel T vs T, Ktulu-Hiarcs (Var), CompGame 2005   Gelöst in 0.36s/5; Gelöst: 53
65. ERET 065 - Zwischenzug, Kuligowski-Knaak, Slupsk 1982   Gelöst in 1.02s/7; Gelöst: 54
66. ERET 066 - Endspiel T&S vs L&S, Marwitz 1965   > 15s.
67. ERET 067 - Raeumung, Moisieev-Simagin, Moskau 1951   Gelöst in 0.36s/6; Gelöst: 55
68. ERET 068 - Offene Linie, Morozevich-Kogan, London 1994   Gelöst in 4.11s/13; Gelöst: 56
69. ERET 069 - Koenigsangriff, Morozevich-Petursson, London 1994   Gelöst in 0.36s/5; Gelöst: 57
70. ERET 070 - Starke Felder, Motylev -Li, China 2010   Gelöst in 0.44s/5; Gelöst: 58
71. ERET 071 - Ablenkung, Myers-Baufays, CorrGame 2010   > 15s.
72. ERET 072 - Zentralisierung, N.N.-N.N. (Analyse)   Gelöst in 0.38s/5; Gelöst: 59
73. ERET 073 - Mobilitaet, N.N.-N.N. (Analyse)   > 15s.
74. ERET 074 - Endspiel T&S vs T&S, N.N.-N.N. (Analyse)   Gelöst in 0.38s/6; Gelöst: 60
75. ERET 075 - Festung, N.N.-N.N. (Analyse)   Gelöst in 0.38s/7; Gelöst: 61
76. ERET 076 - Entwicklung, Nakamura-VanWely, Amsterdam 2010   Gelöst in 0.38s/7; Gelöst: 62
77. ERET 077 - Rochadeangriff, Negi-Volokitin, ESP 2008   Gelöst in 0.36s/7; Gelöst: 63
78. ERET 078 - Freibauer, Niedermayr-Bachschmidt, CorrGame 1968   Gelöst in 0.38s/7; Gelöst: 64
79. ERET 079 - Damenopfer, Nijboer-Winants, WijkAanZee 1988   Gelöst in 0.36s/7; Gelöst: 65
80. ERET 080 - Raeumung, Nirvana-Hannibal, CompGame 2015   Gelöst in 11.53s/14; Gelöst: 66
81. ERET 081 - Koenigsangriff, Nunn-Ward, GB 1998   Gelöst in 0.41s/4; Gelöst: 67
82. ERET 082 - Endspiel S vs L, Nurmamed.-Volovici (Var), CorrGame 1960   Gelöst in 1.41s/8; Gelöst: 68
83. ERET 083 - Abtausch, Orlov-Georgiev, Belgrad 1988   Gelöst in 0.38s/7; Gelöst: 69
84. ERET 084 - Koenigsangriff, Persson-Teichmeister, CorrGame 2009   Gelöst in 4.78s/14; Gelöst: 70
85. ERET 085 - Abtausch, Petrosian-Bronstein, UdSSR-Ch 1967   Gelöst in 2.11s/11; Gelöst: 71
86. ERET 086 - Qualitaetsopfer, Petrosian-Fischer, BuenosAires 1971   Gelöst in 0.39s/6; Gelöst: 72
87. ERET 087 - Raeumung, Petrosian-Larsen, PalmaDeMallorca 1968   Gelöst in 0.36s/6; Gelöst: 73
88. ERET 088 - Endspiel S vs S, Razuvaev-Ostojic, 1988   Gelöst in 0.91s/6; Gelöst: 74
89. ERET 089 - Unterverwandlung, Rumänien 1977   > 15s.
90. ERET 090 - Endspiel L vs L, Salai 2011   > 15s.
91. ERET 091 - Endspiel B vs B, Shredder-Fritz (Var), CompGame 2007   Gelöst in 0.36s/7; Gelöst: 75
92. ERET 092 - Vergifteter Bauer, Shredder-Ruffian, CompGame 2005   Gelöst in 0.91s/8; Gelöst: 76
93. ERET 093 - Endspiel T&S&B vs T&T&L, Simkhovich 1923   > 15s.
94. ERET 094 - Damenopfer, Sirobaba-Chaika, CorrGame 2011   > 15s.
95. ERET 095 - Damenopfer, Smagin-Sahovic, Biel 1990   Gelöst in 0.38s/5; Gelöst: 77
96. ERET 096 - Endspiel D vs T&L&S, Sochnev 2009   > 15s.
97. ERET 097 - Endspiel L vs L, Spassky-Barne, SanJuan 1974   Gelöst in 0.45s/7; Gelöst: 78
98. ERET 098 - Endspiel T vs T, Stockfish-Komodo, CompGame 2015   Gelöst in 0.38s/3; Gelöst: 79
99. ERET 099 - Endspiel D&T vs D&T&S, Stuovsky-Movsesian, EU-Ch 2001   Gelöst in 0.48s/7; Gelöst: 80
100. ERET 100 - Initiative, Sutovsky-Agrest, Harplinge 1998   Gelöst in 0.38s/5; Gelöst: 81
101. ERET 101 - Entwicklung, Tronhjem-Christensen, CorrGame 1984   Gelöst in 0.42s/6; Gelöst: 82
102. ERET 102 - Koenigsangriff, Tumurhuyag-Uhlmann, Novi Sad 1990   Gelöst in 0.38s/6; Gelöst: 83
103. ERET 103 - Zugzwang, VanEssen 2004   > 15s.
104. ERET 104 - Entwicklung, VanOosterom-Timmerman, CorrGame 1982   Gelöst in 0.38s/6; Gelöst: 84
105. ERET 105 - Starke Felder, Vlasveld-Neagu, CorrGame 2014   Gelöst in 7.78s/13; Gelöst: 85
106. ERET 106 - Koenigssicherheit, Wahls-Chandler (Var), NoviSad 1990   Gelöst in 0.38s/8; Gelöst: 86
107. ERET 107 - Verteidigung, Wiacek-Kolarik, CorrGame 1999   Gelöst in 5.55s/18; Gelöst: 87
108. ERET 108 - Endspiel T&L vs T&L, Winckelmann-Bastos, CorrGame 2003   Gelöst in 8.72s/12; Gelöst: 88
109. ERET 109 - Entlastung, Xie-Bischoff, Baden-Baden 1992   Gelöst in 0.47s/8; Gelöst: 89
110. ERET 110 - Freibauer, Ye-Lutz, Batumi 2001   Gelöst in 3.17s/9; Gelöst: 90
111. ERET 111 - Festung, Zueger-Kindermann(Var), Muenchen 1989   Gelöst in 0.42s/6; Gelöst: 91

Ergebnis: 91 aus 111 = 81.9%. Durchschnittszeit = 1.40s / 7.38

Ein beachtlich gutes Ergebnis mit dem größten Netz auf einer inzwischen eher schwachen

GPU.

Test mit BT3 und HTC 114 folgen.

Grüße
Reinhold

By Lothar Jung Date 2024-06-17 19:00 Upvotes 1

Lc0 spielt bei SSDF etwas über Deiner GPU Stärke und erreichte den ersten Platz.
Mit einer Investition von 500 - 600 € dringt man im Bereich von 8 bis 16 Kerner mit Stockfish vor.
Lohnen tut es sich nur, wenn man die GPU auch für andere Anwendungen einsetzt.
Ökonomischer ist Stockfish.

By Peter Martan Date 2024-06-18 09:40

Vom letzten Compile, das ich zuvor verwendet habe, mit vernünftigem Aufwand praktisch nicht zu unterscheiden, außer dass das neuere wieder wenig gut "belehrbar" im Backward ist.

Score of lc0-0.31 vs lc0-dag-0.32: 24 - 26 - 50 [0.490]
Elo difference: -6.9 +/- 48.4, LOS: 38.9 %, DrawRatio: 50.0 %
100 of 300 games finished.

Weiter werd' ich's nicht mehr laufen lassen, unter 2000 Partien kommt man wohl sowieso nicht aus der error bar, auch nicht mit UHO, hier waren's die 2024 6mvs 900-990cp.
Mit statitischen Stellungstests hat man natürlich prinzipiell dasselbe Problem, nur dass da auch noch die nur bedingte Übertragbarkeit von Suite zu Suite zu der der Hardware- TC dazu kommt.

Die 128 mit 30"/pos., jeweils dasselbe 6147500- Netz


    Program                                    Elo   +/-  Matches  Score   Av.Op.   S.Pos.   MST1    MST2   RIndex
---------
 16 Lc0v0.31.0-6147500                       : 3466    8   1744    44.7 %   3503    75/128    5.6s   15.7s   0.45
---------
 18 Lc0v0.32.0 dag+git.4cfe7426              : 3457    8   1724    43.3 %   3504    69/128    4.6s   16.3s   0.44

MST1  : Mean solution time (solved positions only)
MST2  : Mean solution time (solved and unsolved positions)
RIndex: Score according to solution time ranking for each position

396 (zu den bekannten 256 noch die restlichen aus der Arasan- Suite und ein paar mehr leichte Endspielstudien zusätzlich) mit 2"/pos.:


    Program                                    Elo   +/-  Matches  Score   Av.Op.   S.Pos.   MST1    MST2   RIndex
--------
 24 Lc0v0.32.0-dag+git.4cfe7426-6147500      : 3490    2  11387    48.5 %   3501   292/396    1.1s    1.3s   0.79
 25 Lc0v0.31.0-6147500                       : 3488    2  11339    48.1 %   3501   285/396    1.1s    1.3s   0.77

Und 1111 (um weitere ca. 600 STS- Stellungen und wieder ein paar zusätzliche leichte Endspiel- Studien vermehrt) in MEA mit 1"/pos.:

    EPD  : epd\1111.epd
    Time : 1000ms
                                                Max   Total   Time   Hash          
    Engine           Score   Found  Pos   ELO  Score   Rate    ms     Mb  Cpu      
--------
10  Lc0.32-6147500   26786    927  1111  3276  36815  72.8%   1000   100    2
11  Lc0.31-6147500   26686    924  1111  3280  36615  72.9%   1000   100    2

                                    Created with MEA
                                          by
                                       Ferdinand
                                         Mosca

Alles mit der 3070ti- GPU und 2 CPU- threads, NN-cache jeweils an die TC angepasst, in der MEA- Tabelle steht der sozusagen fälschlich in der Hash- Spalte. Dass das 0.32 trotz etwas mehr unter Found und im Gesamtscore in der Prozent- Performance etwas weniger hat, kommt daher, dass sich da zwischen den beiden runs das Gesamt- Score der Suite ein bisschen geändert hat. Aber aus der error bar kommt und käme das auch sonst ohnehin nicht, die liegt so bei 1.5% der Total Rate bei dieser Suite.