Not logged inCSS-Forum
Forum CSS-Online Help Search Login
CSS-Shop Impressum Datenschutz
Up Topic Hauptforen / CSS-Forum / Spielstärke- oder Spielschwächetetests
1 2 Previous Next  
Parent - By Peter Martan Date 2023-01-17 14:50 Edited 2023-01-17 15:23
Oh Lothar, du reiner Ländler du

Ich habe Leela- Mausi sowohl die default vorgegebenen 2 Threads in einem Run gegönnt, als auch die Hash- Ziffern nur angepasst, damit man was dort stehen hat. Ich weiß wohl, dass sich die Engine um das, was ein GUI ihr vorschreibt (ohnehin nur, wenn's das GUI nicht besser weiß, und ihr überhaupt was vorschreiben will, lass uns nicht näher ins Detail gehen, welches GUI das ist) nicht kümmert, aber ich müsste die Zeile mit den Hash- Einstellungen sonst eigens aus dem Mea- Script immer wieder rausnehmen und für A-B-Engines dann wieder einfügen, dieser Befehl ist aber über die Konsole ohnehin ebenso unwirksam wie er es über ein GUI wäre, weil ihn lc0 nicht in den UCI- Optionen hat und es ein UCI- Kommando ist, das LC0 wie gesagt ohnehin ignoriert.

Es geht also einfach darum, dass da etwas in dieser Zeile steht muss (ich weiß eigentlich nicht, was das Script macht, wenn sie leer bleibt, es interessiert mich auch nur sehr am Rande).
Kümmere dich also bitte du ebenso wenig um das, was bei Leela da in der Spalte Hash steht, ich passe auch nicht den NN-Cache eigens an, was ich hingegen schon natürlich über eine eigene UCI- Kommandozeile machen könnte, das wäre aber wieder derselbe Extra- Aufwand, wenn ich die batch- Datei dann auch für A-B abwechselnd verwenden will.

Dass das Leelalein mehr Initialisierungszeit braucht, ist ja eigentlich nicht die Schuld der anderen Engines, aber dass sie mehr als 200msec mehr braucht als A-B-Engines, glaube ich eigentlich nicht, und der kürzeste Vergleichsrun ist mit 300 auch schon das 3/2- fache von den 200 bei SF, es ist ohnehin einer mit 500 deshalb auch da, dass man mal (bei dieser einen Suite und diesem Vergleichsfeld) den Unterschied feststellt.

Gerne, weil ich's ja jetzt eh auf 999 reduziert habe (zu den 1111, die eigentlich sogar weniger game- playing- ähnlich gepunktet haben) werde ich die paar runs, die ich mit LC0- Versionen und - Netzen machen werde, mit 500 machen, weil ich ja jetzt ohnehin nur mehr Tests mit Versionen und Netze von Liebling Leela machen muss, die auf der offiziellen LC0- site stehen (und oder von dir und deinen discord- compañeros aus Rheinland und Amiland abgesegnet sind als gerade aktuellste super-über-drüber Kombis ), es sei denn, ein Rhein- oder Amiländer hätte gern wieder ganz was Anderes.

Das ist insofern ein ernstgemeintes Angebot, als diese Suiten alle frei runterladbar sind und sie jeder so verwenden kann und darf und soll, wie es die Fragestellung, die die- oder derjenige damit beantworten will, am besten hergibt.

Für einen internen Versionsvergleich, der nicht für eine breitere Gegnerschaft an A-B-Engines auch gedacht ist, kann man sowieso nehmen, was man will.
500 msec sind ein guter Kompromiss, glaube ich, wenn man mit 2-300 single thread für SF vergleichen wollte, aber der geht damit dann relativ zu 200 gerade in diesem sensiblen Bereich dieser Stellungen auch gleich noch ein Stück nach oben, man sieht ja auch hier schon, wieviel Unterschied zwischen 1 und 8 Threads ist (bei A-B, bei Leela wohl auch zwischen 1 und 2 CPU- Threads nicht, interessiert ja auch praktisch nicht, weil mit 1 auch kein Determinismus wie bei A-B zu erwarten ist, war hier auch nur ein einmaliger Versuch, um's halt auch mal zu sehen.

Hingegen ist das Verhältnis von Engines, die da zwischen 60 und 90% der Punkte holen jetzt ohnehin ein ziemlich breit gefächertes, denke ich und man kann wohl recht gut mit Hardware- TC je nach Teilnehmern zusätzlich viel mehr Breite schaffen.
Übrigens bin ich natürlich auch schon wieder dabei, diese 999, von denen die meisten UHOs darin, wenn man zu wenig eindeutige nicht einfach nur ersetzen will, sondern auch mit mehreren Lösungen mit vorangestelltem = im Fritz versieht, auch als "sozusagen oder annähernd single best move"- Suite (halt nur im Fritz als solche korrekt verwendbar) zu einer .cbh- Datei zu machen. Das wird wieder ein bisschen dauern, aber dann kann man so ca. 1000 derartige mit 1"/Zug auch mit EloStatTS auswerten lassen


Edit, edit, edit, wenn 300 msec zu kurz sind für das Leela- Mausi, sind aber für 500 msec. 8G NN-Cache, von denen du schreibst, erst recht zuviel. Default haben die 30dag- compiles 2G, für LTC setze ich das auf die im Fritz maximal einstellbaren 10, aber für VSTC, zu dem der MEA- Stellungstest mit diesen Rechenzeiten auch mehr als zu STC gehört, wäre nur 1G wahrscheinlich sogar besser.
Und weil du meinst, du würdest die Liste mit "nur" 8 Threads (ich nehme an, du meinst SF) erstellen, ja, erstellle beliebig viele Listen, Lothar, für mich sind die Zeiten der langen Listen, was MEA angeht, vorbei, das wird nur immer unübersichtlicher. Mit MEA speicherst du Resultatzeilen und kannst sie dann für eine gemeinsame Listendarstellung beliebig alte mit neuen kombinieren, so lange du bei denselben Suiten bleibst (geht auch mit mehreren, die Elo sind dann aber noch weniger vergleichbar untereinander, die Prozent an Punkten stimmen sogar immer noch).
Wenn ich SF und LC0 vergleichen wollte mit dieser Suite, würde ich SF single thread nehmen (hab ich ja hier auch zur Hälfte so gemacht) und dann kannst du schwächere A-B-Engines mit derselben kurzen TC noch mit 8 dazu vergleichen. Das wirklich gemeinsame Niveau haben hier, wie du siehts, SF mit 200msec single thread und LC0 mit 3070ti, 2 CPU- Threads (der Unterschied zu einem spielt hier kaum eine Rolle und wie gesagt, Determinismus bei LC0 sowieso auch mit einem einzelnen CPU- Thread nicht) und 500msec.
Das alles ist Sache von Test und Irrtum, viel Spaß beim Herausfinden!
Parent - - By Peter Martan Date 2023-01-17 17:45
Et voilá:

    EPD  : epd\999.epd
    Time : 200 - 500ms
                                                Max   Total   Time   Hash         
    Engine           Score   Found  Pos   ELO  Score   Rate    ms     Mb  Cpu     
1  SF230114          9700    868   999  3901  11184  86.7%    200     8    8
2  ShashChess27.1    9634    859   999  3874  11184  86.1%    200     8    8
3  SF15              9524    856   999  3834  11184  85.2%    200     8    8
4  Dragon3.2         9430    839   999  3793  11184  84.3%    200     8    8
5  lc0dag0.30-BT2    9346    826   999  3762  11184  83.6%    500     2    2
6  SF230114          9320    830   999  3748  11184  83.3%    300     3    1
7  ShashChess27.1    9234    829   999  3717  11184  82.6%    300     3    1
8  Dragon3.2         8766    796   999  3528  11184  78.4%    300     3    1


Bei LC0 steht das, was bei Hash eingetragen ist, für den NN- Cache. 2M ist ohnehin default bei diesem compile und war daher auch vorher schon bei diesem Run eingestellt.
Ich denke, wir meinten beide in dem Zusammenhang nicht G sondern M(egabyte), ich hab' mich bei dem, was ich vorhin ganz unten im Edit schrieb, jedenfalls mal wieder zwischen Mb und Gb geirrt, Gb wäre ja an Hash für die A-B-Engines auch viel zu viel für die 200 bis 300 msec Rechenzeit.
Parent - By Lothar Jung Date 2023-01-17 18:20
Auch interessant:

Hier eine Veröffentlichung über „Performance Prediction in Chess using Sequence Models“:

http://cs230.stanford.edu/projects_fall_2022/reports/132.pdf
Parent - - By Lothar Jung Date 2023-01-17 18:29
Ich nehme an, dass Du die Engine-Parameter und das Netz aus dem jetzigen TCEC Turnier genommen hast.
Parent - - By Peter Martan Date 2023-01-17 18:51 Edited 2023-01-17 18:56
Das ist das Compile
Lc0 v0.30.0-dag+git.77382b9c.uci
und das das Netz
BT2-768x15smolgen-12h-do-01-2994000.pb.gz
Engine- Parameter default.

Für solche Sachen wie Parameter, andere Kombinationen von solchen Parametern, Compiles und Netzen bist du zuständig.
Aber teste doch bitte, wenn du andere solche (Kombinationen und Parameter) für besser hältst, die gleich selbst, und lass uns deine Ergebnisse wissen. Wenn Links zu irgendwelchen discord- Erkenntnissen, dann bitte nur solche, die man auch aufmachen kann. Mit dem Link zum super-über-drüber-Netz ging das nicht, obwohl ich dann, als ich's das letzte Mal probierte, endlich wieder in discord eingeloggt war. Das Compile ist eh das aus dem anderen jüngsten Thread von dir.

https://forum.computerschach.de/cgi-bin/mwf/topic_show.pl?pid=160890#pid160890
Parent - - By Lothar Jung Date 2023-01-17 19:19
Das Netz: https://discord.com/channels/425419482568196106/430695662108278784/1058300389558079558

Die Engine: https://ci.appveyor.com/project/borg323/lc0/branch/dag-master-pr1821

Die Parameter: Beim derzeitigen TCEC Turnier: Lc0 spielend mit rechten Mausklick
Parent - - By Peter Martan Date 2023-01-17 19:41 Edited 2023-01-17 19:56
Die Engine hab' ich (wie du gesehen haben könntest, nachdem du extra gefragt hast) im Test laufen lassen, und was den wiederholt von dir gebrachten Link (angeblich zum Netz) im disord angeht, hast du den schon mal selbst probiert?

Ich hab' mich extra wieder zuerst eingeloggt, bevor ich ihn jetzt zum xten Mal angeklickt hab und immer ist's diese saublöde Antwort vom server drauf:

https://discord.com/channels/425419482568196106

Ich bin wieder mal an einem seltsamen Ort

Wobei's mir eigentlich wurscht ist, ob ich nur "keinen Zugriff auf Textkanäle" habe, oder es "keine gibt auf diesem Server".
Parent - - By Peter Martan Date 2023-01-17 21:24 Edited 2023-01-17 21:52
Prima, danke.

Hier hätt' ich's jetzt mit demselben Compile wie zuvor
Lc0 v0.30.0-dag+git.77382b9c.uci
, da war's wie gesagt zuerst das
BT2-768x15smolgen-12h-do-01-2994000.pb.gz
das im ersten Run nur BT2 heißt, mit dem entsprechenden Namen BT2-325M dabei (ist sich für die Tabelle knapp ausgegangen mit der Länge des Namens, klingt nach egal, aber an sowas kann sich die ganze automatische Speicherung aufhängen manchmal, ich sag's nur, weil da grübelt man dann eventuell lang, warum's nicht klappt, obwohl die Engine problemlos durchläuft, und das ist der Grund, warum ich die Compiles und die Netze nicht mit vollem Namen angebe zeitweise im jeweiligen Run)

    EPD  : epd\999.epd
    Time : 200 - 500ms
                                                Max   Total   Time   Hash         
    Engine           Score   Found  Pos   ELO  Score   Rate    ms     Mb  Cpu     
1  SF230114          9700    868   999  3901  11184  86.7%    200     8    8
2  ShashChess27.1GD  9634    859   999  3874  11184  86.1%    200     8    8
3  SF15              9524    856   999  3834  11184  85.2%    200     8    8
4  lc030dag-BT2-325M 9503    838   999  3825  11184  85.0%    500     2    2
5  Dragon3.2         9430    839   999  3793  11184  84.3%    200     8    8
6  lc0dag0.30-BT2    9346    826   999  3762  11184  83.6%    500     2    2
7  SF230114          9320    830   999  3748  11184  83.3%    300     3    1
8  ShashChess27.1    9234    829   999  3717  11184  82.6%    300     3    1
9  Dragon3.2         8766    796   999  3528  11184  78.4%    300     3    1
Parent - - By Lothar Jung Date 2023-01-17 22:20
Peter,
Danke für Deine Geduld!

Du hast jetzt eine schöne Spreizung der Engines in deiner Liste.

Die Einordnung der Stärke von Leela ist für mich jetzt nachvollziehbar.

Ich würde noch Ethereal reinnehmen, wenn die offizielle Version 14.0 erscheint.

Lothar
Parent - - By Peter Martan Date 2023-01-17 22:38 Edited 2023-01-17 23:18
Bitte gerne und danke gleichfalls, dass du doch auch noch als Vermittler durchgehalten hast

Edit: auf Ethereal bin ich auch schon neugierig, mit der 13.75 hab' ich nur vorläufig immer das Problem gehabt, dass in dem Namen vom Ordner, in dem die Binary und die Lizenz drin ist, ein Leerzeichen den Pfad für MEA unbrauchbar macht. Die Binary allein woanders hin zu kopieren, oder den Ordner anders zu nennen, klappt nicht, weil die Lizenz offenbar mit dem Ordnernamen verknüpft ist. Irgendwie wird's gehen, aber wie, weiß ich noch nicht. Schlimmstenfalls schreib' ich ein Mail an Andrew Grant, wenn ich mir den 14er kaufe.
Parent - - By Lothar Jung Date 2023-01-18 08:43 Upvotes 1
Hier die TCEC Parameter:

Oh, I do apologise this is what is actually being used:  (I didnt update the notes in the stream)
```"options":{
        "MoveOverheadMs": 1000,
        "Threads": 2,
        "Backend":"demux",
        "Cpuct": 1.6736,
        "CpuctBase": 45669,
        "CpuctFactor": 3.973,
        "FpuValue": 0.1851,
        "MaxPrefetch": 37,
        "PolicyTemperature": 1.04825,
        "SmartPruningFactor": 2,
        "SmartPruningMinimumBatches": 300,
        "Taskworkers": 3,
        "BackendOptions": "(backend=cuda-fp16,gpu=0),(backend=cuda-fp16,gpu=1)",
        "RootHasOwnCpuctParams": "false",
        "RamLimitMb": 96000,
        "MinibatchSize": 336,
        "StrictTiming": "true",
            "TimeManager": "legacy(book-ply-bonus0.4)",
        "VerboseMoveStats": "true",
        "SyzygyPath": "C:/syzygy",
        "LogFile": "BT2_TCEC.txt",
        "Ponder": "false"```
These were the settings for Alt-Cup 11
Parent - - By Peter Martan Date 2023-01-18 09:09 Edited 2023-01-18 09:13 Upvotes 1
Sehr fein, und jetzt schreib' mir das bitte alles in die entsprechende .json- Datei, mit der ich bei lc0 normaler Weise gar nicht arbeite. Ich hab' die paar wenigen Parameter- Änderungen in den GUIs in den UCI- files drin, aber das alles als einzelne e-optionen mit den UCI- Kommandos im MEA, das wäre mir echt zu mühsam.

Drum hab' ich für MEA (wie bei den meisten anderen Engines), immer nur Hash, Threads, ev. MultiPV und bei ShashChess die GoldDigger- Option über die batch- Datei verschieden definiert.

Überhaupt wird das Ganze eine mehr und mehr zeitaufwändige Sache und zusätzlich muss ich jetzt auch noch eine best move(s) suite für Fritz draus machen, mit möglichst wenigen Stellungen mit mehreren Lösungen, die ich dann mit vorangestelltem = als äquivalent markiere. Nur um zu sehen, was EloStatTS dann damit anfängt, dass es vergleichsweise viel weniger Diskrimination zwischen den Engines bringen wird, weiß ich auch so schon (mit einer sehr ähnlichen Suite), aber dafür wären die Elo halt Match- Elo und nicht nur so wie bei MEA einfach durch die Prozent zum Gesamtscore der Stellungen umgerechnet.

Das ganze Computerschach wird mehr und mehr zum Fass ohne Boden, leider auch ohne Erkenntnisgewinne, wie man sie früher doch auch hatte. Was waren das doch noch für Zeiten, als man zwar gar nichts wirklich wusste, aber das meistens wenigsten immer noch besser als die Blechis
Parent - - By Lothar Jung Date 2023-01-18 09:38 Edited 2023-01-18 09:53
Erstmal das:

https://jsonlint.com/

Die Parameter sind nicht im .json Format.

Also so:

```diff
--- Lc0_noomen_extra2.json.2    2022-12-07 16:12:14.000000000 +0200
+++ current_engine.json 2022-12-09 00:34:04.715039157 +0200
@@ -1,9 +1,8 @@
-[
   {
-    "name": "LCZero 0.30-dag-contempt_807263",
     "command": "taskset -c 0-51:2 ./lc0 --show-hidden",
+        "name": "LCZero 0.30-dag-contempt_807263",
     "restart": "on",
-    "rating": "3585",
+        "rating": "3599",
     "options": [
       {
         "name": "MoveOverheadMs",
@@ -75,7 +74,7 @@
       },
       {
         "name": "SyzygyPath",
-        "value": "/home/syzygy"
+                "value": "/home/syzygy7"
       },
       {
         "name": "LogFile",
@@ -120,5 +119,4 @@
     ],
     "protocol": "uci",
     "workingDirectory": "/home/tcec/Engines/LCZero/"
-  }
-]
+    },
```
Oder auch hier:

https://lczero.org/dev/wiki/testing-guide/

Als Grundlage kannst Du auch Nibbler nehmen.
Parent - - By Peter Martan Date 2023-01-18 10:31 Edited 2023-01-18 10:51
Lothar Jung schrieb:

Die Parameter sind nicht im .json Format.

Na prima

Lothar Jung schrieb:

Als Grundlage kannst Du auch Nibbler nehmen.

Nicht für MEA, da gehn direkt (wobei man sie dann noch in die eigene e-option- Syntax bringen muss) nur UCI- commands, wenn man sich denn diese Protokolls (auch) bedienen will, und das sind bei lc0 "nur" diese:

Zitat:
option name MovesLeftConstantFactor type string default 0.000000
option name MovesLeftScaledFactor type string default 1.652100
option name MovesLeftQuadraticFactor type string default -0.652100
option name MaxConcurrentSearchers type spin default 1 min 0 max 128
option name DrawScoreSideToMove type spin default 0 min -100 max 100
option name DrawScoreOpponent type spin default 0 min -100 max 100
option name DrawScoreWhite type spin default 0 min -100 max 100
option name DrawScoreBlack type spin default 0 min -100 max 100
option name NodesPerSecondLimit type string default 0.000000
option name TaskWorkers type spin default 3 min 0 max 128
option name MinimumProcessingWork type spin default 20 min 2 max 100000
option name MinimumPickingWork type spin default 1 min 1 max 100000
option name MinimumRemainingPickingWork type spin default 20 min 0 max 100000
option name MinimumPerTaskProcessing type spin default 8 min 1 max 100000
option name IdlingMinimumWork type spin default 0 min 0 max 10000
option name ThreadIdlingThreshold type spin default 1 min 0 max 128
option name SyzygyPath type string default
option name Ponder type check default true
option name UCI_Chess960 type check default false
option name UCI_ShowWDL type check default false
option name UCI_ShowMovesLeft type check default false
option name ConfigFile type string default lc0.config
option name SmartPruningFactor type string default 1.330000
option name SmartPruningMinimumBatches type spin default 0 min 0 max 10000
option name RamLimitMb type spin default 0 min 0 max 100000000
option name MoveOverheadMs type spin default 200 min 0 max 100000000
option name TimeManager type string default legacy
option name LogFile type string default


Ich seh' schon, Lothar, für MEA wird das mit mir und den Parametern (die sich natürlich auch von Compile zu Compile und Netz zu Netz wieder ändern) nix außer default.
Und dass diese default Einstellungen bei einer Engine- Version von den Entwicklern opimiert werden, das hoffe ich ja sowieso stark. Wollte ich bei jeder A-B-Engine, die ich teste, jeden Parameter für meine jeweiligen Tests optimieren, müsste ich jeden einzeln testen und möglichst im Vergleich zu genau einer anderen Einstellung derselben Engine gegen genau ein Setting genau einer anderen Engine oder Version, falls es ev. auch noch nicht rein interne Selftests sein sollen.

Das ganze Computerschach hängt sich daran mittlerweile mehr auf als am Remis (1:1-) Tod allein, aber es ist ein gemeinsames Problem von 2 Seiten, zuviele Engines, die man direkt miteinander vergleichen müsste, weil sich die Einzelvergleiche weniger und weniger auf einander übertragen lassen, zuviele Netze und Parameter und zu wenig Diskrimination zwischen den Test- Runs bei zu hoher statistischer Irrtums- Wahrscheinlichkeit.

Ich glaub', ich mach jetzt erstmal wieder eine wohlverdiente Pause oder gehe überhaupt in Computerschach- Rente, ich finde, ich habe schön langsam wirklich genug als Einzelkämpfer beigetragen

Man soll nicht undankbar sein, nichts habe ich, ohne auf den Schultern von Riesen zu stehen, hervorgebracht, aber einiges an mehr oder weniger Neuem hab ich doch auch ziemlich für mich allein zusammengebastelt in den gut 30 Jahren, die ich das jetzt mache.

Du kannst den Entwicklern von lc0 und anderen Engines die Links zu meinen Sammlungen weitergeben und ans Herz legen, und dann sollen mal auch Andere was damit und daraus machen, und ich steh' nur mehr für ganz detaillierte Fragen zur Verfügung, wenn wer mit etwas von "meinen" Sachen gar nicht weiterkommt allein oder im Verein...
Parent - - By Lothar Jung Date 2023-01-18 10:51 Edited 2023-01-18 10:54
Hallo Peter,

ich habe gerade den Arsch voll Arbeit.
Mit MEA habe ich keine Erfahrungen.
Mir geht es wie Dir.
Die Vielschreiber brauchen auch mal Ruhe.

Zu meiner Schachentwicklung:

Als ich in Aachen im Verein Schach spielte war ich mit 2 anderen Jugendlichen in der 2. Mannschaft und halfen in der ersten Mannschaft aus. Da war ich 17 - 19 Jahre. Bundesjugendblitzmeisterschaften, Turnier gegen Belgien (Remis gegen Belgischen Jugendmeister) später 1. Mannschaft im Bundeswirtschaftsministerium, alle wenige Spiele gewonnen, Turnier aller Bundesministerien gegen Hort am 5. Brett (verloren).

Mit einer Elo kann ich deshalb nicht aufwarten.
Das Vereinsschach habe ich damals aufgegeben. Wegen dem weiblichen Geschlecht und dem Studium.

Neben Computertechnik, Lc0 und Schachprogrammierung halte ich mich aus den Analysen raus.
Zusätzlich zeitaufwendig, neben meinen anderen Hobbys, Haus in Frankreich, Musik und Naturwissenschaften.
Im übrigen sind andere Mitglieder darin besser.

LG Lothar
Parent - By Peter Martan Date 2023-01-18 10:59
Danke für deine Schachhistorie, mit der fang' ich aber bei mir nicht an, das ist zu lange her, dass es mir mein Vater beigebracht hat, und auch von dem Punkt an (der relativ bald erreicht war, er war einfach sogar relativ zu mir ein lausiger Schachspieler), von dem er nicht mehr mir Schach gespielt hat (er war ebenso wie ich noch dazu auch ein lausiger Verlierer), ist's immer noch eine much to long story. Ich hab' mit den 30 Jahren nur die (schon irgendwie "fortgeschrittene") Computerschach- Zeit gemeint, wobei ich auch zur der eigentlich noch die ganze zwischen Anfangen mit dem Spielen und Computerschach im engeren Sinn zählen müsste. Gleich als mein Vater aufgehört hat, mich zu unterrichten, kam der erste Chess Challenger zu mir nach Hause

Dass die Vielschreiber, wie du es nennst, auch mal Ruhe brauchen, spricht mir aus der Seele...
Parent - - By Frank Sanders Date 2023-01-21 11:12
Ich habe Ethereal 13.75 mit MEA so zum Laufen gekriegt:

1) Ich habe die EXE Datei von Ethereal umbenannt z.B. in Ethereal1375.exe.

2) Dann habe ich die Ethereal1375.exe zusammen mit der e1375.standard.nnue Datei in den gleichen Ordner kopiert in dem sich die mea.exe befindet (nicht in den engines Ordner)

3) Die zugehörige BAT Datei sieht dann in etwa so aus:

set MT=2000
set HASH=128
set THREADS=2
set PROTOCOL=uci
set EPD=epd\G1_11_20A.epd
set MRL=mea_results
set OPTION="EvalFile=e1375.standard.nnue"


set EXE=Ethereal1375.exe
set NAME=Ethereal

mea.exe --engine %EXE% --eoption %OPTION% --name %NAME% --hash %HASH% --threads %THREADS% --protocol %PROTOCOL% --epd %EPD% --movetime %MT%
mrl %MRL% %MRL% %EPD% %MT%
Parent - - By Lothar Jung Date 2023-01-21 11:17
Hallo Frank,

bald kommt die Version 14.00, die wohl um einiges stärker sein wird.
In den letzten TCEC Turnieren hat sie sehr gut abgeschnitten.

Gruß

Lothar
Parent - By Frank Sanders Date 2023-01-21 12:55
Ja auf die warte ich auch und vielleicht ist dann wie bei 13.50 die nnue Datei gleich wieder integriert und muss nicht über setoption dazugelinkt werden.
Parent - - By Peter Martan Date 2023-01-21 12:14 Edited 2023-01-21 12:46
Danke, werd' ich probieren!

Edit: nein, leider, hilft bei mir auch nicht.
Bei meiner Binary könnte es aber auch einen zusätzlichen Grund haben: ich hatte nach dem Installieren von 13.75 einen Festplatten- Crash und musste die auf einer anderen Festplatte gesicherte Datei auf die neue kopieren.
In den GUIs, in denen ich schon installiert hatte, ging's mit der Pfad- Änderung dann wieder, aber auch beim Konsolen- Start selbst verhält sich die Binary komisch. Sie reagiert außer auf den Befehl uci auf keinen anderen, den ich probiert habe. Vielleicht sind einfach mittlerweile die Installations- Nummern (falls vielleicht welche gezählt werden vom Programm) überschritten.
Ich warte jetzt mal auf den 14er, der ja vermutlich bald kommen wird (Grant hat's im CCC auch gerade wieder geschrieben), und wenn ich den dann per Mail bekomme, und der klappt dann mit meinen MEA- Versuchen auch nicht, dann schreib' ich's an Andrew.

Edit, edit, edit: Aber sag vielleicht noch das, du schreibst, du hast die nnue- Datei im selben Ordner wie die neu benannte .exe, kann das von dem her überhaupt gehen, was die Binary default erwartet? In der Verzeichnisstruktur, wie sie das Setup von der Kaufversion anlegt (zumindest bei mir) sind die Netze einen Ordner über dem der Engine.
Vielleicht doch noch ein bisschen rumprobieren...
Parent - - By Frank Sanders Date 2023-01-21 13:03 Edited 2023-01-21 13:07
Ich hatte mich sehr lange nicht mit Ethereal beschäftigt und als ich testen wollte stürzte sie bei jedem Startbefehl ab. Ich habe deshalb Andrew Grant gemailt und folgende Antwort bekommen:

Are you sure you have remembered to set the NNUE file via the EvalFile option? From the command line, if your binary is in the same directory as the .nnue file, you should send a "setoption name EvalFile value e1375.standard.nnue" command. Ethereal would respond with "info strong set EvalFile to e1375.standard.nnue". Failure to do this will prevent the engine from running, which I made a note of in the original email.

Das hatte ich vergessen. Normalerweise nehmen die Programme die NNUE automatisch.
Parent - - By Peter Martan Date 2023-01-21 13:12 Edited 2023-01-21 13:31
Zitat:


Are you sure you have remembered to set the NNUE file via the EvalFile option? From the command line, if your binary is in the same directory as the .nnue file, you should send a "setoption name EvalFile value e1375.standard.nnue" command. Ethereal would respond with "info strong set EvalFile to e1375.standard.nnue". Failure to do this will prevent the engine from running, which I made a note of in the original email.

Bei mir ist aber Standard- mäßig die nnue in einem Ordner über dem der Compiles, jetzt hab' ich auch schon probiert, das mit entsprechendem Herumschieben vorzutäuschen bzw. eigene Ordner- Namen zu vergeben, hilft aber alles nichts.

Lassen wir's gut sein, bis ich mit Andrew selbst darüber geredet werde haben.
Danke aber neuerlich.
Parent - By Lothar Jung Date 2023-01-21 13:14
Habe dir eine PN geschickt.
Parent - By Peter Martan Date 2023-01-21 14:59 Edited 2023-01-21 15:19
Aus unerfindlichen Gründen hat's bei mir jetzt so wenigstens ein Stück weiter geklappt:

Code:
--eoption "EvalFile=e1375.standard.nnue" --log


Umbenannte Binary (das mit dem Bindestrich zwischen Namen und Versionsnummer und zwischen pext und avx2 war sowieso immer schon verdächtig, manche Binary- Namen und Pfadnamen werde oft auch einfach zu lang für MEA, vor allem auch z.B. schon wenn nur die Engine- Namen mit Zusätzen zur Kennzeichnung von Parametern und Netzen für die Tabelle zu lang werden) mit nnue gemeinsam in einem eigenen Ordner mit kurzem Pfad von der mea.exe aus, lässt die Engines wenigstens bis zur 796. von den 999 durchlaufen, aber dann bricht's wieder ab, aus dem Logfile an diesem Ende:

Zitat:
[ 2023-01-21 14:44:26,540 -     INFO ] Pos 797
[ 2023-01-21 14:44:26,540 -     INFO ] EPD: rnbqk2r/ppp1ppb1/3p1n1p/6p1/3PP3/2N3B1/PPP2PPP/R2QKBNR w KQkq - bm e5 Qe2 h4; c0 "e5=8, h4=6, Qe2=6" id "Sjugirov, Sanan_Zvjaginsev, Vadim_RUS-ch blitz, 13";
[ 2023-01-21 14:44:26,540 -     INFO ] id Sjugirov, Sanan_Zvjaginsev, Vadim_RUS-ch blitz, 13
[ 2023-01-21 14:44:26,540 -     INFO ] FEN: rnbqk2r/ppp1ppb1/3p1n1p/6p1/3PP3/2N3B1/PPP2PPP/R2QKBNR w KQkq - 0 1
[ 2023-01-21 14:44:26,540 -     INFO ] Solutions: e5=8, h4=6, Qe2=6" id "Sjugirov, Sanan_Zvjaginsev, Vadim_RUS-ch blitz, 13
[ 2023-01-21 14:44:26,540 -    DEBUG ] >> ucinewgame
[ 2023-01-21 14:44:26,540 -    DEBUG ] >> isready
[ 2023-01-21 14:44:26,541 -    DEBUG ] << readyok
[ 2023-01-21 14:44:26,542 -    DEBUG ] >> position fen rnbqk2r/ppp1ppb1/3p1n1p/6p1/3PP3/2N3B1/PPP2PPP/R2QKBNR w KQkq - 0 1
[ 2023-01-21 14:44:26,542 -    DEBUG ] >> go movetime 200
[ 2023-01-21 14:44:26,542 -    DEBUG ] << info depth 1 seldepth 1 multipv 1 score cp 15 time 0 nodes 5 nps 5000 tbhits 0 hashfull 0 pv a2a3
[ 2023-01-21 14:44:26,542 -    DEBUG ] << info depth 2 seldepth 2 multipv 1 score cp 151 time 0 nodes 21 nps 21000 tbhits 0 hashfull 0 pv d1d2 e8g8
[ 2023-01-21 14:44:26,542 -    DEBUG ] << info depth 3 seldepth 3 multipv 1 score cp 96 time 0 nodes 48 nps 48000 tbhits 0 hashfull 0 pv d1d2 e8g8 e1c1
[ 2023-01-21 14:44:26,542 -    DEBUG ] << info depth 4 seldepth 4 multipv 1 score cp 186 time 0 nodes 99 nps 99000 tbhits 0 hashfull 0 pv d1d2 e8g8 e1c1 g8h8
[ 2023-01-21 14:44:26,542 -    DEBUG ] << info depth 5 seldepth 6 multipv 1 score cp 101 time 0 nodes 529 nps 529000 tbhits 0 hashfull 0 pv d1d2 c8d7 f2f3 e8g8 h2h3
[ 2023-01-21 14:44:26,542 -    DEBUG ] << info depth 6 seldepth 6 multipv 1 score cp 117 time 0 nodes 748 nps 748000 tbhits 0 hashfull 0 pv d1d2 c7c5 d4c5 d6c5 d2d8 e8d8
[ 2023-01-21 14:44:26,543 -    DEBUG ] << info depth 7 seldepth 3 multipv 1 score cp 145 time 0 nodes 1109 nps 1109000 tbhits 0 hashfull 0 pv d1d2 e7e6 e1c1
[ 2023-01-21 14:44:26,544 -    DEBUG ] << info depth 8 seldepth 9 multipv 1 score cp 135 time 0 nodes 5579 nps 5579000 tbhits 0 hashfull 0 pv f2f3 f6h5 g3f2 e7e5 d4d5 c7c6 d1d2
[ 2023-01-21 14:44:26,546 -    DEBUG ] << info depth 9 seldepth 8 multipv 1 score cp 131 time 0 nodes 11155 nps 11155000 tbhits 0 hashfull 2 pv f2f3 f6h5 g3f2 e7e5 d4d5 c7c6 d1d2 c6d5
[ 2023-01-21 14:44:26,549 -    DEBUG ] << info depth 10 seldepth 12 multipv 1 score cp 140 time 0 nodes 17882 nps 17882000 tbhits 0 hashfull 3 pv f2f3 f6h5 g3f2 c7c5 d4c5 b8c6 g2g3 d6c5 d1d8 e8d8 f2c5
[ 2023-01-21 14:44:26,560 -    DEBUG ] << info depth 11 seldepth 17 multipv 1 score cp 133 time 16 nodes 45557 nps 2679000 tbhits 0 hashfull 8 pv f2f3 a7a6 d1d2 b7b5 h2h4 g5g4 e1c1 h6h5 c1b1 c7c5
[ 2023-01-21 14:44:26,584 -    DEBUG ] << info depth 12 seldepth 21 multipv 1 score cp 118 time 32 nodes 104887 nps 3178000 tbhits 0 hashfull 20 pv d1d2 f6h5 g1e2 c7c5 d4c5 h5g3 h2g3 d6c5 d2d8 e8d8 e1c1 c8d7 c3d5 b8c6
[ 2023-01-21 14:44:26,614 -    DEBUG ] << info depth 13 seldepth 20 multipv 1 score cp 143 time 63 nodes 183497 nps 2867000 tbhits 0 hashfull 35 pv f2f3 a7a6 d1d2 b7b5 h2h4 g5g4 g1e2 b5b4 c3d1 c7c5 d4c5
[ 2023-01-21 14:44:26,654 -    DEBUG ] << info depth 14 seldepth 24 multipv 1 score cp 127 time 110 nodes 269738 nps 2430000 tbhits 0 hashfull 58 pv f2f3 a7a6 d1d2 b7b5 h2h4 g5g4 e1c1 c8b7 g1e2 b8d7 e4e5 f6h5 f3g4 h5g3 e2g3 d6e5 d4d5
[ 2023-01-21 14:44:26,742 -    DEBUG ] << bestmove f2f3 ponder a7a6
[ 2023-01-21 14:44:26,742 -     INFO ] elapsed(ms) since go: 201
[ 2023-01-21 14:44:26,742 -     INFO ] bestmove: f3


Ich kenne das aber auch schon von einzelnen Fehlversuchen von koivisto und berserk an dieser Stelle, an der fen und der übrigen zugehörigen .epd- Syntax an der Stelle liegt's aber nicht, sonst würden die anderen Engines da nicht immer wieder problemlos drüberkommen, ich deute das " elapsed(ms) since go: 201" bei der eingestellten TC 200 so, dass es als Zeitüberschreitung interpretiert wird.

Hab' schon überlegt, die Stellung durch eine andere zu ersetzen, aber wenn man keinen Syntax- Fehler findet, hilft das vermutlich auch nicht bei allen Engines und immer.
Eine Schwachstelle des tools an und für sich, dass falsche fen- Syntax nur manchmal angezeigt wird, es aber davon unabhängig bei bestimmten Engines mit bestimmten TCs (müssen gar nicht die kürzesten sein, mir scheint sogar, dass es 100 besser interpretiert als 200) in bestimmten Konstellationen mit Threads und Hash das Durchlaufen abbricht, und man hat nicht mehr als das log File (das ich ja normaler Weise gar nicht schreiben lasse, nur bei Runs von denen ich schon argwöhne, da könnte was schiefgehen) um die Ursachen zu sehen, was dann auch noch nicht heißt, dass man was dagegen tun kann, außer, es mit anderen Konstellationen derselben Engine noch einmal zu probieren. Erstaunlicher Weise klappt's dann oft genug auch einfach mit denselben Einstellungen und derselben Engine trotzdem, was die Ursachenforschung auch nicht gerade erleichtert

Wenn ich weitere Erkenntnisse gewinne, die auch Anderen noch was helfen können, geb' ich Bescheid, ansonsten muss ich über das alles mal wieder mit Ferdy reden.
- By Peter Martan Date 2023-01-21 17:11 Edited 2023-01-21 17:49
Was für ein harter Kampf war das mit Ethereal 13.75

https://forum.computerschach.de/cgi-bin/mwf/topic_show.pl?pid=161106#pid161106

Nachdem die Stellung Nr. 797 von den 999 (weiter oben mit download- Link) aber auch mit koivisto schon einmal zum Abstürzen geführt hatte, wollte ich unbedingt wissen, was mit der Syntax nicht simmt, alle möglichen Variatonen der id probiert, das mit den _und Leerzeichen dort, wo sie sein sollen und dort, wo sie nicht sein dürfen, scheint auch hin und wieder (obwohl ich an dieser Stelle, im id- Teil des Strings, noch nie andere Probleme gesehen hatte) nicht egal zu sein.
Weil die Stellung aber auch ohnehin keine soo gute war, hab's ich sie jetzt doch einfach durch diese (auch schon in der MEA- Syntax so verwendbar)

Code:
rn1q1rk1/pbpp1ppp/1p2pn2/3P4/1bP1P3/2NB4/PP3PPP/R1BQK1NR w KQ - bm e5; c0 "e5=8"; id "Ezat, Mohamed Mahmoud_Mons, Leon_Titled Tuesday intern op 13th Oct, 248";


ersetzt. Dann hatte ich natürlich wieder zuerst gleich einmal das Semikolon hinter der Punktezahl nach dem " vergessen, aber das hat koivisto, den ich jetzt in seiner neuen Version 9.0

https://github.com/Luecx/Koivisto

auch noch sicherheitshalber probiert hab, gleich am Anfang hingeschrieben, das alles zusammen hat mich das ganze Mittagsschläfchen gekostet. Eine wirklich brave Engine lässt so eine Stellung dann halt einfach aus und schreibt freundlicher Weise auch dazu, warum

Zitat:
Problem reading c0 field in epd: rn1q1rk1/pbpp1ppp/1p2pn2/3P4/1bP1P3/2NB4/PP3PPP/R1BQK1NR w KQ - bm e5; c0; "e5=8" id "Ezat, Mohamed Mahmoud_Mons, Leon_Titled Tuesday intern op 13th Oct, 248";

Und wenn man da jetzt weiß, das mit genau der Stellung was nicht stimmt, dann findet man das fehlende Semikolon leicht, vor allem an der Stelle, von dem man schon weiß, dass sie crucial ist, aber das mit dem id- String, und noch dazu wie gesagt, von den meisten Engines ohnehin ignoriert, das war gemein.

   EPD  : 999.epd
   Time : 200-500 ms
                                                Max   Total   Time   Hash         
    Engine           Score   Found  Pos   ELO  Score   Rate    ms     Mb  Cpu     
1  SF230114          9700    868   999  3901  11184  86.7%    200     8    8
2  ShashChess27.2    9693    859   999  3901  11184  86.7%    200    16    8
3  ShashChess27.1GD  9634    859   999  3874  11184  86.1%    200     8    8
4  lc030dag-BT2-325M 9503    838   999  3825  11184  85.0%    500     2    2
5  Dragon3.2         9430    839   999  3793  11184  84.3%    200     8    8
6  lc0dag0.30-BT2    9346    826   999  3762  11184  83.6%    500     2    2
7  Koivisto9         8113    749   999  3262  11184  72.5%    200    16    8
8  Koivisto8.16      7999    751   999  3217  11184  71.5%    200     8    8
9  Berserk10         7951    741   999  3199  11184  71.1%    200     8    8
10 Ethereal13.75     7657    718   999  3082  11184  68.5%    200    16    8

                                    Created with MEA
                                          by
                                       Ferdinand
                                         Mosca
Up Topic Hauptforen / CSS-Forum / Spielstärke- oder Spielschwächetetests
1 2 Previous Next  

Powered by mwForum 2.29.3 © 1999-2014 Markus Wichitill