Diese Bibliothek für M1 könnte NNUE stark beschleunigen

By Peter Martan Date 2021-11-09 18:11

Du meinst fürs Training der Netze, richtig?
Fürs Spiel der Engine mit dem fertigen NNUE ja wohl nicht, oder?

By Lothar Jung Date 2021-11-09 18:31 Edited 2021-11-09 19:09 Upvotes 2

Hallo Peter,

NNUEs verwenden die Matrix-Multiplikation bei der Netzbewertung.
AVX beschleunigt auch die Matrix-Multiplikationen bei der CPU NNUE-Bewertung.

“Das neue Release der NLP-Library soll auf M1-Mac-Rechnern bis zu 8-mal schneller arbeiten als auf vergleichbaren Systemen. Voraussetzung ist dabei aber der Einsatz von Apples nativer Accelerate-Bibliothek thinc-apple-ops, die speziell auf Matrix-Multiplikation zugeschnitten ist.”

Lothar

By Max Siegfried Date 2021-11-09 19:43

Lothar Jung schrieb:

Das hört sich doch super an.
M1 mit 4 performance Kernen = 80000 kN/s
M1 Pro und Max mit 8 performance Kernen = 160000 kN/s

Wissen die Stockfish Entwickler schon bescheid?

By Benno Hartwig Date 2021-11-09 21:20 Edited 2021-11-09 21:25 Upvotes 2

> Wissen die Stockfish Entwickler schon bescheid?

Solche Fragen laufen hier irgendwie so was wie ein ungeliebter Running Gag.
Und sie sind nicht unterhaltsamer als die allabendliche Omo-Werbung in den 70ern.
"Würden sie ihr Omo-Paket gegen..." und "Nein, nein, nein...!"

By Lothar Jung Date 2021-11-10 11:35 Edited 2021-11-10 11:38 Upvotes 2

Hier noch mal ausführlicher zur Matrix-Multiplikation:

https://github.com/explosion/thinc-apple-ops

https://explosion.ai/blog/spacy-v3-2

Lothar