Not logged inCSS-Forum
Forum CSS-Online Help Search Login
CSS-Shop Impressum Datenschutz
Up Topic Hauptforen / CSS-Forum / Neues Backend dx-fp16
- - By Lothar Jung Date 2020-01-17 15:29 Edited 2020-01-17 15:37
...soll es für AMD-GPU geben (lt. Discord-dev).

Hier einige Tests:

```Nvidia RTX 2060
===============
Network          Net-Size   OpenCL    cudnn-fp32  dx-fp32     cudnn-fp16   dx-fp16
----------------------------------------------------------------------------------
T59  59611       128x10     11624     35470        31088       88009        51326
T30  32390       256x20      2225      4972         6459       15137        17391
T40  42850       256x20      1371      4571          318*      12780        14198
T60  61996       320x24      1555      3421         3317        8418         7669
SV-big-t40-1705  384x30       856      1854          104*       4955         4799
SV-huge-50       512x40       361       802           29*       2241          121*

* - poor performance due to a driver bug (hopefully will be fixed soon).

Nvidia RTX Titan
================
Network          Net-Size   cudnn-fp32  dx-fp32     cudnn-fp16   dx-fp16
------------------------------------------------------------------------
T59  59611       128x10     70266       50523       123414       73675
T30  32390       256x20     14438       14173        40452       42276
T40  42850       256x20     12932       13113        36753       38388
T60  61996       320x24      8137        7505        17472       18578
SV-big-t40-1705  384x30      4143        3933        11054       13086
SV-huge-50       512x40      1942        1918         4844        7015
```

```AMD RX 5700XT (Navi)
====================
Network          Net-Size   OpenCL   dx-fp32   dx-fp16
-------------------------------------------------------
T59  59611       128x10      12095   37845      55888
T30  32390       256x20       1505    5814      10198
T40  42850       256x20        900    4666       8041
T60  61996       320x24       1774    2874       5183
SV-big-t40-1705  384x30          .    1479       2801
SV-huge-50       512x40          .       *       1080

AMD RX Vega VII
===============
Network          Net-Size   OpenCL    dx-fp32   dx-fp16
-------------------------------------------------------
T59  59611       128x10     14889     46099     59721
T30  32390       256x20     1525       8055     12821
T40  42850       256x20     2754       6168      9156
T60  61996       320x24     2490       3722      6078
SV-big-t40-1705  384x30     1426       2129      3254
SV-huge-50       512x40        .        852      1323

. - didn't have patience to wait for OpenCL tuning to complete!
* - crash - OOM or a driver bug?```
Parent - By Walter Knobloch Date 2020-01-18 03:27
Auf den AMD Karten läuft T59 super. Was liegt also näher, als daß alle AMD-Jünger ein wenig Trainingspartien für T59 (--run=2) beisteuern? client runterladen, starten, fertig.
Wenn das kleine Netz fertig ist, ist es auf breiter Hardwarebasis absolut konkurrenzfähig zu den größeren Netzen.
Parent - By Lothar Jung Date 2020-01-25 08:42
Hier ein Benchmark:

Match: 62040 vs SF11 with DX-fp16 and cunn-fp16 backends
LC0 version: 0.23.2/0.24-dev
LC0 options: --cpuct=2.147 --cpuct-base=18368 --cpuct-factor=2.815 --fpu-value=0.443 --max-collision-events=256 --max-prefetch=64 --policy-softmax-temp=1.607 --nncache=20000000
Time control:   5m+5s
Hardware: RTX Titan for lc0, 32 threads of AMD R9 3950x for SF11
Book: draw killer tournament (first few openings)
Tablebases: 5-man TB
Software: Arena
Comments: dx-fp16 backend weaker than cudnn-fp16. Not sure if this is just SSS, due to poorer performance at low batch sizes, or precision differences.
```
   # PLAYER             :  RATING  ERROR   (%)    W    D    L  PLAYED  CFS(%)
   1 Lc0.cudnn.62040    :    13.0   35.6  51.9   29   53   25     107      70
   2 Stockfish11        :     0.0   24.1  50.5   59  100   57     216      79
   3 Lc0.dx.62040       :   -20.7   36.2  47.2   28   47   34     109     ---

White advantage = 69.23 +/- 16.75
Draw rate (equal opponents) = 48.16 % +/- 3.52
```
Up Topic Hauptforen / CSS-Forum / Neues Backend dx-fp16

Powered by mwForum 2.29.3 © 1999-2014 Markus Wichitill