AMD Radeon RX Vega 64 - info, recenze, zkušenosti

[Krteq]

Rozporuješ něco co jsem nikdy neřekl. DirectML neni standardní součástí driverů, to jsem řekl, o tom jsem mluvil, musíš použít na to spešl driver. Nemůžeš prostě stahnout posledního Crimsona.

Ale ano, můžeš. Podpora DirectML je součástí standardního driveru, spadá to pod DirectX a třeba Radeon SW používá DirectML na upscaling a denoising videí a obrázků přes zabudovaný tool -> AMD - Edit media and Use DirectML Media Filters

Tady je výstup z poslední DX feature level checku co jsem na RX Vega dělal (z července 2022)

Kód: Vybrat vše

"Radeon RX Vega"
VEN_1002, DEV_687F, SUBSYS_6B761002, REV_C1
...
DirectML maximum feature level : DML_FEATURE_LEVEL_5_0 (0x5000)
Metacommands enumerated : 4
Metacommands [parameters per stage]: Conv (Convolution) [84][1][6], Conv (Convolution) [108][5][6], GEMM (General matrix multiply) [67][1][6], GEMM (General matrix multiply) [91][5][6]

Bude lepší když mi napíšeš čeho přesně chceš docílit a nalinkuješ ten "návod" ze kterého jsi čerpal

[DOC_ZENITH]

Na žádnym Radeonu nejde nyní trénovat hypernetwork, prostě nejde. Tvoje výčty features mi to jaksi nezprovoznej. Duh. Pokud máš štěstí na konstelaci hvězd tak se ti po určitém boji podaří zprovoznit generování, ale ne trénování.

[mr.qeg]

Btw když už tu kartu mám, tak Vega (a GCN obecně) stále má propad výkonu v DX11 oproti DX9, takže ty pokroky co jsem zaznamenal u RDNA2 prostě byly architekturou, ne v SW stránce.

O tom se i někde spekulovalo, že HW je navržený tak, že je v podstatě nemožné napsat driver, který by to vyřešil. A není to tedy jen o mizerných driverech z dob GCN. Pořešili to až na RDNA.

[Krteq]

Na žádnym Radeonu nejde nyní trénovat hypernetwork, prostě nejde. Tvoje výčty features mi to jaksi nezprovoznej. Duh. Pokud máš štěstí na konstelaci hvězd tak se ti po určitém boji podaří zprovoznit generování, ale ne trénování.

Co se teda snažíš zprovoznit? Tréning nebo Stable diffusion?

[DOC_ZENITH]

Možnost trénovat hypernetworky, lora a pod je součástí stable diffusion. Alespoň já to tak vnímám. Nesnaž se něco hledat, já to stejně chtěl jen zkusit. I kdyby to jelo tak co má 4090 natrénuje za 8 hodin by tohle dělalo tejden. I A4000 to dělá přes 2 dny a tohle má výkon cca 50-60% této karty. To neni bad za tu cenu, kor s 16GB, ale bylo to spíš pro zajímavost, realisticky bych to na tom nikdy neprovozoval. Prostě mě ale zklamalo že to nejelo. Věnoval jsem tomu 2 večery více nevěnuji. Na NV to mam vše sprovozněný a dál v tom Radeonu šťourat nebudu.

[oneb1t]

ja bych to teda na win ani nezkousel podle me to tam neni vubec ready na tyhle veci funguje to jen na specifikejch ovladacich pro linux
uz jsem si udelal bootovatelne ubuntu LTS tak to nekdy az bude trosku cas otestuju

[DOC_ZENITH]

Tohle neni o OS. Je to napsaný vesměs v Pythonu a když člověk má tu korektní verze a odpovídající PIP a jiné dependence je fuk na jakym OS to běží. Na win mi to jede na NV krásně a na AMD se to dá rozject taky. Je to ale mnohem větší boj a ne prostě všechny funkce. Ono to bohužel realisticky vypadá tak že to vždy někdo napíše pro NV na Cudu, a pak to ňákej dobrák předělá pro Radeony ale ne všechno a fungje to ten momemt kdy v repozitářích zrovna je to co je než to někdo "upraví/upgraduje" a celkově je to věčnej boj a chaos a při vývoji na Radeony skoro nikdo nehledí. Pro klid duše v tomhle prostě raději Radeon ne.

[oneb1t]

no je to i o OS protoze AMD podporuje vicemene jen nektere kombinace systemu/kernelu/ovladace pro install ROCm suite
to ze celej ten python dependency ekosystem je totalni mess to je dalsi vec

fascinuje me ze nemaji primo na strankach AMD oficialni navod jak nejaky tyhle veci zprovoznit na widlich je to docela oser...

pro linux alespon existuje tahle bizardni stranka se zabavou na celej vecer
https://docs.amd.com/bundle/ROCm-Instal ... _ROCm.html

[DOC_ZENITH]

Ještě uzavřu svou story o Stable diffusion na AMD. Tak nakonec jsem to rozjel, resp na chvilinku. Karta při počítání kvílí ač během her moc nepíská. To co 4090 počítá 8 vteřin tohle počítá cca 90... Takže useles, ale jsou tam větší problémy. DirectML evidentně má problémy s pamětí, a generování 768x768 obrázku žere na NV cca 12GB RAM no a zde se do 16 nevejde. Zkusil jsem opět zapnout Vega high bandwith cache, GPU se najednou začalo hlásit jako 24GB ale jakmile to přeplnilo 16GB tak se systém složil do BSOD fakt super drivery.

Po BSOD už mi to zase nefungovalo, poškodil se asi ňákej file a stahlo si ho to znova ale jinej a začalo to házet cuda errory.... na Radeonu, viz to co jsem říkal předtim prostě ta directML implementace je tristní a funkční při dobrém vínu pří úplňku a občas někdy nějak.

Když jsem tam vrazil starou NV, Quadro P6000 tak to jelo a trvalo jí to 65 vteřin. A4000 to trvalo cca 14 vteřin. to jest zajímavé protože ten nárůst na 4090 je mnohem menší než nárůst hrubého výkonu zde.

Celé to sedí na BF16, který se počítaj přes tensory. Když jej karta nemá musí se vše konvertovat do FP32 a je to pak slow no viz ta P6000 což je defakto 1080TI s 24GB VRAM. Je tam při trainingu možnost použít ještě FP16. což paradoxně Vega má měr při 2x speed, ale oppět directML implementace selhala, je to stejně slow nebo ještě pomalejší jak FP32 s tim že výsledky jsou horší, takže fail.

Jde do krabice a tímto s ní končím.

[mr.qeg]

A zkoušel jsi to furt na Win, nebo pod Linuxem? Ono to spíš zavání tím, že ten Stable diffusion není napsaný ani tak správně v directML, ale spíš v CUDě a nějak to někdo rychle do directML nabastlil. Anebo pak má AMD fakt total fail drivery a pokud ano, tak dobře jim tak v tom případě. Na Vegu už asi kašlou, ale bez SW podpory jim na ty jejich GPU bude pořád kálet pes. V roce 2006 to holt celé zajebali a teď se bude těžko dohánět, i přes mokré peřiny fanatiků o "lepším HW"

[oneb1t]

ja to ted zkousel pod linuxem s PW 170W a ROCm5.5 pytorch-nightly
jako testovaci nastaveni jsem vzal https://www.tomshardware.com/news/stabl ... benchmarks

a karta pri 170W udela cca 2.2 iterace takze cca srovnatelne s RX6600 ale oproti NVIDIIM je ta karta slaba

https://i.postimg.cc/HYcrXkYL/Screensho ... -57-02.png

[DOC_ZENITH]

Trvalo ti to 45 sekund pro 512x512 tzn výkon cca podobnej jako to mělo u mě na win, to odpovídá. Můžeš generovat 768x768 nebo dojde VRAM?

[oneb1t]

jo jde generovat i 1024x768 viz screen

ale to ja tak na limitu pameti o moc vic uz to nejde pak se to rapidne zbrzdi tim jak dojde pamet

[oneb1t]

tak pro zabavu jsem vytocil crossfire je to teda taky porod funguje to dobre jen na ovladaci 27.20.21002.112 (21.4.1)

http://www.3dmark.com/spy/39521734

pro zapnuti crossfire musi byt deaktivovany reBar a above 4G decoding jinac to nejde zapnout

taky jsem zkousel llama.cpp model interference (pres OpenCL) coz slo kupodivu docela dobre