NVIDIA News

[Danny202]

GPU-Z vyšla nová verze, která už umí monitorovat Hot Spot GeForce 50 a taky teplotu jednotlivých memory chipů
https://www.techpowerup.com/download/techpowerup-gpu-z/

[DOC_ZENITH]

Micron končí s výrobou 2GB GDDR7.

https://www.guru3d.com/story/micron-end ... -priority/

O tom už jsem tu v minulosti mluvil, že proč vůbec dělat starší nízkokapacitní moduly když z té samé linky mohou ject nové, větší. Zrušení Blackwell refreshe je tedy dost zvláštní tah protože za chvíli na ty Geforce karty s 2GB čipy nebude co osazovat ani teoreticky. Ten refresh bude za chvíli defakto vynucenej, protože pochybuji že s 6000 řadou budou spěchat.

[iambenny]

Ty dva roky to ještě dojedou se Samsung/Hynix, není kam spěchat.

Na těch pár GeForce karet...

[DOC_ZENITH]

Ti taky už nebudou chctí takové čipy vyrábět. Pokrok nezastavíš, proto taky dnes nemáme 256MB moduly RAM, prostě jak jdou dál výrobní procesy tak se zvedá densita čipů. Ty 3GB čipy dnes nestojej výrobně více jak ty 2GB takže proč vyrábět ty horší, prostě to končí.

Kapactia GDDR pamětí poslední roky dost stagnovala, dlouho nebyl nárůst kapacity a pak místo typickného zdvojnásobení přišlo jen +50%, ale zdá se že AI boom jim nahnal v tomhle ohledu vítr do plachet a motivaci, za ony 2 roky se čeká příchod 4GB a možná už i rovnou 6GB čipů, tzn zvedne se nám teď v následujících generacích densita hodně rychle. Za ty 2 ropky už budme v situaci že nebudou chtít vyrábět ty 3GB čipy protože budou malé a zastaralé heh. Pokud NV bude chtít pokračovat ve výrobě 8GB karet bude to už 64-bit naprostej low-end.

[Natural]

Tak nabízí se použití gddr6 nebo klidně i DDR/lpddr v lowendu. Případně nějaký hybrid jako gtx970.

[jctrnacty]

Je to smutny, ale fandim cinanum, at ty pojeby hynix, samsung, micron totalne kapacitne prejedou, at uz se jedna o ssd , tak o ramky. To, do jaky mizerie se ted pc trh dostal, je jeste horsi nez za kryptomanie. PC uz neni bezny spotrebny zbozi. PC trh je ted jenom soutez o to , jak vsechny totalne ojebat kvuli ai bubline.
Neni snad jedinej sroubek co se tyka pc, ktery by uplne zbytecne nezdrazil.

A odklad grafik, tady je snad jediny pozitivum(v moji naivite), ze by to mohlo donutit vyvojare optimalizovat ma mid range karty. Protoze hi end uz snad neni ani pro to 1% vyvolenych.

Ukazte mi nekoho kdo si dnes koupi konzoli(ps6, xbox helix) , ktera do budoucna cenove vyjde stejne jako pc.

[mouldy]

Další zajímavý OC tool pro RTX karty:
https://github.com/nothoov/xOCD

Zkoušel někdo? I tady by mělo jít odemknout limit VRAM.
https://www.reddit.com/r/overclocking/c ... erclocking.

[Krteq]

Další zajímavý OC tool pro RTX karty:
https://github.com/nothoov/xOCD

Jj, anonymní binárka bez zdrojáku stažená z internetu, co by se jen mohlo...

[Epidot]

Jen tak bokem, unikla mi nějak soutěž o tu 5060Ti? Výsledek je kde?

[DOC_ZENITH]

Podařilo se compute unlocknout všechny Turing/Ampere/Ada karty.

https://www.techpowerup.com/354110/gefo ... 1#comments

Všechny SW omezené compute features u Geforce nyní pojednou fullspeed jako u nejdraššího Quadra. Blackwell se zatim prolomit nepovedlo.
Resp takhle je to zatim akademickej úspěch neni široce dostupnej patch, ale pevně věřim že bude.

[DOC_ZENITH]

Tak už je a funguje. wow, zkusim to nasadit.

https://github.com/physicsdolphin/nv-ue ... hatgpt.com

Pokud nynější pokles akcií neskončip popnutim oné bubliny, tak se obábám že ceny starších Geforce RTX polezou ještě vejš, hlavně Ada. Compute výkon se teď citelně zvednul. Obvzláště 4090tka, modlá 4090 na 48GB a modlá 4080 na 32GB budou extrémně žádaný karty, protože po tomhle modu maj computě výkon v AI větší jak Blackwelly.

[Krteq]

Tohle nV rychle zařízne skrze GSP, Linux FW i prop. driver

[DOC_ZENITH]

Irelevantní protože to funguje na současnejch driverech tzn už to navždy bude existovat. Navíc se jedná o bios-init mod, ala funguje to i na win nebo čemkoliv jinym. Ten mod funguje tak že bez securebootu bootneš a on modne samotnej bios a inicializovanej status GPU a pak loadne jinej OS dále. Tzn patchovat SW cestou si do budoucna mohou jak chtěli ale ten BF16/FP8 výkon tam pro ty co ho chtěji dosažitelnej bude.

Btw nijak nezařízli mody těch CMP mining karet na plné A40 a to už pár tejdnů existuje. V minulosti se rovněž povedlo unlocknout plnou NVlink funkcionalitu na 3090 a rovněž nic.

[ICEBRETON]

Takze se asi nemam ted zbavovat sve 4060ti s 16gb pameti, ale jeste par mesicu pockat, az naroste na cene co?

[DOC_ZENITH]

Tuhle Radu ti nikdo s jistotou nedá, situace nyní je taková že stále rostou a i blbá 16GB 4060tka je prostě 16GB cuda device a dle toho má cenu.

Btw úspěšně otestováno, a když už jsi zmínil 4060TI 16GB tak jsem jí přidal do seznamu.

Dělal jsem jen quick test stable diffusion, 1 obrázek 50step, 768x768 + pak 2x upscaler, ala věc co je starší a nesedí zrovna tvrdě na BF16 nebo nedej bože FP8, ala ne takové boosty jako u textovejch LLM kde se tim lidi chluběj ale i zde byl posun k lepšímu:

4060TI16GB stock 140W: 2:05
4060TI16GB stock +OC 140W: 1:48

4060TI16GB mod 140W: 1:40
4060TI16GB mod +OC 160W: 1:32

4090 stock UV 0.875v 2500/+1200 : 305W: 0:43
4090 mod UV 8.275v 2500/+1200 : 340W: 0:38
4090 mod + max OC 2900/+1200 : 500W: 0:37

3090 stock UV 0.750v 1500 core : 260W: 1:18
3090 mod UV 0.750v 1500 core : 302W: 0:58
3090 mod OC 1720 core +1200mem : 360W: 0:54

A5000 stock: 230W (board limit karty): 1:12
A5000 OC +150core (1550Mhz) +1200mem): 1:08

Zajímavé je jak to nakopne power heh. Máme asi rovnou odpověď proč je použití DLSS5 takovej power-virus, protože NV u DLSS používá fullspeed FP8 a z onoho loadu se stane furmark, kterej do té doby přu hraní normálně nebyl protože Geforce maj by default BF16 a FP8 locklý na halfspeed.

[AllowedCry]

Máme asi rovnou odpověď proč je použití DLSS5 takovej power-virus, protože NV u DLSS používá fullspeed FP8 a z onoho loadu se stane furmark, kterej do té doby přu hraní normálně nebyl protože Geforce maj by default BF16 a FP8 locklý na halfspeed.

A to je odpověď na jakou otázku? Znamená to tedy, že blackwell je plně odemčený, nebo jak to koresponduje s tím, že topí jak praštěná i přes zamčený AI výkon?

[DOC_ZENITH]

Že NV protože zná svůj kód/HW/drivery dovede udělat to že při spuštění DLSS5 karta použije svůj plnej FP8 potenciál ačkoliv jinde jej má jako Geforce locked na halfspeed, což způsobí onen nárůst spotřeby. Blackwell bohužel zatím nejde odemknout, uvidí se jestli někdy půjde.

Edit: V tom předchozim postu jsem to řekl nepřesně, Geforce nemaj žádnej hard lock/limiter na výpočty, ony samotný výpočty typu pure FP8 třeba jsou fast, taky aby ne jinak by si je nemohli nechat zapsat do tabulky parameterů, problém je s FP32 akumulací v kombinaci s lower-precision výpočty, ta je nerfed a half-speed. A v praktickém nasazení nebo trénování LLM tam běží spousta jiného a mixovaného kódu a tam ta FP32 akumulace hraje velkou roli.