NVIDIA Ada Lovelace - Info a spekulace

[Krteq]

Heh, L2 a LLC (aka "Infinity cache") je z pohledu paměťového subsystému krapet jinde (Last Level Cache je až za sdílenou L2)

To samé bude platit i pro NV

[Ache]

Tak i tyDíít píše o "infinity cache"... nakonec podle těch spekulací šířka sběrnice moc neporoste, možná maximálně budou k dispozici ty rychlejší GDDR6 paměti.

Já sem hlavně zvědavý na poměr výkon/Watt, jako představoval bych si upgarde na něco s výkonem 3080Ti/3090 s aspoň 12GB VRAM (raději ale 16) se spotřebou do 250. Což vzhledem ke skoku na 5nm TSMC by snad reál bylo. Těch 450W a pod se očekává až od AD102 based karet s výkonem 2x 3090, takže tak nějak logicky by karta s výkonem 3090 mohla být kolem 200-250W.

[Krteq]

Tak i tyDíít píše o "infinity cache"...

Opravdu?

Zdroje se více-méně shodují na tom, že kapacita u top-modelu, jádra Lovelace AD102, stoupne na 96 MB. Trochu nejasno zůstává v tom, o jakou cache formálně půjde. Nvidia používá L1 cache na úrovni jednotlivých bloků (té se to zcela jistě týkat nebude) a pak společnou L2 cache dimenzovanou s ohledem na šířku paměťové sběrnice. Některé zdroje hovoří právě o 96MB L2 cache. Existují ale zdroje předkládající scénář, že jednotlivé GPC bloky dostanou vlastní cache - to bude technicky L2 cache - a velká společná cache, které by se týkalo navýšení, by tudíž byla L3.

Ať už půjde formálně L2 nebo L3, bude se navýšení týkat cache poslední úrovně (LLC), tedy té společné. LLC má být 16 MB na 64bit šířku paměťové sběrnice. Zajímavé je, že u AD104, tedy „čtyřkového“ GPU dojde ke zúžení paměťové sběrnice z 256bit (Ampere) na 192bit (Lovelace) a podobně tak u AD106 bude 128bit namísto 192bit u GA106.

[Ache]

Nevím, čtu nadpis, víc mě v tom jejich bulváru nezajímá každopádně L2 cache bude proti Ampere více než desetinásobně vyšší, takže se to někde jistě podepíše. Celkem je ji šumafuk co v tom jádru bude za G-cache a pod, hlavní je výkon, spotřeb a co si za to budou účtovat.

[DOC_ZENITH]

Ňáká větší cache tam každopádně bude jinak by nebylo na místě aby jsme poprvé ever měli x04 GPU a méně jak 256-bit sběrnicí. Samozřejme za předpokladu že si NV jen neposunula značení a 03 je to co dříve bylo 04, protože 03 se u NV oběvovala jen vzácně a nebejval to standardní člen high-end rodiny.

Ache, výkon 3090 mezi 200-250W ty jseš vtipálek, k tomu nepotřebujeme žádnej next-gen, takovou kartu tu už máme , jmenuje se A6000. Stačí nehrotit takty a nedat tam GDDR6X a rázem se do 250W vejdeš. Pokud něco nechci tak jsou to 250+W mainstream karty, ale pravděpodobně nás to čeká. Meh,m pořád je tady naštěstí ještě Navi 31-33.

[Ache]

Ache, výkon 3090 mezi 200-250W ty jseš vtipálek, k tomu nepotřebujeme žádnej next-gen, takovou kartu tu už máme , jmenuje se A6000. Stačí nehrotit takty a nedat tam GDDR6X a rázem se do 250W vejdeš. Pokud něco nechci tak jsou to 250+W mainstream karty, ale pravděpodobně nás to čeká. Meh,m pořád je tady naštěstí ještě Navi 31-33.

No jasně A6000 - to je mainstream jak kráva ale vidíš, logicky by pak AD103 (téměř polovina CUDA proti AD102 - takže podle mě jen změna značení a AD103 bude to co doteď byla X40 řada) mohla s výkonem podobném 3090 dávat spotřebu pod 250W s rezervou díky lepšímu procesu TSMC. Pokud to teda nebudou zbytečně honit na maximum, ale s rozumnýma DDR6 (bez X) to pak i v takovém případě není tragédie protože to snadno undervoltneš. Já mam teď to samý. RTX 3070 od EVGA má default 240W, a ve většině her se k tomu limitu přibližuje... stačí UV (bez změny frekvence - 1905MHz @ 0,92V) a spotřeba se málokdy dostane nad 200W - spíš je v průměru kolem slušně efektivních 180W.

AD102 pak bude na 100% pro šílence, tam už bych těch 350 - 450 v defaultu očekával stejně jako má takový TDP i dnešní 3090 OC (FTW a pod - takže kdoví jestli nebudou i 600W modely, aly se rovnou využil ten nový PCI 5.0 konektor)

[madPav3L]

Já bych ještě do 450W zkousnul, víc už ne. Však na mojí 3080 mám 450W bios, ale mám jí podvoltovanou a žere do 300W s nepatrnou ztrátou výkonu, u Lovelace bych udělal to samé.

Ještě v žádném úniku nebylo kolik opravdu budou žrát nebo to ještě není finální a pořád se to může měnit?

[Ache]

finální to není a dá se očekávat velký skok v efektivitě, jenže podle počtu CUDA cores i extra porce výkonu (a to nevíme, zda i frekvence nebudou vyšší - to pak výkon by šel ještě nahoru o procenta podle rozdílu k ampere který lítá tak kolem 1800-1900 dle modelu a štěstí na kus). Jinak můj limit je těch 250, i tak to pak v létě dělá zbytečný teplo. On je dost velkej rozdíl mezi dnešníma kartama, co na těch 250W jedou perma - protože to je limit a 250W karty co byly dříve, kdy to bylo TDP, kterého se dosahovalo jen v extrémech. Teď ti při gamingu jede karta stále na tom TDP.

[DOC_ZENITH]

Naopak jsou zde chvilkové peaky nad které shazují některé zdroje (protože spotřeba jde vysoce nad specifikace konektorů), a občas killujou i některé karty viz kauza s Evgama v New World, protože karta co má TDP 350W a peaky na 450 si běžně a klidně šahne k 600 chvilkově, než to powerlimit zabrzdí a to neni akceptovatelné a takové jsou už dnes. Pokud base TDP zvýšíš na 450W tak ty peaky půjdou k 1KW, naprosto šílený. High-end Ampere (cokoliv nad 3070) také trhá rekordy v nespolehlivosti protože to napájení prostě neni dimenzované na takové peaky a způsob jak NV reguluje spotřebu už prostě nestačí, je to ovládané čistě SW a ten to počítá z určitého časového úseku pak si to zprůměruje a to je spotřeba, absolutně ale neřeší stav kdy v tom časovym úseku je třeba polovina času spotřeba 600W adruhá polovina 100W, vyhodnotí to jako OK stav ale kartu to může killnout to se přesně děje u tý Evgy pokud jí člověk nepodvoltuje.

Celej boost algoritmus se musí přepracovat tak aby tam byl safe start na menší frekvenci/voltáží a pak to boostlo když se ukáže že engine nezpůsobuje ňáké extra překmity nebo peaky. Současnej systém je tak že jde vše hned na naprosté maximum a srazí se to až když SW změří překročení TDP, to ale jak jsem řekl výše nefunguje vždy spolehlivě a mosfet je schopnej křupnout v rámci milisekund, dříve než to stihne zareagovat.

Co se té nespolehlivosti týče tak je tu ještě kroucení karet kvůli váze (utrhne se modul co je mezi GPU a PCI-E) a studeňáky pod GDDR6X kvůli jejich extra výtopu. Kartu tohodle typu fakt nechci.

Ache s tou A6000 jsem to myslel tak že kdyby se vzal stejnej čip a použil na desktop kartu a použilo se 12GB GDDR6 místo 48GB, tak by to bylo dalščích cca 20W free pro GPU a byla by to krásná high-end karta. Herní Ampere prostě zabíjí těch vyhrocenejch posledních 100-200Mhz a GDDR6X, jen proto že egoisticky nechtěj uznat že v rasterizaci maj nyní horší architekturu jak AMD. Bodeť by ne když celej Ampere je compute architekltura s dual FP32, z čehož hry benefitujou jen omezeně.

[Ache]

Jo ty peaky jsou pravda, ale to řešíš jiný problém Dřív TDP 250W karta na tom TDP nejela neustále, ale spíš jen c extrémech. Dneska je avg. spotřeba karty přesně taková jaké je její nastavené TDP. To jest dříve ti 250W karta v průměru vyzářila tepla, jako dneska třeba jen 200W karta. Takže když pak bude nějaká RTX4090 s 500W... tak těch 500 z toho poleze permanentně během hraní. Rozumný limit je podle mě těch 250, možná na ty úplně TOP modely hi-end bych dal 300W max. ale víc fakt ne.

[Krteq]

Tak údajně "jen" 600W TGP



Twitter - kopite7kimi

[Ache]

Jestli to mý být "jen" 2x výkonnější než 3090... tak ta efektita proti Ampere nebude až takový zázrak. Bych čekal maximálně 450W kartu s s výkonem 2x3080Ti / 3090 (ty mají v referenci 350)

[ICEBRETON]

600w grafika. To uz je sileny. Zde je potreba se zamyslet nad tim, proc to tak hroti. Asi maj nahnno z rdna 3. S takovou si toho za chvili vsimnou v Bruselu a herni karty dopadnou jak vysavce.

[Ache]

Měl se už dávno zavést nějaký limit, eneretický štítky a pod. Ten samý čip co žere 600w na hranici svých možností může mít klidně jen o 10% nižší výkon klidně i při 2/3 spotřebě nebo méně. Dříve bylo běžné, že karty měli slušný OC potenciál (do příchodu keplera a začalo se to i v defaultu honit k hranicím čipu díky GPU boostu, kdy i frekvence se může lišit kus od kusu podle OC potenciálu), a na neefektivní hranici si to dostal až taktováním... stejně jako procesory. Dneska to výrobci už v základu ženou na hranice možností čipů a dopadá to takto.

EDIT: fakt by mě zajímalo, pro koho 600W (a to jistě jen v referenci) karty jsou určený... takový 1kW přímotop dokáže v zimně pěkně vytopit jednu středně velkou místnost během hodiny. A k takovému teplenému výkonu se pak PC s nějakým šíleným AlderLake OC snadno přiblíží Na zimu možná cajk (ale i tak nesmíte hrát moc dlouho), ale v létě?

[DOC_ZENITH]

Já se hlavně těšim na ten popcorn, už teď některý verze Ampere maj VRM ve fézi popcornu, stračí jim dát pulzní load kterej nechytne softwarovej power management a je to že. Teď si představme skoro dvojnásobnou spotřebu, to bude chtít 2x takové VRM, kam to NV dá s jejich konceptem malého PCB+ blow-trough fanu? Že by PCB bylo velké a plné mosfetů a defaultem se stal AIO vodník? To by byla zlá zpráva.

Tak jako tak jim přeju popcorn situaci, ať je to pořádně praští přes prsty, jen ať to neodnesou neviné mezičlánky, něco jako BFG která krachla protože dávali na grafiky 5-letý záruky a pak přišly G80-GT200 se svejma studeňákama a neustáli to.

[ICEBRETON]

Nedivil bych se, kdyby casem vznikl nejaky externi pcie konektor, kam by se dala grafarna pripojovat zvenku. Je blbost 600w zavirat do case, aby se tam spolu s kartou zbytecne smazily i dalsi komponenty. A uz se tomu nebude rikat graficka karta, ale graficka kamna.

[Atapi]

To už bych si tipl že by to dřív EU zakázala. Ještě i záleží jak se to bude ve výsledku počítat, ono reálně s těma spikama co mají rtx 3000 jsme na těch hodnotách už dneska , mně to taky po koupi shazovalo zdroj a byl potřeba trochu undervolt, aby to bylo stabilní.

[Hladis]

něco jako BFG která krachla protože dávali na grafiky 5-letý záruky a pak přišly G80-GT200 se svejma studeňákama a neustáli to.

BFG zabila (lepe receno hodila je pres palubu) nVidia. Zaruky a poruchovost nebyl hlavni duvod.

[Hladis]

Spotřeba grafik Nvidia Lovelace prý bude až 900 W. Máme parametry i pro RTX 4080 a 4070
https://www.cnews.cz/spotreba-grafik-nv ... 80-a-4070/

[Ache]

Je to hnus, u RDNA 3 se spekuluje o výrazně nižších spotřebách. že by po letech switch na AMD?

Hlavně podezřelá je ta meganeefektivita tý RTX4070! Karta parametrově na úrovni 3080tky (akorát to asi pojede na vyšších frekvencích) se 192bit sběrnicí bude žrát jen o 20W méně než ta 3080? Tady je něco špatně - od 4070 sem čekal max. těch 250W... a i to je na úroveň x70 řady dost. dnešní 290W 3070Ti sem bral jako úlet (3070 bez Ti je 220W a výkon je +- stejný).

Technologie jde "dopředu" tím způsobem že grafárny za pár let budou v balení mít i malý jaderný reaktor na provoz karty a klimatizačních jednotek nutných k provozu?