VRAM a vše kolem ní

[satik]

Věř tomu, že vývojáři málokdy tuší, jak se věci chovají na tak nízké úrovni jako je správa paměti.
Tím spíš, pokud se používají enginy, frameworky nebo knihovny třetích stran, nebo obecně píšou v jazyce který se o správu paměti stará sám. A kolikrát ani 100% vlastní kód nemají zdaleka pod kontrolou.

To první platí spíš pro webovky, hry na mobily nebo enginy typu Unity, kde to tolik řešit nemusíš a většinu za tebe vyřeší engine, ale pořád dost herních studií používá nějaký vlastní, hlavně pro ty větší hry a tam ti nezbejvá, než paměť řešit sám.
A i když třeba používáš knihovnu pro textury, tak pořád ti je většinou jen načte do RAM a ty určuješ, kdy ji pošleš do VRAM nebo kdy ji z VRAM (i RAM) vymažeš, případně kdy ji přes tu knihovnu do VRAm načteš / vymažeš.

Samozřejmě tuhle část (ohledně kde a kdy loadujou/unloadujou textury) řeší jen část developerů, která má danej subsystém na starosti, ostatní devs to pak využívaj jako blackbox - prostě to funguje samo od sebe podle toho, jaký objekty jsou ve scéně a v dosahu.

Nedělej si iluze, že se tímhle lidi, kteří ten kód píšou, zabývají nějak proaktivně. Ti se k tomu dostanou jen pokud jim to někdo (QA, support, end customer) zpětně omlátí o palici protože se to v reálu chová blbě.

Většinou ne, ale někde občas dělají to, že sednou nad to a nějakou dobu optimalizují/refaktorují, typicky nějakou dobu před vydáním, kdy už se dá čekat, že se nic v designu systému té hry nebude drasticky měnit.

Jo, jasně, vývojář se do toho podívá, a když se dobře vyspí tak se mu možná povede danou věc optimalizovat/opravit, ale tam to končí. Kombinace rychlého context switchingu a vysoké komplexity SW projektů je zlo, vývojáři nemůžou a nemají přehled o všem napříč všemi vrstvami.

O detailech nemají, proto taky často bývají nějak rozdělení, třeba část dělá především networking, část rendering, část věci kolem gameplaye, jeden třeba fyziku, jeden animace... (aspoň tak je to u nás), ale to neznamená, že nemůžeš mít hrubej přehled o tom, jak fungujou ostatní části.

Tohle je i o vývojářích, já si třeba taky prošel (v zaměstnání) skoro všema částma - od fyziky, networkingu, zvukovýho subsystému nebo psaní renderingu přímo v C++ s directX a nějakých základních shaderů a ve volným čase napsal pár enginů do svých her.

Jestli o takto low-level věcech někdo něco ví, resp. o tom jak se na dané úrovni produkt chová v reálném světě, tak je to ten kdo to primárně po tom vývojáři musí troubleshootovat nebo testovat.

Pokud tě zajímají detaily, tak jo. Ale tohle co jsem popisoval ohledně streamování dat a uvolňování podle využití mi přijde jako dost běžná věc, protože v podstatě moc jiných řešení není.
Buď načteš do paměti celou scénu hned na začátku, to se používalo hlavně dřív, ale dneska už ty scény jsou velký a umíme načítat data bez sekání během hry, takže pak už zbývá jen streamování dat - a buďto je ta hra postupně načítá a zahodí až třeba na konci levelu nebo vypnutí hry a nebo umí načítat i zahazovat průběžně.

Dokud to jakž takž funguje a běží to plus mínus v normě (nepřekračuje to HW požadavky, nezpůsobuje to (příiš časté) problémy ve specifických situacích, atd.), tak se tímhle fakt nikdo nezabývá, a když už tak hodně povrchně.

J, typicky se na začátku dají nějaký specifikace, na kterých by to třeba mělo běžet na nějaký detaily 60 fps a podle toho se pak podle potřeby optimalizuje, případně upraví specifikace .

[Ache]

A co tahle přednáška změní na tom, že už dnes existují hry, co přetečou přes 8GB VRAM, takže se začne alokovat RAM a zpomalí se tím render?

Jako, sice hry neprogramuji, ale teoreticky předpokládám, že když už vývojáři mají pomalu 5 let k dispozici herní hi-end grafické karty, co mají 11GB, tak s tou kapacitou u podobného výkonu počítají a přizpůsobí engine/hru tomu, aby tu paměť využil (lepší LOD, různorodější materiály...) při detailech která ta karta zvládne. A najednou tu máme stejné, nebo dokonce vyšší výkony GPU, ale downgrade v kapacitě VRAM, kde hlavně u 3070 je to znát nejvíc - o 3GB méně, při stejném předpokládaném nastavení detailů.

A praxe to jen dokazuje - i na výrazně slabší RTX 2070 mohu hrát hry v nějakém nastavení co vyžere 8GB plynule, jenže mě pak omezí ta VRAM (zvýšený přenosy přes PCI-E indikují výraznější vypůjčování RAM). 3070 by mě teoreticky měla umožnit v té hře nastavit výrazně vyšší detaily, nebo rozlišení, ale tím na omezení kapacitou VRAM narazím ještě více.

[satik]

A co tahle přednáška změní na tom, že už dnes existují hry, co přetečou přes 8GB VRAM, takže se začne alokovat RAM a zpomalí se tím render?

Proc by na tom ze existuji hry, co si umi sahnout pres 8GB, mela neco menit?
Ja jen vysvetloval, ze dost her si muze hodne VRAM zabrat, ale ze to jeste neznamena, ze tolik nutne potrebuje.
A ciste technicky, dokud nebude umet grafika nacitat textury primo z disku, tak se RAM (pres kterou se to pak do VRAM posle) musi alokovat tak jako tak


A muj nazor na tu VRAM u treba 3080 je porad stejnej - jo, zamrzi to a vypada to trochu blbe, ale realne u tehlech lidi stejne predpokladam, ze cca za dva roky budou upgradovat a her, co se budou realne pohybovat okolo tyhle hodnoty bude nejspis mozny napocitat na prstech jedny ruky a vzdycky je tu jako posledni moznost trochu neco stahnout, takze osobne to za takovej problem nepovazuju.

[Ache]

Proc by na tom ze existuji hry, co si umi sahnout pres 8GB, mela neco menit?
Ja jen vysvetloval, ze dost her si muze hodne VRAM zabrat, ale ze to jeste neznamena, ze tolik nutne potrebuje.

Ale to já vim a už sem to tu i psal - napčíklad Call of Duty engine dekomprimuje do VRAM co může a nikdy nepřeteče. Ale jak ukazují videa s frametimes třeba nových COD, tak možná kvůli tomu jsou i vyrovnanější frametimes na RX 6800 než na 3080tce (nemusí se tak často tahat/čistit textury), takže i v tom COD engine to má na něco (byť nepatrně) vliv (bohužel Radeonu tu zase kazí tragický výkon RT).

Já jen řikam, že existují hry (áčkový tituly) kde 8GB už je na hraně a dochází k přetékání, nic víc. Jen tady Hnízdo prudí, že je to blbost + ty přijdeš s tím, že zabraná VRAM se nevyužívá... ale kdyby to tak bylo, tak by k tomu přetékání nedocházelo.

Věci okolo - jako jestli to má nějaký viditelný vliv už bych taky nechal stanou. Tady se dá souhlasit, že občas snížen textur o stupeň nemá vliv na jejich rozlišení, ale spíš se dá narazit na pozdější zobrazení lepších LOD. Proto za mě je 3070tka už za hranou - počítá se u ní s detaily a rozlišením jako u 2080Ti, ale nemá na to kapacitu.

Z mého pohledu by byl upgarde na 3070 tedy jen čistě kvůli výkonu v RT (ten zase tolik VRAM nežere co pozoruji), ale detaily textur a celkově LOD by musel zůstat při zemi. A na to se jim můžu pěkně... Stejně to vidim do roka na refresh + 2x tolik kapacity, a pak už tyhle kapacity jako 6/8GB VRAM řešit nebudeme.

[satik]

Jen tady Hnízdo prudí, že je to blbost + ty přijdeš s tím, že zabraná VRAM se nevyužívá... ale kdyby to tak bylo, tak by k tomu přetékání nedocházelo.

Já nepsal, že je to blbost, jen že to může bejt i jen zabraný a nevyužívaný
Samozřejmě to může bejt i opravdu zabraný a využívaný.

[crashPC]

Jak bylo psáno. Vývojář nemůže vědět a neovlivní to, když nová generace GPU má méně VRAM než ta stará. To je bez kompletního reworku průšvih.

[hnizdo]

vyvojar vi zcela urcite o metodach spravy pameti vice, nez hrac, ze. Co rika je pak otazka motivace, jako treba autori Godfallu

Věř tomu, že vývojáři málokdy tuší, jak se věci chovají na tak nízké úrovni jako je správa paměti.

Hezke zobecneni, ktere je k tematu naprosto mimo. U grafickych enginu je sprava vram alfa a omega, jak se sami vyjadrili vyvojari Dooma. Za to "vdecime" predevsim gondolim, kde se toto tema posouva na uroven cerne magie.

[mlrs]

ja bych bral tabulku, kde by byla velikost VRAM vs rozliseni a kde co staci + tu tabulku na dnesni situaci a za 1/2/3 roky, abych se mohl nejak smysluplne rozhodnout, po cem jit... - ale jo, asi je zabavnejsi se rozdelit na dva tabory a nadavat si do pitomcu

[hnizdo]

definuj "staci"

[mlrs]

ja vim no...kdyz to vezmu z pohledu nastaveni her, tak urcite nemusi byt ultra, ale nejaky cca high nastaveni s tim, ze pokud je ve hre nejaka hovadina, co snizuje FPS na pulku, tak to zaply byt nemusi
Samozrejme ctvrta dimenze te tabulky by mohla byt low / medium / high / ultra...ale to uz je prilis - spis teda nejaky voditko pro vsechny od lidi, co se v tom vyznaj vic

[DOC_ZENITH]

Žádné není, protože každá hra je jiná. Spočítat přesně to šlo jen u front-rendered her + s MSAA. (btw ve vysokejch rozlišeních je i klasickej front-rederer s MSAA šíleně náročnej na Vram.

Problém je v tom že od deffered renderingu se Z-buffer rozlejzá a jeho velikost neni statická, liší se přípúad od případu a hry od hry. U většiny moderních her nyní je rozdíl v nárocích na Vram mezi 1080p as 4K když všechno ostatní nastavení zůstane stejně, cca 1,8GB.

Bohužel to samé se týká textur a vizuálu. Někde může bejt vývojář líný prase a nasázet textury bez komprese a mrhat pamětí jak blázen a jinde hcyte odladit jejich rozlišení a kompresi a mít hru s mnohem krásnějšími texturami co zároveň žere máně Vram.

Jako příklad uvedu Crysis3, ta hra nevypadá špatně, a vejde se na MAX do 2GB. A pak tu máme Godfall kterej se rozlejzá až k 12GB a jako... nevypadá zle ale rozhodně nevypadá na to aby měl mít takovéhle nároky.

Proč se mi, ti co se bojej že dojde paměť, bojíme je že nové konzole maj dvojnásobek paměti a když se toto stalo minule do roka PC hry taky chtěly dvojnásobek Vram. A grafiku za 20K si nekupujeme na rok. Turing jsme přeskočili protože nemáme na vyhazování peněz do kanál ua teď je tu klonečně generace s koupitelnym high-endem, ale kazáí to dostupnost a u NV i paměť. Pak ti sem přijde někdo kdo koupil Turinga a po něm instantně 3090 (tzn je ochoten dát 50K ročně do grafiky) a bude tě poučovat o tom kolik paměti je třeba a co ti má stačit. Já už jsem nedostatek Vram zažil a od té doby vždy mam GPU s dostatečnou rezervou. DLSS bohužel v tomhle ohledu nen ižádná záchrana protože to žere tolik Vram kolik je třeba na framebuffer výstupního rozlišení, ne vstupního, proto si třeba nemůžeš dát DLSS do 8K na 3080 protože by 8GB padlo jen na framebuffer.

[mlrs]

jo tak ja samozrejme chapu, ze to neni tak easy...sam u grafik zvazuju snad jeste vic to, kolik to bude zrat a jak mi to bude vytapet skrin - vzhledem k par hodinam tydne nebudu kupovat grafiku za 50k...

Ale z toho, co jsem zatim tak nejak pochytil, tak by u karet 3060Ti / 3070 nemuselo byt tech 8GB jako problem... tzn. ze Radeon 6700/XT bude sice mit tech 12GB, ale aby kvuli tomuto mel vyhodu nad RTX kartama, tak to se spis nestane nebo naprosto minimalne...(pokud se teda ve vyvoji her neco nezvrtne, treba kvuli tem konzolim nebo tak)

Vic zahr. for ma zalozeno tema, zda tech 10GB na 3080 staci nebo ne - tak drahou kartu kupovat nechci, takze to nastesti resit nemusim :

[hnizdo]

ja vim no...kdyz to vezmu z pohledu nastaveni her, tak urcite nemusi byt ultra, ale nejaky cca high nastaveni s tim, ze pokud je ve hre nejaka hovadina, co snizuje FPS na pulku, tak to zaply byt nemusi

V tomto pripade ti bude stacit 8GB na 4K jeste tri roky minimalne, ale mozna i pet let.

[Ache]

ja bych bral tabulku, kde by byla velikost VRAM vs rozliseni a kde co staci + tu tabulku na dnesni situaci a za 1/2/3 roky, abych se mohl nejak smysluplne rozhodnout, po cem jit... - ale jo, asi je zabavnejsi se rozdelit na dva tabory a nadavat si do pitomcu

Sorry, ale nic takového nemůže existovat - jen to i to blbé rozlišení v každé hře má jiný vliv. Někde ti 4K proti FHD přidá jen 1GB a jinde klidně 3... To samé textury. Některé hry jednou na ultra detailní textury (většinou se to dá u PC stáhnout zvlášť jako "HD pack" - kdy bez HD žere hra běžných konzoloidních 4-6GB a při HD texturách i těch 8+GB ) a jinde se spoléhá jen na "low HD" - třeba teď sem se konečně dostal k RDR2 a hra žere jen kolem 4,5GB VRAM na max detaily... ale také ty textury nejsou rozlišením úplně uber top. Je to tedy čistá konverze s Gondole bez HD packu (jestli tam je nějaký HD pak, tak sem si toho nevšimnul, ale i tak to zabírá na disku 100+GB).

Obecně tedy pokud nevyžaduješ maximální HD textury (a nebo ti v menu stačí jen jejich nastavení na High místo VeryHigh/Utra) 8GB to stačit bude v pohodě dlouho - ty plánuješ "levnou" 3060Ti, tam se to ještě v ceně cca 12K dá tolerovat.

S těmi HD packy a pocitem mít vždy ostré textury... pak logicky bude jistota jen s 8+GB kartou (pokud bude od Nvidia a ne od AMD - tam je zase jistota blbých driverů )

[mlrs]

jo sak ja to schvalne psal zjednodusene/obecne - mi je jasne, ze pokazde to je jinak - ale proste da se to zobecnit a pretavit do vysledneho doporuceni pro nakup - tzn. jakou VRAM k jak vykonne grafice a samozrejme brat v uvahu rozliseni atd. atd.

U 3060ti je 8GB dle vseho OK, u 3070 je 8GB na hrane (ale vetsinou stacit bude), dle toho pouziti a scenare tzn. surovy vykon uz ma relativne slusny, ale pamet ma oproti 2080ti ubranou.
U Radeonu 6700/XT bude tech 12GB spis overkill, ale pro dobry pocit muze byt ne...

Levnou 3060Ti za 12k

- no za takovou cenu v prvni minute a pak v breznu ne

[Raikkonen]

Zjednodušeně se stačí podívat na hw parametry nových konzolí a je jasno, na co se bude x následujících let optimalizovat. Protože ještě cca 2 roky mají vycházet hry i na starší konzole, tak to bude zatím jen vyšší kvalita, s postupujícím časem se z toho však stane základ.

Pak stejně záleží na tom, jaké má kdo plány do budoucna. Kdo upgraduje s každou generací, tak ať koupí cokoliv. Kdo nedělá pravidelný upgrade by měl zvážit právě ty minimální parametry nových konzolí, protože tam by mohl pak těžce narazit. No a kdo kupuje na ještě déle, tak ať vytáhne křišťálovou kouli.

[Zofrenko]

ako možte pisať ,že 3060ti je dle všeho ok ? však je to prakticky vykonom ako keby 2080 super ktora ma tiež 8gb a nikde tu na fore som ešte nikdy nečital ani zmienku aby to bolo pre niekoho malo alebo aby mal niekto obavy do budúcnosti či to bude stačiť. takže teraz to riešit pri 3060ti je absolutne irelevantne..

no 3070 si zaslužila minimalne 10gb a 3080 12gb. a myslim si ,že by absolutne nemuseli teraz vymyšľať na rychlo 20 gigovky. A verim ,že ani tu na fore ani nikde na svete by z toho nebola až taka horuca tema. Tie gpu by mali lepšiu aj moralnu aj hernu životnosť

[DOC_ZENITH]

U 3060TI je 8GB stejnej problém jak u 3070, ty karty jsou defakto identický. Stejné jádro, sběrnice, paměť, vše. Akorát 3060TI bude mít méně aktivních SP tudiž bude o ňákejch těch 10-15% pomalejší. Místo výkonu 2080TI bude mít výkon mezi 2080S a 2080TI. Nebudou tedy hry co si 3070 dá na max a 3060TI ne. Z 3070 to ihmo dělá bídnou koupi a proč se u 3060TI toleruje 8GB více je ihmo cena. Protože pokud by byla cena odpovídající MSRP tak neni až takovej problém GPU téhle třídy za tuhle cenu každé cca 2 roky měnit. Tam to nebude tak bolet.

[TankGeorge]

Tak jsem postupně sjel ty HWU videa. Už od oznámení z Huangovy kuchyně tu začalo padat, že 8/10GB karty jsou trochu ojeb ve stylu "minimum viable product" aneb česky kurvítko. Někteří to ale dotáhli až k debilům na adresu zájemců/majitelů RTX 30XX, tak logicky zastánci zelené útočí z5 a těžko hledat nějakou pravdu.

Teď přišly nové konzole a tentokrát to není omrdaný kus šrotu se 4k samolepkama jako posledně, ale opravdu nabušený HW s několikanásobným výkonem proti předchůdci na úrovni hi-end PC. Takže jakýkoliv dnešní PC do dvou let narazí na nějaký "red dead 3" a bude kvičet o milost, přičemž mu nepomůže ani 256GB vRAM, ani zilión RAYS.

To ostatně zhruba řekli i v těch HWU videích - jen tam týpek dodal, že vRAM by si vybral jako menší zlo. Akorát si to někteří přefiltrovali, že nVidia bude za rok v řiti a AMD bude ještě pět let bez problémů, protože RT nikoho nezajímá a kvalita textur je best grafiks.

Což je pěkný blábol, protože ve 3D prostředí kus jednobarevného prkna s teselací bude vypadat mnohem lépe, než placka se sebelepší texturou. Kdyby textury byly všechno, tak vlastně nepotřebujeme lepší GPU, stačí na PCB namrdat co nejvíc vRAM - logic. Tak asi nejlepší grafiks na světě bude mít nějaký HD remaster bikiny karate babes

Za mě - na základě toho, co se děje u VFX ve filmech - best grafiks dělá osvětlení a animace, ne textury (u animace je zásadní dobrý motion blur, ale tj kapitola sama o sobě). Red Dead 2 si vizuálem vytře se vším právě kvůli tomuhle. Nebo aktuální remake Demon Souls, kde je vizuál komplet postavený na tom, jak uber teselované prostředí reaguje na dynamické osvětlení s fyzikou particlů navrch.

Scéna může mít úplně primitivní textury, ale když má extrémní geometrii, co reaguje na dynamické světlo, tak to prostě bude vypadat dobře. Což je přesně to, co vidím v UE5 tech demu. Tam fakt jsou nějaký nevídaný textury? Zrovna Witcher 3 maximalizuje vizuál tím, že mají vychytanou geometrii a LOD a nežere vRAM - TJ přesně ta černá magie.
Buď jsou vývojáři šikovní a umí škálovat nároky na vRAM bez větší ztráty vizuálu. Nebo jsou dementi a prasata, kde jejich šajze hra trpí problémy skrz naskrz a že jeden problém přebiju HW co má více vRAM ještě neznamená, že mi výkon nesrazí těch zbývajících stopadesát problémů. Viz výkon WD Legion na 24GB RTX3090.

Realita je taková, že když chci nVidii za míň jak padesát tisíc, tak zkrátka nemám na výběr. AMD potřebuje ještě nějaký čas uzrát a rozhodně to není nějaká jasná volba. Majitelé g-sync určitě nebudou vyhazovat HW za desítky tisíc kvůli tomu, že se rudí po třista letech dotáhli do highendu.
Nevíme jak na tom budou ovladače u vydání nových her minimálně, než vyjde Cyberpunk. Nevíme, jak se bude AMD starat o předchozí generaci HW, jestli to nezařízne po dvou letech třeba - kvůli tomuhle specificky si třeba kupuju GK max na 3 roky. Sázet na jeden parametr (16GB vRAM) je dost úlet.

A celkově vymýšlet nějaký futureproof PC v době, kdy na trh vlítly nové našláplé konzole je úplný úlet

[satik]

Za mě - na základě toho, co se děje u VFX ve filmech - best grafiks dělá osvětlení a animace, ne textury (u animace je zásadní dobrý motion blur, ale tj kapitola sama o sobě). Red Dead 2 si vizuálem vytře se vším právě kvůli tomuhle. Nebo aktuální remake Demon Souls, kde je vizuál komplet postavený na tom, jak uber teselované prostředí reaguje na dynamické osvětlení s fyzikou particlů navrch.

Scéna může mít úplně primitivní textury, ale když má extrémní geometrii, co reaguje na dynamické světlo, tak to prostě bude vypadat dobře.

Od toho se používají normálovky, co ti i na rovný ploše udělaj efekt různě členitý 3D plochy ohledně osvětlení.
Když se to dobře použije, umí to bejt hodně přesvědčivý.