NVIDIA Titan V (Volta) - info, recenze, zkušenosti

[DOC_ZENITH]

Sobo, MichlaOS má ihmo pravdu. NV je dodnes používá, včetně u RTX PRO6000 MaxQ a kdyby se vedle toho akusticky nedalo žít tak by jich nebyly plný workstationy.

Je to tak. 2-slot blower pokud je kvalitní tak uchladí 250W tiše. 300W je takovej limit kdy už to je slyšet ale dá se s tim obvykle žít. Separé problém nastává pokud karta má nekvalitní fan co je hlučnej i v malejch otáčkách (hlučný ložisko, setkal jsem se s tim třeba na cheap Gainwardech 900/1000 řady) co spousta karet má (foudersky a Quadra ne) a zbytečně to napomohlo horší reputaci. Mě ty karty chyběj dost protože to byl jedinej efektivní způsobej jak jich do PC nacpat více.

Další kroky NV které vedly k maisvnímu ztučnění herních karet a to že 2-slot radiály se staly defakto jen dominantou Quadra ala masivní ekonomická přirážka je topic sám o sobě. Ruku v ruce s tim že OEM wokstation mašiny (Dell, HP, Lenovo a tak) dodnes neumožňujou instalaci GPU větších než toho. Je to dohoda mezi nima a NV a ihmo záměr protože chytré firmy tam začaly v minulosti strkat 1070tky a 1080TIčka což se NV sakra nelíbilo. Dokonce i upravili TOS v driverech kde slovně zakazujou použití Geforce pro takovéto účely...

Tipuji že kdyby někdo vydal takhle vypadající třeba 560TI 16GB (karta která by takhle šla chadit easy a s rezervou), nebo jedej bože 1-slot variantu s 150W TDP, tak by na ně NV hned skočila protože chtěj prodávat PRO4000. Proto je dnes vše tak masivní a i ten novej SFF standard je naprosto masivní. Zabraňuje to instalaci tuny karet a nasazení consumer karet do server/WS nasazení, což byl záměr.

K Voltě, trochu smutná generace s u NV neobvykle malym supportem. Osobně, ani nevim proč TitanV existoval. Že by měli příliš moc vadnejch jader s 1/4 mem controlleru disabled? Protože full verze má 16 nebo 32GB. Ve své době nebyl herně o moc rychlejší jak TitanXP a konkurence nebyla. V compute to byla jiná story, ale 12GB compute kartu? Hmm... Někdo by mohl namítnout RadeonVII a technicky vzato to byla odpověď na něj, ale ruku na srdce, to nikdo nekupoval protože to nemělo support.

Zajímavý je že u early RT her (Battlenfield) šlo na Voltě zapnout RT. Sice RT cores neměla ale tensory ano a je evidentní že Volta byla developer platformou pro early RT věci v době kdy se teprve chystal Turing.

Dnes je to bohužel trash, proto i ty server varianty V100 se daj sehnat s adaptéry na PCI-E na Ebayi cheap. Je to nejlevnější karta s cudou kde jde dát 16 nebo 32GB. Bohužel onen konec SW supportu je hodně bolestivej, neni to technicky outdated architura jeko Maxwell/Pascall kde další drivery stejně nic nepřinesou. Problém je hlavně na Linuxu kde se NV drivery ukázaly jako nulově future proof, ala staré Volta compatible drivery nefungujou na sedmičkovejch kernelehjch který přišly no... cca 2 měsíce po konci supportu těhlech karet. Jejich nasazení + obecně neoptimalizace AI modelů pro Voltu z nich tedy dělá celkej jalovej HW kterej je cheap ale je to těžkej kompromis to ňák provozovat a do budoucna to bude jen horší.

[michalos]

Urcite neni dobry mit v case 600W tepla z grafiky To ti stejne ohreje vse, bud mene nebo vice.

Tak si tam mel neco spatne, mel jsi to prepastovat

Prestala je pouzivat, pac rada 3090 uz sla na 350W a to uz je moc.

I RTX 2080Ti mela dost verzi s blowerama, ale FE ho nemela no...

Vsak blowery se furt pouzivaji vsude v serverech, R9700 PRO AI atd...

Vzdy je to o firme, da se udelat slusnej blower, kterej uchladi 300W.

Dobrej kompromis byl chladic u RTX 3090/4090, kde jde aspon 60% tepla ven.... Tohle co je u RTX 5090, to jsem jakoze vubec nepochopil, to se moc nepovedlo

Ja se na ten blower u Titanu V tesim, zitra to vyzkousim

[StepanPepan]

Jsem přesvědčený, že čtyřslotový pečlivě navržený blower by uchladil i 360W tiše a 600W snesitelně slyšitelně.

Najednou jsem přestal vidět do Bazaru - ten Titan V tam ještě je?

[DOC_ZENITH]

Ano design moderních GPU je tragickej, ala celej PC se přizpůsobí mé GPU co má 600W! Všechen vzduch nechává v bedně a 50% ho fouká rovnou do CPU chladiče. Důsledkem toho se high-airflow casy (s nulopvou expansí, žádnejam front-bayema) staly standardem a defakto nutností. To samé AIO chladiče na CPU. Vedle 5090se i ta nej Noctua rozžhaví.

Bejval by to řešil BTX standard kdy GPU mělo bejt nad CPU, ale ten se neprosadil, takže tu máme to nejhorší z obou světů. Dkonce tu byla snaha o protlačení 12V only systémů, systémů s konektory z druhý strany boardu, GPU napájenou z boardu a podobné stupidity, ale layout pořád stejnej, ala GPU pod CPU, kde fouká všechen horkejch vzduch do něj + pod sebou zabírá 4 sloty.

Naprosto stupidní a rád bych aby se všichi pozastavili nad tim jak jsme se pomalu touhle salámovou metodou enshitifikace dostali k současnejm PC s minimální expanzí a hroznym designem co se týče chlazení a airflow.

[StepanPepan]

Ještě jsou tam ty SDDčka pod grafikou, na které se přímo fouká horký vzduch z chladiče.

Chlazení CPU se dá pomoct tak, že se na chladič fouká vzduch ze stropu.

[DOC_ZENITH]

Ah, ano, a obecně formát M.2 pro SSD v desktopu.... to se taky prosadila todátlní píčovina původně smejšlená jako replacement msaty pro laoptopy. Původní koncept měl bejt přes sata-express konektory a 2,5" formát. Pořádný SSD (U.2ky do serverů) se dekádu dělaly stále 2,5". Snadné chlazení easy instanace většího množství disků, žádnej burn pod grafikou, dost prostoru pro více čipů na PCB.... ale ne budeme rvát dense pidi designy co se konstantně přehřejvaj a degradujou pod grafiky co jim ještě zatápěj. Briliantní!

[Sobo]

NV je dodnes používá, včetně u RTX PRO6000 MaxQ a kdyby se vedle toho akusticky nedalo žít tak by jich nebyly plný workstationy.

Az na to, ze diky tomu "uzasnemu" blower chladici ma TGP zkrouhnute na 300W misto 600W u normalniho RTX Pro 6000 Blackwellu. Kdybych kvuli toho musel u sve 5090 prijit minimalne o ctvrtinu vykonu, povazoval bych to za docela problem.

Další kroky NV které vedly k maisvnímu ztučnění herních karet a to že 2-slot radiály se staly defakto jen dominantou Quadra ala masivní ekonomická přirážka je topic sám o sobě. Ruku v ruce s tim že OEM wokstation mašiny (Dell, HP, Lenovo a tak) dodnes neumožňujou instalaci GPU větších než toho. Je to dohoda mezi nima a NV a ihmo záměr protože chytré firmy tam začaly v minulosti strkat 1070tky a 1080TIčka což se NV sakra nelíbilo. Dokonce i upravili TOS v driverech kde slovně zakazujou použití Geforce pro takovéto účely...

Jak NV vnimam negativne a obecne jim prakticky v nicem nefandim, tak zrovna v tomhle jim musim fandit. Proc? Protoze jestli chce firma kupovat compute hardware pro komercni ucely, tak si ma laskave poridit (a samozrejme zaplatit) enterprise reseni k tomu urcene. Nvidia i AMD spoustu takovych reseni nabizeji - ani jedno nema ve jmenu Radeon nebo GeForce, to jsou consumer produkty pro koncaky.
Pokud firma skupuje GeForce herni grafiky po paletach a rve to do svych workstations, tak to neni nic jineho nez vycuranost a chamtivost. Oni na tom vydelavaji penize, klidne by tam mohli dat ten spravny enterprise HW a stejne se jim to za chvili zaplati, ale to by chlapci meli o neco vetsi capx, coz by vypadalo blbe v excelu, tak to prece zkusime nejak odrbat, jak typicke. Presne kvuli temhle chamtivym parchantum je dnesni trh takhle v prdeli - vykupujou consumer HW pro enterprise ucely za silene penize, protoze se jim to porad vyplati, zatimco "legitimni" zakaznici aka hraci ostrouhaji, pro ne to je uz nedostupne.

[Mafian277198]

Nj, kdysi sem přemejšlel, když ty grafiky lezly nad 400W, že budu muset udělat nějakou custom bednu, kde bude grafika na riseru třebas u stropu jakoby místo radiátoru vodníka, základovka CPUčkem dolů něco jako BTX - prostě klasická stará bedna se zdrojem nahoře otočená vzhůru nohama s grafikou na riseru namontovanou vzhůru nohama v poslední pozici... Nakonec sem zatim skončil u rámu bez plechů. Pokud bych ale měl pak upgradovat na monstra typu RTX 5090, asi bych svůj nápad realizoval.

[DOC_ZENITH]

Sobo - Těžkej nesouhlas.

Co se radiální karty týče, může bejt širší, pokud je potřeba odvést více W. Třeba takovej Radeon PRO W7900 je radiální 3-slot, ala totálně "tabu" koncept že.... Obecně já nechci grafiku co bude žrát více jak 300W obecně. Je to stupidní ve všech ohledech. Chlazení, výtop do místnosti, hoříci napájení, omýlá se to neustále všude. Fuck 5090 a PRO6000 bez max-Q, hrozný karty. Kor ještě ten design s tim flex-kabelem do slotu a super-dense PCB kde když se cokoliv stane tak za A nemá pojistky tzn solidní šance na odpálení jádra a za B vše je tak dense že opravy jsou noční můra uuugh.

Co se Quader a tak týče, obávám se že totálně nesouhlasim. NV v těhlech kartách má stejný DIE jako v herních kartách a i herní karty maj solidní zisky. Taaaakže někdo si má připlácet 2x-4x tolik za co jako? Za pozlátko? Za jméno? Za "certifikaci" LOL. Za to že to má malej form-factor akceptovatelná TDP a více VRAM? To jest vše? Do 780TI nebyl problém mít vice VRAM na Geforce, co se stalo hmm? Monopol nenažrané NV, to. Pokud nedostaneš lepší HW proč by jsi si měl připlácet za cokoliv, kor firmě která je tak nenažraná že trhla světové rekordy v zisku.

Cuda se rozšířila díky Geforce a nyní je cuda na Geforce defakto problém, tak se to snažej sabotovat jak to jenom jde. Dříve jim to i vycházelo, v těch dobách specifickejch OpenGL akcelerací pro autocad třeba, později kdy profi karty měly full FP64 compute kdežto desktop ne, atd. Ale co se běžného compute týče a i těch lower-precision AI věcí, Geforce nemaj žádnej omezovač, takže se z nich stal problém.

Sorry ale zákazník a je fuk jestli je to Franta z Benešova nebo ňáká velká firma, by měl vždy nakupovat na bázi poměru cena/výkon. Řekni mi jedinej důvod proč by měl kupovat Quadro když onen SW běžel na 1080TI a šla tam dát ta. Kdyby tu nebyl monopol a fungovala konkurence jak má, tak by si ty sviňárny z posledních let NV nikdy nedovolila. To že se vše vyprodalo fakt neni chyba těch co si to koupili, ale celekch investičních fondů co nalili úspory korporátů za poslední 2 dekády do AI. Likvidační ekonomickej tah kterej spoustu z nás bude ve finále stát důstojné stáří a některé i život.

Vyjmenuju pár zásadních bodů zlomu u NV, jen pro srandu:

Od early Kepleru se mainstreamn začal prodávat jako high-end.
Od pozdního Kepleru výrobci nemohou instalovat vlastní množství VRAM. VRAM určuje sama NV.
Pascall byl paradoxně uvolnění, Titan dostal quadro OGL, features, později NV uvolnila freesync kompatibilitu, přestala blokovat PCI-E passtrough přes IOMMU a pod.
Od Turingu výrobci nemohou ani navrhovat vlastní PCB v oblasti jádra a VRAM, pouze chlazení a VRM/napájení.
Od Ampere je v driverech EULA který ilegalizuje provoz Geforce v server nasazení, LOL.
Od Ady je zákaz vůbec fyzicky navrhovat workstation-optimized Geforce. Vše musí být masivní a nepraktické.
Rovněž Ampere nasadil mining ceny jako MSRP a opět jim to prošlo.
Od Blackwellu se přes to všechno ceny herních karet začaly určovat dle jejich AI výkonu a použitelnosti... a zase jim to prochází.

Tohle fakt neni o tom že ty nemáš dost Geforce protože je firmy vykoupily, ee. Ty GPU jako takový jsou zlato, je fuk formát karty. Proto se třeba i staré 2080TI modujou na 22GB, 4080 a 4090 se rozdělávaj na díly, házej na menší PCB s radiálnim chladičem a osazujou 32/48GB VRAM. Lidi obětovávaj funkční 4090tky aby z nich udělali 2-slot 48GB karty a z těch se pak dělaj compute racky. Tady ňákej herní trh a obecně konzumní trh už dávno neahraje roli, defakto neexistuje. Jedienj důvod proč se zatim masově 5080 nemoduje na 48GB a 5090 na 96 je akutní nedostatek těch velkejch GDDR7 modulů na otevřenym trhu. Ta cenová exploze zasahla i Quadra Btw, prostě vše so umí cudu a má to VRAM. Před čtvrt rokem jsem do firmy kupovali RTX PRO 5000 48GB za 90 táců, teď stojí 180 táců. Takže asi tak.

[Sobo]

To bych spis oznacil jako tvoje osobni preference. Vetsina majitelu 5090 zadne drasticke omezeni prikonu neresi, maximalne udelaji nejaky UV s minimalni ztratou vykonu, ale rozhodne ne na 300W, tolik tam snad ani nejde kvuli omezeni min. voltaze, PL taky nejde az tak dolu. Dnesni nove hry jsou casto neoptimalizovane, nebo je to rovnou UE5 trash, ktery ma priserne pomaly render a musis to proste brute-forcenout GPU vykonem. Proto jedu UV+OC, kdy to v Unrealu zere sotva 500W, ale v poradnych enginech jako treba RE engine od Capcomu to s unlock FPS da i tech 600W (realne mam 120 FPS lock se ~75% GPU loadem, takze zere o dost min). Ale i kdyby, tak je mi to jedno. Chlazeni skrine jsem tomu prizpusobil, nic se neprehriva, a to ani kdyz je venku 40 stupnu. Jo, mam splitovou klimu, bez te by to bylo o dost horsi, ale tu bych mel i bez te grafiky, protoze sedet ve vedrech u kompu bez klimy a potit se ve vlastni stave jenom z horka venku je naprd, to uz nikdy vic.
Jestli tam vyrobce neda pojistky a odpali se kvuli toho 750 mm2 jadro, to je jejich problem, ne muj. Ja mam 3 roky zaruku, do te doby to prodam a koupim neco jineho. Kdyby se neco podelalo, hodim jim to do Alzy a nazdar. Kabel neresim, proste jsem to tam poradne zarazil a za rok a pul se dvema ruznyma kartama jsem nikdy nemel problem. Tech grafik uz tedka musi byt v obehu vysoke stovky tisic, pravdepodobne miliony. Za tu dobu tady mame par desitek ponicenych konektoru, takze pro 99,99% lidi to funguje bez problemu, akorat ti s problemy se dneska diky socialnim sitim okamzite ozvou do celeho sveta, zatimco ti spokojeni jenom tise fungujou - v podstate je to takovy survivorship bios naruby. Design konektoru je dementni a Intel to nikdy nemel uznat do ATX standardu, naprosty souhlas. Ale zily si kvuli toho rezat nebudu.

Co se Quader a tak týče, obávám se že totálně nesouhlasim. NV v těhlech kartách má stejný DIE jako v herních kartách a i herní karty maj solidní zisky. Taaaakže někdo si má připlácet 2x-4x tolik za co jako?

Protoze je to korektni enterprise reseni, tomu odpovida support, navic vetsi VRAM vyrazne rozsiruje pocet veci, co se na tom daji pustit jako vetsi modely, vetsi kontext apod. i kdyz je to stejne jadro - a co jako? Pochopitelne ma vyrobcne na enterprise produktech vyssi marze, protoze ten produkt si na sebe vydela a pro firmu tu cenu realne ma. To se porad bavime o HW, ale co treba SW? Proc treba Slack muzes mit zadarmo, nebo v Pro verzi za 8 euro / user / mesic, nebo v Business+ za 18 euro, nebo jeste vic v Enterprise verzi, tam uz je pro jistotu cena "na vyzadani". Je to stejnej SW, vyrobce to realne nic moc navic nestoji, ale firemni verze stoji vyrazne vic, to je uplne normalni. Tak funguje vicemene celej svet. Nejak nechapu, proc se snazis usetrit pouzivanim produktu, ktere k tomu ucelu nejsou urcene, jenom abys usetril nejaky cash. To je proste takova ta typicka ceska vychcanost - jak s tim co nejvic vydrbat.

Řekni mi jedinej důvod proč by měl kupovat Quadro když onen SW běžel na 1080TI a šla tam dát ta.

To zalezi, co presne s tim delas a jakou mas toleranci pro chyby. Quadra maji vice VRAM, validovane drivery, ISV certifikace, ECC, enterprise zaruku, lifecycle management etc. Tyhle veci maji pro firmy pridanou ekonomickou hodnotu. Od vendora mas otestovanou kombinaci GPU, driveru, operacniho systemu, aplikace a garanci, ze to funguje spolehlive. Kdyz delas 30 hodin dlouhy vypocet, tak nechces, aby ti nejaky jeden corrupted bit celou tu vec invalidoval. Ten HW je validovany pro aplikace jako AutoCAD, SolidWorks a podobne, kde nemas zajem na tom, aby nejaky obskurni rendering bug v hernich driverech dojebal projekt za miliony dolaru. Stejne tak to muze mit hodnotu pro zakazniky, kterym muzes rict "Vsechny nase workstationy maji nvidia certifikovanou konfiguraci" vs "Franta tam jebnul herni GeForce a zda se, ze to nejak jede".

Nevim, co presne se u vas ve firme dela a jak moc business critical to je, ale u nas v korporatu (asi 8k zamestnancu, co si pamatuju) by si nikdo nic takoveho nedovolil. Starame se o nemocnice, zeleznice, kritickou infrastrukturu (energetika), zdravotnictvi, municipality, ruzne firmy a jejich fabriky po celem svete apod. To je pristup kovboje, co strili od boku. Jestli vam to ve firme funguje - okej, vase vec. Ja jen rikam, ze ta cenova politika ma i nejake svoje opodstatneni a nemalo firem to evidentne vidi stejne, jinak by jim ty "predrazene" enterprise produkty nekupoval vubec nikdo, kdyz tam prece staci strelit GeForce a ono je to vlastne uplne to same... Vubec nerozporuju, ze v urcitych specifickych aplikacich to klidne muze fungovat dostatecne dobre, ale v mnohych jinych zase ne.
Ale hlavne z moralniho hlediska - kdyz delam business, tak si na to poridim business solution a nebudu hracum lezt do zeli a vykupovat jim herni GPU. To drazsi Quadro se krome vyse zminenych vyhod stejne zaplati X krat za svoji zivotnost.

[michalos]

Nikdo 600W příkon GK neřeší? Možná BFU, normální člověk ano, je to moc, jak říká DOC, maximum iděal těch 300-350W a to je hotovo Cokoliv nad je zbytečný nesmysl, bylo by dobré, kdyby jsme se s 2nm přiblížili zase k těm 350W, což se ale nestane....

Jednak total ultra blbej konektor už ve svojí druhé verzi a určitě by mu pomohlo, kdyby přes něj lítalo o 250-300W méně

Jinak ať nejsem offtopic, tak grafika vyzkoušena, lehce šramotí ventilátor při IDLE otáčkach ( při větších už ne a já jsem trochu mrdlej, nikdo by si toho nevšiml), takže jsem objednal 2 dalsí kusy origo od Delta Electronics přímo na Titan V...

BF6 ve 4K moc nic, Oblivion Rematered ve 4K v pohodě a teď sosám Diablo IV, to snad bude cajk ve 4K...4K je trochu zabiják no, při dnešních hrách.

[DOC_ZENITH]

Tohle je dnes 1080p karta, kor když nepodprije DLSS (ač by mohla, tensory má). Reálně je hrubej výkon cca 15-20% nad 1080TI. Zajímavé by tedy bylo porovnání právě s ní (nebo s Pascall titanem) a vedle toho třeba 2080/2080TI, ala zdali ta modernější architektura a compute featues Voltě pomůžopu v některých modernějších enginech oproti Pascallu, a nebo zůstane herně feature-level defakto Pascallu a Turing bude o třídu lepší.