nVidia GF100 - spekulační thread

[Youki]

Tak koukám dneska na newsku od OBRa na PCT o G300 a to musim pochválit, docela objektivní názory a zajímavá teorie s tim fakem tesly uřezanym PCB...dříve řeči výkonu, se kterym předstihne i hemlock a teď realita.

Kez by tu bolo viacej takychto ludi ako si ty co dokazu pochvalit pracu redaktorou a cas ktory tomu venuju vo svojom volnom case.

[Mareš]

sam_217: Sběrnice by měla být 384-bit, ne?

[no-X]

Youki: Je to placená práce, jako každá jiná.


//Krteq - Promaz OT. O tom kdo měl a neměl pravdu se můžeme přít po SZ a ne tím tady zasí*at thread.

[sam_217]

384bit? jo, pravda, to já měl je nzarytou tu zmínku o 512bitech v prvních informacích o fermi, to se ještě nazývala GT300, ale jo, 6x 64bitových řadičů, takže 384bitů, otázka je, jestli fermi dokážě takovou propustnost efektivně využít...takovej HD5870 asi vyšší paměťovou propustnost nepotřebuje, jinak by tam ATi hodila víc...pokud v tom nejsou náklady na PCB teda, to by se pak dalo spekulovat, co by kdyby radeon HD5870 384bitů...

[no-X]

Pamatuju si, že (cca v době R5xx) Eric Demers tvrdil, že nevidí důvod, aby podobné řadiče používali. Sice uplynulo dost let a důvody se mohly objevit, ale zatím nic nenasvědčuje tomu, že by názor změnil.

Pro GT300 by 384bit sběrnice mohla být limitující - pokud je její propustnost o 50% vyšší, než u HD5870, ale výkon má být o cca 2/3 vyšší, tak to asi trochu limit bude (a to neberu v potaz kompresní algoritmy...)

U HD5870 je stále větším limitem výkon jádra, ale vliv sběrnice je tam díky dvojnásobku ROPs mnohem citelnější, než u předchozích generací. Takových 15% výkonu by zvýšením propustnosti sběrnice získat mohli.

[sam_217]

Tak uvidíme, o kolik % bude fermi reálně výkonější, než HD5870, spíš nechápu, proč ATi s tak vysokým výkonem nepotřebuje tak velkou propustnost a nvidia obráceně, nvidia dělá strašně široký sběrnice, paměťovej systém s velkou propustností - GTX260 má asi 120GB/s a HD5770 která je +/- stejně výkoná jí stačí pouhých 70GB/s..

[fobos]

noX: myslím si, že tých 15% využijú u HD 5890 s 5GHz+ na pamätiach

[Tomco]

Ta Není možné, že to co bylo na obrázku už byla duální geforce?

Mne osobne sa to tiez nezda.... karta mi pripada velice dlha.

[Herkis]

Ta 384bit sběrnice může být i docela limitující pro GPGPU.

Někdo někde rozebíral, že na jednu FP instrukci (MUL nebo ADD) jsou třeba 2 vstupní a jedna výstupní hodnota. To je samozřejmě extrémní případ - pro cca 600mld. DP operací za sec. by byl třeba celkový datový tok 70x větší než odhadovaný (cca 200GB/sec.).
K tomuto extrémnímu případu se však budou blížit úlohy, které mají velké množství dat a málo výpočetních operací. V nich je jakkoliv ohromný výkon výpočetních jednotek naprosto nanic.

Naproti tomu např. pro násobení matic by postačil celkový datový tok cca 6GB/sec.

Pro FFT je však kupodivu poměr špičkového výpočetního výkonu k maximálnímu datovému toku docela vyrovnaný, a to jak pro DP, tak pro SP.

Vzhledem k tomu, že Fermi je primárně vyvíjen pro GPGPU, dá se předpokládat, že poměr špičkového výpočetního výkonu k max. možnému datovému toku vycházel z analýz očekávaných úloh. Je ale otázka, zda dnešní (a z blízké budoucnosti) hry mezi ty "optimálnější" úlohy patří.

Z dosud publikovaných údajů (systémy keší, sdílené paměti, datový tok) se dá spekulovat, že se inženýři NV nejvíce obávali, aby "CUDA jednotky" měly ke své práci dostatek dat.

P.S. Nedá mi to - z tohoto pohledu mi připadá výkon Flops (SP) konkurenčních Radeonů (HD 58xx) pro GPGPU jako naprosto nevyužitelný díky pouze 256bit datové sběrnici.

[beardie]

Ta Není možné, že to co bylo na obrázku už byla duální geforce?

Mne osobne sa to tiez nezda.... karta mi pripada velice dlha.

uz podla rozmerov cipu je jasne, ze bude mat velmi velku spotrebu, bude to jednocip

[no-X]

Herkis? Neviděl jsem jediný GPGPU test, který by něco takového prokázal. Když se ale dívám na výsledky testů, kde se téměř stejnou propustností dává HD5850 o 80% vyšší výsledek, než GTX216, rozhodně mi nepřijde, že by jí to nějak limitovalo...

Před vydáním RV870 jsem o něčem podobném mluvil se jedním člověkem a podle něj není problém v propustnosti, jako spíš v ROPs, které komunikaci s pamětí i při GPGPU zprostředkovávají. Tehdy se domníval, že pokud počet ROPs ATi u R8xx oproti předchozí generaci navýší, bude to právě kvůli GPGPU. Bohužel, co přesně se děje na úrovni hardwaru a co přesně v dané situaci ROPs zastávají, ani jeden z výrobců neuvádí.

GT200 už 32 ROPs měla, od Fermi se očekává 48. To docela přesně kopíruje nárůst paměťové propustnosti. Pokud u HD5870 stačí 20% BW navíc, aby výkon v GPGPU mohl jít o 75% nahoru, pak snad není důvod, aby podobná úměra neplatila i pro GT200/Fermi, ne?

Připadá mi, že tyhle limity jsou mnohem kritičtější pro rendering...

[Herkis]

no-X: Vůbec jsi nepochopil, co jsem napsal. Tady nejde o syntetické testy GPGPU, ty jsou právě tou úlohou, kde na datové propustnosti téměř nezáleží. To, co jsem uvedl, vychází z čistě matematických principů.

Např. FFT (dost častá úloha) - máš N komplexních čísel (N=2^m), počet operací sčítání a násobení je cca 4*N*log2(N). Z toho si jednoduše spočítáš, že cca 200GB/s datové propustnosti (ideálně využité pro čtení i zápis - 64bitFP - což je samozřejmě nereálné) odpovídá cca 800mld. DP operací za sec. Nebo pro 32bitFP cca 2x tolik SP operací/sec.
Pokud tedy budeš mít úlohu, která intenzívně využívá FFT s daty, které se nevejdou do cache, jsi omezen datovou propustností paměťové sběrnice. Pokud se nevejdou do hlavní paměti, jsi omezen propustností PCIE sběrnice. Na tyhle úlohy nemůžeš použít Sandra (nebo sranda?) test.

Stejně tak násobení matic (to je taky poměrně častá úloha). 2 čtvercové matice NxN ti dají výslednou NxN. Na počet dat 3*N^2 máš počet operací násobení N^3 (lepší algoritmy 2.8 ). Z toho ti vyjde, že na výpočetní výkon Fermi ti s odřenými uchama stačí PCIE sběrnice.

Na druhé straně jsou úlohy (např. statistické, práce s ohromnými databázemi), které jsou úplně omezeny datovou propustností. Tam ten Sranda graf je opravdu pro sandru.

[no-X]

No fajn, ukaž mi reálné aplikace, které prokážou že k tomu dochází i v praxi.

Na každý grafický čip si lze vyteoretizovat situaci, ve které bude fungovat extrémně neefektivně, nebo bude částí své architektury extrémně limitován. Jenže pokud se to v 99% případů vůbec neprojeví, protože na takovou situaci v praxi nedojde, tak to těžko lze označovat za limit.

Z hlediska návrhu čipu je velkou chybou, pokud se vývoj soustředí na řešení atypických situací, namísto typických. Zabírá to čas, křemík a reálný přínos pro majoritu situací je nulový...

[Herkis]

Na to ti nelze odpovědět jinak než - podívej se na stránky Nvidia. Těch reálných aplikací, které používají maticové počty nebo Fourierovu transformaci, tam určitě několik najdeš. Rozhodně si vyber ty aplikace, které se nevejdou do vnitřní paměti GPU, takže s limitací propustnosti sběrnic se musí počítat.
Jo, jestli si to chceš prokázat, odpovídající nádobíčko (např. Tesla) si musíš pořídit sám.

Na druhé straně, pokud si myslíš, že v profesionální sféře GPGPU odpovídá ten Sranda graf, co jsi uvedl, praxi, tak nemá cenu dál diskutovat.

Edit: Toto není teoretizování o 1% aplikací, ale ukázka toho, jak je u GPGPU (a tedy i u Fermi) propustnost datové sběrnice pro mnoho rozsáhlejších aplikací (těch rozhodně není nevýznamná menšina) důležitá, a nakonec proč má Tesla C20xx 3 nebo 6GB paměti. Je taky jasné, že návrháři Fermi podobné, ale mnohem podrobnější a přesnější analýzy prováděli (nakonec na to mají simulační programy, které běží na té jejich výpočetní farmě). Je jen otázkou, jestli optimalizace Fermi na GPGPU nebude příliš neoptimální pro hry. To ale ukáží až herní testy.

[no-X]

Pokud by někdo reálně prokázal, že se tebou popsaný limit skutečně v praxi projevuje, zajisté by to už někde bylo zdokumentované včetně výsledků, které to potvrzují. Pokud o nějakých víš, dej nám na ně odkaz. Pokud neexistují, tak bych být tebou přibrzdil.

Přišel jsi s teorií, která je podle toho, jak jí prezentuješ, klíčovým limitujícím prvkem pro GP-GPU. Přišel jsi s ní, měl bys pro ní mít důkaz. Těžko to můžeš prezentovat ve stylu: "Mám skvělou teorii, ale s důkazem si musíte přijít sami a pokud se mnou nesouhlasíte, nebudu s váma diskutovat".

Test sandry klidně kritizuj, ale teprve až přijdeš s výsledky prokazujícími opak. Zatím jsi nepředložil žádné.

Dokud nějaké nebudou, nemá smysl tu teorii brát v potaz. Jak jsem zmínil, teoretických situací, které mohou limitovat výkon čipu v určitém směru, je spousta, ale naprostá většina z nich se v praxi neprojeví.

[Herkis]

Já ti žádnou teorii nevnucuji. Pokud je pro tebe GPGPU převod videa nebo PhysX, tak si klidně ten Sranda test používej (a užívej). Lidi, kteří potřebují počítat projekty s ohromnými spoustami dat, že se nevejdou do 3 resp. 6 GB (nebo ani 24GB) hlavní paměti se mnou určitě budou souhlasit. Jenže ti na PCT forum určitě nechodějí.

A taky nevidím jediný důvod, proč bych ti měl prakticky prokazovat těch pár základních matematických principů, které nejsi schopen pochopit.

Edit: Nedá mi to. Limitace datovou propustností u GPGPU je naprosto běžná věc a není to žádná "moje teorie". Ty asi nečteš B3D forum? Projdi si GPGPU sekci. Narazíš tam na spoustu případů limitace, ale protože o tom většinou píše Jawed, jedná se o "malé" aplikace, Radeony a L1. Ta dokáže limitovat výpočetní výkon tím "extrémním" případem - 1 FP instrukce potřebuje 2 čísla na vstupu a 1 na výstupu. L1 má u RV770 480GB/s.
Ohledně CUDA ti doporučuji poučit se zde: http://www.ddj.com/architect/207200659 .

[crashPC]

Také jsem si ráčil všimnout, že co no-xovi nepřijde vyfocené, s grafem, a notářsky ověřené, to prostě neexistuje. Existuje tu jistá analogie s Vogonskou rasou

[sam_217]

Takže jak tak koukám, i nvidii by na hry stačila menší propustnost, tim pádem bude ATi limitovat v GPGPU paměťová propustnost, takže nějakej profík si radši koupí teslu, než ATi..

[bagr_001]

Takže jak tak koukám, i nvidii by na hry stačila menší propustnost, tim pádem bude ATi limitovat v GPGPU paměťová propustnost, takže nějakej profík si radši koupí teslu, než ATi..

Ano, ATi se stejně v profi segmentu nijak extra neangažuje a ani se do něho moc nehrne.

[crashPC]

Ne, ještě je tu možnost koupit 2-3-4 Ati karty do CF To samý v nVidii že...