Intel Cypress Cove, Golden+Raptor Cove (Rocket/Alder/Raptor Lake)

[Tralalák]

Rozbor CPU architektury Intel Gracemont: „Malá jádra“ Alder Lake jsou silnější, než čekáte
zdroj: https://www.cnews.cz/intel-alder-lake-m ... -x86-jadro

[flanker]

Pěkný článek a zcela jistě to bude po stránce výkonu dobrý CPU, jak jsem taky už říkal před rokem.

[Tralalák]

Z môjho pohľadu tomu všetko už nejaký čas nasvedčuje.
Ako som už niekoľkokrát uviedol uvidíme ako ten hardwarový scheduler s Windows 11 bude efektívny totižto big.LITTLE na tom bude "stáť alebo padať"...

[Sobo]

Rozbor CPU architektury Intel Gracemont: „Malá jádra“ Alder Lake jsou silnější, než čekáte
zdroj: https://www.cnews.cz/intel-alder-lake-m ... -x86-jadro

Kvituju to zamysleni v prvni kapitole. Stravil jsem pomerne dost casu prochazenim materialu z Architecture day / Hot Chips a ctenim Anandtech fora, abych nakonec dosel ke stejnemu zaveru. Hybridni architektura je i pro desktopove pocitace vyborne reseni, ktere oproti te heterogenni dokaze dosahnout jak lepsiho ST vykonu, tak i lepsiho MT vykonu. Samozrejme naprosto klicovym faktorem pro uspech je kvalita implementace jak ze strany Intelu, tak i Microsoftu - tam se uvidi az pri nezavislych testech.

Pokud nekdo premysli stylem "Dali tam jenom 8 velkych jader, protoze 16 by na soucasny vyrobni proces bylo moc, proto to doplnili malymi jadry jako totalne nouzove reseni!" - takovy clovek je totalne mimo a absolutne nepochopil myslenku a vyhody hybridni architektury, sorry jako.

Schvalne se podivejme na budouci konfigurace (jsou to zatim jen leaky, ale dava to smysl a verim, ze to takto opravdu bude):

Alder Lake: 8+8 (P-cores / E-cores)
Raptor Lake: 8+16
Meteor Lake: 8+24?
Arrow Lake: 8+32

Meteor Lake se ocekava na novem vyrobnim procesu (Intel 4) - pokud by Intel chtel, je zcela jasne, ze by mohl zvysit pocet P-cores, takze misto konfigurace 8+24 by se rozhodl pro treba 10+16 (pro jednoduchost uvazuju 1 P-core = 4 E-core co do velikosti). Tak proc to sakra neudela? Vzdyt prece vice P-cores = vetsi vykon procesoru, ne?

Odpoved: Absolutne NE! Jakto? V ST vykonu by si nijak nepomohl - drtiva vetsina software se bohate vleze do osmi threadu, takze tech jiz existujicich 8 P-cores bohate pokryje drtivou vetsinu scenaru a dvema navic by nic uzitecneho neziskal. Naproti tomu by ztratil 8 E-cores, ktere jsou v MT vykonu daleko vykonnejsi nez ty 2 P-cores, takze maximalni vykon procesoru by byl nizsi. "Male" jadra jsou optimalizovane tak, ze pri stejne plose a podobne spotrebe maji oproti velkym jadrum vyrazne VYSSI vykon (zduraznu, ze pouze v pripade kompletne paralelizovaneho kodu, tedy multi-thread vykon). Takze pokud chci zvysit maximalni vykon procesoru v paralelizovanem kodu (treba ruzne rendery, encoding etc.), tak do nej pridavam dalsi E-cores, ale v zadnem pripade ne vice P-cores. Zni to na prvni pohled nelogicky: "chces vyssi celkovy vykon? Tak tam pridej male jadra misto velkych", ale je to proste tak a kdo to do tedka nepochopil, tak uz mu asi neni pomoci.

Kazdopadne je docela klicove, aby pocet P-cores zustal na 8 a nezvysoval se, protoze by to nebylo efektivni, jelikoz drtiva vetsina software to nevyuzije a pro tu vysoce paralelni mensinu tady mame E-cores. Takze P-cores zustanou na poctu 8 s tim, ze pokud budou k dispozici volne tranzistory (treba novy vyrobni proces), tak se nevyzsi jejich pocet, ale misto toho se nove tranzistory investuji do rozsireni tech existujicich - jeste sirti front-end, jeste silnejsi backend, vice cache a podobne. Proste nechat pocet na 8, ale tehle 8 absolutne co nejvice boostit co do sirky a vykonu na jadro. Cim vice by tech P-cores bylo, tim mensi a slabsi by logicky musela byt, aby se udrzela rozumna plocha a spotreba.

Snad jsem to vysvetlil docela polopate, tak doufam, ze uz tady nebude nejaky kovboj plkat, ze hybrid patri do mobilu a v desktopu nema co delat. Je to jednoznacne lepsi a obecne vykonnejsi koncept, protoze kdyz mate jen jedno univerzalni jadro na vsechno, tak logicky nemuze v nicem vynikat - ST vykon bude nic moc a MT bude taky omezeny limitem efektivity tech univerzalnich jader. A ne, opravdu to neznamena, ze AMD je v hajzlu a Intel ho rozdrti - AMD muze byt i tak klidne lepsi hlavne diky TSMC, pripadne talentovanejsim inzenyrum a lepsimu designu, ale v obecnem kontextu hybridni architektura ma proti te heterogenni opravdu podstatne vyhody, a kdyz si predstavim sebe jako uzivatele a co typicky delam (a realne i majorita uzivatelu PC), tak se mi ten hybrid sakra hodi a jsem opravdu zvedavy, jestli to Intel / MS nekde nepodela.

[mr.qeg]

A nebylo by dobré tolik, nežrát ty PR slajdy a podívat se na to trochu kritickým úsudkem? Plochu zatím, neznáme, tak vyvozuješ závěry z neznáma. U spotřeby, nedá se stejného, nebo i lepšího výsledku dosáhnout prokročilými technologiemi (EIST/PowerNow), které už Intel/AMD dávno má? Pokud ano, pak by už platila pouze ta úspora plochy, která s blížícími se limity křemíku, může být hlavním motivem.

Osobně jsem si celou dobu myslel, že big.LITTLE v ARM světě je jen důsledek, jejich neschopnosti vyvinout podobný pokročilý systém řízení spotřeby, případně chybějících patentů. Ta plocha, ale bude asi hodně důležitý údaj.

[GaGy]

Sobo to tak napsal a tak to musí být...

I velká jádra mohou být úsporná když se neženou na max frekvence. Už vidím jak někdo u serveru použije 8+32 .. Dle mě tam vždy bude lepší full jádro s rozumnou frekvenci.

Nicméně já si počkám až na real testy. Do té doby tu můžeme opravdu jen spekulovat.

[del42sa]

Arrow Lake: 8+32

a k čemu to bude dobré ? mít v desktopu 32 malých jader + 8 velkých ? to zní spíš jako zoufalý počin ....

[AllowedCry]

Hodně zoufalý, tohle bude fungovat jen v benchmarcích, nikdy si tento postižený hybrid nekoupím, nikdy! nech si to všeci zapamatujů

I velká jádra mohou být úsporná když se neženou na max frekvence

nj, ale Intel už nemá kvůli AMD marží 1000% tak se jim ty velká jádra na zastaralém procesu moc nevyplatí.

[keistown]

...

A neni tohle jenom jinymi slovy popsano, ze je limitujici faktor cena a spotreba?

[Sobo]

Plochu zatím, neznáme, tak vyvozuješ závěry z neznáma.

Zadne zavery nevyvozuju, chtelo by to trochu lepe cist. Napsal jsem, ze v ramci uvahy bych odhadl velikost jednoho velkeho jadra jako 4 mensi, ale nebral jsem to jako hotovou vec, pouze ilustracni odhad. Nicmene si stejne myslim, ze realita bude podobna - E-cores daji vetsi MT vykon pri stejne plose kremiku.

U spotřeby, nedá se stejného, nebo i lepšího výsledku dosáhnout prokročilými technologiemi (EIST/PowerNow), které už Intel/AMD dávno má?

Tuhle hlasku vubec nechapu. Tyhle setrici utility delaji to, ze snizuji frekvenci / napeti v pripade, ze neni potreba vykonu. Co to ma spolecneho s energetickou efektivitou v zatezi?? A zcela jiste je Alder Lake bude mit taky - proc by P-cores meli sedet na 5Ghz a E-cores na ~3.7 v idle?

Už vidím jak někdo u serveru použije 8+32 .. Dle mě tam vždy bude lepší full jádro s rozumnou frekvenci.

V multithreadu by to s vice malymi jadry melo vetsi vykon. Nicmene na serverove fronte Intel tlaci veci jako AVX512 a to jejich AMX, cili z toho duvodu (serverove workloady jsou oproti desktopu casto hodne specificke) tam zrejme s malyma jadrama nepocita.

Arrow Lake: 8+32

a k čemu to bude dobré ? mít v desktopu 32 malých jader + 8 velkých ? to zní spíš jako zoufalý počin ....

Protoze tahle konfigurace da uzivateli absolutne nejvyssi vykon v ST i MT? Nebo co bys tam chtel? 12 velkych a 16 malych? Nebo jeste "lepe" 16 velkych a 0 malych? Gratuluju, tak si prave ziskal procesor, co bude mit horsi vykon jak v ST, tak v MT... Jednoduseji uz jsem to napsat nemohl, ale ani tak nekteri soudruzi stale absolutne nechapou k cemu ta hybridni architektura je, mazec.

neni tohle jenom jinymi slovy popsano, ze je limitujici faktor cena a spotreba?

To je snad vzdycky, ne? Nebo AMD muze narvat 64 ZEN3 jader na 4.5Ghz do CPU, co bude prodavat za $300 s TDP 105W? Vzdycky jsou nejake limity jak ze strany vyrobce (velikost na wafferu = cena), tak ze strany spotrebitele (spotreba, cena). Takze si Intel / AMD stanovi nejake targety - treba velikost do 300 mm2 a spotrebu max 200W (ilustracni parametry). Fajn, takze mame nase zakladni limity a cilem je dodat uzivateli co nejvyssi vykon, takze jak ten procesor navrhneme? Udelame jedno univerzalni jadro o vykonu, ktery povazujeme za dostatecny, a proste jich tam nasazime tolik, kolik se jich tam vejde, ale abychom nepretahli TDP? Nebo navrhneme dve separatni jadra, kde je jedno optimalizovane na maximalni ST vykon, a to druhe zase pro maximalne pomer vykon / plocha / spotreba, takze se jich tam vejde hodne pro vysoky MT vykon?

Vzhledem k majorite workloadu v consumer desktop segmentu mi hybrid vychazji jako lepsi volba takrka pro vsechny uzivatele. Ale jak jsem rikal, extremne dulezita je kvalita implementace, nicmene ciste jako filozofie mi hybrid prijde opravdu lepsi.

[del42sa]

Protoze tahle konfigurace da uzivateli absolutne nejvyssi vykon v ST i MT? Nebo co bys tam chtel? 12 velkych a 16 malych? Nebo jeste "lepe" 16 velkych a 0 malych? Gratuluju, tak si prave ziskal procesor, co bude mit horsi vykon jak v ST, tak v MT... Jednoduseji uz jsem to napsat nemohl, ale ani tak nekteri soudruzi stale absolutne nechapou k cemu ta hybridni architektura je, mazec.

gratuluju a k čemu přesně těch 32 jader využiješ ? K jakému konkrétnímu multithreadu nebo jaké aplikaci, která by ve Windows potřebovala nebo vytížila všech 32 jader ???

Jako mít hafo threadů v serverech ? ano tomu rozumím, v desktopu ? Na co ? Abys měl hezký skóre v Cinebenchi ?

[DOC_ZENITH]

Ano, trefil jsi to, dostane to hezký skóre v cinebenchci = dobrý recenze. Kdyby ty e-cores byly takovej super deal už by byl dávno out server procesor co bych jich nesl třeba 128 nebo 256.

Ostatně, já si myslim že největšim rizikem je nyní pro Intel failnutí samotnejch P-core. Ještě tu nebylo x86 jádro s takovou velikostí, složitostí a potenciálem pro zklamání co se výkonu týče. Ty jádra jsou naprosto gigantický a aby samy sebe odpodstatnily i výkon bude muset bejt kulervoucí (a ne, tim fakt nemyslim výkon v AVX512 kterej se ani v těch serverech moc nepoužívá a brečení Intelu na tom nic nezmění).

AMD s ZEN jádry oproti tomu vypadá jako pidi Atom. ZEN3 chiplet s 8 jádry a 32MB cache má 80.7 mm². Sapphire-rapids, složenej čistě z Inteláckejch novejch P-core má mít 56 jader přes čtyři 477mm2 die, tzn vyděleno 4 je to 14 jader na 477mm2.... WTF. Ano můžeme odečíst třeba 1/4 pro NB obvody a tak, ale stejně to vyjde naprosto šíleně a AMD se nechalo už slyšet že ZEN4 chiplet bude ještě o trochu menší než ZEN3(5nm TSMC), bude mít AVX512 a narvou jich tam až 12 pro 96 jader.

Takže, AMD má cca 10mm2 na jádro kdežto Intel má cca 30mm2 na jádro. To je naprosto na palici když Intel má bejt jen cca o 15% rychlejší. Aby ty E-cores nakonec nebyly větší a přitom stále výrazně slabší než dnes už stárnoucí ZEN3 cores.

[Sobo]

gratuluju a k čemu přesně těch 32 jader využiješ ? K jakému konkrétnímu multithreadu nebo jaké aplikaci, která by ve Windows potřebovala nebo vytížila všech 32 jader ???

Jak jsem rikal, v desktopu jsou vysoce paralelizovane ulohy urcite v minorite, ale presto jsou: renderovaci programy jako Blender nebo 3DS Max, video encode, IDE (treba Visual Studio), comprese / dekomprese, nebo proste muzes pustit vice veci zaroven a nemuset resit, ze by to CPU nepobral. Nebo proc myslis, ze AMD prodava Ryzen 5950X s 32 threadama na mainstream platforme? Kdyby to bylo totalne k nicemu, asi by to nikdo nekupoval a AMD nevyrabelo.

Musis si uvedomit, co uzivatele na mainstream desktop platforme ocekavaji. Chteji co nejvetsi vykon v beznych ukonech, coz pro drtivou vetsinu uzivatelu znamena hlavne multimedia: internet / filmy / hry. Na tohle nijak extra velky pocet jader zpravidla nepotrebuji, takze co Intel udelal? Navrhl CPU, ktery ma 8 velkych a silnych jader. Tady je velice dulezity ten pocet - ne 2 nebo 4, ale taky ne 12 nebo 16, ale zrovna 8. Proc prave 8? Protoze single thread vykon u osmijadroveho procesoru je cokoliv do 8 threadu = majorita veci, co bezni uzivatele na teto platforme delaji. Takze misto toho, aby tam zbytecne cpali treba 12 P-cores, jich tam daji 8, ale diky tomu mensimu poctu tech 8 muze byt o to vetsich a rychlejsich, coz je realna rychlost, kterou kazdy uzivatel pozna, narozdil od nesmyslneho pridavani dalsich jader. Ty E-cores slouzi primarne opravdu jenom pro MT ulohy, jinak nic moc delat nebudou, sem tam nejaky support nebo veci, ktere nepotrebuji vykon a hodi se tam lepsi vykon / watt efektivita.

Ale jak rikam - v soucasne dobe (a dohledne budoucnosti) rozhodne nema smysl zvysovat pocet vykonnych jader nad 8 v consumer desktop segmentu. Kdyby se vyskytl prostor pro dalsi kremik, tak se pouzije na posileni tech osmi (vyssi ST IPC), ale ne na pridani dalsich, to je proste k nicemu, jelikoz MT vykon mnohem lepe resi E-cores.

[del42sa]

Nebo proc myslis, ze AMD prodava Ryzen 5950X s 32 threadama na mainstream platforme? Kdyby to bylo totalne k nicemu, asi by to nikdo nekupoval a AMD nevyrabelo.

ano, to je procesor pro úzkou skupinu zákazníků, já se ptám jakou aplikaci bude nějaký mainstreamový uživatel windows spouštět na 32 jádrech ?

[AllowedCry]

já se ptám jakou aplikaci bude nějaký mainstreamový uživatel windows spouštět na 32 jádrech ?

A já se ptám, jaký uživatel si pořídí CPU s 32 vlákny, když je nevyužije?

[Sobo]

ano, to je procesor pro úzkou skupinu zákazníků, já se ptám jakou aplikaci bude nějaký mainstreamový uživatel windows spouštět na 32 jádrech ?

No, odpovedel sis sam. Tech 8+32 je konfigurace pro nejvyssi model, ktery si (podobne jako 5950X za $800) budou kupovat pouze lide, kteri s takovym softwarem pracuji. Vetsina lidi vezme nizsi modely jako treba 8+8 a hotovo.

[DOC_ZENITH]

Správnej dotaz by měl bejt jak se poperou aplikace s nevyrovnanym výkonem kdy všechny thready nemaj stejnej výkon. Třeba takový video enkodéry maj interně tendenci si framy dělit na řádky (proto čím menší rozlišení tím horší skálování na thready) a u těch se celej proces stallne a ty co dokončej práci dříve budou muset čekat na ty ostatní, nejdou obvykle dopředu na další frame. I render programy s timhle můžou bojovat kdy některé thready dokončej svůj čtverec výrazně rychlej ia pak se bude čekat na ty ostatní njež se půjde na další frame, spousta věcí se bude muset re-optimalizovat a když vezmene v potaz že spousta věcí dodnes moc neškáluje na hodně threadů tak chtít po těch vývojářích kteří maj problém po 20 letech se slušnym multithreadem ještě MT implementaci co by škálovala s různym výkonem threadů bude docela sranda.

Jinak dotazy typu kdo využije 5950X jsou celkem stupidní. Využít se dá. Běžnej user moc ne. Power user občas ano (I blbej OBS stream ti 5950X pěkně prožene když si 8 jader dedikuješ na hru a 8 na SW ekóding aby jsi z toho dostal co nejlepší poměr kvalita/bitrate ala nejdeš cestou GPU enkodéru, proženeš to ještě více pokud budeš idiot a nic nededikuješ a necháš aby to navzájem bojovalo o prostředky a co dostane co o tom rozhodnou win. Btw zde bych byl velice zvědavej na chování toho nového sheduleru a P-cores, kor když OBS způsobí větší load než hra, skutečně to bude dost inteligentní na to aby to nechalo hru na P-cores? A nebo to tam narve OBS a hru vytalčí protože OSB je náročnější?), profesionál často. Ale já zase třeba dělám v oblasti kde výkon CPU typu 5950X je přehršle v poměru k tomu že ona platforma pojme jen 128GB RAM, do čehož se mi nejvejde scéna takže jí v praxi budu renderovat na ňákym historickym DDR3 server/WS systému se slabšími starými CPU ale aspoň se mi to tam spustí a ty paměti seženu cheap ve velký kvantitě.

Tahle umělá segmentace trhu mě vždy děsně srala a jak Intel tak AMD si jí udržujou. Btw ty čínský rebranded Ryzeny uměly používat RDIMM moduly, tak proč normální Ryzeny ne? Proč TR ne? Aby pak mohli udělat PROčko co umí? Zvedli prodeje Epycu?

S DDR5 který budou mít až 128GB udimm na modul tento problém už nebude tak bolestivej, ale nezapomínejme na to. Ne jen jádry je pracovní stroj živ. + Můj předchozí post kde se pozastavuji nad Inteláckym šílenym "velkym jádrem" kde si myslim že se easy stane že zklame, urve drobné pyrhovo vítězství za cenu giga spotřeba proti ZEN3 a AMD to se ZEN4 potopí jak v singlu versus P-core tak v MT a výkon/watt vs E-core. Navíc, Intel zdá se nebude následujících pár let P-core nijak měnit, ala stane se z něj novej Skylake. Tzn pokud nebude dobrý, nebudou Intely obecně dobrý aspoň 3 roky.

[del42sa]

No, odpovedel sis sam. Tech 8+32 je konfigurace pro nejvyssi model, ktery si (podobne jako 5950X za $800) budou kupovat pouze lide, kteri s takovym softwarem pracuji. Vetsina lidi vezme nizsi modely jako treba 8+8 a hotovo.

no nevím jestli sis ráčil všimnout, ale u AL mají všechny verze konstatní počet E-Jader, je jedno jestli jde o nejvyšší verze, mainstream nebo ultramobilní čipy. Výkonnostní segment u Intelu určují počtem P-cores nikoliv E-cores.

https://www.zdnet.com/a/hub/i/r/2021/08 ... r-lake.png

Alder Lake: 8+8 (P-cores / E-cores)
Raptor Lake: 8+16
Meteor Lake: 8+24?
Arrow Lake: 8+32

takže pokud v podobném paternu bude konfigurace u Arrow Lake, tak tu kupu malých jader budeš mít i v mainstreamu

[Sobo]

Tak to se tady bavime o HW, ktery dorazi na trh tak za 3-4 roky nebo kolik? Tedka tech 8 E-cores asi nezabira tolik kremiku na to, aby to Intel musel nejak resit, ale jestli dojdou na 32, tak uz to asi bude trochu jina situace, kde se jim vyplati to segmentovat na urovni kremiku. Treba u Skylake-X to ma Intel rozdelene na LCC (do 10 jader, 322 mm2), HCC (do 18 jader, 484 mm2) a XCC (az 28 jader, 698 mm2), kde to uz dava smysl, protoze proc by vyrabeli skoro 700 mm2 kus kremiku, aby tam pak zamykali 18 jader a prodavali jako 7900X? To uz se bavime o relativne vzdalene budoucnosti, kde imo fakt nema smysl az tak predbihat.

[del42sa]

Tak to se tady bavime o HW, ktery dorazi na trh tak za 3-4 roky nebo kolik? Tedka tech 8 E-cores asi nezabira tolik kremiku na to, aby to Intel musel nejak resit, ale jestli dojdou na 32, tak uz to asi bude trochu jina situace, kde se jim vyplati to segmentovat na urovni kremiku. Treba u Skylake-X to ma Intel rozdelene na LCC (do 10 jader, 322 mm2), HCC (do 18 jader, 484 mm2) a XCC (az 28 jader, 698 mm2), kde to uz dava smysl, protoze proc by vyrabeli skoro 700 mm2 kus kremiku, aby tam pak zamykali 18 jader a prodavali jako 7900X? To uz se bavime o relativne vzdalene budoucnosti, kde imo fakt nema smysl az tak predbihat.

mno jediný kdo tu předbíhá jsi ty, hlavně s těma ódama na big-little cpu Intelu