ATi/AMD & GPGPU, profi sféra atd.

[Krteq]

Introducing AMD Instinct™ MI100 accelerator: First data center GPU to surpass the 10TF FP64 barrier.
https://www.youtube.com/watch?v=ulRHTMLnte4

Pár informací o MI100




Zároveň s MI100 amd vydalo i ROCm 4.0

[Krteq]

[Krteq]

AMD CDNA ARCHITECTURE - Whitepaper (PDF)

[Krteq]

CDNA "Aldebaran" (MI200?)

VCZ - Aldebaran could be AMD’s Multi-Chip Instinct MI200 accelerator with HBM2E memory

[del42sa]

jestli bude nejake GPU v MCM konfiguraci, tak určitě výpočetní karty. U herních karet to ještě dlouho na MCM nevidím, tedy pokud pod tim terminem AMD nevidí i prosté rozdělení na 3D část a 2D/Multimedia + řadič pamětí.

[Krteq]

CDNA2/Aldebaran vypadá na pořádný monstrum

Kód: Vybrat vše

On newer heterogeneous systems from AMD with GPU nodes connected via
xGMI links to the CPUs, the GPU dies are interfaced with HBM2 memory.

This patchset applies on top of the following series by Yazen Ghannam
AMD MCA Address Translation Updates
[https://patchwork.kernel.org/project/linux-edac/list/?series=505989]]

This patchset does the following
1. Add support for northbridges on Aldebaran
   * x86/amd_nb: Add Aldebaran device to PCI IDs
   * x86/amd_nb: Add support for northbridges on Aldebaran
2. Add HBM memory type in EDAC
   * EDAC/mc: Add new HBM2 memory type
3. Modifies the amd64_edac module to
   a. Handle the UMCs on the noncpu nodes,
   * EDAC/mce_amd: extract node id from InstanceHi in IPID
   b. Enumerate HBM memory and add address translation
   * EDAC/amd64: Enumerate memory on noncpu nodes
   c. Address translation on Data Fabric version 3.5.
   * EDAC/amd64: Add address translation support for DF3.5
   * EDAC/amd64: Add fixed UMC to CS mapping


Aldebaran has 2 Dies (enumerated as a MCx, x= 8 ~ 15)
  Each Die has 4 UMCs (enumerated as csrowx, x=0~3)
  Each die has 2 root ports, with 4 misc port for each root.
  Each UMC manages 8 UMC channels each connected to 2GB of HBM memory.

Muralidhara M K (3):
  x86/amd_nb: Add Aldebaran device to PCI IDs
  x86/amd_nb: Add support for northbridges on Aldebaran
  EDAC/amd64: Add address translation support for DF3.5

Naveen Krishna Chatradhi (3):
  EDAC/mc: Add new HBM2 memory type
  EDAC/mce_amd: extract node id from InstanceHi in IPID
  EDAC/amd64: Enumerate memory on noncpu nodes

Yazen Ghannam (1):
  EDAC/amd64: Add fixed UMC to CS mapping

• kernel.org - [PATCH 0/7] x86/edac/amd64: Add support for noncpu nodes
• Phoronix.com - Linux Prepares For AMD Servers With Aldebaran GPU Nodes Sporting HBM2

Twitter - Locuza

[Krteq]

Co nevidět by mělo být oficiální představení MI200, Frontier už se staví.

HPC Wire - US Closes in on Exascale: Frontier Installation Is Underway

[Krteq]

Oficiální představení Instinct MI200 series a Milan-X

AMD to Host Accelerated Data Center Premiere Virtual Event on November 8, 2021

SANTA CLARA, Calif. 10/25/2021

AMD (NASDAQ: AMD) will host its Accelerated Data Center Premiere on November 8, 2021 at 11 a.m. ET, showcasing the company’s upcoming innovations with AMD EPYC™ processors and AMD Instinct™ accelerators.

The virtual event is slated to feature presentations from AMD President and CEO Dr. Lisa Su, Senior Vice President and General Manager, Data Center and Embedded Solutions Business Group Forrest Norrod, and Senior Vice President and General Manager, Server Business Unit Dan McNamara.

The event will be accessible to the public at www.amd.com/en/events/data-center starting at 11 a.m. ET. A replay will be available and can be accessed after the conclusion of the livestream event.

AMD to Host Accelerated Data Center Premiere Virtual Event on November 8, 2021

[Krteq]

MI200 "die shot"



Twitter - ExecutableFix

//CoWoS-3 pouzdření?



VCZ - AMD Instinct MI200 MCM Aldebaran GPU pictured

[del42sa]

takže nakonec je to N6 proces a ne N7 Výkon v FP32 je stejný jako v FP64 nebo tam má Videocardz chybu v tabulce ?

An EMIB Alternative: Elevated Fanout Bridge 2.5D https://www.anandtech.com/show/17054/am ... -servers/2

[Krteq]

Ano, FP64 je 1:1 k FP32

TF32 je 2:1

AMD Instinct™ MI Series Accelerators

[del42sa]

no to jsem měl na mysli : normální operace 1:1 a packed math 2:1 . Jak to má v tabulce Anandtech

[Krteq]

CDNA 2 whitepaper (PDF)

[del42sa]

AMD’s CDNA 3 Compute Architecture

https://www.amd.com/content/dam/amd/en/ ... -paper.pdf

https://chipsandcheese.com/2023/12/17/a ... hitecture/

[del42sa]

https://www.anandtech.com/show/21422/am ... p-computex

*MI325X je refresh s HBM3E CDNA3 s 288 GB a šířkou pásma 6 TB/s s vyšším výpočetním výkonem, který přijde letos.

*MI350 je CDNA4 vyrobená na 3nm a dorazí v roce 2025. 35x lepší inference ve srovnání s CDNA3 (FP4/FP6).
1,5x více paměti a 1,2x "AI compute" TFlops ve srovnání s B200.

*MI400 je CDNA Next, která přijde v roce 2026 a naznačuje novou architekturu, respektivě mnohem vyraznější změny v jádru.

K tomu všemu bude tohle vše zastřešovat připravovaný UA LInk což je přímá konkurence NV link

zdá se že s tou roční kadencí se AMD snaží napodobovat Nvidii.

[HEAD]

Ted je jasny kam vetsina prachu putuje..Do AI a na desktop serou...

[DOC_ZENITH]

Investujou tam kde jsou prachy. Poslední dobré consumer GPU byly RDNA2 a to protože vývoj té generace z velké části zadotovali Sony a MS protože ona generace se použila do konzolí. Původně rozdělení GPU na compute a render větve vypadalo good, a ono to logicky je good, ale jen když máš 2 plnohodnotný vývojový teamy + finance tlačit oboje najednou, a to AMD prostě nemá. I NV byla v situaci že měla compute GPU dost odlišný od herních(Pascall vs Volta) ale pak dali zpátečku a od Amepre jsou zase základem architektury stejný. Pokud NV neměla na 2 separé teamy pro 2 separé architektury, tak ruku na srdce, co očekávat od AMD.

[Krteq]

TensorWave - AMD’s MI300X Outperforms NVIDIA’s H100 for LLM Inference

[Krteq]

Další benchmarky MI300X vs H100, tentokrát ve FFT

AMD MI300X and Nvidia H100 benchmarking in FFT: VkFFT, cuFFT and rocFFT comparison

[Krteq]

Test MI300X na Chips&Cheese

Chips and Cheese - Testing AMD’s Giant MI300X