Intel ΠΏΠΎΠΊΠ°Π·Π°Π»Π° ΡƒΡΠΊΠΎΡ€ΠΈΡ‚Π΅Π»ΡŒ Crescent Island для ИИ с 480 Π“Π‘ LPDDR5X

Intel рассказала Π½Π° симпозиумС Hot Chips ΠΎ подробностях ускоритСля Crescent Island Π½Π° Π°Ρ€Ρ…ΠΈΡ‚Π΅ΠΊΡ‚ΡƒΡ€Π΅ Xe3P. Компания Π΄Π΅Π»Π°Π΅Ρ‚ ставку Π½Π΅ Π½Π° ΠΌΠ°ΠΊΡΠΈΠΌΠ°Π»ΡŒΠ½ΡƒΡŽ ΠΌΠΎΡ‰Π½ΠΎΡΡ‚ΡŒ ΠΈ HBM-ΠΏΠ°ΠΌΡΡ‚ΡŒ, Π° Π½Π° Ρ„ΠΎΡ€ΠΌΠ°Ρ‚ с мСньшим энСргопотрСблСниСм для инфСрСнса Π² ΡΡƒΡ‰Π΅ΡΡ‚Π²ΡƒΡŽΡ‰ΠΈΡ… Π΄Π°Ρ‚Π°-Ρ†Π΅Π½Ρ‚Ρ€Π°Ρ….

графичСская ΠΊΠ°Ρ€Ρ‚Π° Intel Crescent Island для ИИ
(Image credit: Intel)

Crescent Island Π²Ρ‹ΠΏΠΎΠ»Π½Π΅Π½ Π² Π²ΠΈΠ΄Π΅ PCIe-ΠΊΠ°Ρ€Ρ‚Ρ‹ с Π²ΠΎΠ·Π΄ΡƒΡˆΠ½Ρ‹ΠΌ ΠΎΡ…Π»Π°ΠΆΠ΄Π΅Π½ΠΈΠ΅ΠΌ ΠΈ заявлСнным энСргопотрСблСниСм 350 Π’Ρ‚. Π’ Intel Ρ‚Π°ΠΊΠΆΠ΅ Π½Π°Π·Ρ‹Π²Π°ΡŽΡ‚ ΠΎΠ±ΡŠΡ‘ΠΌ встроСнной памяти Π΄ΠΎ 480 Π“Π‘ LPDDR5X, Ρ‡Ρ‚ΠΎ позволяСт ΠΎΠ±Ρ…ΠΎΠ΄ΠΈΡ‚ΡŒΡΡ Π±Π΅Π· экзотичСских схСм питания ΠΈ охлаТдСния.

По словам Intel, Π½Π° Hot Chips компания ΡƒΠ³Π»ΡƒΠ±ΠΈΠ»Π°ΡΡŒ Π² Π°Ρ€Ρ…ΠΈΡ‚Π΅ΠΊΡ‚ΡƒΡ€Ρƒ Ρ‡ΠΈΠΏΠ° сильнСС, Ρ‡Π΅ΠΌ Π² ΠΏΡ€ΠΎΡˆΠ»Ρ‹Ρ… раскрытиях. Π’Π½ΡƒΡ‚Ρ€ΠΈ Crescent Island ΠΈΡΠΏΠΎΠ»ΡŒΠ·ΡƒΡŽΡ‚ΡΡ Ρ‡Π΅Ρ‚Ρ‹Ρ€Π΅ Π±Π»ΠΎΠΊΠ° Xe3P, ΠΊΠ°ΠΆΠ΄Ρ‹ΠΉ ΠΈΠ· ΠΊΠΎΡ‚ΠΎΡ€Ρ‹Ρ… Π²ΠΊΠ»ΡŽΡ‡Π°Π΅Ρ‚ ΠΏΠΎ восСмь Xe Core, Π° суммарно это Π΄Π°Ρ‘Ρ‚ 32 ядра Xe Core, 256 Xe Vector Engines ΠΈ 256 XMX-ускоритСлСй. Π Π°Π½Π΅Π΅ Intel Π³ΠΎΡ‚ΠΎΠ²ΠΈΠ»Π° iGPU Π½Π° 12 ядСр Xe3P для Nova Lake-S.

  • 32 Xe Core Π² составС Ρ‡Π΅Ρ‚Ρ‹Ρ€Ρ‘Ρ… Xe3P-Π±Π»ΠΎΠΊΠΎΠ².
  • Π”ΠΎ 480 Π“Π‘ LPDDR5X памяти.
  • 350 Π’Ρ‚ ΠΈ Π²ΠΎΠ·Π΄ΡƒΡˆΠ½ΠΎΠ΅ ΠΎΡ…Π»Π°ΠΆΠ΄Π΅Π½ΠΈΠ΅.
  • 32 ΠœΠ‘ ΠΎΠ±Ρ‰Π΅Π³ΠΎ кэша L2.

Π£ΡΠΊΠΎΡ€ΠΈΡ‚Π΅Π»ΡŒ Crescent Island ΠΈ Π°Ρ€Ρ…ΠΈΡ‚Π΅ΠΊΡ‚ΡƒΡ€Π° Xe3P

Intel заявляСт, Ρ‡Ρ‚ΠΎ Xe3P усиливаСт Π»ΠΎΠΊΠ°Π»ΡŒΠ½Ρ‹Π΅ Ρ…Ρ€Π°Π½ΠΈΠ»ΠΈΡ‰Π° Π΄Π°Π½Π½Ρ‹Ρ… ΠΏΠΎ ΡΡ€Π°Π²Π½Π΅Π½ΠΈΡŽ с Battlemage ΠΈ Xe2. На ΠΊΠ°ΠΆΠ΄Ρ‹ΠΉ Xe Core приходится 1 ΠœΠ‘ ΠΎΠ±Ρ‰Π΅Π³ΠΎ рСгистра Ρ„Π°ΠΉΠ»Π°, Ρ‚ΠΎΠ³Π΄Π° ΠΊΠ°ΠΊ Ρƒ Battlemage ΠΈ Xe2 этот ΠΎΠ±ΡŠΡ‘ΠΌ составлял 512 ΠšΠ‘, Π° ΠΎΠ±ΡŠΡ‘ΠΌ L1-кэша ΠΈΠ»ΠΈ shared local memory вырос Π΄ΠΎ 512 ΠšΠ‘ Π½Π° Xe Core.

Π£ Xe3P Ρ‚Π°ΠΊΠΆΠ΅ Π΅ΡΡ‚ΡŒ 32 ΠœΠ‘ раздСляСмого L2-кэша. Π­Ρ‚ΠΈ кэши компания увязываСт с Π±ΠΎΠ»Π΅Π΅ ΠΊΡ€ΡƒΠΏΠ½Ρ‹ΠΌΠΈ ΠΌΠ°Ρ‚Ρ€ΠΈΡ‡Π½Ρ‹ΠΌΠΈ ускоритСлями, ΠΊΠΎΡ‚ΠΎΡ€Ρ‹Π΅ ΠΈ Π΄ΠΎΠ»ΠΆΠ½Ρ‹ Ρ‚ΡΠ½ΡƒΡ‚ΡŒ ΠΎΡΠ½ΠΎΠ²Π½ΡƒΡŽ Π½Π°Π³Ρ€ΡƒΠ·ΠΊΡƒ Π² ИИ-Π·Π°Π΄Π°Ρ‡Π°Ρ….

Π•Ρ‰Ρ‘ ΠΎΠ΄Π½ΠΎ ΠΈΠ·ΠΌΠ΅Π½Π΅Π½ΠΈΠ΅ касаСтся XMX-Π΄Π²ΠΈΠΆΠΊΠΎΠ². Intel Π³ΠΎΠ²ΠΎΡ€ΠΈΡ‚, Ρ‡Ρ‚ΠΎ Π² Xe3P ΠΎΠ½ΠΈ стали 16-ΡƒΡ€ΠΎΠ²Π½Π΅Π²Ρ‹ΠΌΠΈ ΠΏΠΎ Π³Π»ΡƒΠ±ΠΈΠ½Π΅ systolic-Π΄ΠΈΠ·Π°ΠΉΠ½Π°, Ρ‚ΠΎΠ³Π΄Π° ΠΊΠ°ΠΊ Ρƒ Xe2 ΠΈ Xe3 использовалась чСтырёхуровнСвая схСма. По замыслу это позволяСт ΠΎΠ±Ρ€Π°Π±Π°Ρ‚Ρ‹Π²Π°Ρ‚ΡŒ ΠΌΠ°Ρ‚Ρ€ΠΈΡ†Ρ‹ Π±ΠΎΠ»Π΅Π΅ ΠΊΡ€ΡƒΠΏΠ½Ρ‹ΠΌΠΈ Π±Π»ΠΎΠΊΠ°ΠΌΠΈ Π·Π° ΠΎΠ΄ΠΈΠ½ ΠΏΡ€ΠΎΡ…ΠΎΠ΄.

Компания Ρ‚Π°ΠΊΠΆΠ΅ ΠΏΠΎΠ΄Ρ‡Ρ‘Ρ€ΠΊΠΈΠ²Π°Π΅Ρ‚ ΡˆΠΈΡ€ΠΎΠΊΠΈΠΉ Π½Π°Π±ΠΎΡ€ ΠΏΠΎΠ΄Π΄Π΅Ρ€ΠΆΠΈΠ²Π°Π΅ΠΌΡ‹Ρ… Ρ‚ΠΈΠΏΠΎΠ² Π΄Π°Π½Π½Ρ‹Ρ…. Π‘Ρ€Π΅Π΄ΠΈ Π½ΠΈΡ… Π΅ΡΡ‚ΡŒ FP4-Ρ„ΠΎΡ€ΠΌΠ°Ρ‚Ρ‹ с microscaling, Π° Ρ‚Π°ΠΊΠΆΠ΅ ΠΏΠΎΠ»Π½Ρ‹ΠΉ Ρ‚Π΅ΠΌΠΏ для FP64 Ρ‡Π΅Ρ€Π΅Π· 64 Π±Π»ΠΎΠΊΠ° FP64 FMA Π½Π° ΠΊΠ°ΠΆΠ΄Ρ‹ΠΉ Xe Core. Intel ΠΎΡ‚Π΄Π΅Π»ΡŒΠ½ΠΎ ΠΎΡ‚ΠΌΠ΅Ρ‡Π°Π΅Ρ‚, Ρ‡Ρ‚ΠΎ Ρ‚Π°ΠΊΠΎΠ΅ сочСтаниС Π΄Π΅Π»Π°Π΅Ρ‚ Crescent Island ΠΏΠΎΠ»Π΅Π·Π½Ρ‹ΠΌ ΠΈ ΠΊΠ°ΠΊ ИИ-ΡƒΡΠΊΠΎΡ€ΠΈΡ‚Π΅Π»ΡŒ, ΠΈ ΠΊΠ°ΠΊ Ρ‡Π°ΡΡ‚ΡŒ систСм для Π²Ρ‹ΡΠΎΠΊΠΎΠΏΡ€ΠΎΠΈΠ·Π²ΠΎΠ΄ΠΈΡ‚Π΅Π»ΡŒΠ½Ρ‹Ρ… вычислСний.

Π‘Ρ†Π΅Π½Π°Ρ€ΠΈΠΈ примСнСния

Intel прямо связываСт Crescent Island с модСлями mixture-of-experts ΠΈ speculative decoding. Π’ ΠΊΠΎΠΌΠΏΠ°Π½ΠΈΠΈ ΠΏΠΎΡΡΠ½ΡΡŽΡ‚, Ρ‡Ρ‚ΠΎ Ρ‚Π°ΠΊΠΈΠ΅ схСмы ΠΈΡΠΏΠΎΠ»ΡŒΠ·ΡƒΡŽΡ‚ Π»Ρ‘Π³ΠΊΠΈΠΉ ΠΌΠ΅Ρ…Π°Π½ΠΈΠ·ΠΌ для ΠΏΠΎΠ΄Π³ΠΎΡ‚ΠΎΠ²ΠΊΠΈ Ρ‡Π΅Ρ€Π½ΠΎΠ²ΠΈΠΊΠΎΠ² Π±ΡƒΠ΄ΡƒΡ‰ΠΈΡ… Ρ‚ΠΎΠΊΠ΅Π½ΠΎΠ², ΠΊΠΎΡ‚ΠΎΡ€Ρ‹Π΅ основная модСль ΠΏΠΎΡ‚ΠΎΠΌ ΠΏΡ€ΠΈΠ½ΠΈΠΌΠ°Π΅Ρ‚ ΠΈΠ»ΠΈ отклоняСт.

Crescent Island Ρ€Π°Π±ΠΎΡ‚Π°Π΅Ρ‚ Π½Π° LPDDR5X, Π° Π·Π½Π°Ρ‡ΠΈΡ‚, Π½Π΅ ΠΌΠΎΠΆΠ΅Ρ‚ Ρ€Π°ΡΡΡ‡ΠΈΡ‚Ρ‹Π²Π°Ρ‚ΡŒ Π½Π° Ρ‚Ρƒ ΠΆΠ΅ ΠΏΡ€ΠΎΠΏΡƒΡΠΊΠ½ΡƒΡŽ ΡΠΏΠΎΡΠΎΠ±Π½ΠΎΡΡ‚ΡŒ, Ρ‡Ρ‚ΠΎ ускоритСли Π½Π° HBM, поэтому Π΄ΠΎΠΏΠΎΠ»Π½ΠΈΡ‚Π΅Π»ΡŒΠ½Ρ‹Π΅ Π²Ρ‹Ρ‡ΠΈΡΠ»ΠΈΡ‚Π΅Π»ΡŒΠ½Ρ‹Π΅ ΠΌΠ΅Ρ…Π°Π½ΠΈΠ·ΠΌΡ‹ для Π½Π΅Π³ΠΎ особСнно Π²Π°ΠΆΠ½Ρ‹.

Intel Π½Π°Π·Ρ‹Π²Π°Π΅Ρ‚ этот Ρ‡ΠΈΠΏ ΠΎΠΏΡ‚ΠΈΠΌΠΈΠ·ΠΈΡ€ΠΎΠ²Π°Π½Π½Ρ‹ΠΌ для compute-bound Π·Π°Π΄Π°Ρ‡, ΠΏΡ€Π΅ΠΆΠ΄Π΅ всСго для prefill, Ρ‚ΠΎ Π΅ΡΡ‚ΡŒ ΠΎΠ±Ρ€Π°Π±ΠΎΡ‚ΠΊΠΈ запроса ΠΈ построСния KV cache. Компания Π³ΠΎΠ²ΠΎΡ€ΠΈΡ‚ ΠΈ ΠΎ высокой эффСктивности ΠΏΠΎ FLOPS Π½Π° Π²Π°Ρ‚Ρ‚, Π° Ρ‚Π°ΠΊΠΆΠ΅ ΠΎ сцСнариях с Π³Π΅Ρ‚Π΅Ρ€ΠΎΠ³Π΅Π½Π½Ρ‹ΠΌ Ρ€Π°Π·Π²Ρ‘Ρ€Ρ‚Ρ‹Π²Π°Π½ΠΈΠ΅ΠΌ.

Π’ Crescent Island Π΅ΡΡ‚ΡŒ ΠΈ ΠΌΠ΅Π΄ΠΈΠ°-Π±Π»ΠΎΠΊ с Ρ‡Π΅Ρ‚Ρ‹Ρ€ΡŒΠΌΡ ΠΊΠΎΠ΄Π΅Ρ€Π°ΠΌΠΈ ΠΈ Π΄Π΅ΠΊΠΎΠ΄Π΅Ρ€Π°ΠΌΠΈ, Ρ‡Ρ‚ΠΎΠ±Ρ‹ ΠΎΠ±ΡΠ»ΡƒΠΆΠΈΠ²Π°Ρ‚ΡŒ Π²ΠΈΠ΄Π΅ΠΎΠΏΠΎΡ‚ΠΎΠΊΠΈ для ΠΌΡƒΠ»ΡŒΡ‚ΠΈΠΌΠΎΠ΄Π°Π»ΡŒΠ½Ρ‹Ρ… ИИ-ΠΌΠΎΠ΄Π΅Π»Π΅ΠΉ. ΠŸΡ€ΠΈ этом графичСскиС Ρ„ΡƒΠ½ΠΊΡ†ΠΈΠΈ Π²Ρ€ΠΎΠ΄Π΅ RT-ядСр Π² Ρ‡ΠΈΠΏΠ΅ ΠΎΡ‚ΡΡƒΡ‚ΡΡ‚Π²ΡƒΡŽΡ‚: Intel ΡƒΠ±Ρ€Π°Π»Π° ΠΈΡ…, Ρ‡Ρ‚ΠΎΠ±Ρ‹ ΠΎΡΠ²ΠΎΠ±ΠΎΠ΄ΠΈΡ‚ΡŒ ΠΏΠ»ΠΎΡ‰Π°Π΄ΡŒ кристалла ΠΏΠΎΠ΄ вычислСния.

Для Π΄Π°Ρ‚Π°-Ρ†Π΅Π½Ρ‚Ρ€ΠΎΠ²ΠΎΠ³ΠΎ ΠΏΡ€ΠΎΠ΄ΡƒΠΊΡ‚Π° Intel Π΄ΠΎΠ±Π°Π²ΠΈΠ»Π° Π½Π°Π±ΠΎΡ€ Ρ„ΡƒΠ½ΠΊΡ†ΠΈΠΉ надёТности ΠΈ обслуТивания, Π²ΠΊΠ»ΡŽΡ‡Π°Ρ ECC, Π·Π°Ρ‰ΠΈΡ‚Ρƒ ΠΏΠ°Ρ€ΠΈΡ‚Π΅Ρ‚ΠΎΠΌ ΠΏΠΎ всСму кристаллу ΠΈ Π΄ΠΎΠΏΠΎΠ»Π½ΠΈΡ‚Π΅Π»ΡŒΠ½Ρ‹Π΅ ΠΌΠ΅Ρ…Π°Π½ΠΈΠ·ΠΌΡ‹ контроля Π½Π°Π΄ ΠΏΠ°ΠΌΡΡ‚ΡŒΡŽ. Компания ΠΎΠ±Π΅Ρ‰Π°Π΅Ρ‚ Crescent Island Π²ΠΎ Π²Ρ‚ΠΎΡ€ΠΎΠΉ ΠΏΠΎΠ»ΠΎΠ²ΠΈΠ½Π΅ 2026 Π³ΠΎΠ΄Π°, Π½ΠΎ ΠΏΠΎΠΊΠ° Π½Π΅ раскрываСт Π½ΠΈ Ρ‚Π΅ΠΎΡ€Π΅Ρ‚ΠΈΡ‡Π΅ΡΠΊΡƒΡŽ ΠΏΡ€ΠΎΠΈΠ·Π²ΠΎΠ΄ΠΈΡ‚Π΅Π»ΡŒΠ½ΠΎΡΡ‚ΡŒ Π² FLOPS, Π½ΠΈ ΠΏΠΎΠΊΠ°Π·Π°Ρ‚Π΅Π»ΠΈ пропускной способности памяти.

Илья Π˜Π³Π½Π°Ρ‚ΠΎΠ²
ВСхничСский Турналист ΠΈ новостник. ΠžΠΊΠΎΠ½Ρ‡ΠΈΠ» МВУБИ ΠΏΠΎ ΡΠΏΠ΅Ρ†ΠΈΠ°Π»ΡŒΠ½ΠΎΡΡ‚ΠΈ Β«Π˜Π½Ρ„ΠΎΡ€ΠΌΠ°Ρ†ΠΈΠΎΠ½Π½Π°Ρ Π±Π΅Π·ΠΎΠΏΠ°ΡΠ½ΠΎΡΡ‚ΡŒΒ». ΠŸΠΈΡˆΠ΅Ρ‚ ΠΎ ΠΆΠ΅Π»Π΅Π·Π΅, софтС ΠΈ ΠΏΠΎΡ‚Ρ€Π΅Π±ΠΈΡ‚Π΅Π»ΡŒΡΠΊΠΎΠΉ элСктроникС с 2018 Π³ΠΎΠ΄Π°. Π’Π΅Ρ€ΠΈΡ‚, Ρ‡Ρ‚ΠΎ Ρ…ΠΎΡ€ΠΎΡˆΠ°Ρ Π½ΠΎΠ²ΠΎΡΡ‚ΡŒ β€” это ΠΊΠΎΠ³Π΄Π° всё ΠΏΠΎ Π΄Π΅Π»Ρƒ ΠΈ Π±Π΅Π· Π²ΠΎΠ΄Ρ‹.

ΠžΡΡ‚Π°Π²ΠΈΡ‚ΡŒ ΠΊΠΎΠΌΠΌΠ΅Π½Ρ‚Π°Ρ€ΠΈΠΉ