EdgeCortix esittelee SAKURA-II:n, Edgen tekoälykiihdyttimen, jonka suorituskyky on vaikuttava 60 TOPS (INT8) ja alhainen 8 watin virrankulutus. Siru on suunniteltu monimutkaisiin tekoälytehtäviin, kuten suurten kielimallien (LLM), suurten visiomallien (LVM) ja muuntajapohjaisten multimodaalisten sovellusten käsittelyyn, sekä verkon reunan sovelluksiin, kuten laitteiden IoT ja autonomiset ajoneuvot. .
Se mahdollistaa joustavuuden laitteiston suhteen, ja se voidaan integroida molempiin PCIe-laajennuskortit yhdellä tai kahdella SAKURA-II sirut, tai myös M.2 2280 -moduuleissa (PCIe x8 tai x16 -liitäntä) Jos sinä suosit. Siksi INT120:lla voidaan saavuttaa jopa 8 TOPS:a tai BF60:lla 16 TFLOPS:ia.
AI-alusta tarjoaa myös osan huippuluokan ohjelmisto MERA-ohjelmiston kanssa ohjelmointia ja optimointia varten heterogeeninen käännösalusta, kehittyneet kvantifiointitekniikat ja mallin kalibrointiominaisuudet. Siinä on myös integraatio suosittujen kehityskehysten, kuten PyTorch, TensorFlow Lite ja ONNX, kanssa sekä pääsy laajaan huippuluokan transformatiivisten mallien ja konvoluutiomallien kirjastoon.
Lisäksi yritys EdgeCortix on myös ajatellut viedä tekoälykiihdytinsuunnitteluaan pidemmälle, koska se pystyy integroitava muiden yritysten, kuten AMD:n, SoC:iin.
IA SAKURA-II tekniset tiedot
suhteen EdgeCortix SAKURA-II tekniset tiedot, ovat seuraavat:
- NPU DNA-II-arkkitehtuurilla tai toisen sukupolven Dynamic Neural Accelerator.
- Suorituskyky jopa 60 TOPS INT8:lla tai 30 TFLOPS BF16:lla.
- DRAM-muisti kahdella 64-bittisellä kanavatyypillä LPDDR4x (8 Gt, 16 Gt, 32 Gt sisäänrakennettu) kaistanleveydellä jopa 68 Gt/s.
- Integroitu 20 Mt SRAM-muisti.
- Hyötysuhde jopa 90 % ja energiankulutus 8W.
- BGA pakkaus.
Jos viittaamme SAKURA-II moduuli M.2-muodossa, meillä on:
- DRAM-muisti
- 8 Gt (2x 4 Gt LPDDR4-pankkia)
- 16 Gt (2x 8 Gt LPDDR4-pankkia)
- PCIe Gen 3.0 x4 -liitäntä
- Maksimi suorituskyky 60 TOPS INT8:lla, 30 TFLOPS BF16:lla
- 10W moduuliteho
- Mitat M.2 2280 (22x80mm)
Varten PCIe-laajennuskortti, AI-kiihdytin tekniset tiedot ovat seuraavat:
- PCIe Gen 3.0 x8 -liitäntä
- Yksisirumalli SAKURA-II:
- 16 Gt DRAM-muisti (2 x 8 Gt LPDDR4-tasoa)
- 60 TOPSin suorituskyky INT8:lla, 30 TFLOPS BF16:lla
- Teho 10W.
- Mallille, jossa on kaksi SAKURA-II-sirua:
- 32 Gt DRAM-muisti (2 x 16 Gt LPDDR4-tasoa)
- 120 TOPSin suorituskyky INT8:lla, 60 TFLOPS BF16:lla
- 20 W teho
- 1x paikka
- Sisältää jäähdytyselementin
Suhteen hinnat, jos mietit, ne saapuvat vuoden 2024 toiselta neljännekseltä alkaen:
- M.2 8 Gt: 249 dollaria
- M.2 16 Gt: 299 dollaria
- PCIe 1xSAKURA-II: 429 dollaria
- PCIe 2xSAKURA-II: 749 dollaria