Tensor Processing Unit
 | |
|---|---|
| Tervező | |
| Bevezetés | 2015[1] |
| Típus | neurális hálózat gépi tanulás |
A tenzorfeldolgozó egység (vagy TPU, az angol Tensor Processing Unit kifejezésből) egy meghatározott célra tervezett alkalmazásspecifikus integrált áramkör (ASIC). Ebben az esetben a TPU célja vagy funkciója gépi tanulás támogatása a számítógépes rendszerekben. Az első TPU-kat a Google fejlesztette ki és 2016-ban jelentette be ezek első generációját. A Google által kifejlesztett TPU-kat kifejezetten a TensorFlow[2] szoftvergyűjteményhez tervezték. A TPU-k képezik az alapját minden gépi tanulást használó Google-szolgáltatásnak. A TPU-k alkalmazási területei között szerepel a robotika és a mesterséges intelligencia.[3][4][5]
Az ok, amiért a TPU-k felülmúlják a legjobb általános CPU-kat és GPU-kat (grafikus processzorokat), az, hogy 64 bites struktúrában 8 bites adatformátumokkal dolgoznak, így növelik a párhuzamos feldolgozási kapacitást.[6]
Architektúra
[szerkesztés]A TPU egy olyan gép (integrált áramkörös megvalósítású automata), amely 8 bites adatokat szoroz össze mátrixszerkezetben. A processzor CISC típusú utasításokkal működik. A Google TPU első generációját 28 nanométeres technológiával gyártották, integrált áramköri lapkájának mérete 331 mm2, órajele 700 MHz, energiafogyasztása 28–40 W. 28 MiB memóriával és 4 MiB méretű belső regisztertárral rendelkezik.[7]
Termékek
[szerkesztés]Tensor Processing Unit:[8]
| TPUv1 | TPUv2 | TPUv3 | TPUv4 | TPUv5e | TPUv5p | v6e (Trillium) | |
|---|---|---|---|---|---|---|---|
| Bevezetés | 2015 | 2017 | 2018 | 2021 | 2023 | 2023 | 2024 |
| Gyártási folyamat | 28 nm | 16 nm | 16 nm | 7 nm | ? | ? | |
| Lapkaméret (mm2) | 331 | < 625 | < 700 | < 400 | 300–350 | ? | |
| Belső memória (MiB) | 28 | 32 | 32 | 32 | 48 | 112 | |
| Órajel (MHz) | 700 | 700 | 940 | 1050 | ? | 1750 | |
| Memória | 8 GiB DDR3 | 16 GiB HBM | 32 GiB HBM | 32 GiB HBM | 16 GiB HBM | 95 GiB HBM | 32 GiB |
| Sávszélesség | 34 GiB/s | 600 GiB/s | 900 GiB/s | 1200 GiB/s | 819 GiB/s | 2765 GiB/s | 1640 GiB/s |
| TDP (W) | 75 | 280 | 220 | 170 | ? | ? | |
| TOPS (tera-művelet másodpercenként) | 23 | 45 | 123 | 275 | 197 (bf16)
393 (int8) |
459 (bf16)
918 (int8) |
918 (bf16)
1836 (int8) |
| TOPS/W | 0,31 | 0,16 | 0,56 | 1,62 | ? | ? |
Összehasonlítás
[szerkesztés]| CPU család | FLOPS | Év |
|---|---|---|
| AMD ATI RADEON HD4800 | 1 teraFLOPS | 2008 |
| Intel Core I7 980 XE | 109 gigaFLOPS | 2010 |
| Nvidia Tesla GPU | 515 gigaFLOPS | 2010 |
| Google TPU | 92 teraFLOPS | 2017 |
Jegyzetek
[szerkesztés]- ↑ (2017. november 10.) „In-Datacenter Performance Analysis of a Tensor Processing Unit”. International Symposium on Computer Architecture: 1–12, Toronto: Association for Computing Machinery. doi:10.1145/3079856.3080246.
- ↑ Jeff Dean, Rajat Monga: TensorFlow - Google’s latest machine learning system, open sourced for everyone (angol nyelven). Google Research Blog. Google, 2015. november 9. (Hozzáférés: 2016. június 29.)
- ↑ Google's Tensor Processing Unit explained: this is what the future of computing looks like (angol nyelven). TechRadar, 2017. szeptember 4.
- ↑ Google Calls for Switch Chip API | EE Times (angol nyelven). www.eetimes.com. [2019. január 1-i dátummal az eredetiből archiválva]. (Hozzáférés: 2017. április 9.)
- ↑ First In-Depth Look at Google’s TPU Architecture (angol nyelven). www.nextplatform.com, 2017. április 5. (Hozzáférés: 2017. április 9.)
- ↑ TPU Beat Intel, Nvidia, says Google | EE Times (angol nyelven). www.eetimes.com. (Hozzáférés: 2017. április 9.)
- ↑ (2017. szeptember 4.) „ISCApaperv3 (2).pdf”. [2017. július 3-i dátummal az eredetiből archiválva]. (Hozzáférés: 2017. április 9.)
- ↑ So what is a Tensor processing unit (TPU) and why will it be the future of Machine Learning?, 2024. augusztus 7. (Hozzáférés: 2024. november 24.)
Fordítás
[szerkesztés]Ez a szócikk részben vagy egészben az Unitat de processament de tensors című katalán Wikipédia-szócikk ezen változatának fordításán alapul. Az eredeti cikk szerkesztőit annak laptörténete sorolja fel. Ez a jelzés csupán a megfogalmazás eredetét és a szerzői jogokat jelzi, nem szolgál a cikkben szereplő információk forrásmegjelöléseként.
Források
[szerkesztés]További információk
[szerkesztés]- Tenzorfeldolgozó egységek (TPU-k) a felhőben (Google Cloud dokumentáció)
- Fotó a Google TPU chipjéről és lapkájáról
- Fotó a Google TPU v2 lapjáról Archiválva 2021. augusztus 9-i dátummal a Wayback Machine-ben.
- Fotó a Google TPU v3 lapjáról Archiválva 2021. március 8-i dátummal a Wayback Machine-ben.
- Fotó a Google TPU v2 podjáról Archiválva 2021. augusztus 9-i dátummal a Wayback Machine-ben.
Kapcsolódó szócikkek
[szerkesztés]- CISC, RISC-V architektúrák
- Gépi tanulás
- Robotika
- Mesterséges intelligencia
- FLOPS: lebegőpontos műveletek száma másodpercenként
- TensorFlow szoftver
