AI akcelerátor
AI akcelerátor (AI = umělá inteligence), procesor hlubokého učení nebo neurální procesorová jednotka (NPU) je typ specializovaného hardwarového akcelerátoru[1] nebo počítačového systému[2][3] navržených k urychlení činnosti umělé inteligence a strojového učení, včetně umělých neuronových sítí a strojového vidění. Mezi typické nasazení patří algoritmy pro robotiku, internet věcí a další úlohy náročné na data nebo úlohy řízené senzory.[4] Často se jedná o design s mnoha jádry a zaměřením na aritmetiku s nízkou přesností, nové architektury toku dat nebo výpočty v paměti . V roce 2024 obsahuje typický AI čip desítky miliard MOSFET tranzistorů.[5]
AI akcelerátory se používají v mobilních zařízeních jako neurální procesorové jednotky (NPU) v telefonech Apple iPhone,[6] AMD procesorech pro laptopy,[7] mobilních telefonech Huawei,[8] osobních počítačích (Apple Mac), serverech cloud computingu (např. tensor Processing Units (TPU) v Google Cloud Platformě).[9] Pro zařízení v této kategorii existuje řada výrazů specifických pro dodavatele a jedná se o nově vznikající technologii bez dominantního designu.
GPU (grafické čipy) navržené společnostmi Nvidia a AMD často obsahují specifický hardware pro AI a běžně se používají jako AI akcelerátory, a to jak pro strojové učení, tak experní systémy.[10]
Odkazy
[editovat | editovat zdroj]Reference
[editovat | editovat zdroj]V tomto článku byl použit překlad textu z článku AI accelerator na anglické Wikipedii.
- ↑ Intel unveils Movidius Compute Stick USB AI accelerator [online]. 2017-07-21 [cit. 2024-06-10]. Dostupné v archivu pořízeném z originálu. (anglicky)
- ↑ Inspur Unveils GX4 Ai Accelerator [online]. 2017-06-21 [cit. 2024-06-10]. Dostupné online. (anglicky)
- ↑ WIGGERS, Kyle. Neural Magic raises $15 million to boost AI inferencing speed on off-the-shelf processors [online]. 2019-11-06 [cit. 2024-06-10]. Dostupné online. (anglicky)
- ↑ MERRITT, Rick. Google Designing AI Processors. EETimes.com [online]. 2016-05-18 [cit. 2024-06-10]. Dostupné online.
- ↑ MOSS, Sebastian. Nvidia reveals new Hopper H100 GPU, with 80 billion transistors [online]. 2022-03-23 [cit. 2024-06-10]. Dostupné online.
- ↑ Deploying Transformers on the Apple Neural Engine. Apple Machine Learning Research [online]. [cit. 2024-06-10]. Dostupné online. (anglicky)
- ↑ AMD XDNA™ Architecture. www.amd.com [online]. [cit. 2024-06-10]. Dostupné online.
- ↑ HUAWEI Reveals the Future of Mobile AI at IFA 2017 [online]. 2017-09-02 [cit. 2024-06-10]. Dostupné v archivu pořízeném z originálu. (anglicky)
- ↑ In-Datacenter Performance Analysis of a Tensor Processing Unit. arxiv.org [online]. 2017-04-16 [cit. 2024-06-10]. Dostupné online.
- ↑ PATEL, Dylan. Nvidia's New China AI Chips Circumvent US Restrictions [online]. 2023-11-09 [cit. 2024-06-10]. Dostupné online.