ИИ үдеткіші - AI accelerator

Ан ИИ үдеткіші мамандандырылған сынып аппараттық үдеткіш[1] немесе компьютерлік жүйе[2][3] жеделдетуге арналған жасанды интеллект қосымшалар, әсіресе жасанды нейрондық желілер, қайталанатын нейрондық желі,[4] машинаны көру және машиналық оқыту. Типтік қосымшаларға арналған алгоритмдері жатады робототехника, Интернет заттары және басқа да деректер - интенсивті немесе сенсорға негізделген тапсырмалар.[5] Олар жиі кездеседі manycore дизайн және жалпы назар аудару төмен дәлдік арифметика, роман деректер ағынының сәулеттері немесе жадтағы есептеу мүмкіндік.[6] 2018 жылғы жағдай бойынша, типтік ИИ интегралды схема чип миллиардтарды қамтиды туралы MOSFET транзисторлар.[7]Бұл санаттағы құрылғылар үшін сатушыларға арналған бірқатар шарттар бар, және ол дамып келе жатқан технология жоқ басым дизайн.

Тарих

Компьютерлік жүйелер жиі толықтырды Орталық Есептеуіш Бөлім ретінде белгілі мамандандырылған тапсырмалар үшін арнайы мақсаттағы үдеткіштермен сопроцессорлар. Көрнекті қолданбалы аппараттық бірліктер қосу бейне карталар үшін графика, дыбыстық карталар, графикалық өңдеу қондырғылары және цифрлық сигналдық процессорлар. Қалай терең оқыту және жасанды интеллект 2010 ж. жұмыс жүктемесі танымал болды, мамандандырылған аппараттық қондырғылар жасалды немесе қолданыстағы өнімдерден бейімделді тездету осы міндеттер.

Алғашқы әрекеттер

1993 жылдың өзінде цифрлық сигналдық процессорлар нейрондық жел үдеткіштері ретінде пайдаланылды, мысалы. жеделдету таңбаларды оптикалық тану бағдарламалық жасақтама.[8] 1990 жылдары жұмыс станциялары үшін әртүрлі қосымшаларға, соның ішінде нейрондық желіні имитациялауға бағытталған параллель жоғары өткізу жүйелерін құру әрекеттері де болды.[9][10][11] FPGA -жазылған үдеткіштер алғаш рет 1990 жылдары екі қорытынды үшін зерттелген[12] және оқыту.[13] ANNA жүйке торы болды CMOS акселераторы жасаған Янн ЛеКун.[14]

Гетерогенді есептеу

Гетерогенді есептеу бірнеше арнайы мамандандырылған процессорларды бір жүйеге немесе тіпті әрқайсысы белгілі бір тапсырма түріне оңтайландырылған бір чипке қосуды білдіреді. Сияқты сәулет өнері Жасушалық микропроцессор[15] АИ үдеткіштерімен едәуір қабаттасатын ерекшеліктері бар, олар: төмен дәлдіктегі арифметиканы қолдау; деректер ағыны архитектура және кешіктіруге қарағанда «өткізу қабілеттілігіне» басымдық беру. Кейіннен ұялы микропроцессор бірқатар тапсырмаларға қолданылды[16][17][18] соның ішінде ИИ.[19][20][21]

Ішінде 2000 ж, CPU барған сайын кеңейе түсті SIMD бейне және ойын жүктемесімен қозғалатын қондырғылар; қолдау оралған төмен дәлдік деректер түрлері.[22]

GPU пайдалану

Графикалық өңдеу қондырғылары немесе GPU - кескіндерді манипуляциялауға және жергілікті кескін қасиеттерін есептеуге арналған арнайы жабдық. Нейрондық желілердің математикалық негіздері және кескінді манипуляциялау ұқсас, параллель матрицаларды қамтитын тапсырмалар, GPU-ді машиналық оқыту тапсырмаларында көбірек қолдануға мүмкіндік береді.[23][24][25] 2016 жылғы жағдай бойынша, Графикалық процессорлар жасанды интеллектуалды жұмыс үшін танымал, және олар терең оқытуды жеңілдету бағытында дами береді, әрі оқыту үшін[26] сияқты құрылғылардағы қорытынды өздігінен басқарылатын автомобильдер.[27] Nvidia сияқты графикалық процессорлар NVLink АИ жүктемелерінің типі үшін қосымша байланыстырушы қабілеттілікті дамытады.[28] Графикалық процессорлар жасанды интеллект үдеуіне көбірек қолданыла бастағандықтан, GPU өндірушілері де енгізді нейрондық желі нақты осы міндеттерді одан әрі жеделдетуге арналған жабдық.[29][30] Тензор ядролар нейрондық желілерді оқытуды жеделдетуге арналған.[30]

FPGA-ны қолдану

Терең оқыту шеңберлері әлі де дамып келеді, бұл тапсырыс берілетін жабдықты жобалауды қиындатады. Қайта конфигурацияланатын сияқты құрылғылар далалық бағдарламаланатын қақпа массивтері (FPGA) жабдықтың, фреймворктардың және бағдарламалық жасақтаманың дамуын жеңілдетеді бір-бірімен қатар.[31][12][13][32]

Microsoft жеделдету үшін FPGA чиптерін қолданды қорытынды.[33] FPGA-ны AI жеделдетуге қолдану дәлелді Intel сатып алу Альтера серверлік процессорларға FPGA интеграциялау мақсатында, ол да АИ-ді жеделдете алады жалпы мақсат тапсырмалар.[34]

Бөлшектелген ASI үдеткішінің пайда болуы

Графикалық процессорлар мен FPGA-лар әлдеқайда жақсы жұмыс істейді[сандық ] интеллектуалды байланысты есептерге арналған процессорларға қарағанда, тиімділік коэффициенті 10-ға дейін жетеді[35][36] арқылы нақтырақ дизайнмен алуға болады қолданбалы интегралды схема (ASIC).[дәйексөз қажет ] Бұл үдеткіштер оңтайландырылған сияқты стратегияларды қолданады жадты пайдалану[дәйексөз қажет ] және пайдалану төменгі дәлдіктегі арифметика есептеуді жеделдету және ұлғайту өткізу қабілеті есептеу.[37][38] Кейбіреулер төмен дәлдікті қабылдады өзгермелі нүктелік форматтар қолданылған ИИ үдеуі болып табылады жартылай дәлдік және bfloat16 өзгермелі нүкте форматы.[39][40][41][42][43][44][45] Facebook, Amazon және Google сияқты компаниялар өздерінің жеке AI ASIC дизайнын жасайды.[46][47]

Жадтағы есептеу архитектурасы

2017 жылдың маусымында, IBM зерттеушілер архитектурадан айырмашылығын жариялады Фон Нейман сәулеті негізінде жадтағы есептеу және жадты фазалық өзгерту уақытшаға қолданылатын массивтер корреляция тәсілін жалпылауға ниеттену, анықтау гетерогенді есептеу және жаппай параллель жүйелер.[48] 2018 жылдың қазан айында IBM зерттеушілері негізделген архитектураны жариялады жадтағы өңдеу және адам миының синаптикалық желісінде модельденген жеделдету терең нейрондық желілер.[49] Жүйе негізделген жадты фазалық өзгерту массивтер.[50]

Атомдық жұқа жартылай өткізгіштер

2020 жылы Марега және т.б. жадыдағы логикалық құрылғылар мен схемаларды жасауға арналған белсенді аумақтық материалмен тәжірибелер жариялады өзгермелі қақпа өрісті транзисторлар (FGFETs).[51] Мұндай атомдық жұқа жартылай өткізгіштер энергияны тиімді пайдалану үшін перспективалы болып саналады машиналық оқыту логикалық операциялар үшін де, деректерді сақтау үшін бірдей негізгі құрылым құрылымы қолданылатын қосымшалар. Авторлар жартылай өткізгіш сияқты екі өлшемді материалдарды пайдаланды молибденді дисульфид.[51]

Номенклатура

2016 жылдан бастап, бұл алаң әлі де өзгеріссіз және сатушылар өздерінің маркетингтік мерзімдерін «жасанды интеллектуалды акселераторға» теңестіреді, бұл олардың дизайнына және API болады басым дизайн. Бұл құрылғылар арасындағы шекарада бірыңғай пікір де, олардың нақты формасы да жоқ; дегенмен, бірнеше мысалдар жаңа кеңістікті толтыруға бағытталған, олардың мүмкіндіктері бір-біріне сәйкес келеді.

Бұрын тұтынушы болған кезде графикалық үдеткіштер пайда болды, индустрия соңында қабылданды Nvidia's өзін-өзі тағайындаған термин, «GPU»,[52] ұсынған модельді жүзеге асыратын жалпы құбыр желісіне қонғанға дейін көптеген формаларда болған «графикалық үдеткіштер» үшін заттық зат есім ретінде Direct3D.

Ықтимал қосымшалар

Сондай-ақ қараңыз

Әдебиеттер тізімі

  1. ^ «Intel Movidius Compute Stick USB AI жеделдеткішін ұсынады». 21 шілде 2017 ж. Мұрағатталған түпнұсқа 2017 жылғы 11 тамызда. Алынған 11 тамыз, 2017.
  2. ^ «Inspurs GX4 AI акселераторын ұсынады». 2017 жылғы 21 маусым.
  3. ^ Wiggers, Kyle (6 қараша, 2019) [2019], Нейрондық сиқырлы қондырғы процессорлардағы жасанды интеллекттің жылдамдығын арттыру үшін 15 миллион доллар жинайды, мұрағатталған түпнұсқа 6 наурыз 2020 ж, алынды 14 наурыз, 2020
  4. ^ «РНН үшін аппараттық жеделдеткіштер мен оңтайландыру әдістері туралы сауалнама», JSA, 2020 ж PDF
  5. ^ «Google AI процессорларын дамыту».Google өзінің AI үдеткіштерін қолданады.
  6. ^ "Жадыдағы және нейрондық желілерді өңдеуге арналған ReRAM негізіндегі архитектураларға сауалнама «, С.Миттал, машиналық оқыту және білімді шығару, 2018 ж
  7. ^ «13 секстиллион және санау: тарихтағы ең көп жасалынған адам артефактісіне дейінгі ұзақ және бұралаң жол». Компьютер тарихы мұражайы. 2018 жылғы 2 сәуір. Алынған 28 шілде, 2019.
  8. ^ «1993 жылғы DSP32 акселераторының қатысуымен жасалған жүйкелік жүйелік демо».
  9. ^ «желілік суперкомпьютердің дизайны».
  10. ^ «Жалпы мақсаттағы компьютерлердің соңы (жоқ)».Бұл презентация нейрондық жел үдеткіштеріне деген талпынысты қамтиды, қазіргі заманғы SLI GPGPU процессорының қондырғысымен ұқсастығын атап өтеді және жалпы мақсаттағы векторлы үдеткіштер алға бастайтын жол болып табылады (RISC-V hwacha жобасына қатысты. NN's тек тығыз және сирек матрицалар, бірнеше қайталанатын алгоритмдердің бірі)
  11. ^ Рамахер, У .; Рааб, В .; Хахманн, Дж.А.У .; Байхтер, Дж .; Брюлс, Н .; Весселинг, М .; Сиченедер, Е .; Шыны, Дж .; Вюрц, А .; Маннер, Р. (1995). 9-шы Халықаралық параллельді өңдеу симпозиумының материалдары. 774–781 бет. CiteSeerX  10.1.1.27.6410. дои:10.1109 / IPPS.1995.395862. ISBN  978-0-8186-7074-9.
  12. ^ а б «Ғарышты тиімді жүйке жүйесі».
  13. ^ а б Гшвинд, М .; Салапура, V .; Maischberger, O. (1996). «Хопфилд жүйесіндегі чиптік оқытуға арналған жалпы құрылыс материалы». 1996 IEEE Халықаралық тізбектер мен жүйелер симпозиумы. Әлемді қосатын тізбектер мен жүйелер. ISCAS 96. 49-52 бет. дои:10.1109 / ISCAS.1996.598474. ISBN  0-7803-3073-0. S2CID  17630664.
  14. ^ «ANNA жүйке желісінің чипін жылдамдықты таңбаларды тануға қолдану» (PDF).
  15. ^ Гшвинд, Майкл; Хофстей, Х.Питер; Флэш, Брайан; Хопкинс, Мартин; Ватанабе, Юкио; Ямазаки, Такеши (2006). «Жасушаның көп ядролы сәулетіндегі синергетикалық өңдеу». IEEE Micro. 26 (2): 10–24. дои:10.1109 / MM.2006.41. S2CID  17834015.
  16. ^ De Fabritiis, G. (2007). «Биомолекулалық модельдеуге арналған жасушалық процессордың өнімділігі». Компьютерлік физика байланысы. 176 (11–12): 660–664. arXiv:физика / 0611201. дои:10.1016 / j.cpc.2007.02.107.
  17. ^ «Ұяшық архитектурасында бейнені өңдеу және іздеу». CiteSeerX  10.1.1.138.5133. Журналға сілтеме жасау қажет | журнал = (Көмектесіңдер)
  18. ^ Бентин, Карстен; Уалд, Инго; Шербаум, Майкл; Фридрих, Хайко (2006). 2006 IEEE сәулелерін интерактивті іздеу симпозиумы. 15–23 бет. CiteSeerX  10.1.1.67.8982. дои:10.1109 / RT.2006.280210. ISBN  978-1-4244-0693-7.
  19. ^ «Толық адамдарда салмақ жоғалтуды болжау үшін гетерогенді көп ядролы архитектурада жасанды нейрондық желіні дамыту» (PDF).
  20. ^ Квон, Бомджун; Чой, Тайхо; Чун, Хеджин; Ким, Джеонхо (2008). 2008 IEEE тұтынушылармен байланыс және желілік байланыс бойынша 5-ші конференция. 1030–1034 бет. дои:10.1109 / ccnc08.2007.235. ISBN  978-1-4244-1457-4.
  21. ^ Дуан, ысқылау; Стрей, Альфред (2008). Euro-Par 2008 - Параллельді өңдеу. Информатика пәнінен дәрістер. 5168. 665-675 бет. дои:10.1007/978-3-540-85451-7_71. ISBN  978-3-540-85450-0.
  22. ^ «AVX көмегімен бейнежазбаның жұмысын жақсарту». 8 ақпан, 2012.
  23. ^ «microsoft study / пикселдік шейдерлер / MNIST».
  24. ^ «GPU жалпы есептеу үшін қалай пайда болды».
  25. ^ «терең конволюциялық нейрондық желілермен imagenet классификациясы» (PDF).
  26. ^ «терең оқытудың дамуын басқаратын nvidia». 2016 жылғы 17 мамыр.
  27. ^ «nvidia өздігінен жүретін көліктерге арналған суперкомпьютер ұсынады». 2016 жылғы 6 қаңтар.
  28. ^ «nvlink мульти графикалық процессорды жылдамырақ есептеуді қалай жылдамдатуға мүмкіндік береді». 14 қараша, 2014 ж.
  29. ^ "NVIDIA Jetson платформасында тереңдетілген оқыту модельдерін оңтайлы енгізу бойынша сауалнама ", 2019
  30. ^ а б Харрис, Марк (11 мамыр, 2017). «CUDA 9 ерекшеліктері ашылды: Вольта, кооперативтік топтар және басқалары». Алынған 12 тамыз, 2017.
  31. ^ Сефат, Сядус Мд; Аслан, Семих; Келлингтон, Джеффри В; Касем, Апан (тамыз 2019). «CAPI негізіндегі FPGA-да терең жүйке желілеріндегі ыстық нүктелерді жеделдету». 2019 IEEE жоғары өнімді есептеу және байланыс бойынша 21-ші халықаралық конференция; IEEE ақылды қала бойынша 17-ші халықаралық конференция; IEEE V Халықаралық ғылымдар және жүйелер бойынша конференция (HPCC / SmartCity / DSS): 248–256. дои:10.1109 / HPCC / SmartCity / DSS.2019.00048.
  32. ^ «FPGA негізінде тереңдетілген оқыту үдеткіштері ASIC қабылдайды». Келесі платформа. 2016 жылғы 23 тамыз. Алынған 7 қыркүйек, 2016.
  33. ^ «Ми толқыны жобасы». Microsoft Research. Алынған 16 маусым, 2020.
  34. ^ "Конволюциялық жүйке желілері үшін FPGA негізіндегі үдеткіштерді зерттеу «, Миттал және басқалар, NCAA, 2018
  35. ^ «Google Tensor Processing Unit көмегімен машиналық оқытуды күшейтеді». 2016 жылғы 19 мамыр. Алынған 13 қыркүйек, 2016.
  36. ^ «Чип мобильді құрылғыларға терең білім әкелуі мүмкін». www.scomachaily.com. 2016 жылғы 3 ақпан. Алынған 13 қыркүйек, 2016.
  37. ^ «Шектелген сандық дәлдікпен терең оқыту» (PDF).
  38. ^ Растегари, Мұхаммед; Ордонез, Висенте; Редмон, Джозеф; Фархади, Али (2016). «XNOR-Net: екілік конволюциялық жүйке желілерін пайдалану арқылы ImageNet классификациясы». arXiv:1603.05279 [cs.CV ].
  39. ^ Хари Джонсон (23.05.2018). «Intel Nervana Neural Net L-1000-ді жедел жасанды интеллект жаттығулары үшін ұсынады». VentureBeat. Алынған 23 мамыр, 2018. ... Intel компаниясы Intel Xeon процессорлары мен Intel FPGA-ларды қоса, біздің жасанды интеллектуалды өнімдер желімізде bfloat16 қолдауын кеңейтетін болады.
  40. ^ Майкл Фельдман (23.05.2018). «Intel AI портфолиосының жаңа жол картасын әзірледі». TOP500 суперкомпьютерлік сайттар. Алынған 23 мамыр, 2018. Intel бұл форматты барлық XI өнімдерінде, соның ішінде Xeon және FPGA желілерінде қолдауды жоспарлап отыр
  41. ^ Люциан Армасу (23.05.2018). «Intel компаниясы өзінің алғашқы нейрондық желілік процессоры - Spring Crest-ті 2019 жылы іске қосады». Tom's Hardware. Алынған 23 мамыр, 2018. Intel NNP-L1000 сонымен қатар bfloat16-ны қолдайтынын айтты, бұл сандық формат, бұл ML индустриясының барлық ойыншылары нейрондық желілер үшін қабылдайды. Компания bfloat16-ны FPGAs, Xeons және басқа ML өнімдерінде қолдайды. Nervana NNP-L1000 2019 жылы шығарылады деп жоспарланған.
  42. ^ «Қол жетімді TensorFlow Ops | Cloud TPU | Google Cloud». Google Cloud. Алынған 23 мамыр, 2018. Бұл парақта TensorFlow Python API және Cloud TPU-да қол жетімді графикалық операторлар тізімі келтірілген.
  43. ^ Elmar Haußmann (26.04.2018). «ResNet-50-де Google-дің TPUv2-ні Nvidia V100-мен салыстыру». RiseML блогы. Архивтелген түпнұсқа 26.04.2018 ж. Алынған 23 мамыр, 2018. Cloud TPU үшін Google bfloat16 енгізілуін TPU ресми репозиторийінен TensorFlow 1.7.0 нұсқасымен пайдалануды ұсынды. TPU және GPU екеуі де сәйкес архитектурада аралас дәлдіктегі есептеуді қолданады және тензорлардың көпшілігін жартылай дәлдікпен сақтайды.
  44. ^ Tensorflow авторлары (28.02.2018). «TFU-да BFloat16 қолдану арқылы ResNet-50». Google. Алынған 23 мамыр, 2018.[тұрақты өлі сілтеме ]
  45. ^ Джошуа В. Диллон; Ян Лангмор; Дастин Тран; Евгений Бревдо; Шринивас Васудеван; Дэйв Мур; Брайан Паттон; Алекс Алеми; Мэтт Хоффман; Rif A. Saurous (28 қараша, 2017). TensorFlow таралуы (есеп). arXiv:1711.10604. Бибкод:2017arXiv171110604D. 2018-05-23 кірді. TensorFlow дистрибутивтеріндегі барлық операциялар өзгермелі нүктенің жарты, жалғыз және екі дәлдіктері бойынша сандық тұрғыдан тұрақты (TensorFlow типтері ретінде: tf.bfloat16 (кесілген өзгермелі нүкте), tf.float16, tf.float32, tf.float64). Сынып конструкторларында сандық бекітулер үшін validate_args жалаушасы бар
  46. ^ «Facebook-те чип дизайнерлерін шақыратын жаңа жұмыс орны пайда болды».
  47. ^ «Оқуға жазылу | Financial Times». www.ft.com.
  48. ^ Абу Себастьян; Томас Тума; Николаос Папандреу; Мануэль Ле Галло; Лукас Кулл; Томас Парнелл; Evangelos Eleftheriou (2017). «Есептеуішті өзгерту кезіндегі уақытша корреляцияны анықтау». Табиғат байланысы. 8. arXiv:1706.00511. дои:10.1038 / s41467-017-01481-9. PMID  29062022.
  49. ^ «Мидың шабыттандырған жаңа архитектурасы компьютерлердің деректерді қалай өңдеуін жақсартуға және жасанды интеллектті дамытуға мүмкіндік береді». Американдық физика институты. 3 қазан 2018 ж. Алынған 5 қазан, 2018.
  50. ^ Карлос Риос; Натан Янгблод; Цзэнгуанг Ченг; Мануэль Ле Галло; Wolfram H.P. Перница; Дэвид Райт; Абу Себастьян; Хариш Бхаскаран (2018). «Фотоникалық платформадағы жадтағы есептеу». arXiv:1801.06228 [cs.ET ].
  51. ^ а б Марега, Гильерме Миглиато; Чжао, Янфэй; Авсар, Ахмет; Ван, Женю; Трипати, Мукеш; Раденович, Александра; Кис, Анрас (2020). «Атомдық жіңішке өткізгішке негізделген логикалық жады». Табиғат. 587 (2): 72–77. дои:10.1038 / s41586-020-2861-0.
  52. ^ «NVIDIA GeForce 256 әлемдегі бірінші графикалық процессорды іске қосады».
  53. ^ «Өздігінен басқарылатын автомобильдердің технологиясы және NVIDIA Automotive шешімдері». NVIDIA.
  54. ^ «арамшөптерді бақылауға арналған машинаның көру жүйесін жобалау» (PDF). Архивтелген түпнұсқа (PDF) 2010 жылғы 23 маусымда. Алынған 17 маусым, 2016.
  55. ^ «qualcomm зерттеулері серверлік машиналық оқытуды барлық деректер құрылғыларына жеткізеді». Қазан 2015.
  56. ^ «movidius powers әлемдегі ең ақылды дрон». 16 наурыз, 2016.

Сыртқы сілтемелер