GPU (Graphics Processing Unit, czyli procesor graficzny) to wyspecjalizowany układ składający się z tysięcy małych rdzeni, zaprojektowany pierwotnie z myślą o sprawnym renderowaniu środowisk 3D w grach wideo. W obliczu rozwoju sieci neuronowych i uczenia głębokiego (Deep Learning), inżynierowie odkryli, że specyficzna architektura GPU nadaje się idealnie do symultanicznego wykonywania milionów operacji matematycznych wymaganych przy trenowaniu algorytmów AI. Od tego momentu tradycyjne, jednowątkowe procesory centralne (CPU) przestały być optymalnym narzędziem do zadań analitycznych sztucznej inteligencji o dużej skali, przenosząc ciężar na klastry kart.
Co to znaczy
W dobie klasycznych serwerów za obliczenia odpowiadały główne procesory CPU. Modele głębokiego uczenia wymagają jednak równoległego przetwarzania tysięcy prostych operacji macierzowych jednocześnie. Karty graficzne (GPU) okazały się do tego celu bezkonkurencyjne i to one stanowią dziś fundament fizycznej infrastruktury AI. Skomplikowane zapytanie, wygenerowanie wideo z polecenia u twórców i zjawisko strojenia modelu od zera w dużej spółce po zapleczu obciąża olbrzymie farmy GPU ulokowane z reguły u dużych chmurowych podmiotów i głównych dostawców w branży połączonych z potężnym układem z procesami sprzętu od liderów technologii i półprzewodników w chłodzonych szafach serwerowni pod zlecenia komercyjne (np. przy słynnych układach do nauki modelu z serii profesjonalnych klastrów oznaczonych u wiodącego producenta ułożeniami z literami z dedykowanymi oznaczeniami).
Dlaczego to ważne
Tłumaczy biznesowe i techniczne ograniczenia usług AI, z którymi marketerzy spotykają się na co dzień (np. zjawisko odrzucenia limitów zapytań przez API (Rate Limits), powolne generowanie się załączników wizualnych, optymalizowanie okien asystenta czy powiązany koszt użycia w modelowaniu wielkiej komendy pod bazach bilingu w firmach u deweloperów oprogramowań od podmiotów trzecich udostępnionych dla optymalizacji i obniżeń wydajności serwera w cyklach chmury).
Wewnętrzna aplikacja w agencji marketingowej korzysta z otwarto-źródłowego modelu do tworzenia spersonalizowanych nagrań audio pod reklamowe makiety w formacie lektorskim. Aby przetworzyć tysiąc plików MP3 bez opóźnień (tzw. problem w IT u podmiotów określany wąskim gardłem obliczeniowym - Compute Bottleneck), dyrektor i zespół decydują się na wynajęcie i zestrojenie na abonamencie usługi serwera chmurowego wyposażonego w profesjonalne wysokowydajne układy GPU zamiast instalować asystenta operacyjnego w tle na standardowych starych instancjach z obudowy CPU używanych biurowo do prac redaktorskich na co dzień i oszczędzania zasobów z opóźnień infrastruktury u klienta.
Czym to nie jest
- Standardowym procesorem z obudowy i z płyty centralnej ułożenia biurowego komputera (CPU); procesor domowy na stacji i serwerze obliczeniowym z chmury do zadań linearnych wykonuje wybitnie skomplikowane i warunkowe zadania jedno po drugim z niezwykłą dokładnością po cyklu taktu z reguł dewelopera w systemie i aplikacji biurowej, zaś GPU obsługujące maszynowe uczenie operuje rozdzielając tysiące drobnych i bardzo małych kalkulacji dla rzędów neuronów systemowych pod wglądy w wektorowych płaszczyznach na ten sam takt symultanicznie – w potężnym wielowątkowym operowaniu zjawiska optymalnego uczenia (równoległość).
Jak rozpoznać
Pojęcia i zwroty towarzyszące architekturze technologicznej np. główni wiodący potentaci rynkowi w dostawach profesjonalnych pod obciążenia ułożonych do szaf serwerowni układów na akcjach (Nvidia obok procesorów dla biznesów AI), zjawiska określane jako wąskie gardła rzędu przy limitach udostępniania i poboru w chmurach operacyjnych sprzętowo.