Jest nadzieja na poprawę sytuacji na rynku pamięci RAM. Moduły te mogą zacząć tanieć, a wszystko za sprawą Google, które opracowało rozwiązanie znacząco redukujące zapotrzebowanie na cenną pamięć. To potężny cios dla producentów.
Google zaprezentował narzędzie TurboQuant, które ma częściowo rozwiązać problem ogromnego zapotrzebowania na pamięć ze strony sztucznej inteligencji. Firmy produkujące pamięci odnotowały gwałtowne spadki na giełdzie. To pierwsza pozytywna wiadomość w tej sytuacji od miesięcy.
Nadzieja na niższe ceny pamięci operacyjnej – od Google
Od około pół roku rynek elektroniki użytkowej zmaga się z kryzysem podażowym pamięci. W minionych miesiącach ceny modułów DRAM i NAND poszybowały w górę, głównie z powodu lawinowego wzrostu zainteresowania sztuczną inteligencją, która wymaga układów z ogromnymi zasobami pamięci. W efekcie znacząco wzrósł popyt, a producenci wyczuli szansę na łatwy zysk.
Kryzys ten uderzył w konsumentów. Pamięć DDR5 o pojemności 32 GB, która wcześniej kosztowała około 400 zł, dziś jest dostępna za około 1600 zł. Wzrosły ceny również kart graficznych, a nawet smartfonów (zarówno tych budżetowych, jak i flagowych) oraz laptopów. Jednak Google zaprezentował rozwiązanie, które może nieco odwrócić ten niekorzystny trend.
Mowa o TurboQuant – algorytmie kompresji bazującym na sztucznej inteligencji, który redukuje zużycie pamięci przez AI bez zauważalnego wpływu na wydajność. Narzędzie ma jednocześnie przyspieszyć działanie dużych modeli językowych, zachowując ich precyzję. Jak duże są to oszczędności? Według inżynierów Google’a, algorytm jest w stanie zredukować ilość pamięci operacyjnej wymaganej przez model AI nawet sześciokrotnie.
Co więcej, zapewnia nawet 8-krotne przyspieszenie obliczeń na procesorach graficznych NVIDIA H100. Dzięki temu modele sztucznej inteligencji mogłyby uzyskiwać dostęp do większej ilości danych kontekstowych przy mniejszym zapotrzebowaniu na pamięć. W praktyce oznaczałoby to, że korzystanie z rozwiązań opartych na AI stanie się tańsze, a co za tym idzie, twórcy AI nie będą musieli inwestować tak ogromnych środków w układy graficzne.
Zanim jednak zacieramy ręce – technologia wciąż laboratoryjna i z ograniczeniami
Algorytm TurboQuant znajduje się obecnie w fazie testów laboratoryjnych. Mimo że narzędzie ma być dostępne nieodpłatnie, nie możemy jeszcze mówić o jego szerokim wdrożeniu. Technologia ta wiąże się również z pewnymi ograniczeniami. Największym problemem jest fakt, że algorytm ogranicza zużycie pamięci jedynie w fazie wnioskowania przez sztuczną inteligencję. Nie skupia się na etapie trenowania modeli, do którego wciąż potrzebna jest znacząca ilość pamięci DRAM.
Niemniej jednak, rynek zareagował na nowe narzędzie. Główni producenci pamięci, tacy jak Micron, SanDisk czy Western Digital, zanotowali spadki cen akcji. Szansa na znaczącą poprawę sytuacji jest niewielka, ale jednak istnieje.
**Wyniki Biznes Fakty:** * Cena modułu pamięci DDR5 32 GB: w ciągu ostatnich miesięcy wzrosła z około 400 zł do około 1600 zł. * TurboQuant może zmniejszyć zapotrzebowanie na pamięć RAM dla AI nawet 6-krotnie. * Algorytm może przyspieszyć obliczenia na GPU NVIDIA H100 nawet 8-krotnie. * Spadki cen akcji odnotowali główni producenci pamięci: Micron, SanDisk, Western Digital.
Według danych portalu: spidersweb.pl