Destylacja w sztucznej inteligencji. Tego boją się dziś miliarderzy

Pojawienie się chińskiej technologii DeepSeek, która w kilka dni podbiła globalny rynek, obnażyło słabość gigantów technologicznych. DeepSeek zakwestionował to, co do tej pory mówili twórcy takich modeli jak ChatGPT czy Claude, rodząc przy tym pytania o miliardy dolarów wydawane na najbardziej zaawansowane technologie.

• Chińska technologia DeepSeek obnażyła słabość gigantów technologicznych
• Pokazała, że zaawansowaną AI można tworzyć taniej dzięki destylacji
• Proces ten pozwala na szybkie i tańsze kopiowanie zdolności istniejących modeli, co zagraża firmom inwestującym miliardy dolarów w rozwój własnych technologii
• Amerykańskie firmy i rząd planują już działania ograniczające stosowanie destylacji, uznając ją za zagrożenie dla konkurencyjności i bezpieczeństwa narodowego
• Więcej informacji o biznesie znajdziesz na stronie Businessinsider.com.pl

Przed pojawieniem się DeepSeek big techy i start-upy śpiące na pieniądzach, takie jak OpenAI i Anthropic, przekonywały, że do rozwoju sztucznej inteligencji potrzebne są ogromne zasoby mocy obliczeniowej, wyceniane na miliardy dolarów. Podobną narrację podtrzymywała Nvidia, która sprzedaje zaawansowane (i drogie) chipy AI do obsługi zadań związanych m.in. ze szkoleniem AI.

DeepSeek przekonywał, że wyszkolił swoje zaawansowane modele AI w tani sposób, choć zataił informację, że wykorzystał metodę znaną inżynierom: destylację. To proces technologiczny, w którym nowy system uczy się od istniejącego, zadając mu setki tysięcy pytań i analizując odpowiedzi. W skrócie można powiedzieć, że pierwszy system musi wykonać ogrom pracy, przetwarzając dane z internetu, analizując je i szkoląc swoje algorytmy, natomiast drugi system może już niejako „podpiąć” się do pierwszego i — w procesie destylacji — wyciągnąć z niego to, co najlepsze i najbardziej pożądane.

Internauci w dość obrazowy sposób tłumaczyli na X, jak wygląda destylacja w świecie AI na przykładzie danych (z ang. real data), OpenAI i DeepSeeka:

x.com

W Dolinie Krzemowej szybko pojawiły się burzliwe dyskusje o tym, że DeepSeek „podebrał” sobie modele OpenAI, które są warte dziesiątki milionów dolarów. Ali Ghodsi, dyrektor generalny firmy zarządzającej danymi Databricks, tak definiuje proces destylacji: „To trochę tak, jakbyś miał kilka godzin na przeprowadzenie wywiadu z Einsteinem, i wyszedł po rozmowie prawie tak samo znający się na fizyce, jak on”.

Sprawdź też: Zazdrosny Elon Musk krytykuje ogromną inwestycję USA. Trump musiał się tłumaczyć

Zaawansowana AI, ale znacznie tańsza

Firmy takie jak OpenAI i Anthropic szkoliły swoje modele praktycznie od podstaw, wykorzystując ogromne ilości surowych danych. To sprawiło, że proces uczenia algorytmów trwał wiele miesięcy i kosztował dziesiątki milionów dolarów lub nawet więcej. Kiedy jednak model AI jest gotowy i wyszkolony, inna technologia może zastosować destylację i czerpać z wyników pracy poprzednika.

Destylacja w sztucznej inteligencji pozwoli stworzyć model, który będzie prawie tak samo skuteczny w swoich zadaniach, ale uda się go stworzyć w ciągu kilku dni lub tygodni. Koszty też będą oczywiście nieporównywalnie niższe.

OpenAI twierdzi, że DeepSeek destylował model AI, na którym opiera się ChatGPT, by zbudować własną, chińską technologię. Tutaj warto zauważyć, że warunki korzystania z usług OpenAI zabraniają używania modeli AI do opracowywania konkurencyjnych produktów. DeepSeek nie przestrzegało więc regulaminu, ale z drugiej strony mediom i ekspertom ds. AI nie jest szczególnie żal OpenAI, bo jest to przecież ta sama organizacja, która również — bez zgody, licencji i szacunku do pracy innych — wykorzystała tysiące, jeśli nie setki tysięcy artykułów, książek i innych treści w szkoleniu swojej AI, zupełnie ignorując prawa autorskie i narażając się na wiele pozwów. Jednym z najgłośniejszych pozwów jest ten, jaki wytoczył wydawca New York Timesa, za wykorzystywanie jego artykułów do szkolenia ChatGPT.

Sama destylacja w świecie AI nie jest też nowym pomysłem. Proces ten istnieje w zasadzie od samego początku, gdy pojawiły się systemy sztucznej inteligencji, ale DeepSeek zdecydowanie osiągnął największy sukces w tym kontekście i wzbudził wątpliwości co do modeli biznesowych gigantów technologicznych i start-upów, które wydają miliardy dolarów na rozwój swoich AI.

Dużo bowiem wskazuje na to, że technologie, na które wydano setki milionów dolarów, mogą teraz służyć za swojego rodzaju trampoliny dla tańszych konkurentów. OpenAI i podobne firmy mogą mieć w przyszłości duże problemy z pozyskiwaniem kolejnego kapitału od inwestorów.

Czytaj też: Osobisty superkomputer AI dla każdego? Nvidia może odmienić rynek

Udają, że nic się nie stało

Inwestorzy venture capital zastanawiają się, czy przeznaczanie dużego kapitału na rozwój start-upów AI nadal ma sens. Sam Altman, szef OpenAI, wyraził się natomiast w pozytywnych słowach o DeepSeeku, pisząc na X, że to „imponujący model, szczególnie w kontekście tego, co jest w stanie dostarczyć przy tych kosztach”. Dodał, że OpenAI jest „podekscytowane kontynuowaniem realizacji swojego planu działań”. Dario Amodei, szef Anthropic, napisał z kolei na blogu, że flagowy model DeepSeek nie jest unikalnym przełomem ani czymś, co fundamentalnie zmienia ekonomię zaawansowanych modeli AI. Jest raczej „oczekiwanym punktem na krzywej redukcji kosztów”.

Dyrektorzy generalni stojący za modelami AI, na których rozwój pozyskali miliardy dolarów, nie chcą raczej krytykować DeepSeeka. Inwestorzy mają jednak inne zdanie. Mike Volpi, doświadczony menedżer technologiczny i inwestor venture capital, który jest partnerem generalnym w Hanabi Capital, w wywiadzie dla Wall Street Journal skomentował: „czy jest to nadal ekonomicznie opłacalne, by być w czołówce, jeśli kosztuje to osiem razy więcej niż szybki naśladowca, który pojawi się po krótkim czasie?”.

Eksperci technologiczni spodziewają się wkrótce zobaczyć więcej wysokiej jakości aplikacji AI stworzonych za pomocą destylacji. Naukowcy z firmy AI Hugging Face próbowali już zbudować model podobny do DeepSeek pod koniec stycznia.

Z kolei badacze AI ze Stanford i Uniwersytetu Waszyngtońskiego byli w stanie wytrenować model AI z funkcją „rozumowania” za mniej niż 50 dol. w kredytach na obliczenia w chmurze — według nowego artykułu badawczego opublikowanego zaledwie kilka dni temu.

Model, znany jako s1, działa podobnie do najnowocześniejszych modeli rozumowania, takich jak o1 (OpenAI) i R1 (DeepSeek), uzyskując zbliżone wyniki w testach mierzących umiejętności matematyczne i kodowania. Jest też dostępny na GitHubie, wraz z danymi i kodem użytym do jego trenowania. Zespół stojący za s1 powiedział, że zaczęli od gotowego modelu bazowego, a następnie dostosowali go poprzez destylację zdolności „rozumowania” z innego modelu AI. W tym wypadku za źródło posłużył model rozumowania Google — Gemini 2.0 Flash Thinking Experimental.

Sprawdź też: ChatGPT dystansuje konkurencję na świecie. Co na to Polacy? Nie zamierzają płacić [BADANIE]

Co dalej z inwestycjami?

Donlad Trump wraz z prezesami firm OpenAI, Oracle i SoftBanku ogłosił plan zainwestowania do 500 mld dol. w rozwój sztucznej inteligencji, a konkretnie zbudowanie odpowiedniej infrastruktury, niezbędnej do rozwoju zaawansowanych technologii. Poszczególne firmy z sektora AI ciągle też pozyskują finansowanie, a giganci tacy jak Amazon, Microsoft czy Google nadal zamierzają wydawać dziesiątki miliardów dol. rocznie, aby rozwijać AI.

Czy zatem tak wysoki poziom inwestycji jest nadal konieczny? Tak, jeśli chcemy przesuwać granice innowacji AI i wprowadzać jeszcze lepsze modele. Destylacja okazała się dobrą metodą na tanie odtworzenie zdolności modelu AI, ale nie tworzy nowych modeli, które byłyby znacznie lepsze niż te już dostępne.

David Sacks, dyrektor ds. sztucznej inteligencji w Białym Domu, zapowiedział już, że amerykańskie firmy z pewnością będą utrudniać korzystanie z destylacji w przypadku swoich modeli AI. Wcześniej wskazywał też, że Biały Dom ma dowody na to, że DeepSeek opierał swoją technologię na tym, co zbudowało OpenAI.

To wszystko prowadzi do zmian w prawie. Na razie pojawił się dopiero projekt ustawy, ale amerykański rząd już teraz rozważa, jak karać firmy za destylację AI — i chce, aby kary były bardzo surowe.

Pierwsza propozycja? „Decoupling America’s Artificial Intelligence Capabilities from China Act of 2025” — tak nazywa się proponowana ustawa i zakłada m.in. kary więzienia i wysokie grzywny finansowe za pobieranie DeepSeeka i innych chińskich technologii, czy też współpracę z chińskimi firmami w zakresie AI. Kary sięgają 100 mln dol. dla firm i 1 mln dol. dla pojedynczych osób, jak i do 20 lat pozbawienia wolności. Ustawa jeszcze nie weszła w życie, ale można się spodziewać, że jakaś jej forma będzie obowiązywać w niedalekiej przyszłości. USA zwyczajnie nie pozwolą na to, aby kosztowna sztuczna inteligencja była łatwa do skopiowania.

Autor: Grzegorz Kubera, dziennikarz Business Insider Polska

Dziękujemy, że przeczytałaś/eś nasz artykuł do końca. Bądź na bieżąco! Obserwuj nas w Wiadomościach Google.

Źródło