Miało być AI, byli tam ludzie z Filipin. Inwestorzy muszą uważać na oszukańcze start-upy

Wzrost ekscytacji wokół AI spowodował, że w ostatnich latach niemal każda oferta inwestycyjna zawierała termin „sztuczna inteligencja”. Kapitał był łatwo dostępny, co doprowadziło do szybkiego pojawienia się nowej kategorii firm, które wyraźnie kojarzą się z AI. Ich oferta opierała się głównie na niedrogiej pracy ręcznej pochodzącej z centrów outsourcingowych — głównie na Filipinach — pomimo reklamowania jej inwestorom i klientom jako „całkowicie zautomatyzowanej”. Zachowaj ostrożność, ponieważ czasami za błyszczącą technologią stoi człowiek, a nie algorytm.

• Niektóre startupy zajmujące się sztuczną inteligencją przedstawiają inwestorom wizję automatyzacji, jednak w rzeczywistości opierają się na niedrogiej pracy ludzkiej, często pochodzącej z Filipin
• Przypadki Nate, Presto i EvenUp pokazują, że pod twierdzeniami o „pełnej automatyzacji” kryje się często ukryta praca ręczna
• Oszustwa technologiczne są powszechne z powodu niewystarczającej staranności i ślepej wiary w marketing sztucznej inteligencji
• Zarówno inwestorzy, jak i użytkownicy powinni potwierdzić rzeczywisty stopień automatyzacji narzędzi, a także zadać szczegółowe pytania dotyczące danych, wydatków i procesów.
• Dodatkowe informacje o biznesie znajdziesz na Businessinsider.com.pl

Najbardziej znanym przypadkiem ostatnich miesięcy jest Nate. Ten fintech twierdził, że może sfinalizować zakup u dowolnego sprzedawcy internetowego „bez żadnego udziału człowieka”. Jednak w kwietniu 2025 r. Departament Sprawiedliwości oskarżył jego założyciela, Alberta Sanigera, o świadome wprowadzanie inwestorów w błąd.

Rzeczywisty poziom automatyzacji aplikacji wynosił — zgodnie z aktem oskarżenia — zerowy procent, a wszystkie transakcje były przetwarzane przez setki kontrahentów z Manili. Firma, która pozyskała ponad 50 milionów dolarów (ostatnia runda serii A przyniosła 38 milionów dolarów w 2021 r.), sprzedała swoje aktywa i skutecznie obniżyła wartość akcji funduszu do niemal zera.

Podobna sytuacja miała miejsce w Presto Automation, dostawcy „głosowej AI” dla restauracji typu drive-thru. Raporty przesłane do US SEC wskazywały, że ponad 70% zamówień było obsługiwanych zdalnie przez pracowników z Filipin, pomimo materiałów promocyjnych sugerujących, że restauracje zaoszczędzą koszty dzięki całkowitej automatyzacji. W 2023 r. firma stanęła w obliczu kontroli ze strony regulatora papierów wartościowych, badającego niespójności między jej twierdzeniami a rzeczywistą technologią.

Tymczasem EvenUp — prawdziwy jednorożec, wyceniony na ponad miliard dolarów w październiku 2024 r. — twierdził, że jego algorytmy mogą analizować dokumentację medyczną i autonomicznie generować listy roszczeń w przypadku obrażeń ciała. Jednak ośmiu byłych pracowników poinformowało African Business Insider, że w praktyce menedżerowie instruowali ich, aby całkowicie ominęli narzędzie ze względu na jego nadmierny wskaźnik błędów : pomijało ono prawdziwe obrażenia, „halucynowało” nieistniejące wizyty u lekarza lub błędnie identyfikowało nogę jako ramię.

Firma przyznała, że działa w hybrydowym zespole: łączącym ludzi i algorytmy. Jednak to głównie ludzie poświęcali godziny na udoskonalanie wyników generowanych przez model AI, często pracując do późnych godzin nocnych i w święta. Wkład AI był minimalny.

Przeczytaj także: Nowe podejście do walki z botami. Ochrona przed AI jest skuteczniejsza niż prawa autorskie i działania prawne

Praca ludzka jest tańsza niż praca algorytmiczna

Dlaczego takie firmy w ogóle istnieją? Po pierwsze, koszty pracy w najpopularniejszych centrach BPO są wyjątkowo niskie. Filipińskie prawo pracy zezwala na płacę minimalną w wysokości 573-610 PHP dziennie w 2025 r., co odpowiada zaledwie 5,70-11 USD, co obniża stawkę godzinową do poniżej dwóch dolarów (około 7,50 PLN).

Po drugie, rosnąca liczba funduszy skoncentrowanych na sztucznej inteligencji konkuruje o wyłączne możliwości i często finansuje projekty na etapie koncepcyjnym , przed opracowaniem modelu funkcjonalnego.

Po trzecie, z perspektywy założycieli, taka „proteza ręki” często stanowi najprostszy sposób na szybkie zwiększenie liczby użytkowników, czasami z nadzieją, że algorytmy ostatecznie przejmą zadania. Jednak w niektórych przypadkach nigdy się to nie materializuje.

Schemat oszukiwania inwestorów jest zazwyczaj powtarzalny. Pokaz produktu na konferencjach odbywa się w ramach ściśle zdefiniowanych scenariuszy, a opóźnienie spowodowane wysyłaniem zadań do centrum telefonicznego przypisuje się opóźnieniom sieciowym. Pitch deck podkreśla wysokie marże „po pełnej implementacji”, podczas gdy rzeczywisty koszt operacyjny rośnie wraz ze wzrostem zamówień, ponieważ każde z nich jest zarządzane przez człowieka.

Płatności na rzecz podwykonawców są ukrywane pod „kosztami ogólnymi”, a inwestor, który zaniedbuje przeprowadzenie należytej staranności technicznej, odkrywa prawdę dopiero wtedy, gdy firma musi dokapitalizować niezwykle liczną kadrę operacyjną.

Sprawdź także: Obrona przed komputerami kwantowymi nie będzie prosta. Ataki AI są trywialne w porównaniu z tym

Inwestorzy muszą zachować większą ostrożność

Jak więc można oceniać startupy, aby uniknąć oszustw? Z punktu widzenia inwestora kluczowe jest przeprowadzenie kompleksowej analizy z udziałem niezależnych inżynierów uczenia maszynowego, specjalistów branżowych i doradców prawnych.

W praktyce oznacza to żądanie pełnego dostępu do logów systemowych i automatyzacji

Źródło