Czym naprawdę jest AI? Dwóch ekspertów twierdzi, że nie jest tym, czym się wydaje

Emily Bender i Alex Hanna w swojej książce „The AI Con” przedstawiają wgląd w prawdziwą naturę marketingu otaczającego AI. W dyskusji z Business Insider dzielą się swoimi perspektywami na temat podejścia do sztucznej inteligencji. Wyrażają również powody, dla których nie dają się porwać powszechnemu entuzjazmowi dla nowych technologii. „Wielu badaczy zauważa, że dyskusje na temat tak zwanej ogólnej sztucznej inteligencji wykazują uderzające podobieństwo do chrześcijańskiej eschatologii lub koncepcji zbawienia” — stwierdza Bender.

Choć może się wydawać, że sztuczna inteligencja szybko zmienia świat, są tacy, którzy świadomie wolą zachować dystans.

Emily Bender, profesor lingwistyki na University of Washington, i Alex Hanna, dyrektor ds. badań w Distributed AI Research Institute i były etyk ds. sztucznej inteligencji w Google, twierdzą w swojej najnowszej książce „The AI Con: How to Fight Big Tech's Hype and Create the Future We Want”, że duże firmy technologiczne nie prezentują prawdziwego obrazu sztucznej inteligencji.

Współpracują od kilku lat, wspólnie prowadząc podcast „Mystery AI Hype Theater 3000” i należą do najbardziej otwartych krytyków obecnych technologii AI. Bender i Hanna mają na celu zniwelowanie sensacyjności otaczającej te innowacje i przypomnienie nam, że szczerze mówiąc, inteligencja nie jest sztuczna.

Ich często humorystyczna, czasami sarkastyczna krytyka AI opisuje sztuczną inteligencję jako „matematyczną matematykę”, „maszyny plujące tekstem” lub, jak nazywają ją od lat, „stochastyczne papugi” (gdzie „stochastyczny” jest terminem z matematyki i statystyki, który odnosi się do losowości, prawdopodobieństwa i modelowania procesów, które zmieniają się nieprzewidywalnie). Ich głównym celem jest pomoc nam rozpoznać automatyzację taką, jaka jest naprawdę, wolną od iluzji marketingowych.

Poniższy dialog został zmodyfikowany w celu zwiększenia przejrzystości i zwięzłości.

Business Insider: Dla wielu zagrożenia ze strony AI są abstrakcyjne. Jak przekazać jednostkom, że technologie te mogą mieć poważne negatywne reperkusje?

Emily Bender: Ważne jest, aby pamiętać o zaangażowanych osobach. Cała ta narracja dotycząca inteligencji ma na celu ich zaciemnienie.

Do osób tych zaliczają się wszyscy, począwszy od programistów, którzy podjęli określone decyzje algorytmiczne, poprzez twórców, których praca została wykorzystana lub nawet przywłaszczona, aż po pracowników zajmujących się moderacją treści, co ma na celu zapewnienie, że systemy nie będą prezentować użytkownikom treści niepokojących lub odrażających.

Alex Hanna: Samo pojęcie „AI” obejmuje szereg znaczeń. Jest to szerokie pojęcie odnoszące się do różnych form automatyzacji. Fakt, że narzędzie może generować e-maile, nie powinien przesłaniać zrozumienia, że termin ten jest stosowany w znacznie szerszym kontekście.

Dotyczy to systemów zaangażowanych we wszystko, począwszy od podejmowania decyzji o zatrzymaniu osób, przez praktyki rekrutacyjne, po tworzenie sztucznych treści.

Podobnie jak w przypadku produkcji odzieży przez sieci sklepów czy produkcji czekolady, za tym procesem stoją konkretne osoby.

Kiedy więc otrzymasz wygenerowany przez sztuczną inteligencję e-mail lub wiadomość, której nie chciałeś napisać samodzielnie, pamiętaj, że kryje się za nią cała struktura, która wpływa na ludzi, ich pracę, środowisko i wiele innych sektorów.

W swojej książce omawiasz, jak AI opiera się na eksploatacji i może pogarszać jakość życia. Co więc napędza tę masową fascynację, niemal religijną wiarę w AI?

Bender: Zabawne, że używasz tego terminu.

Liczni badacze wskazują, że rozmowy na temat tzw. ogólnej sztucznej inteligencji mają wiele wspólnego z eschatologią chrześcijańską, czyli ideą zbawienia.

Powstała koncepcja, że stworzymy coś, co uratuje nas od żmudnych zadań, od poważnych kryzysów, nad którymi nie potrafimy sobie poradzić, takich jak zmiany klimatyczne, a nawet od naszej własnej niepewności.

Naturalnie, nic z tego nie jest oparte na rzeczywistości. Nie żyjemy w świecie, w którym każda odpowiedź jest łatwo dostępna.

Wiara, że wystarczy zastosować wystarczającą moc obliczeniową i dane do problemu, to miejsce, w którym pojawia się narracja eksploatacji. Pojęcie rozwiązania wszystkich problemów jest jedynie iluzją. Nigdy nie istniał świat z prostymi rozwiązaniami.

Hanna: Ludzie pragną, aby komputery nas zadziwiały. Obecnie sztuczna inteligencja jest wykorzystywana w różnych dziedzinach: od usług społecznych po opiekę zdrowotną i sztukę.

Częściowo jest to spowodowane chęcią stworzenia czegoś „obiektywnego”, bezstronnego bytu obliczeniowego.

Ostatnio dużo mówi się o „kryzysie kapitału społecznego”, „kryzysie męskości”, „kryzysie [wstaw tutaj dowolne zjawisko społeczne]”.

Nawiązuje to do książki Roberta Putnama „Bowling Alone” oraz do pewnych osobliwych ustaleń ogólnokrajowego badania z 2006 r., które wskazują, że obecnie ludzie mają mniej bliskich przyjaciół niż w przeszłości.

Istnieje zatem powszechne przekonanie o wzroście samotności. Być może jest w tym trochę prawdy, ale AI przedstawia się jako cudowne lekarstwo na te społeczne bolączki.

Tymczasem stoimy w obliczu o wiele pilniejszych wyzwań: odbudowy infrastruktury społecznej, przywrócenia przestrzeni wspólnych, usprawnienia systemu edukacji i rewitalizacji środowisk miejskich.

Kiedy jednak pojawia się technologia, która potrafi rozwiązać wszystkie te problemy jednocześnie, łatwo ulegać jej fascynacji.

W książce podkreślasz język i kategoryzujesz punkty widzenia na obozy: doomers, boomers i boosters. Czy możesz rozwinąć temat tych grup? A co z czytelnikami, którzy nie utożsamiają się z żadną z nich?

Bender: Dychotomia między zwolennikami a pesymistami jest dość ograniczająca. Angażujemy się w rozmowę, o której błędnie uważa się, że toczy się wzdłuż jednego

Źródło