Broń biologiczna i nowy model AI

Najnowsze modele OpenAI „znacząco” zwiększyły ryzyko, wykorzystania sztucznej inteligencji do stworzenia broni biologicznej — pisze „Financial Times”. Open AI zaprezentował wczoraj światu swój nowy model tego narzędzia o nazwie o1.

Jak przypomina brytyjski dziennik, firma reklamuje nowe, znacznie bardziej zaawansowane możliwości kolejnej odsłony Chata GPT, pozwalające na rozwiązywanie trudnych problemów matematycznych i odpowiadania na pytania naukowe. Postępy te są postrzegane jako kluczowy przełom w wysiłkach zmierzających do stworzenia sztucznej inteligencji ogólnej — maszyn o zdolnościach poznawczych na poziomie ludzkim.

Jak wynika z lektury karty systemowej wyjaśniającej sposób działania o1, nowy model cechuje „średnie ryzyko” w kwestiach związanych z bronią chemiczną, biologiczną, radiologiczną i nuklearną, co oznacza — podkreśla brytyjski dziennik — najwyższe ryzyko, jakie OpenAI kiedykolwiek przyznało swoim produktom. Firma stwierdziła, że nowa technologia „znacząco poprawiła” zdolność ekspertów do tworzenia broni biologicznej.

Yoshua Bengio, profesor informatyki na Uniwersytecie w Montrealu i jeden z czołowych światowych ekspertów zajmujących się sztuczną inteligencją, powiedział, że jeśli OpenAI stanowi obecnie „średnie ryzyko” dla broni chemicznej i biologicznej, „to tylko wzmacnia znaczenie i pilność” wprowadzenia przepisów, takich jak gorąco dyskutowany w Kalifornii projekt ustawy, mającej uregulować ten sektor.

Jak powiedział prof. Bengio, w miarę jak „pionierskie” modele sztucznej inteligencji zbliżają się do poziomu tzw. sztucznej inteligencji ogólnej (AGI), „ryzyko będzie rosło, jeśli zabraknie odpowiednich barier”. Dodał, że „poprawa zdolności AI do rozumowania i wykorzystywania tej umiejętności do oszukiwania jest szczególnie niebezpieczna”.

Dyrektor ds. technologii w OpenAI, Mira Murati, powiedziała „Financial Times”, że firma była szczególnie „ostrożna” w sposobie upubliczniania modelu o1 ze względu na zaawansowane możliwości, chociaż produkt będzie szeroko dostępny za pośrednictwem płatnych subskrybentów ChatGPT oraz dla programistów za pośrednictwem API.

Dziękujemy, że przeczytałaś/eś nasz artykuł do końca. Bądź na bieżąco! Obserwuj nas w Wiadomościach Google.

Źródło