Gigant z USA ostrzega przed „efektem Deep Seek”. Takie będą konsekwencje

Deep Seek pokazał, że już wkrótce można spodziewać się nie dziesiątek, ale tysięcy modeli AI – twierdzi Cisco, jedna z największych firm technologicznych na świecie. Amerykański gigant zajmujący się infrastrukturą sieciową ostrzega przed konsekwencjami, które z tego wynikną. Powołuje się przy tym na badania obnażające bezpieczeństwo chińskiego rozwiązania. — Jestem pewien, że na horyzoncie są inne firmy, których jeszcze nie widzimy, a które jutro będą miały taki sam wpływ — mówią w rozmowie z Business Insider Polska przedstawiciele firmy.

• Według Cisco coraz więcej modeli AI będzie działać na rynku. Radykalny spadek kosztów wytrenowania modeli AI może zwiększyć ich liczbę nawet do tysięcy
• Cisco ostrzega przed konsekwencjami niskich kosztów funkcjonowania AI. Badania wykazały krytyczne luki w zabezpieczeniach w przypadku modelu DeepSeek
• Cisco widzi w tym swoją szansę na biznes
• Więcej informacji o biznesie znajdziesz na Businessinsider.com.pl

Według Cisco obniżenie kosztów funkcjonowania generatywnej AI jest szansą, ale może odbić się na bezpieczeństwie niektórych usług. Wiceprezes wskazał, że na rynku już wkrótce widoczny będzie tzw. „efekt Deep Seek”. — Oznacza to, że krzywa kosztów gwałtownie spadnie w stosunku do tego, co jest potrzebne do wytrenowania modelu. Będą więc działać nawet nie dziesiątki modeli, ale tysiące. Będzie to miało ogromny wpływ na bezpieczeństwo – oceniał DJ Sampath, wiceprezes Cisco ds. produktu, oprogramowania i platformy AI podczas wydarzenia Cisco Live! w Amsterdamie.

Niepokojące badania

Powołał się przy tym na wyniki badania zrealizowanego przez Cisco i Uniwersytet Pensylwanii. W czasie procedury wprowadzono w DeepSeek 50 losowo wybranych zapytań z kategorii zagrożeń, wśród których znalazły się m.in.: cyberataki, oszustwa finansowe, dezinformacja, przemoc czy działania niezgodne z prawem.

„Nasza ocena bezpieczeństwa ujawnia krytyczne luki w zabezpieczeniach” – stwierdzono. Autorzy badania wskazali, że DeepSeek nie zablokował ani jednego szkodliwego monitu. To wyraźnie kontrastuje z innymi wiodącymi modelami, które wykazały przynajmniej częściowy opór. „W porównaniu z innymi modelami, DeepSeek R1 nie ma solidnych zabezpieczeń, co czyni go wysoce podatnym na potencjalne niewłaściwe użycie” – wskazują autorzy Cisco.

Zakazać? Pytanie otwarte

Pomimo alarmującego tonu badania, przedstawiciele Cisco nie przesądzają, jaka powinna być przyszłość usług takich ja Deep Seek.

— Chcemy dobrego wykorzystania sztucznej inteligencji, ale nie każdy ma dobre intencje. Z drugiej strony ważna jest wolność wyboru. Jak sobie z tym poradzić? To wykracza poza techniczną decyzję — mówi w rozmowie z Business Insider Polska Lothar Renner, dyrektor zarządzający działu sprzedaży i inżynierii rozwiązań Cisco Security.

— Możesz zapytać Deep Seek, jak zrobić coś złego, a on da ci odpowiedź. Ale kiedy cofniesz się do początków internetu, on również nie miał żadnych elementów sterujących – dodaje.

Dalsza część artykułu znajduje się pod materiałem wideo

Onet Rano Finansowo: 100 miliardów na energetyczną rewolucję TAURON-u!

Wnioski na przyszłość

Zdaniem przedstawicieli firmy, fenomen Deep Seek już zmienił obraz rynku. Cisco widzi w tym swoją szansę – tworzenia rozwiązań mających na celu ochronę przed wykorzystaniem AI przeciwko przedsiębiorstwom. — Jeśli masz tysiące modeli, nie wszystkie z nich będą świetne pod względem bezpieczeństwa, ale nadal chcesz mieć pewność, że zmniejszasz ryzyko swojej organizacji – wskazuje DJ Sampath.

— Myślę, że będzie to z pewnością obszar podobny do tego, jak wiele aplikacji istnieje obecnie dla telefonów komórkowych. Kontrola jest więc bardzo ważna – potwierdza Renner.

Firma zwietrzyła w tym swoją szansę – wdraża usługę Defense AI, pozwalającą przedsiębiorstwom na ochronę własnych aplikacji i znajdywanie cudzych mogących np. pozyskiwać dane firmy.

Wiele takich przełomów

Pytany o wywołane Deep Seekiem wahania giełdowych notowań gigantów technologicznych, Lothar Renner nie ma wątpliwości, że branżę będą czekać jeszcze podobne punkty zwrotne w przyszłości. — Ciekawie było zobaczyć, jak szybko ta wiadomość [pojawienie się Deep Seek – przyp. red.] wywołała zainteresowanie na rynku. Jestem pewien, że na horyzoncie są inne firmy, których jeszcze nie widzimy, a które jutro będą miały taki sam wpływ – dodaje.

— Rynek zdecyduje, w którym kierunku to pójdzie, ale konkurencja zwiększa innowacyjność. Jeśli nie ma konkurencji, jest mniej innowacji. Widać więc już, jak OpenAI i inni reagują na DeepSeek. A to tylko jeden z przykładów. W niedalekiej przyszłości pojawią się kolejne, ale myślę, że konkurencja powoduje wzrost szybkości innowacji – podsumowuje.

Z Amsterdamu Grzegorz Kowalczyk, dziennikarz Business Insider Polska

Dziękujemy, że przeczytałaś/eś nasz artykuł do końca. Bądź na bieżąco! Obserwuj nas w Wiadomościach Google.

Źródło