Pracownicy wściekli. Sztuczna inteligencja kradnie i kłamie
Wiele firm zdaje sobie sprawę z tego, że nie ma odwrotu od AI. Jednak z badania agencji McKinsey wynika, że aż 44 proc. przedsiębiorców doświadczyło negatywnych konsekwencji związanych z użyciem generatywnej sztucznej inteligencji. Pracownicy wytykają GenAI naruszenia praw intelektualnych, a 63 proc. zgłosiło, że wyniki otrzymywane dzięki narzędziom opartym na AI są – delikatnie mówiąc – mało precyzyjne. Jak zatem budować narzędzia wykorzystujące AI w sposób przemyślany i bezpieczny?
Decydując się na wdrożenie AI, ponad połowa firm (53 proc.) korzysta z gotowych, publicznie dostępnych modeli lub narzędzi, nie dokonując w nich niemal żadnych zmian. Robi tak sześć na dziesięć podmiotów (63 proc.) z branży prawniczej, a także co drugie przedsiębiorstwo z sektora zdrowotnego i finansowego.
Trzeba zwracać uwagę na prawidłowość generowanych algorytmów
WithSecure europejski partner w dziedzinie cyberbezpieczeństwa wskazuje, że należy pamiętać o tym, że ogólnodostępne modele AI, w tym duże modele językowe (Large Language Models, LLM) wciąż są niedokładne i jeśli nie są w stanie znaleźć odpowiedzi na zadane pytanie, zdarza im się halucynować, czyli kłamać.
Niekiedy – jak w przypadku modelu Meta AI, który zaprzeczał, że lipcowy zamach na Donalda Trumpa miał miejsce – jest to łatwe do wykrycia. W wielu sytuacjach jednak dostrzeżenie błędu maszyny jest praktycznie niewykonalne - podaje WithSecure.
Halucynowanie to też niejedyne wyzwanie, z jakim przychodzi mierzyć się twórcom narzędzi AI. Innym jest potężna ilość energii, jakiej potrzeba do trenowania i korzystania z tej technologii.
Sztuczna inteligencja jest w większości przypadków bardzo nieefektywna energetycznie. Przykładowo narzędzie GenAI może obliczyć, ile wynosi 2x2, ale będzie to proces wielokrotnie bardziej kosztowny obliczeniowo i emisyjnie, niż gdy to samo równanie wykona tradycyjny algorytm – wskazuje Leszek Tasiemski, ekspert ds. cyberbezpieczeństwa i VP w firmie WithSecure.
I dodaje, że za każdym razem, gdy sięga się po sztuczną inteligencję, powinno się dopasowywać narzędzie do skali problemu. Nie ma sensu korzystać z AI tam, gdzie wystarczy zastosowanie tradycyjnego algorytmu. Jeśli model AI wykona taką samą pracę, co GenAI, lepiej użyć tego pierwszego. Korzystanie z rozwiązań GenAI jest uzasadnione tylko wtedy, gdy wnosi ono wartość w porównaniu do innych możliwych narzędzi.
Problem z definiowaniem użytkowników sztucznej inteligencji
Eksperci zwracają uwagę na to, że dane to dla sztucznej inteligencji paliwo pozwalające korzystać z niej w wartościowy sposób. Jednocześnie zadbanie o jakość i odpowiednie zabezpieczenie zasobów wykorzystywanych przez modele AI stawia przed firmami szereg trudności:
- 70 proc. pracowników przebadanych przez McKinseya wskazuje na problemy w definiowaniu procesu zarządzania informacją oraz integracji modeli AI z danymi.
- 23 proc. przedsiębiorstw zaobserwowało też negatywne skutki wynikające z niedokładnych wyników dostarczanych przez narzędzia AI.
Duże modele językowe (LLM) nigdy nie powinny mieć swobodnego dostępu do wszystkich danych firmowych. Zamiast tego powinno się dostarczać im jedynie wycinek zasobów, który jako dane kontekstowe posłuży do właściwego przetworzenia i zrozumienia promptu, czyli zapytania kierowanego do modeli generatywnej sztucznej inteligencji - oceniają eksperci.
Wyjaśniają też, że postępując w ten sposób, firma nie tylko ograniczy ryzyko podawania przez algorytm AI błędnych informacji, ale także zwiększy poziom bezpieczeństwa i ochrony m.in. przed wyciekiem danych.
Więcej wiadomości na temat sztucznej inteligencji można przeczytać poniżej:
Tworzeniem promptów nie mogą zajmować się przypadkowi ludzie
Na fali zainteresowania możliwościami ChatGPT użytkownicy masowo zaczęli tworzyć zapytania, z założeniem, że skoro chatbot rozumie to, co do niego piszemy, to zrozumie również, co mamy na myśli.
Jednak pisanie precyzyjnych promptów jest bardzo trudne, a doskonalenie tej techniki wymaga czasu. Niewłaściwie wydane polecenie może przy tym sprawić, że sztuczna inteligencja zacznie halucynować. Dlatego z perspektywy bezpieczeństwa modeli AI w biznesie ważne jest, by tworzeniem i utrzymywaniem promptów zajmowały się wyłącznie osoby programujące model AI pod konkretne zastosowanie czy specyfikę danej firmy.
Zwykły użytkownik nie powinien być obarczany odpowiedzialnością za wydanie modelowi AI prawidłowego polecenia. Najlepiej, jeśli w ogóle nie będzie mógł zobaczyć ani zmodyfikować zapytania, a jego interakcja z modelem sprowadzi się do jednego kliknięcia. Pozwoli to uprościć korzystanie z narzędzi AI, a także zapewni wyższą dokładność wyników – podpowiada Leszek Tasiemski z WithSecure.
Ekspert tłumaczy też, że ta idea przyświecała również naszemu zespołowi podczas rozwoju opartego na GenAI narzędzia Luminen dla branży cyberbezpieczeństwa. Wykorzystuje ono wstępnie przetworzone dane kontekstowe oraz przetestowane opcje podpowiedzi. Zmniejsza to ryzyko błędnych rekomendacji AI wynikających ze źle sformułowanego zapytania.
Korzystanie z rozwiązań wykorzystujących sztuczną inteligencję może przynieść ogromne korzyści firmom w każdej branży pod warunkiem, że jest ono przemyślane i poparte szkoleniami z zastosowania nowych technologii - podsumowuje Leszek Tasiemski.
Jak wskazują badania, pracownicy są na to gotowi. Aż 94 proc. ankietowanych przez Accenture zadeklarowało chęć zdobycia nowych umiejętności potrzebnych do pracy z narzędziami bazującymi na GenAI. Jednocześnie jednak tylko 5 proc. uważa, że ich pracodawcy aktywnie szkolą kadrę w tym zakresie.
