Mówisz, że masz dane? Snowflake: i tak nic z nimi nie zrobisz bez AI

Sztuczna inteligencja przestaje być futurystyczną wizją, a staje się narzędziem codziennej pracy w polskich firmach. Nie chodzi już o spektakularne przełomy, ale o praktyczne rozwiązania, które pomagają menedżerom podejmować decyzje oparte na faktach, a nie intuicji. W branżach o marżach ledwie przekraczających kilka procent, jak sprzedaż, każda błędna decyzja może kosztować miliony złotych. Właśnie od tego zaczynam swoją rozmowę z przedstawicielami Snowflake’a.

Karol Kopańko, Bizblog.pl: Wyobraźmy sobie, że jedziemy windą w biurze Snowflake'a. Jestem waszym klientem, ale jestem nieprzekonany, czy warto inwestować w nowe funkcje AI. Masz 30 sekund na elevator pitch – dlaczego powinienem postawić na te usługi?

Michał Gdak, AI R&D Director, Snowflake: Ile masz danych?

100 GB.

Michał Gdak: A analityków danych w zespole?

Jestem ja i jeszcze trzy dwie.

Michał Gdak: A jakiej wielkości masz firmę?

To coś jak nasza Biedronka.

Michał Gdak: Masz bardzo duży problem - masz dane, ale ludzie w twojej firmie nie mają do nich dostępu, więc organizacja nie opiera się na faktach, tylko podejmuje decyzje na czuja. Właśnie w tym pomagamy firmom. Aby zamiast patrzeć przez dziurkę od klucza na dane, wszyscy mogli mieć do nich dostęp i podejmować decyzje oparte na faktach.

Ciekawe, Adam, a jak Ty przekonałbyś mnie, abym skorzystał z waszych usług?

Adam Wojtkowski, General Manager CEE, Snowflake: Branża retailowa ma marżę operacyjną brutto wahającą się między 2 a 5 procent. Jeżeli to jest hurtownik, to może mieć nawet 0,3 procenta zysku netto. Dla ilustracji: aby wygenerować 90 milionów zysku netto, trzeba obrócić 30 miliardów złotych. Przy takim wąskim marginesie ryzyka, jakie jest prawdopodobieństwo, że jesteś w stanie podejmować właściwe decyzje przy tak małym zespole? Bardzo niewielkie.

Druga sprawa. Sprzedaż danych to duży, budujący się obszar biznesu. Jeżeli jesteś retailerem, twój statystyczny punkt sprzedaży ma od 4 do 8 tysięcy produktów. Masz od 400 do 800 dostawców, którzy są zainteresowani zrozumieniem tego, jak sprzedają się ich produkty. To dla nich bezcenna wiedza, a my pomagamy firmom w dzieleniu się danymi i zarabianiu na nich, bez ujawniania wrażliwych informacji.

Adam Wojtkowski: Nasze ambicje były głównie ukierunkowane na to, żeby wygrywać kontrakty z podmiotami regulowanymi – po to, żeby zdobyć więcej zaufania rynku. Działamy głównie w trzech obszarach. Obok wymiany informacji pomiędzy firmami, to również migracje ze starszych baz technologicznych i wprowadzanie AI. Widzimy, że im bliżej AI-a, tym więcej rozmów o zwrocie z inwestycji. Im więcej migracji, tym więcej rozmów o ogólnym podniesieniu zdolności technicznej. 

Co ją napędza?

Adam Wojtkowski: Między innymi regulacje. Załóżmy, że dotychczas mogłeś robić raportowanie raz na tydzień i to nikomu nie przeszkadzało. Przychodzi regulator i mówi: teraz musisz robić je codziennie. Jak sprostać temu wyzwaniu? Tu duży projekt, który zakłada kupno dodatkowego hardware’u i napisanie nowych rozwiązań. To niekończące się gonienie króliczka. Różnica na Snowflake'u polega na tym, że podniesienie mocy obliczeniowej czy włączenie nowej usługi to kwestia kilku kliknięć.

Obsługujesz cały region CEE. Czy polscy klienci pytają o trochę inne rzeczy niż ci za granicą?

Adam Wojtkowski: Nie, to są bardzo uniwersalne problemy. To, co mnie zaskoczyło, to że te problemy są takiej samej natury, jak w Europie Zachodniej , i to w tym samym czasie. Nie ma żadnego opóźnienia, podczas gdy w przeszłości widać było ewidentne różnice. Rzeczy, które wydarzyły się w Paryżu 5 lat temu, dopiero zaczynały się dziać u nas. Teraz jest inaczej, a polskie firmy adaptują innowacje szybciej, niż zachodnie.

Michał, ty z kolei odpowiadasz za tworzenie technologii. Jak przyciągasz inżynierów do pracy?

Michał: Zbudowaliśmy ciekawe środowisko pracy dla badaczy z doktoratami, którzy u nas mogą realizować swoje pomysły z szerokim dostępem do danych. Dzięki ciekawym projektom tworzymy środowisko, w którym świetnie się sprawdzają. Z drugiej strony nie jesteśmy małą, polską firmą, która ma ograniczone możliwości wykorzystania AI i trenowania modeli. Pojedyncza karta H-100 (GPU wykorzystywane do trenowania modeli-przyp.red.) kosztuje 4-5 dol. za godzinę. Jak sobie policzymy ich tysiące, wykorzystywanych jednocześnie to mało firm stać na takie inwestycje. Dostęp do infrastruktury jest kluczowy w tej sferze.

Czytaj więcej o AI:

Czym się zajmujecie jeśli chodzi o rozwój produktu?

Michał: Nie mamy ambicji budowania generalnego LLM-a dla wszystkich (jak OpenAI). Chcemy trafiać w konkretne potrzeby, jak np. zamiana tekstu na SQL, co pomaga w demokratyzacji dostępu do danych. Kiedy możesz z bazą danych wchodzić w interakcje używając języka naturalnego, o wiele więcej osób uzyskuje dostęp do danych. A teraz w tabelach można przechowywać referencje do obrazków, audio czy wideo - dzięki wzbogaceniu analizy o dane nieustrukturyzowane można analizować informacje, które wcześniej wymagały np. wertowania skanów dokumentów.

Adam: Działamy w oparciu o ideę: to po prostu działa. To podkreśla gigantyczną pracę wykonywaną przez Michała, jego zespół i inne zespoły inżynieryjne, która koncentruje się na ułatwianiu wyciągania wniosków z danych. Teraz data scientiści jednym kliknięciem mogą zbadać problemy, które kiedyś zajmowały całe miesiące.

A jaka z nowości zapowiedzianych przez Snowflake'a wydaje się wam najciekawsza?

Michał: Cortex Openflow, czyli możliwość łączenia danych z różnych źródeł w jednym środowisku, co rozwiązuje wyzwanie sfragmentaryzowanych danych. 

Adam: To ogromny problem. Oczywiście nie pokazuje się w pierwszej rozmowie z klientami, ale gdy zaczynamy zgłębiać temat bliżej.

Z czego się bierze?

Adam: Z organicznej budowy firmy. Kupiłeś kiedyś firmę X, Y i Z, z nimi kupiłeś jakąś technologię. Firma działała na rynku lokalnym, a potem wychodzi na świat i musi przebudować strukturę - zaczyna inaczej używać danych. Powstają silosy. Openflow pomoże się ich pozbyć.

Widzicie też zapewne coraz szybszą adopcję AI?

Adam: Wcześniej był to gwałtownie pompowany trend, bo firmy nie chciały zostać w tyle. Dziś to spokojniejsze wykorzystanie, które przynosi wymierne korzyści.

Michał: AI zaczęło się bardziej opłacać także dlatego, że koszt per token zmalał o rzędy wielkości. Mamy też coraz więcej mniejszych modeli, które są bardziej efektywne. Widzimy to dokładnie, bo siedzimy na backendzie platformy i możemy obserwować dynamikę wykorzystania różnych jej elementów.  

Czy możecie podzielić się konkretnymi case’ami z wykorzystania AI?

Michał: To przypadki, które przyspieszają sprzedaż, obniżają koszt czy zwiększają dynamikę dostarczania produktu do rynku. Dziś AI jest w stanie zrobić coś od zera samo, np. poprawnie przeczytać dokument, wysupłać z niego wątki, które interesują klienta i załadować w istniejący proces.

Niekiedy są to paradoksalnie proste rzeczy. Klient zajmujący się windykacją dostaje trzy tysiące maili z załącznikami, które musi przeanalizować. Może zatrudnić kilkunastu dodatkowych ludzi albo wykorzystać AI do pomocy dotychczasowym pracownikom. AI ustrukturyzuje i przeanalizuje dane.

Dodatkowo, jeśli liczba pism waha się w ciągu tygodnia (w poniedziałek to 3 tys. dokumentów, we wtorek 1 tys., a we środę 3 tys.), to wpadają nam koszty utrzymywania zespołu, którego nie potrafimy wykorzystać. Albo utrzymujesz ich za wiele, albo za mało i działasz wolno. AI pozwala na balansowanie zużycia, a także szybkie włączanie nowych usług. Dodatkowo widzimy, że prowadzi do wzrostu wskaźników. NPS (net promoter score określa jak często ludzi polecają produkt albo usługę przyp.red.) na procesie windykacji wzrósł o kilkanaście punktów procentowych, bo ludzie zaczęli dostawać odpowiedzi w kilka godzin zamiast tygodni.

Inny przykład: dział prawny ze stertą papierów do przeczytania. Z każdej umowy kredytowej musi wyciągnąć kilkanaście parametrów, które zasilą model decyzyjny (idziemy do sądu czy umarzamy sprawę?). Jeszcze inny: zespół księgowy dostaje non stop maile z zapytaniem: sprawdź, czy faktura X jest zapłacona? lub jaka jest historia płatności klienta?. Teraz autorzy takich zapytań wygodniej sprawdzą informacje samodzielnie.

Nie są to problemy w stylu znajdź krytyczny punkt w łańcuchu DNA, który wyleczy raka. To proste operacje, ale w dużej skali, które dzięki AI mogą działać o wiele wydajniej.

Kto decyduje w jakim kierunku idzie platforma?

Adam: Klient. Jeśli nie zaoferujemy czegoś, co pomoże działać lepiej, zwinniej, to nikt tego nie kupi. Możemy sobie zakładać jakieś cele, ale to klient jest ostateczną wyrocznią.