Model AI na własnym serwerze: kiedy ma sens w księgowości i kadrach

Zespół Taxso4 min czytania

Większość narzędzi AI działa w chmurze dostawcy. Dla wielu firm to w zupełności wystarczy. Są jednak organizacje - z wysokimi wymaganiami bezpieczeństwa, w regulowanych branżach albo po prostu z dużą wrażliwością na dane płacowe - dla których kluczowe jest, żeby dokumenty nie opuszczały ich sieci. Dla nich istnieje wariant z modelem AI uruchomionym lokalnie.

Trzy warianty wdrożenia

  • Chmura w UE. System i modele AI działają na infrastrukturze dostawcy w Unii Europejskiej, na podstawie umowy powierzenia. Najszybszy start i najmniej pracy po stronie IT firmy.
  • Instalacja on-premise. Aplikacja, baza danych i connectory działają w infrastrukturze firmy. Dostęp kontroluje dział IT klienta, według własnych polityk.
  • Model AI w sieci firmy. Dodatkowo model językowy, który odczytuje dokumenty i proponuje dekrety, działa na serwerze klienta. Żaden dokument nie trafia do zewnętrznego dostawcy AI.

Kiedy model lokalny ma sens

  • Polityka bezpieczeństwa organizacji nie dopuszcza przetwarzania danych finansowych lub kadrowych u zewnętrznych dostawców.
  • Firma działa w branży regulowanej albo obsługuje klientów, którzy tego wymagają w umowach.
  • Przetwarzane są szczególnie wrażliwe dane: wynagrodzenia, dane o zdrowiu, informacje objęte tajemnicą.
  • Firma ma własną infrastrukturę i dział IT, który chce mieć pełną kontrolę nad systemami.

Jeśli żaden z tych punktów nie dotyczy Twojej organizacji, chmura w UE z anonimizacją danych zwykle będzie prostszym i tańszym wyborem.

Co trzeba zapewnić po stronie firmy

Model językowy uruchomiony lokalnie potrzebuje odpowiedniego sprzętu - zwykle serwera z kartą graficzną dobraną do wielkości modelu i liczby przetwarzanych dokumentów. Do tego dochodzi utrzymanie: aktualizacje, monitoring, kopie zapasowe.

Dobrym rozwiązaniem jest podział odpowiedzialności: firma zapewnia infrastrukturę i kontrolę dostępu, a dostawca systemu instaluje, konfiguruje i aktualizuje oprogramowanie oraz model.

Anonimizacja: warstwa, która przydaje się zawsze

Niezależnie od wariantu warto ograniczać ilość danych osobowych, które w ogóle trafiają do modelu. Anonimizacja polega na usunięciu lub zamaskowaniu informacji, które nie są potrzebne do wykonania zadania: numerów PESEL, rachunków bankowych, kwot wynagrodzeń, adresów prywatnych. Model widzi tylko to, czego potrzebuje.

To dobra praktyka zgodna z zasadą minimalizacji danych z RODO - i dodatkowe zabezpieczenie na wypadek błędu konfiguracji.

Porównanie wariantów

  • Czas startu: chmura - najkrótszy; on-premise - zależny od przygotowania infrastruktury; model lokalny - wymaga dodatkowo doboru i instalacji sprzętu.
  • Kontrola nad danymi: chmura - na podstawie umowy z dostawcą; on-premise - pełna po stronie firmy; model lokalny - pełna, łącznie z przetwarzaniem AI.
  • Utrzymanie: chmura - po stronie dostawcy; on-premise i model lokalny - wspólnie: firma utrzymuje infrastrukturę, dostawca oprogramowanie.
  • Koszt: chmura - abonament; on-premise i model lokalny - dodatkowo koszt sprzętu i jego utrzymania.

Nie ma wariantu „najlepszego" dla wszystkich. Jest wariant dopasowany do polityki bezpieczeństwa i zasobów konkretnej firmy.

Pytania, które warto zadać przed wyborem

  1. 1Jakie kategorie danych będzie przetwarzał system - tylko faktury kosztowe, czy także dane płacowe i kadrowe?
  2. 2Co mówi nasza polityka bezpieczeństwa i umowy z klientami o przetwarzaniu danych przez podmioty zewnętrzne?
  3. 3Czy mamy infrastrukturę i ludzi, żeby utrzymać serwer z modelem AI - czy wolimy to zlecić?
  4. 4Jak będziemy aktualizować model i oprogramowanie, żeby nie zostać na przestarzałej wersji?
  5. 5Czy wariant możemy zmienić później - np. zacząć w chmurze, a przenieść system do siebie?

Dobry dostawca pomoże odpowiedzieć na te pytania i nie będzie forsował jednego wariantu.

Jak przebiega wdrożenie modelu u klienta

Wdrożenie zaczynamy od rozmowy z działem IT: jakie są zasady dostępu, gdzie może stanąć serwer, jak wygląda sieć i kopie zapasowe. Następnie dobieramy model do zadań - inny wystarczy do odczytu faktur, inny do pracy na dłuższych dokumentach - i do przewidywanego wolumenu.

  1. 1Przygotowanie infrastruktury i dostępów przez dział IT klienta.
  2. 2Instalacja Taxso, bazy, connectorów i modelu językowego w sieci firmy.
  3. 3Testy na próbce prawdziwych dokumentów: jakość odczytu, czas przetwarzania, obciążenie serwera.
  4. 4Uruchomienie produkcyjne z równoległą kontrolą przez pierwsze tygodnie.
  5. 5Stała opieka: aktualizacje oprogramowania i modelu, monitoring, rozwój.

Jak to robimy

Taxso można wdrożyć w każdym z trzech wariantów. Zespół Softwise, który stoi za Taxso, ma za sobą wdrożenia modeli językowych na serwerach klientów - tak, żeby dane nie opuszczały ich sieci. Wariant dobieramy podczas audytu procesów, razem z działem IT klienta.

Najczęstsze pytania

Czy lokalny model AI jest tak samo skuteczny jak model w chmurze?+

Do wąskich, powtarzalnych zadań - odczytu faktur, propozycji kategorii - mniejszy model wspierany regułami i wcześniejszymi decyzjami księgowych bywa wystarczający. Dobór modelu robimy pod konkretne zadania i wolumen.

Jaki sprzęt jest potrzebny?+

Zwykle serwer z kartą graficzną dobraną do wielkości modelu i liczby dokumentów. Konkretną konfigurację ustalamy z działem IT klienta po audycie.

Czy można zacząć w chmurze, a potem przenieść system do siebie?+

Tak. Wariant wdrożenia można zmienić - wiele firm zaczyna w chmurze w UE, a po potwierdzeniu efektu przenosi system na własną infrastrukturę.

Kto aktualizuje model i oprogramowanie w wariancie on-premise?+

Zwykle dzielimy odpowiedzialność: firma utrzymuje infrastrukturę i kontrolę dostępu, a zespół Taxso instaluje, aktualizuje i monitoruje oprogramowanie oraz model. Zakres opieki ustalamy w umowie, razem z działem IT klienta, żeby nikt nie zostawał z systemem, którego nie umie utrzymać.

Czytaj dalej