Dane i połączenia
Serwer z GPU w sieci wewnętrznej, bramka do modeli, n8n i maszyny wirtualne w infrastrukturze klienta.
Wdrożenie trwa. Budujemy środowisko AI na serwerach spółki, z lokalnymi modelami open-weight, żeby automatyzacje mogły pracować na danych, które nie mogą opuścić jej infrastruktury.
Efekt
Realizacja trwa. To wyniki sprawdzone na etapie testów albo planowane, do których celujemy. Potwierdzimy je po zakończeniu.
Jak to działa
Dane zostają w firmie
serwer z GPU w sieci wewnętrznej
Jedna bramka do modeli
osobne klucze dla aplikacji
Produkcja oddzielona od testów
osobne modele i klucze
n8n prowadzi automatyzację
na maszynach klienta
Serwis tylko na zgłoszenie
pod kontrolą IT klienta
Sieć wewnętrzna spółki
brak połączenia z zewnątrz
Bramka: klucz aplikacji → model lokalny, np. Bielik
Produkcja
Testy
Dokument
Model lokalny
przez bramkę
Wynik w systemie
01
Dane kontrahentów i ich sprawozdań mogą być przetwarzane produkcyjnie wyłącznie na infrastrukturze spółki, więc publiczne usługi AI w chmurze odpadały. Spółka nie miała serwera dla modeli AI, a w kolejce czekały co najmniej dwa procesy: analiza sprawozdań finansowych i wprowadzanie kontrahentów do systemu.
Wdrożenie trwa. Liczby przy tej realizacji to wymagania i plan, które potwierdzimy po uruchomieniu.
02
Pomogliśmy dobrać serwer z GPU i instalujemy na nim środowisko: lokalne modele open-weight, w tym polski Bielik, jedną bramkę dostępu do modeli i n8n jako platformę automatyzacji. Środowisko produkcyjne oddzielamy od testowego, a modele będą dostępne tylko z sieci wewnętrznej. Na ten serwer trafi rozwiązanie do sprawozdań finansowych, które już działa w zespole analiz finansowych, oraz automatyzacja wprowadzania danych kontrahentów, a kolejne procesy wybieramy z zespołami na warsztatach discovery.
03
Modele będą działać na serwerze z GPU w sieci wewnętrznej, bez wystawiania na zewnątrz, a aplikacje połączą się z nimi wyłącznie przez bramkę z osobnymi kluczami i oddzieleniem modeli produkcyjnych od testowych. Warstwa aplikacyjna trafi na maszyny wirtualne w infrastrukturze klienta, a n8n będzie orkiestrować automatyzacje. Po uruchomieniu nasz zespół nie będzie miał stałego dostępu: prace serwisowe będą się odbywać w sesjach na zgłoszenie, pod kontrolą IT klienta.
Serwer GPU on-premiseOllamaBielikLiteLLMn8nPostgreSQLDocker
Przebieg
Pomogliśmy dobrać serwer z GPU. Modele będą działać w sieci wewnętrznej, bez wystawiania na zewnątrz.
Każda aplikacja połączy się z lokalnymi modelami, w tym z Bielikiem, przez jedną bramkę z osobnym kluczem. Produkcja będzie oddzielona od testów.
Na serwer trafi rozwiązanie do sprawozdań finansowych i automatyzacja wprowadzania danych kontrahentów, a n8n poprowadzi automatyzacje.
Serwer z GPU w sieci wewnętrznej, bramka do modeli, n8n i maszyny wirtualne w infrastrukturze klienta.
Dostęp kontroluje IT klienta. Po uruchomieniu nie będziemy mieć stałego dostępu, prace serwisowe będą się odbywać w sesjach na zgłoszenie.
Wnioski
Lokalne modele open-weight, w tym polski Bielik, uruchamiamy na serwerze firmy, więc dane nie trafią do zewnętrznych dostawców modeli.
Każda aplikacja połączy się z modelami przez jedną bramkę z własnym kluczem, a modele produkcyjne będą oddzielone od testowych.
Po uruchomieniu wykonawca nie będzie miał stałego dostępu, a prace serwisowe będą możliwe tylko w sesjach na zgłoszenie, nadzorowanych przez IT.
AI on-premiseModele lokalneBramka modeli
Firma przyszłości
Projekt daje efekt sam w sobie, ale zostawia też w firmie uporządkowany kontekst. Z niego korzysta każde kolejne rozwiązanie AI. Ten projekt dołożył do AI Engine:
Lokalne modele open-weight, w tym polski Bielik, na serwerze z GPU w sieci wewnętrznej.
Jedna bramka dostępu do modeli z osobnymi kluczami i n8n do automatyzacji: kolejne procesy podłączają się do tego samego środowiska.
Wartość
Kolejny proces podłącza się do gotowego środowiska, zamiast budować własne.
Automatyzacje mogą pracować na danych, które nie mogą opuścić firmy.
Kolejne procesy wybieramy z zespołami na warsztatach discovery.
Większość naszych realizacji jest objęta NDA. Dlatego pokazujemy tylko część, bez nazw klientów i szczegółów, jako inspirację. Chętnie opowiemy więcej o naszym doświadczeniu na rozmowie.
Wspólnie określimy proces, dostępne dane i efekt, który warto sprawdzić. Na tej podstawie dobierzemy punkt startu.
Umów rozmowęAlbo napisz: hello@wearefuture.ai
