Enterprise AI potrzebuje granic.

Architektura bezpieczeństwa wynika z procesu, danych i środowiska klienta. Granice sieciowe, komponenty systemu, kanały integracyjne i zakres dostępu definiowane są przed wdrożeniem produkcyjnym.

Dostęp może być projektowany według użytkownika, roli, zespołu, systemu oraz operacji. Agent AI nie powinien otrzymywać szerszych uprawnień niż wymaga konkretny workflow.

Operacje wymagające decyzji, autoryzacji lub zwiększonego poziomu kontroli mogą zatrzymywać workflow przed wykonaniem działania. System przygotowuje kontekst i rekomendację, a człowiek pozostaje punktem decyzyjnym tam, gdzie wymaga tego proces.

Istotne zdarzenia mogą być zapisywane wraz z czasem, użytkownikiem, źródłem danych, wynikiem działania i ścieżką akceptacji. Zakres audytu ustalany jest zgodnie z wymaganiami procesu i organizacji.

Zakres danych dostępnych dla systemu powinien być ograniczony do informacji potrzebnych do realizacji konkretnego zadania. Retencja, lokalizacja, klasyfikacja i sposób przetwarzania danych definiowane są wspólnie z klientem.

Środowiska developerskie, testowe i produkcyjne mogą być rozdzielane pod względem infrastruktury, danych, dostępów i sekretów. Produkcyjne dane nie powinny trafiać do środowisk niższego poziomu bez uzgodnionego procesu.

Model AI jest komponentem architektury, nie całym systemem. Organizacja może definiować zaakceptowanych providerów, modele, klasy danych, fallbacki i warunki ich użycia.

Klucze API, tokeny i dane uwierzytelniające powinny pozostawać poza kodem aplikacji i być zarządzane jako sekrety środowiskowe lub poprzez rozwiązanie wskazane przez klienta.

System może rejestrować stan workflow, błędy, integracje, działania agentów, opóźnienia i wyjątki. Monitoring powinien pozwalać rozróżnić problem modelu, danych, integracji i logiki procesu.

Zakres kopii zapasowych, częstotliwość, retencja i procedura odzyskiwania powinny wynikać z krytyczności procesu oraz wymagań infrastrukturalnych klienta.

Projekt może uwzględniać minimalizację danych, ograniczenie celu, kontrolę dostępu, retencję oraz wymagania dotyczące lokalizacji i przepływu danych. Konkretne obowiązki prawne i organizacyjne pozostają definiowane wspólnie z klientem i jego doradcami.

Architektura może uwzględniać klasyfikację zastosowania AI, poziom nadzoru człowieka, dokumentację, monitoring i wymagania organizacyjne wynikające z charakteru danego zastosowania.

Model bezpieczeństwa musi dopasować się do rzeczywistego środowiska przedsiębiorstwa: jego polityk, systemów tożsamości, architektury sieciowej, klasyfikacji danych, procedur zmian i wymagań audytowych.