AIPrzykłady AI w firmie

Co można robić z AI, a co wymaga formalności AI Act + RODO

Praktyczna macierz decyzji dla organizacji: 20 scenariuszy biznesowych, status ryzyka i lista wymaganych działań pod AI Act i RODO.

Terminy prawneObowiązek AI literacy (art. 4) i zakazy z art. 5 obowiązują od 2 lutego 2025. Szerokie stosowanie AI Act od 2 sierpnia 2026 (z wyjątkami przejściowymi z art. 113).

Dozwolone

Zarząd: streszczanie umów i uchwał przez AI

Dozwolone
Opis scenariusza

AI przygotowuje podsumowania dokumentów dla zarządu, ale nie podejmuje decyzji w imieniu firmy.

Co trzeba mieć

Program AI literacy dla osób korzystających z narzędzia, weryfikacja wyników przez człowieka, polityka bezpiecznego promptowania.

Podstawa prawnaAI Act + RODO (przetwarzanie danych w dokumentach)AI Act art. 4; RODO art. 5 i art. 6
Uwagi praktyczne

Ustaw zasadę human-in-the-loop i zakaz kopiowania danych szczególnie wrażliwych do publicznych modeli.

Generowanie szkiców maili handlowych

Dozwolone
Opis scenariusza

AI pomaga tworzyć szkice komunikacji B2B i B2C, a handlowiec zatwierdza finalną wersję.

Co trzeba mieć

Wytyczne redakcyjne, kontrola antyhalucynacyjna, transparentność wewnętrzna — kto odpowiada za treść.

Podstawa prawnaAI Act (kompetencje i nadzór) + RODO przy danych klientaAI Act art. 4; RODO art. 5(1)(d), art. 6
Uwagi praktyczne

Nie wysyłaj automatycznie treści bez przeglądu i bez walidacji faktów.

Tłumaczenie dokumentów firmowych

Dozwolone
Opis scenariusza

AI tłumaczy polityki, procedury i komunikaty między językami roboczymi organizacji.

Co trzeba mieć

Kontrola jakości przez osobę znającą język i kontekst prawny, standard redakcyjny, rejestr poprawek.

Podstawa prawnaAI Act (użycie ogólne) + RODO, gdy dokument zawiera dane osoboweAI Act art. 4; RODO art. 5 i art. 32
Uwagi praktyczne

W przypadku dokumentów prawnych stosuj dodatkową recenzję eksperta przed publikacją.

Tworzenie wersji roboczych procedur i FAQ

Dozwolone
Opis scenariusza

AI przyspiesza tworzenie wersji roboczych procedur operacyjnych i odpowiedzi FAQ.

Co trzeba mieć

Właściciel procesu zatwierdza finalną wersję, kontrola zgodności regulacyjnej, wersjonowanie zmian.

Podstawa prawnaAI Act (kompetencje i governance wewnętrzny)AI Act art. 4
Uwagi praktyczne

Traktuj wynik jako materiał pomocniczy, nie jako automatycznie obowiązującą procedurę.

Analiza trendów na danych zagregowanych

Dozwolone
Opis scenariusza

AI analizuje zagregowane KPI (sprzedaż, ticketing, obciążenie zespołu) bez identyfikacji osób.

Co trzeba mieć

Pseudonimizacja/anonimizacja danych, kontrola dostępu, dokumentacja źródeł danych.

Podstawa prawnaRODO (minimalizacja i celowość) + AI Act ogólnyRODO art. 5(1)(b)–(c), art. 25; AI Act art. 4
Uwagi praktyczne

Pilnuj, by zbiory nie pozwalały na łatwą reidentyfikację osoby.

Warunkowo dozwolone (wymaga formalności)

Zarząd: analiza ryzyk w umowach z danymi osobowymi

Warunkowo dozwolone
Opis scenariusza

AI ocenia klauzule dot. odpowiedzialności, transferów danych i podpowiada ryzyka kontraktowe.

Co trzeba mieć

DPIA, gdy skala/ryzyko wysokie, NDA z dostawcą, rejestr czynności przetwarzania, finalna ocena prawnika.

Podstawa prawnaRODO + AI Act (kompetencje i transparentność procesu)RODO art. 28, art. 30, art. 35; AI Act art. 4 i art. 50
Uwagi praktyczne

Nie podejmuj decyzji o podpisaniu umowy wyłącznie na podstawie rekomendacji AI.

Chatbot obsługi klienta oparty na AI

Warunkowo dozwolone
Opis scenariusza

Bot odpowiada na zapytania klientów i przekazuje zgłoszenie do człowieka w sprawach wrażliwych.

Co trzeba mieć

Informacja, że rozmowa jest z AI, ścieżka eskalacji do człowieka, logowanie i audyt odpowiedzi.

Podstawa prawnaAI Act transparentność + RODO (dane klienta)AI Act art. 50; RODO art. 12–14, art. 32
Uwagi praktyczne

Komunikat o AI musi być czytelny od początku interakcji, nie ukryty w regulaminie.

Transkrypcja i podsumowanie spotkań

Warunkowo dozwolone
Opis scenariusza

AI tworzy notatki ze spotkań i listę akcji po nagraniu rozmowy online.

Co trzeba mieć

Podstawa prawna nagrania, informacja dla uczestników, retencja nagrań/transkryptów, ograniczenie dostępu.

Podstawa prawnaRODO + AI Act (kompetencje i nadzór)RODO art. 6, art. 13, art. 5(1)(e); AI Act art. 4
Uwagi praktyczne

Przed spotkaniem komunikuj cel i czas przechowywania transkrypcji.

Personalizacja treści marketingowych i profilowanie

Warunkowo dozwolone
Opis scenariusza

AI segmentuje odbiorców i dobiera treści kampanii na podstawie zachowań użytkownika.

Co trzeba mieć

Ocena podstawy prawnej profilowania, transparentna informacja, mechanizm sprzeciwu/opt-out.

Podstawa prawnaRODO profilowanie + AI Act transparentność dla interakcji AIRODO art. 21, art. 22, art. 13(2)(f); AI Act art. 50
Uwagi praktyczne

Unikaj wykorzystywania cech wrażliwych i projektuj kampanie bez manipulacyjnych dark patterns.

AI do wykrywania anomalii i fraudów

Warunkowo dozwolone
Opis scenariusza

Model wykrywa nietypowe wzorce, ale decyzja blokująca transakcję jest zatwierdzana przez analityka.

Co trzeba mieć

Nadzór człowieka, dokumentacja kryteriów, procedura odwołania i audyt decyzji.

Podstawa prawnaRODO decyzje zautomatyzowane + AI Act governanceRODO art. 22; AI Act art. 4, art. 50
Uwagi praktyczne

Każdy alert wysokiego ryzyka powinien mieć możliwość ręcznej rewizji przed finalną decyzją.

Wstępna klasyfikacja ticketów wsparcia

Warunkowo dozwolone
Opis scenariusza

AI klasyfikuje priorytet i obszar ticketu, aby szybciej skierować zgłoszenie do odpowiedniego zespołu.

Co trzeba mieć

Reguły SLA, nadzór lidera supportu, monitoring błędnych klasyfikacji i korekty modelu.

Podstawa prawnaAI Act (użycie ogólne) + RODO dla danych w ticketachAI Act art. 4; RODO art. 5, art. 32
Uwagi praktyczne

Nie łącz klasyfikacji ticketu z automatyczną decyzją dyscyplinarną wobec pracownika.

Scoring leadów B2B wspierany przez AI

Warunkowo dozwolone
Opis scenariusza

AI ocenia potencjał leadu dla działu sprzedaży na podstawie danych firmowych i zachowań na stronie.

Co trzeba mieć

Transparentne kryteria scoringu, nadzór handlowca, regularna walidacja pod kątem biasu.

Podstawa prawnaRODO (jeśli dane osobowe) + AI Act transparentność i kompetencjeRODO art. 5, art. 6; AI Act art. 4, art. 50
Uwagi praktyczne

Scoring powinien być wsparciem priorytetyzacji, nie jedynym filtrem kontaktu.

Wysokie ryzyko (AI Act Annex III)

Rekrutacja: automatyczne filtrowanie CV

Wysokie ryzyko
Opis scenariusza

System AI odrzuca lub priorytetyzuje kandydatów na podstawie CV i metadanych aplikacji.

Co trzeba mieć

Klasyfikacja jako high-risk AI, system zarządzania ryzykiem, dokumentacja techniczna, kontrola jakości danych.

Podstawa prawnaAI Act high-risk (zatrudnienie) + RODO decyzje wobec osóbAI Act art. 6 + Annex III; art. 9–15, art. 26–27; RODO art. 22
Uwagi praktyczne

Bez spełnienia wymagań high-risk wdrożenie jest obarczone wysokim ryzykiem regulacyjnym.

Rekrutacja: ranking kandydatów i rekomendacja zatrudnienia

Wysokie ryzyko
Opis scenariusza

AI tworzy ranking kandydatów i sugeruje decyzje zatrudnieniowe menedżerowi.

Co trzeba mieć

Nadzór człowieka, testy niedyskryminacji, dokumentacja metryk, informacja dla kandydatów o logice systemu.

Podstawa prawnaAI Act high-risk + RODO profilowanie/decyzjeAI Act Annex III (employment); RODO art. 13–15, art. 22
Uwagi praktyczne

Należy zapewnić realną możliwość zakwestionowania wyniku przez kandydata.

HR: ocena pracowników pod awans lub zwolnienie

Wysokie ryzyko
Opis scenariusza

AI ocenia wyniki i zachowania pracownika jako podstawę decyzji kadrowej.

Co trzeba mieć

Analiza proporcjonalności, human review, governance antydyskryminacyjne, audyt danych treningowych.

Podstawa prawnaAI Act high-risk (employment) + RODO prawa pracownikaAI Act art. 6 + Annex III; RODO art. 5, art. 22, art. 88
Uwagi praktyczne

To obszar podwyższonego ryzyka sporów i kontroli — wymagane silne zabezpieczenia proceduralne.

Finanse: scoring kredytowy osoby fizycznej

Wysokie ryzyko
Opis scenariusza

AI przewiduje zdolność kredytową i rekomenduje przyznanie lub odmowę finansowania.

Co trzeba mieć

Pełne wymagania high-risk, monitoring dryfu modelu, wyjaśnialność decyzji, mechanizm odwoławczy.

Podstawa prawnaAI Act high-risk (dostęp do kluczowych usług prywatnych) + RODOAI Act Annex III; RODO art. 22, art. 15
Uwagi praktyczne

W praktyce konieczne jest silne uzasadnienie i dowody, że system nie reprodukuje biasu.

Edukacja: AI do oceny egzaminów i rekrutacji

Wysokie ryzyko
Opis scenariusza

AI ocenia prace i wspiera decyzje o przyjęciu na studia/szkolenia.

Co trzeba mieć

Wymagania high-risk, nadzór merytoryczny eksperta, procedury odwoławcze, testy jakości i równego traktowania.

Podstawa prawnaAI Act high-risk (edukacja i szkolenie zawodowe)AI Act art. 6 + Annex III; RODO art. 5
Uwagi praktyczne

Ocena AI nie powinna być jedynym kryterium finalnej decyzji edukacyjnej.

Zakazane praktyki (AI Act art. 5)

Social scoring osób na podstawie zachowań i cech

Zakazane
Opis scenariusza

System AI przyznaje punktację reputacyjną osobom i wykorzystuje ją do ograniczania dostępu do usług.

Co trzeba mieć

Brak możliwości legalnego wdrożenia w tym modelu.

Podstawa prawnaPraktyka zakazana w AI ActAI Act art. 5(1)(c)
Uwagi praktyczne

Takie wykorzystanie jest co do zasady zabronione i naraża organizację na najwyższe sankcje.

Rozpoznawanie emocji w miejscu pracy lub szkole

Zakazane
Opis scenariusza

AI inferuje emocje pracowników/uczniów z obrazu lub głosu do celów monitoringu efektywności.

Co trzeba mieć

Co do zasady zakaz; wyjątki bardzo ograniczone (np. medyczne/bezpieczeństwo).

Podstawa prawnaPraktyka zakazana z wyjątkami ustawowymiAI Act art. 5(1)(f)
Uwagi praktyczne

Nawet przy wyjątkach należy dodatkowo sprawdzić zgodność z prawem pracy i ochroną danych.

Masowe zbieranie zdjęć twarzy do baz rozpoznawania

Zakazane
Opis scenariusza

Masowe pobieranie zdjęć twarzy z internetu/CCTV do trenowania systemów identyfikacji biometrycznej.

Co trzeba mieć

Brak możliwości legalnego wdrożenia w UE.

Podstawa prawnaPraktyka zakazana w AI ActAI Act art. 5(1)(e)
Uwagi praktyczne

Ten przypadek jest wskazany wprost jako zakazany i podlega najwyższym karom.

Chcesz uporządkować AI compliance w organizacji?

Zacznij od mapy przypadków użycia i wdróż reguły decyzyjne dla zespołów biznesowych, prawnych i IT.

Rozpocznij za darmo Zobacz dokumentację