AI Act już obowiązuje – co oznaczają nowe wytyczne Komisji Europejskiej i jak wpłyną na korzystanie z systemów AI?

W ostatnim czasie AI Act wywołał spore poruszenie w Europie. Jest to nowy akt prawny w sprawie sztucznej inteligencji, który ma ujednolicić zasady tworzenia i stosowania systemów AI w różnych branżach – od produkcji przemysłowej, przez usługi finansowe, aż po administrację publiczną.

Regulacje te obejmują zarówno proste modele statystyczne, jak i systemy AI wysokiego ryzyka, a także modeli AI ogólnego przeznaczenia. Dzięki temu mają zapewnić maksymalną ochronę praw podstawowych oraz wzmocnić przejrzystość, która umożliwia lepsze zrozumienie tego, w jaki sposób sztuczna inteligencja wpływa na codzienne życie.

Dla wielu firmy wykorzystujące AI rozporządzenie oznacza konieczność weryfikacji i dokumentowania swoich narzędzi, zwłaszcza jeśli systemy ai wykorzystywane służą do podejmowania istotnych decyzji w obszarach finansowych czy rekrutacyjnych.

W kontekście systemów AI szczególnie ważne staje się zapobieganie wszelkim formom dyskryminacji czy niekontrolowanego profilowania użytkowników. W praktyce ai act wymaga od organizacji zapewnienia regularnych audytów, gotowości do zgłaszania poważnych incydentów oraz dostosowania się do wymogów nadzoru.

Na tym tle pojawia się pytanie, jak nowy porządek prawny wpłynie na obszar księgowości dla spółek, zwłaszcza tych, które wykorzystują zautomatyzowane analizy finansowe i narzędzia klasyfikujące.

W artykule wyjaśniamy podstawy rozporządzenia w sprawie sztucznej inteligencji, pokazujemy jego wpływ na wykorzystania AI w sektorze finansów, a także prezentujemy, w jaki sposób Finexis – Nowoczesna Księgowość Spółek Online i autorska aplikacja Altera.app mogą pomóc w dostosowaniu się do nowych wymogów, nie rezygnując z innowacji i efektywnego wdrażania AI w codziennych procesach.

Ogólna definicja

• • AI Act to nowe unijne regulacje w dziedzinie sztucznej inteligencji, które określają zasady projektowania i korzystania z systemów AI.

  • Celem jest ochrona praw i wolności, szczególnie w kontekście systemów AI, które w znaczący sposób wpływają na życie społeczne i gospodarkę.

Zakres regulacji

• • Obejmuje zarówno modeli AI ogólnego przeznaczenia, jak i bardziej zaawansowane rozwiązania, w tym systemy wysokiego ryzyka, niosące potencjalnie poważne skutki dla użytkowników.

  • Dostawcy systemów AI zyskują nowe obowiązki związane z dokumentacją, testami i przejrzystością działania algorytmów.

Znaczenie dla rynku

• • Przepisy mają na celu zapewnienie spójności i bezpieczeństwa rozwoju innowacji, nie dopuszczając do niekontrolowanego wykorzystywania narzędzi, które mogą naruszać prawa podstawowych grup interesu.

  • Wprowadzenie tych reguł tworzy fundament dla dalszego wykorzystanie systemów AI w sposób odpowiedzialny, wspierając jednocześnie wzrost konkurencyjności firm w całej Unii Europejskiej.

Siedem przesłanek definicyjnych a systemy wysokiego ryzyka

Zgodnie z wytycznymi Komisji Europejskiej, aby dane rozwiązanie mogło zostać uznane za systemy AI w rozumieniu AI Act, musi spełniać co najmniej część z poniższych kryteriów. W praktyce najczęściej bierze się pod uwagę wszystkie:

1. System maszynowy – algorytm lub oprogramowanie działające w sposób częściowo zautomatyzowany.
2. Autonomia – zdolność do samodzielnego podejmowania decyzji bez bieżącej kontroli człowieka.
3. Zdolność adaptacji – możliwość uczenia się i aktualizowania wewnętrznych mechanizmów w toku eksploatacji.
4. Określony cel działania – system ma służyć konkretnym zadaniom (np. klasyfikacja, prognoza, generowanie treści).
5. Wnioskowanie na podstawie technik sztucznej inteligencji – kluczowy element, który odróżnia AI od zwykłej automatyki.
6. Wyniki generujące wpływ – rezultat działania systemu oddziałuje na otoczenie lub użytkowników (np. rekomendacja kredytowa, ocena ryzyka).
7. Interakcja ze środowiskiem – system gromadzi dane, przetwarza je i modyfikuje swoje zachowanie w odpowiedzi na zmiany w otoczeniu.

Dlaczego to istotne?

• Jeżeli zastosowane rozwiązanie spełnia te przesłanki i może oddziaływać na ważne obszary społeczne, zdrowotne czy edukacyjne, staje się systemem wysokiego ryzyka.
• W takiej sytuacji AI Act nakłada na dostawców odpowiednie wymogi, a podmiotom stosującym ai musi zapewnić m.in. odpowiednią dokumentację, zgodność z przepisami oraz gotowość do kontroli przez właściwy organ nadzorczy.

Duże generatywne modele AI i daty rozpoczęcia stosowania rozporządzenia

Dalszy element regulacji dotyczy modeli AI ogólnego przeznaczenia, zwłaszcza jeśli wchodzą one w obszary wrażliwe, takie jak:

• Systemy AI wykorzystywane do oceny kondycji finansowej czy celów ścigania przestępstw,
• Systemy sztucznej inteligencji pełniące funkcje doradcze w ochronie zdrowia,
• Albo narzędzia analityczne wspierające rozwój ai na skalę masową.

Co warto wiedzieć:

• Daty rozpoczęcia stosowania rozporządzenia są rozłożone w czasie, aby dostawcy systemów ai mieli możliwość dostosowania produktów do nowych wymagań.
• Twórcy dużych generatywnych modele AI muszą wziąć pod uwagę ewentualne dodatkowe obowiązki związane z testowaniem i przejrzystością, zwłaszcza gdy wykorzystanie systemów ai obejmuje przetwarzanie danych osobowych, a także wysokopoziomowe mechanizmy decyzyjne (np. scoring kredytowy).
• Jednocześnie przewiduje się utworzenie piaskownic regulacyjnych oraz centrów innowacji cyfrowych, które umożliwią bezpieczne testowanie innowacyjnych technologii. Dzięki temu uniknie się nadmiernego obciążenia podmiotów gospodarczych, a przejrzystość działania pozwoli na lepsze zrozumienie zasad funkcjonowania algorytmów.

W efekcie, wprowadzone przepisy AI Act wpływają na cały proces projektowania i wdrażania AI, co potwierdza, że regulacje nie mają być wyłącznie teoretycznym aktem prawnym, lecz skutecznym mechanizmem chroniącym praw podstawowych i wspierającym podjęcie działań legislacyjnych w kontekście systemów AI.

Granica między dopuszczalnym wpływem a niedozwolonym sterowaniem

Wśród najistotniejszych zakazanych praktyk wymieniono m.in. wykorzystywanie danych o przekonaniach religijnych, preferencjach czy orientacji seksualnej do tworzenia szczegółowych profili użytkowników, co stwarza ryzyko nadużyć w obszarze chronionych interesów prawnych. Dopuszczalne jest wprawdzie pewne oddziaływanie na odbiorcę, np. poprzez sugestie produktów lub usług, jednak wykraczanie poza granicę „zwykłej perswazji” może prowadzić do nieuprawnionego manipulowania decyzjami.

Najbardziej kontrowersyjne jest zintegrowane wykorzystywanie systemów biometrycznych do wpływania na zachowania w sieci lub w życiu codziennym, szczególnie w instytucjach edukacyjnych czy przy narzędziach służących ocenie ryzyka popełnienia przestępstw. W takich kontekstach, oprócz naruszeń wrażliwych danych osobowych, pojawia się problem braku właściwego nadzoru nad algorytmami, które mogą błędnie kategoryzować osoby i potencjalnie łamać podstawowe standardy prywatności.

Profilowanie dla celów niedozwolonych i rola właściwych organów krajowych

W praktyce najbardziej wyraźnym przykładem naruszenia zakazów jest automatyczny system przyznawania punktów społecznych lub dyskryminujący dostęp do usług na podstawie subiektywnych kategorii. Każda próba tworzenia „społecznego rankingu” czy domyślnego klasyfikowania ludzi do określonych grup (np. ograniczanie możliwości zatrudnienia) stoi w sprzeczności z duchem współczesnej ochrony praw człowieka.

Jeśli w trakcie audytu lub użytkowania rozwiązań o charakterze profilującym zostaną wykryte istotne uchybienia, organizacje są zobowiązane do zgłaszania poważnych incydentów właściwym organom krajowym. Dotyczy to w szczególności sytuacji, w których brakuje mechanizmów weryfikujących dokładność systemów rozpoznawania, a narzędzie może błędnie oceniać osoby – na przykład w wyniku ograniczeń technologicznych lub zastosowania niemiarodajnych danych statystycznych.

Perspektywa przyszłych zmian i testowanie innowacji

Aby zachować równowagę między bezpieczeństwem a wspieraniem rozwoju AI w różnorodnych branżach, planuje się stworzenie elastycznej przestrzeni dla przeprowadzania najnowocześniejszych testów. Takie rozwiązanie ma ułatwić sprawne wprowadzanie innowacyjnych narzędzi, przy jednoczesnym wykluczeniu systemów, które mogłyby skutkować naruszeniem orientacji seksualnej, wolności światopoglądowej czy innych interesów prawnych obywateli.

Dla przedsiębiorstw oznacza to konieczność sprawdzenia, czy dane rozwiązanie nie wpisuje się w katalog zabronionych manipulacji, profilowania lub systemów oceniających w sposób zagrażający podstawowym wolnościom. Brak zgodności z regulacjami może prowadzić do sankcji finansowych i wstrzymania dalszego stosowania technologii – dlatego też coraz więcej podmiotów stawia na przejrzystość i rzetelne informowanie użytkowników o zakresie i sposobie funkcjonowania algorytmów, aby uniknąć zarzutu ukrytej manipulacji.

IV. AI wysokiego ryzyka – które systemy będą musiały spełnić dodatkowe wymagania?

Charakterystyka systemów AI wysokiego ryzyka

Systemy AI wysokiego ryzyka to takie, które mogą w istotny sposób wpływać na bezpieczeństwo osób, chronione interesy prawne lub porządek społeczny. W kontekście systemów AI zalicza się do nich w szczególności technologie stosowane:

• W sektorze zdrowia (np. do analizy diagnostycznej),

• W obszarze edukacji lub rekrutacji (decydujące o dalszych ścieżkach rozwoju),

• Do celów ścigania przestępstw (rozpoznawanie sprawców, analiza zachowań),

• W dziedzinie sztucznej inteligencji powiązanej z bezpieczeństwem narodowym.

Systemy wysokiego ryzyka nierzadko wykorzystują elementy biometrii oraz algorytmy zdolne do automatycznego podejmowania decyzji wiążących dla obywateli. Ze względu na potencjalne zagrożenia, AI Act nakłada dodatkowe wymogi dokumentacyjne i określa zasady testowania innowacyjnych technologii w taki sposób, aby zapewnić przejrzystość i umożliwić lepsze zrozumienie mechanizmów decyzyjnych stosowanych przez algorytmy.

Co AI Act wymaga od dostawców i użytkowników takich rozwiązań?

W przypadku rozwiązań kwalifikowanych jako systemy AI wysokiego ryzyka:

1. Dostawcy systemów AI muszą zapewnić szczegółową analizę bezpieczeństwa i jakości danych.
2. Algorytmy podlegają ocenie zgodności przeprowadzanej przez właściwy organa nadzorczy – ma to wykluczyć ewentualne błędy i uprzedzenia w decyzjach algorytmu.
3. Podmioty wdrażające systemy AI są zobowiązane do ciągłego monitorowania ich działania oraz do zgłaszania wszelkich problemów lub incydentów, zwłaszcza tych związanych z błędną kwalifikacją użytkowników.
4. Konieczne jest unikanie nadmiernego obciążenia podmiotów gospodarczych – dlatego tworzone są ramy pozwalające na wprowadzanie innowacji bez zbędnych barier prawnych, lecz z zachowaniem zasad bezpieczeństwa.

Taka kontrola dotyczy zarówno systemów do automatycznej oceny zdolności kredytowej, rekrutacji pracowników, jak i rozwiązań przeznaczonych do wdrażania AI w instytucjach edukacyjnych. Celem jest wypracowanie wysokiego poziomu ochrony środowiska ludzkiego i społecznego, który uwzględnia dobro osób poddawanych ocenom przez algorytmy, a jednocześnie umożliwia rozwój AI w sposób zrównoważony.

Systemy AI wykorzystywane w analizie ryzyka oraz scoringu kredytowego

W branży finansowej coraz częściej stawia się na wykorzystanie systemów AI w procesach decyzyjnych. Przykładem mogą być narzędzia do:

• Automatycznej oceny zdolności kredytowej,

• Detekcji nadużyć (fraud detection),

• Analizy dużych wolumenów transakcji pod kątem prania pieniędzy czy finansowania terroryzmu.

To właśnie w tych obszarach AI Act wymusza bardziej rygorystyczne testy i weryfikację algorytmów, aby zapobiec dyskryminacji lub błędnym decyzjom wynikającym m.in. z nieadekwatnych danych wejściowych. Jeśli dane rozwiązanie zostanie zakwalifikowane jako system AI wysokiego ryzyka, organizacja będzie zobowiązana do spełnienia dodatkowych wymagań w zakresie raportowania oraz zapewnienia przejrzystości, umożliwiającej klientom zrozumienie, dlaczego otrzymali taką, a nie inną ocenę.

Dlaczego AI Act wpłynie także na mniejsze podmioty, nie tylko Big Tech?

Chociaż najczęściej mówi się o przepisach AI Act w kontekście globalnych gigantów technologicznych, nowe regulacje obejmują również mniejsze firmy, które wykorzystują sztuczną inteligencję na bardziej ograniczoną skalę. Kluczowe jest, aby przedsiębiorstwa — niezależnie od wielkości — potrafiły:

• Zidentyfikować, czy wykorzystywane narzędzie — np. do prognozowania popytu, zarządzania logistyką czy oceny kandydatów — mieści się w definicji systemu AI mogącego wywierać istotny wpływ na prawa osób trzecich.

• Zbadać, czy stosowane modele AI ogólnego przeznaczenia nie analizują zbyt szerokiego zakresu danych osobowych w sposób, który może naruszać prawa podstawowe.

• Ocenić, czy dane rozwiązanie kwalifikuje się jako system wysokiego ryzyka, który podlega dodatkowym wymogom w zakresie monitorowania, raportowania i testowania — w tym również w ramach piaskownic regulacyjnych.

Nie chodzi tu o hamowanie rozwoju technologii czy ograniczanie wdrażania AI w codziennych procesach biznesowych. Celem regulacji jest ochrona przed błędnymi decyzjami, automatycznym przyznawaniem punktów ryzyka, dyskryminacją lub nieuzasadnionym ograniczeniem dostępu do usług np. finansowych czy publicznych.

W rezultacie AI Act wymaga szerszej świadomości prawnej również wśród mniejszych przedsiębiorstw i zachęca je do współpracy z centrami innowacji cyfrowych oraz innymi ośrodkami wspierającymi bezpieczne testowanie i wdrażanie nowoczesnych technologii.

VI. Co AI Act wymaga od organizacji w zakresie zgodności i dokumentacji?

Ocena ryzyka i ewidencja systemów AI

Każdy podmiot planujący wdrożenie systemu AI powinien przeprowadzić kompleksową analizę ryzyka, uwzględniając m.in. dokładność działania technologii (np. systemów rozpoznawania twarzy) oraz bezpieczeństwo przetwarzanych danych użytkowników.

Zarówno dostawcy opracowujący modele AI, jak i firmy zajmujące się ich wdrażaniem, muszą wykazać, że rozwiązania podlegają ocenie zgodności przeprowadzanej przez odpowiednio wykwalifikowane jednostki notyfikowane.

Dokumentacja techniczna i rejestr zdarzeń

AI Act nakłada obowiązek przygotowania szczegółowej dokumentacji technicznej, obejmującej m.in. informacje o architekturze oprogramowania, źródłach danych, metodach trenowania algorytmu oraz przyjętych mechanizmach kontroli jakości.

Równolegle wymagane jest prowadzenie rejestru zdarzeń — ewidencji błędów, usterek i innych istotnych incydentów — w celu umożliwienia oceny, czy dany system kwalifikuje się jako system wysokiego ryzyka i jakie działania korygujące należy podjąć.

Procedura zgłaszania poważnych incydentów

W przypadku poważnych usterek wpływających na prawa podstawowe użytkowników lub skutkujących realną szkodą, organizacje są zobowiązane do zgłaszania incydentów do właściwych organów krajowych.

Zgłoszenia te mogą skutkować czasowym wstrzymaniem działania danego systemu, a także nałożeniem sankcji administracyjnych, których wysokość może być uzależniona od globalnego rocznego obrotu danego podmiotu.

Kary finansowe i odpowiedzialność dostawców

Wysokość sankcji

AI Act przewiduje dotkliwe sankcje finansowe za naruszenia przepisów, sięgające nawet kilku procent całkowitego rocznego światowego obrotu przedsiębiorstwa. Najwyższe kary grożą w przypadku uchybień dotyczących szczególnie wrażliwych zastosowań, takich jak systemy biometryczne wykorzystywane w celach ścigania przestępstw.

Celem tych sankcji jest zniechęcenie do wdrażania nieprzemyślanych rozwiązań oraz promowanie wysokiego poziomu ochrony społecznej i zapewnienie spójności w obszarze sztucznej inteligencji na terenie całej Unii Europejskiej.

Współodpowiedzialność dostawców i użytkowników systemów AI

Odpowiedzialność za przestrzeganie przepisów ponoszą nie tylko dostawcy systemów AI, ale również podmioty wdrażające je w swojej działalności. Organizacje korzystające z systemów wysokiego ryzyka muszą dołożyć należytej staranności w zakresie dokumentacji, testowania i bieżącego nadzoru nad działaniem tych rozwiązań.

W praktyce oznacza to konieczność częstszej współpracy z instytucjami edukacyjnymi, organizacjami społecznymi, związkami zawodowymi oraz innymi interesariuszami, aby zapobiec potencjalnym zarzutom dotyczącym dyskryminacji lub naruszania praw podstawowych.

Znaczenie przejrzystości w praktyce

Regulacje zawarte w AI Act promują przejrzystość jako kluczowy element odpowiedzialnego rozwoju technologii. Zrozumienie mechanizmów działania algorytmów ma umożliwić zarówno obywatelom, jak i decydentom skuteczniejsze reagowanie na potencjalne zagrożenia — zwłaszcza w obliczu szybkiego postępu technologicznego.

W odpowiedzi na te wymagania coraz więcej firm wdrażających systemy AI prowadzi wewnętrzne audyty zgodności oraz korzysta z piaskownic regulacyjnych i centrów innowacji cyfrowych. Dzięki temu możliwe jest bezpieczne testowanie nowych rozwiązań przy jednoczesnym zachowaniu odpowiedzialności względem użytkowników i ochrony interesów prawnych.

VII. Integracja systemów AI w procesach księgowych

W ostatnich latach rośnie wykorzystanie sztucznej inteligencji w obszarze finansów — od analiz ekonomicznych, przez prognozowanie przepływów pieniężnych, po automatyzację rozliczeń. Choć systemy AI wykorzystywane w księgowości rzadko kwalifikują się jako systemy wysokiego ryzyka w rozumieniu AI Act, to jednak nowe przepisy nakładają również na ten obszar konkretne obowiązki.

Szczególną uwagę należy zwrócić na:

• Dokładność działania systemów do rozpoznawania i przetwarzania faktur oraz dokumentów kosztowych, w celu zminimalizowania ryzyka błędów przy wprowadzaniu danych księgowych.

• Przejrzystość algorytmów, które np. automatycznie klasyfikują wydatki i przychody, tak aby osoby odpowiedzialne mogły łatwo zrozumieć sposób działania systemu i kontrolować jego decyzje.

• Wdrożenie procedur wykrywania nieprawidłowości, które mogłyby mieć wpływ na rzetelność i jakość sprawozdań finansowych.

W sytuacji, gdy systemy księgowe staną się bardziej złożone — np. zaczną profilować kontrahentów, oceniać ryzyko opóźnień w płatnościach czy automatycznie decydować o warunkach współpracy — mogą zostać uznane za systemy wysokiego ryzyka. Wówczas będą podlegać formalnej ocenie zgodności przeprowadzanej przez wyspecjalizowane jednostki, aby zagwarantować, że nie dochodzi do uprzedzeń ani naruszeń praw podstawowych czy interesów prawnych stron trzecich.

Weryfikacja algorytmów

Firmy oferujące zewnętrzną obsługę rachunkową coraz częściej korzystają z dużych generatywnych modeli AI oraz systemów wykrywających anomalie w przepływach finansowych. W kontekście wdrażania takich rozwiązań kluczowe jest, aby sprawdzić, czy dostawcy oprogramowania zastosowali mechanizmy monitorowania błędów oraz czy istnieją procedury zgłaszania poważnych incydentów do odpowiednich organów krajowych w przypadku nieprawidłowych sytuacji.

Zgodność z przepisami

AI Act nakłada obowiązek zapewnienia przez dostawców systemów AI jasnej dokumentacji oraz szczegółowego wykazu scenariuszy działania algorytmów. Ma to na celu umożliwienie firmom korzystającym z tych systemów oceny, czy algorytm nie stwarza zagrożenia dla bezpieczeństwa finansów i czy nie prowadzi do nadmiernego obciążenia podmiotów gospodarczych. W szczególności dotyczy to kwestii przechowywania i analizowania danych klientów w chmurze, które muszą być zgodne z przepisami ochrony danych osobowych.

Piaskownice regulacyjne i centra innowacji

Dla bardziej zaawansowanych rozwiązań, takich jak wprowadzanie systemów AI do procesów controllingowych czy przeprowadzanie symulacji scenariuszowych, kluczowe będzie skorzystanie z piaskownic regulacyjnych i centrów innowacji cyfrowych. Takie struktury zapewniają bezpieczne środowisko testowania innowacyjnych technologii, umożliwiając jednocześnie utrzymanie wysokiego poziomu ochrony środowiska biznesowego oraz minimalizując ryzyko niezgodności z regulacjami prawnymi.

Współpraca z doradcami

Z uwagi na zmieniające się przepisy oraz szybki postęp technologiczny, firmy korzystające z AI w obszarze księgowości powinny rozważyć współpracę z ekspertami prawnymi oraz doradcami specjalizującymi się w dziedzinie sztucznej inteligencji. Dzięki temu będą mogły utrzymać zgodność z wymaganiami prawnymi, zmniejszając ryzyko sankcji oraz konieczność kosztownej rekonfiguracji systemów w przyszłości.

VIII. Jak Finexis i Altera.app mogą wesprzeć zgodność z AI Act?

Bezpieczna automatyzacja finansów

Altera.app oferuje narzędzia umożliwiające sprawną ewidencję dokumentów oraz automatyzację obiegu faktur, co znacząco redukuje ryzyko błędów oraz manipulacji danymi. Dzięki tej funkcjonalności, firmy mogą zoptymalizować swoje procesy księgowe, unikając konieczności tworzenia skomplikowanych algorytmów klasyfikowanych jako systemy wysokiego ryzyka. Jednocześnie osiągają wysoki poziom automatyzacji, co poprawia efektywność i dokładność procesów finansowych.

Dostosowanie do przepisów

Finexis – Nowoczesna Księgowość Spółek Online – zapewnia, że zasady rozliczeń i raportowania są zgodne z obowiązującymi regulacjami, w tym nadchodzącymi wymaganiami dotyczącymi sztucznej inteligencji. W przypadku wątpliwości dotyczących wdrożenia AI w księgowości, zespół Finexis oferuje doradztwo przy wyborze lub tworzeniu rozwiązań automatyzujących analizę finansową. Dzięki temu firmy mogą pozostać zgodne z regulacjami legislacyjnymi podejmowanymi na szczeblu UE.

Unikanie niepotrzebnych barier i sankcji

Korzystanie z usług Finexis zapewnia przejrzystość danych i procesów, co ułatwia ich ocenę w kontekście zgodności z przepisami przez organy nadzorcze. Mechanizmy wewnętrznej kontroli implementowane przez Finexis pozwalają na wczesne wykrywanie potencjalnych nieprawidłowości. Dzięki temu firmy mogą zminimalizować ryzyko naruszenia przepisów, zwłaszcza w zakresie przetwarzania wrażliwych danych czy regulacji związanych z celami ścigania przestępstw.

XIX. FAQ – AI Act w pytaniach i odpowiedziach

Czy każda firma korzystająca z systemów AI musi dostosować się do przepisów?

Tak. AI Act obejmuje każdy system spełniający definicję sztucznej inteligencji, niezależnie od branży czy wielkości organizacji. Firmy, które wykorzystują algorytmy do analiz czy podejmowania decyzji, są zobowiązane do weryfikacji, czy nie wchodzą w zakres systemu wysokiego ryzyka. W sytuacji, gdy rozwiązanie mogłoby znacząco oddziaływać na użytkowników (np. scoring kredytowy), przepisy przewidują dodatkowe obowiązki dokumentacyjne i kontrolne.

Co z prostymi narzędziami, które nie bazują na głębokim uczeniu?

Nie wszystkie systemy AI traktowane są w taki sam sposób. Drobniejsze narzędzia analityczne czy statystyczne, wykorzystywane np. do szacowania trendów sprzedaży, mogą nie spełniać wszystkich siedmiu przesłanek definiujących systemy sztucznej inteligencji. Jeśli jednak w kontekście systemów AI narzędzie istotnie wpływa na prawa osób trzecich bądź potrafi przetwarzać dane wrażliwe, lepiej skonsultować się z doradcą i przeprowadzić wewnętrzny audyt, by upewnić się, czy nie ma konieczności stosowania reżimu dla systemów AI wysokiego ryzyka.

Jak radzić sobie z dokumentacją i oceną zgodności?

• Zidentyfikuj obszary działania algorytmu: czy w grę wchodzi profilowanie, automatyczne decyzje albo analiza danych wrażliwych?
• Przygotuj plan oceny ryzyka i rejestr incydentów. Dokumentuj wszystkie testy i zmiany wprowadzane do narzędzia.
• Rozważ użycie piaskownic regulacyjnych lub współpracę z centrów innowacji cyfrowych, aby bezpiecznie weryfikować nowe funkcjonalności systemu.

Pamiętaj, że AI Act wymaga przejrzystości i dbałości o to, by właściwy organ nadzorczy mogły dokonać kompleksowej kontroli.

Czy kary finansowe będą dotyczyć tylko dużych korporacji?

Przepisy AI Act dotyczą wszystkich podmiotów stosujących sztuczną inteligencję, bez względu na ich wielkość – od start-upów, przez średnie przedsiębiorstwa, po międzynarodowe korporacje. Wysokość sankcji zależy od stopnia naruszenia, kategorii systemu (np. systemów AI wysokiego ryzyka) oraz skali działalności firmy, wyrażonej w całkowitym rocznym obrocie globalnym. Nawet mniejsze podmioty mogą więc odczuć dotkliwe skutki finansowe, jeśli zignorują wymogi AI Act.

Jak nie wpaść w kłopoty, gdy AI ciągle się rozwija?

Przede wszystkim:

1. Bądź na bieżąco z nowymi regulacjami i zaleceniami, zwłaszcza w zakresie przejrzystości algorytmów i testowania innowacyjnych rozwiązań.
2. Wdrażaj procedury monitorowania i aktualizacji systemów, aby w razie potrzeby szybko dostosować się do zmian.
3. Konsultuj się z ekspertami prawnymi i branżowymi. Przy szybko ewoluującym rynku kluczowe jest stałe sprawdzanie, czy Twoje systemy AI nie przerastają planowanych funkcji i nie wchodzą w strefę potencjalnych naruszeń bezpieczeństwa danych lub praw podstawowych.

Czy istnieją wyłączenia, np. w przypadku bezpieczeństwa narodowego?

Niektóre obszary, takie jak bezpieczeństwa narodowe lub cele ścigania przestępstw, mogą podlegać nieco łagodniejszym regulacjom, o ile wymaga tego interes publiczny. Niemniej jednak podstawowe wymogi w zakresie ochrony prywatności, rozwoju AI i podjęcie działań legislacyjnych zachowują swoją moc, co wymaga wypracowania procedur zgodnych z duchem odpowiedzialnego stosowania algorytmów.

XX. Podsumowanie: jak przygotować się na zmiany i nie zostać w tyle?

Audyt systemów AI i analiza ryzyka – pierwszy krok do zgodności

Zbadaj aktualne rozwiązania
Przeprowadź dokładną weryfikację wszystkich narzędzi, które mogą zostać uznane za systemy AI. Sprawdź, czy kwalifikują się one do kategorii systemów AI wysokiego ryzyka, oraz czy nie naruszają praw podstawowych ani przepisów dotyczących dokładności systemów rozpoznawania twarzy.

Przygotuj ścieżkę wdrożenia
Jeśli planujesz wprowadzenie nowych algorytmów w firmie, rozważ współpracę z centrami innowacji cyfrowych lub skorzystaj z piaskownic regulacyjnych. Dzięki temu testowanie innowacyjnych technologii odbędzie się w kontrolowanych warunkach, co pozwoli uniknąć niespodziewanych sankcji.

Stwórz plan ewentualnych korekt
Zdefiniuj sposób reagowania na zgłaszanie poważnych incydentów – dotyczy to zarówno błędów technicznych, jak i potencjalnej dyskryminacji w analizie czy podejmowaniu decyzji. Pamiętaj, że AI Act wymaga przejrzystego systemu zarządzania ryzykiem, co pomoże uniknąć surowych kar finansowych.