Kontrola systemów zautomatyzowanego podejmowania decyzji stosowanych w postępowaniu administracyjnym

Książka dotyczy zagadnień z zakresu postępowania administracyjnego, w którym organy administracji wykorzystują systemy zautomatyzowanego podejmowania decyzji. Autor analizuje, w jaki sposób algorytmy oddziałują na postępowanie administracyjne oraz jakie formy nadzoru są niezbędne, by nie naruszyć wartości chronionych przez Kodeks postępowania administracyjnego. Ponadto odpowiada m.in. na pytania: na czym polega specyfika automatycznego decydowania w postępowaniu administracyjnym i z jakimi wiąże się ona wyzwaniami; jakie przepisy znajdują zastosowanie do automatycznego decydowania w postępowaniu administracyjnym; czym różni się kontrola automatycznego aktu administracyjnego od kontroli aktu wydawanego w pełni przez człowieka; jaką rolę w kontroli zgodności z prawem systemów zautomatyzowanego podejmowania decyzji powinien odgrywać sąd; jakie wymogi powinny spełniać systemy zautomatyzowanego podejmowania decyzji stosowane do załatwiania spraw indywidualnych. Szczególną uwagę poświęcono systemom AI wysokiego ryzyka oraz aksjologicznym podstawom ich stosowania w administracji publicznej. Publikacja opiera się na bogatych przykładach z Polski i zagranicy, uwzględnia regulacje RODO oraz najnowsze europejskie ramy prawne dotyczące sztucznej inteligencji (AI Act). Opracowanie jest przeznaczone przede wszystkim dla pracowników organów administracji publicznej, radców prawnych obsługujących organy administracji publicznej orazsędziów sądów powszechnych i administracyjnych.

Spis treści „Kontrola systemów zautomatyzowanego podejmowania decyzji stosowanych w postępowaniu administracyjnym ” Zawartość Nr strony Wykaz skrótów 11     Wstęp 15     Rozdział I Pojęcie systemów zautomatyzowanego podejmowania decyzji oraz ich znaczenie dla działalności administracji publicznej 23     1. Uwagi wprowadzające 23     2. Pojęcie systemów ADM 25     3. Systemy ADM a sztuczna inteligencja i algorytmy 34     4. Obszary zastosowania systemów ADM 44     5. Znaczenie systemów zautomatyzowanego podejmowania decyzji dla administracji publicznej 53     6. Podsumowanie 62     Rozdział II Zastosowanie systemów zautomatyzowanego podejmowania decyzji w postępowaniu administracyjnym 65     1. Wprowadzenie 65     2. Pojęcie postępowania administracyjnego 66     3. Systemy ADM a postępowanie administracyjne w Polsce 71         3.1. Profilowanie osób bezrobotnych 72             3.1.1. Brak przejrzystości zautomatyzowanych procedur 75             3.1.2. Brak odpowiedniej procedury odwoławczej 76             3.1.3. Uproszczenie złożonych sytuacji życiowych 78         3.2. Wykrywanie nadużyć podatkowych 81         3.3. Waloryzacja świadczeń emerytalnych 88     4. Systemy ADM a postępowanie administracyjne na świecie 91         4.1. Wykrywanie nadużyć w pobieraniu świadczeń socjalnych w Australii 93         4.2. Deportacja oraz uchylenie wizy w Zjednoczonym Królestwie 99         4.3. Pozwolenia na wycinkę drzew na obszarze zielonej sieci w Estonii 105     5. Podsumowanie 110     Rozdział III Europejskie ramy prawne zautomatyzowanego podejmowania decyzji 113     1. Wprowadzenie 113     2. Ogólne ramy zautomatyzowanego podejmowania decyzji wynikające z RODO 114         2.1. Przesłanki wyznaczające zakres zastosowania art. 22 ust. 1 RODO 116         2.2. Podstawa prawna zautomatyzowanego podejmowania decyzji przez organy administracji 124         2.3. Właściwe środki ochrony praw, wolności i prawnie uzasadnionych interesów osoby, której dane dotyczą. 129             2.3.1. Prawo do ludzkiej interwencji 131             2.3.2. Prawo do zakwestionowania decyzji 133             2.3.3. Prawo do wyrażenia własnego stanowiska 135             2.3.4. Prawo do bycia poinformowanym o zasadach podejmowania całkowicie zautomatyzowanych decyzji 136         2.4. Automatyczne decydowanie nieobjęte zakresem zastosowania art. 22 ust. 1 RODO 141         2.5. Ograniczenie prawa do niepodlegania decyzjom automatycznym 143         2.6. Ocena wpływu na ochronę danych osobowych (data protection impact assessment) 145     3. Wymogi wobec systemów AI wynikające z AI Act 151         3.1. Ogólne założenia AI Act 151         3.2. Pojęcie systemu AI 152         3.3. Role organu publicznego na gruncie AI Act 158         3.4. Zakazane praktyki 159         3.5. Systemy wysokiego ryzyka 161         3.6. Ocena skutków dla praw podstawowych (fundamental rights impact assessment) 167         3.7. Systemy ograniczonego ryzyka w zakresie transparentności 171         3.8. Wejście w życie i rozpoczęcie stosowania 173         3.9. Stosunek do istniejących regulacji 174     4. Podsumowanie 178     Rozdział IV Uwarunkowania aksjologiczne stosowania systemów zautomatyzowanego podejmowania decyzji w postępowaniu administracyjnym 181     1. Wprowadzenie 181     2. Aksjologia postępowania administracyjnego 183     3. Automatyzacja a demokratyczne państwo prawne 187         3.1. Systemy regułowe 191         3.2. Systemy oparte na uczeniu maszynowym 193     4. Automatyzacja a sprawiedliwość proceduralna 197         4.1. Prawda obiektywna 203         4.2. Czynny udział w postępowaniu 206         4.3. Prawo do zaskarżenia decyzji 211     5. Automatyzacja a władza dyskrecjonalna organu 218     6. Automatyzacja a proporcjonalność 225     7. Podsumowanie 231     Rozdział V Modele kontroli systemów zautomatyzowanego podejmowania decyzji w postępowaniu administracyjnym 235     1. Wprowadzenie 235     2. Kontrola administracji publicznej 236         2.1. Pojęcie kontroli i jej znaczenie 236         2.2. Przedmiot kontroli 242         2.3. Kryteria kontroli 243         2.4. Moment kontroli 246         2.5. Podmioty kontrolujące 247         2.6. Podsumowanie 249     3. Pojęcie modelu kontroli 250     4. Kontrola automatycznych aktów administracyjnych w toku instancji administracyjnej 254         4.1. Uwagi ogólne 254         4.2. Przedmiot 257         4.3. Kryterium 261         4.4. Moment 262         4.5. Podmioty kontrolujące 263             4.5.1. Kontrola indywidualna – strona postępowania 263             4.5.2. Kontrola funkcjonalna – autokontrola organu 264             4.5.3. Kontrola instytucjonalna – organ odwoławczy 266             4.5.4. Kontrola uzupełniająca – podmioty na prawach strony 267         4.6. Podsumowanie 270     5. Kontrola automatycznych aktów administracyjnych przed sądem 270         5.1. Uwagi ogólne 270         5.2. Przedmiot 272             5.2.1. Automatyczny akt administracyjny 272             5.2.2. Samoistna kontrola aktów z zakresu administracji publicznej mających wpływ na treść decyzji 278         5.3. Kryterium 282         5.4. Moment 286         5.5. Podmioty kontrolujące 288             5.5.1. Kontrola indywidualna – skarżący 288             5.5.2. Kontrola funkcjonalna – autokontrola organu 289             5.5.3. Kontrola uzupełniająca – prokurator, rzecznicy oraz organizacje społeczne 290         5.6. Podsumowanie 292     6. Kontrola systemów teleinformatycznych służących do realizacji zadań publicznych 293         6.1. Uwagi ogólne 293         6.2. Przedmiot 295         6.3. Kryterium 299         6.4. Moment 303         6.5. Podmioty kontrolujące 305             6.5.1. Kontrola indywidualna 305             6.5.2. Kontrola funkcjonalna – podmiot publiczny 305             6.5.3. Kontrola instytucjonalna – właściwy organ kontrolny 306             6.5.4. Kontrola uzupełniająca 309         6.6. Podsumowanie 309     7. Kontrola zautomatyzowanego przetwarzania danych w rozumieniu przepisów o ochronie danych osobowych 310         7.1. Uwagi ogólne 310         7.2. Przedmiot 312         7.3. Kryterium 314         7.4. Moment 316         7.5. Podmioty kontrolujące 318             7.5.1. Kontrola indywidualna – jednostka 318             7.5.2. Kontrola funkcjonalna – podmiot przetwarzający dane osobowe 322             7.5.3. Kontrola instytucjonalna – Prezes Urzędu Ochrony Danych Osobowych 327             7.5.4. Kontrola uzupełniająca – sąd administracyjny, sąd powszechny, trybunały, RPO, prokurator 335         7.6. Podsumowanie 341     8. Kontrola systemu AI w rozumieniu przepisów AI Act 342         8.1. Uwagi ogólne 342         8.2. Przedmiot 343         8.3. Kryterium 344         8.4. Moment 345         8.5. Podmioty kontrolujące 346             8.5.1. Kontrola indywidualna – jednostka 346             8.5.2. Kontrola funkcjonalna – operator systemu AI 352             8.5.3. Kontrola instytucjonalna – organ nadzoru rynku 356             8.5.4. Kontrola uzupełniająca – SOKiK, trybunały, RPO, prokurator, podmioty społeczeństwa obywatelskiego 365         8.6. Podsumowanie 369     9. Wpływ przyjętego modelu na założenia sprawiedliwości proceduralnej 370         9.1. Prawda materialna 371         9.2. Udział w postępowaniu strony 375         9.3. Prawo do wniesienia środka zaskarżenia 377         9.4. Podsumowanie 380     10. Podsumowanie 380     Rozdział VI: Kontrola systemów zautomatyzowanego podejmowania decyzji w ujęciu prawnoporównawczym 385     1. Wprowadzenie 385     2. Algorytmiczne oceny wpływu 386     3. Wzorcowe zasady EIP 388     4. Dyrektywa kanadyjska 393     5. Algorithmic Accountability Act 2025 396     6. Podsumowanie 403