Umělá inteligence ve službách obcí – nové povinnosti, ale i příležitosti

Ing. Jan Mareš, MPA, LL.M.

Umělá inteligence ve službách obcí – nové povinnosti, ale i příležitosti

Evropská unie schválila v roce 2024 tzv. Akt o umělé inteligenci, oficiálně Nařízení (EU) 2024/1689, které představuje první ucelený právní rámec pro vývoj, nasazování a používání systémů umělé inteligence (AI) napříč členskými státy. Toto nařízení dopadá i na každodenní chod městských a obecních úřadů, které se čím dál více spoléhají na automatizaci, datovou analytiku a digitální nástroje.

Obce a města využívají AI především v těchto oblastech:

Krizové řízení a predikce událostí (např. monitoring hlášení poruch nebo výstražných systémů).

Zpracování a třídění elektronických podání (např. třídění došlé pošty v rámci spisové služby, žádosti o nájem obecních bytů, granty, místní poplatky, automatizované vyřizování podnětů občanů),

Komunikace s občany prostřednictvím chatbotů a digitálních asistentů,

Chytrá správa majetku a infrastruktury (prediktivní údržba, sledování poruch, optimalizace veřejného osvětlení),

Městské plánování a analýzy dat (využití území, doprava, veřejné investice, školství),

Právě zde však nařízení klade důraz na rozlišení mezi běžným využitím AI a případy, kdy systémy AI přímo ovlivňují práva, povinnosti nebo přístup k veřejným službám – tedy takzvané vysoce rizikové systémy. Tyto vyžadují zvláštní dohled, dokumentaci a transparentnost.

Nová odpovědnost: školit zaměstnance

Od 02.02.2025 vstoupila v platnost první část uvedeného nařízení, ze které vyplývá mj. povinnost pro zaměstnavatele zajistit gramotnost v oblasti umělé inteligence pro všechny své zaměstnance, kteří nástroje AI využívají. .Jednou z méně viditelných, ale naprosto zásadních novinek je požadavek na zvýšení tzv. AI gramotnosti ve veřejné správě. Podle článku 4 nařízení mají instituce, včetně měst a obcí, povinnost zajistit, že jejich zaměstnanci rozumějí:

  • tomu, jak AI systémy fungují a jak vznikají jejich výstupy,
  • jejich omezením a rizikům,
  • způsobům, jak výstupy AI přezkoumat a případně opravit,
  • pravidlům ochrany osobních údajů v souvislosti s používáním AI.

Tato školení se mají týkat nejen pracovníků, kteří systémy přímo obsluhují, ale i těch, kdo AI výstupy používají při rozhodování, připravují podklady pro vedení obce nebo komunikují s občany.

Jak může vypadat kvalitní školení?

Nařízení sice neurčuje přesný formát školení, ale jeho obsah by měl odpovídat míře využití AI na daném úřadě. Prakticky může jít například o:

interní workshopy vedené dodavatelem AI systému nebo ICT oddělením,

e-learningové kurzy zaměřené na AI v samosprávě,

semináře pořádané ministerstvem, DIGI agenturou či krajem,

nebo kombinované formáty školení a testů pro ověření pochopení rizik a povinností.

Při zavádění nového AI systému by mělo být školení součástí implementace. Doporučuje se také vytvoření vnitřního školícího plánu a vzorové směrnice, která jasně určí, kdo se má školit, kdy a v jakém rozsahu.

Přehled, informovanost, důvěryhodnost

Obecní úřady mají podle nařízení rovněž povinnost informovat občany, pokud jejich žádost nebo jiná agenda je zpracovávána pomocí AI systému. Občan má mít možnost:

  • dozvědět se, že výstup byl generován AI,
  • požádat o lidské přezkoumání,
  • získat vysvětlení použitých kritérií.

Zároveň musí úřad vést záznamy o fungování AI systémů, aby bylo možné rozhodnutí zpětně vysvětlit a přezkoumat.

Inovace s důvěrou

Akt o umělé inteligenci vytváří prostor pro odpovědnou digitalizaci veřejné správy. Nezakazuje inovace, ale vyžaduje, aby probíhaly v souladu s principy transparentnosti, bezpečnosti a lidského dohledu. Města a obce mají nyní nejen technickou, ale i vzdělávací výzvu: připravit své úředníky na práci s novými technologiemi, které budou stále více ovlivňovat správní procesy.

Tím, že obce investují do kompetencí svých lidí, zajišťují si nejen právní jistotu, ale především důvěru občanů v moderní veřejnou službu.