Nazaj na Blog
EU-AI-ActPravna-SkladnostUmetna-InteligencaUpravljanje-UIRevizijaB2B

Zakon EU o umetni inteligenci za operativno avtomatizacijo: Člen 50 in priprava na Prilogo III

Vodnik za uskladitev poslovnih sistemov z Aktom EU o umetni inteligenci: označevanje sintetičnih vsebin, varnostni nadzor in revizijska sled.

·9 min branja·Fonda Digital Engineering

Evropski parlament in Svet sta z uveljavitvijo Akta o umetni inteligenci (EU AI Act - Uredba 2024/1689) postavila prvi celovit pravni okvir za uporabo umetne inteligence na svetu. Za razliko od splošnih priporočil nova uredba prinaša neposredno zavezujoča pravila z izjemno visokimi sankcijami.

Za slovenska in evropska B2B podjetja, ki v svoje poslovanje uvajajo avtomatizacijo, klepetalne asistente ali algoritme za obdelavo podatkov, to pomeni konec obdobja neurejenega eksperimentiranja.

V tem prispevku pojasnjujemo ključne roke, zahteve 50. člena glede preglednosti ter tehnične ukrepe, ki jih morate sprejeti za pripravo na zahteve za visoko tvegane sisteme po Prilogi III.


1. Časovnica uveljavitve in ključni roki

Uredba uvaja stopenjsko uveljavitev zahtev:

Datum uveljavitve Zakonska zahteva Kaj to pomeni za podjetja
Februar 2025 Prepovedane prakse UI Popolna prepoved sistemov za družbeno točkovanje in biometrično prepoznavanje čustev na delovnem mestu.
Avgust 2025 Pravila za splošne modele UI (GPAI) Obveznosti ponudnikov temeljnih modelov glede tehnične dokumentacije in avtorskih pravic.
December 2026 Člen 50: Obveznosti preglednosti Obvezno označevanje klepetalnikov, sinteze glasu in strojno berljivi vodni žigi na generiranih vsebinah.
Avgust 2027 Priloga III: Visoko tvegani sistemi Polna uveljavitev za sisteme zaposlovanja, ocenjevanja kreditov in kritičnih odločitev.

2. Zahteve 50. člena: Transparentnost in označevanje

Podjetja, ki uporabljajo sisteme UI v stiku s strankami ali javnostjo, morajo zagotoviti:

  1. Jasno obvestilo uporabniku: Stranka mora biti ob prvem stiku nedvoumno obveščena, da komunicira z avtomatiziranim sistemom UI, razen kadar je to očitno iz okoliščin.
  2. Strojno berljivo označevanje (Watermarking): Vse avtomatsko generirane vsebine morajo vsebovati metapodatke po odprtih standardih (npr. C2PA), ki dokazujejo umetni izvor.
<!-- Primer semantične označitve po standardu EU AI Act -->
<div class="ai-generated-notice" role="status" aria-live="polite">
  <span class="badge">Operativni asistent UI</span>
  <p>To sporočilo je samodejno pripravil sistem Fonda AI na podlagi vašega povpraševanja. Odgovor je pregledal skrbnik stranke.</p>
</div>

3. Tehnična priprava na Prilogo III: Revizijske sledi in človek v zanki

Če vaši avtomatizirani procesi vplivajo na pravice ali ekonomske pogoje posameznikov, morate vzpostaviti:

  • Nemutabilne revizijske dnevnike (Audit Logging): Zapis vsake odločitve z vsemi vhodnimi parametri in verjetnostnimi ocenami modela.
  • Vmesnik za človeški nadzor (Human-in-the-Loop): Možnost, da operater v vsakem trenutku zavrne ali spremeni predlagano odločitev sistema pred končno potrditvijo.

4. Zaključek

Skladnost z Aktom EU o umetni inteligenci ne sme biti obravnavana zgolj kot pravno breme, temveč kot konkurenčna prednost. Podjetja, ki izkažejo preglednost, varnost in spoštovanje zasebnosti, hitreje pridobijo zaupanje zahtevnih evropskih B2B naročnikov.

Pogosta vprašanja

Kaj določa 50. člen Akta EU o umetni inteligenci?→
50. člen določa obveznosti glede preglednosti. Uporabniki morajo biti jasno obveščeni, kadar komunicirajo s sistemom umetne inteligence (npr. klepetalniki), vsebine, ustvarjene ali spremenjene z UI (besedila, zvok, slike), pa morajo biti strojno berljivo označene z ustreznimi metapodatki.
Kateri sistemi avtomatizacije spadajo med visoko tvegane po Prilogi III?→
Med visoko tvegane sisteme spadajo rešitve, ki odločajo o zaposlovanju in napredovanju (presejanje življenjepisov), oceni kreditne sposobnosti strank, dostopu do bistvenih javnih ali zasebnih storitev ter upravljanju kritične infrastrukture. Za te sisteme veljajo stroge zahteve glede revizijskih sledi in človeškega nadzora.
Kakšne so predvidene globe za neupoštevanje Akta EU o umetni inteligenci?→
Globe so med najvišjimi v evropski zakonodaji in lahko dosežejo do 35 milijonov evrov oziroma do 7 % celotnega svetovnega letnega prometa podjetja za najhujše kršitve prepovedanih praks, ter do 15 milijonov evrov oziroma 3 % prometa za kršitve drugih obveznosti.
Operational AI & Automation

Se utapljate v ročnih operacijah in nepreglednih skriptah?

Ročne podatkovne tokove nadomestimo z zanesljivimi Python mikrostoritvami, Cloudflare Workers in robustnimi samopopravljivimi UI delovnimi tokovi.

Zahtevajte operativno oceno →
ZAHTEVAJTE OPERATIVNO OCENO

Gradimo skupaj.

Naročite se na začetni operativni uvodni klic. Pregledali bomo vaša trenutna ozka grla in se pogovorili, kje bo avtomatizacija prinesla največji izkupiček.

Fonda Digital — Avtomatizacija

Senior inženirski studio s sedežem v Ljubljani in Izoli. Pregledamo procese, zgradimo zanesljive integracije in usposobimo vašo ekipo.

SEDEŽ:Ljubljana / Izola, Slovenija
ODZIVNI ČAS:V 4 delovnih urah (CET)
NEPOSREDNI KANAL:[email protected]
TRENUTNI ČAS: LJUBLJANA--:--:-- CET

Zaščita pred samodejnimi vsiljenimi sporočili.