Commission Guidelines on the definition of an artificial intelligence system established by Regulation (EU) 2024/1689 (AI Act)

Frontmatter

NL NL i n t e l l i Rg e in c ht i te ss ny os et e r e e m n vz ao na l ds EC E e v UO Ca RM E o s t O mg e P E ms ES i t e SS sl sd EI E N i eb G bi j e t A r e e r N f o f er nd E de BC en i r( dn u2 O eg s0 s2 d ( e 5 eE l ,) fU 2 5 i n ) 90 S i . 7 . 2 0 5 3 f S I E t i e v 2 0 2 4 2 i n a n / 1 5 a l e 6 8 e 9 n ( aA r t i- fv ie c r i ëo lr e d - e n i n g ) I. Het doel van deze richtsnoeren (1) Verordening (EU) 2024/1689 van het Europees Parlement en de Raad (“de AI- verordening”)1 is op 1 augustus 2024 in werking getreden. De AI-verordening bevat geharmoniseerde regels voor de ontwikkeling, het in de handel brengen, het in gebruik stellen en het gebruik van artificiële intelligentie (“AI”) in de Unie2. Het doel ervan is innovatie in en de invoering van AI te bevorderen en tegelijkertijd een hoog niveau van bescherming van de gezondheid, de veiligheid en de grondrechten in de Unie te waarborgen, met inbegrip van de democratie en de rechtsstaat. (2) De AI-verordening is niet van toepassing op alle systemen, maar alleen op systemen die voldoen aan de definitie van een “AI-systeem” in de zin van artikel 3, punt 1, van de AI- verordening. Derhalve is de definitie van wat een AI-systeem is essentieel om het toepassingsgebied van de AI-verordening te begrijpen. (3) Op grond van artikel 96, lid 1, punt f), van de AI-verordening moet de Commissie richtsnoeren ontwikkelen voor de toepassing van de definitie van een AI-systeem als bedoeld in artikel 3, punt 1, van die verordening. Door deze richtsnoeren af te geven beoogt de Commissie aanbieders en andere relevante personen, met inbegrip van marktpartijen en institutionele belanghebbenden, een helpende hand te bieden bij het bepalen of een systeem een AI-systeem is in de zin van de AI-verordening en op deze wijze de doeltreffende toepassing en handhaving van die verordening te vergemakkelijken. (4) De definitie van een AI-systeem is op 2 februari 20253 in werking getreden, samen met andere bepalingen van de hoofdstukken I en II van de AI-verordening, te weten artikel 5 van de AI-verordening over verboden AI-praktijken. Aangezien de definitie van een AI- systeem van doorslaggevend belang is om het toepassingsgebied van de AI-verordening, met inbegrip van de verboden praktijken, te begrijpen, worden deze richtsnoeren vastgesteld tegelijk met de richtsnoeren van de Commissie inzake verboden praktijken op het gebied van artificiële intelligentie. (5) In deze richtsnoeren wordt rekening gehouden met de resultaten van een raadpleging van belanghebbenden en de raadpleging van de Europese raad voor artificiële intelligentie. (6) Gezien de grote verscheidenheid aan AI-systemen is het niet mogelijk om in deze richtsnoeren een uitputtende lijst van alle potentiële AI-systemen op te nemen. Dit is in overeenstemming met overweging 12 van de AI-verordening, waarin wordt verduidelijkt dat het begrip “AI-systeem” duidelijk moet worden gedefinieerd en dat tegelijkertijd de nodige flexibiliteit moet worden geboden om te kunnen inspelen op de snelle technologische ontwikkelingen op dit gebied. De definitie van een AI-systeem mag niet mechanisch worden toegepast; elk systeem moet worden beoordeeld op basis van zijn specifieke kenmerken. 1 Verordening (EU) 2024/1689. 2 Artikel 1 van de AI-verordening. 3Artikel 113, derde alinea, punt a). (7) De richtsnoeren zijn niet bindend. Een gezaghebbende uitlegging van de AI-verordening kan uiteindelijk alleen worden gegeven door het Hof van Justitie van de Europese Unie (het Hof). II. Doelstelling en voornaamste elementen van de definitie van een AI-systeem (8) In artikel 3, punt 1, van de AI-verordening wordt een AI-systeem als volgt gedefinieerd: ""AI-systeem”: een op een machine gebaseerd systeem dat is ontworpen om met verschillende niveaus van autonomie te werken en dat na het inzetten ervan aanpassingsvermogen kan vertonen, en dat, voor expliciete of impliciete doelstellingen, uit de ontvangen input afleidt hoe output te genereren zoals voorspellingen, inhoud, aanbevelingen of beslissingen die van invloed kunnen zijn op fysieke of virtuele omgevingen;” (9) Deze definitie omvat zeven belangrijke elementen: 1) een op een machine gebaseerd systeem; 2) dat is ontworpen om met verschillende niveaus van autonomie te werken; 3) dat na het inzetten ervan aanpassingsvermogen kan vertonen; 4) en dat, voor expliciete of impliciete doelstellingen; 5) uit de ontvangen input afleidt hoe output te genereren 6) zoals voorspellingen, inhoud, aanbevelingen of beslissingen 7) die van invloed kunnen zijn op fysieke of virtuele omgevingen. (10) Bij de definitie van een AI-systeem wordt uitgegaan van een op de levenscyclus gebaseerd perspectief dat twee hoofdfasen omvat: de fase die aan het inzetten of het “opbouwen” van het systeem voorafgaat en de fase na het inzetten of het “gebruiken” van het systeem4. De zeven elementen van die definitie hoeven niet voortdurend aanwezig te zijn gedurende beide fasen van die levenscyclus. In plaats daarvan wordt in de definitie erkend dat specifieke elementen zich in één fase kunnen voordoen, maar mogelijk niet in beide fasen voortduren. Bij deze benadering wordt een AI-systeem gedefinieerd op een manier die recht doet aan de complexiteit en diversiteit van AI- systemen en wordt ervoor gezorgd dat de definitie in overeenstemming is met de doelstellingen van de AI-verordening door rekening te houden met een breed scala aan AI-systemen.

1. Op een machine gebaseerd systeem (11) De term “op een machine gebaseerd” verwijst naar het feit dat AI-systemen draaien op en worden ontwikkeld met machines. De term “machine” kan worden opgevat als zowel de hardware- als de softwarecomponenten die het AI-systeem in staat stellen te functioneren. De hardwarecomponenten hebben betrekking op de fysieke elementen van de machine, zoals verwerkingseenheden, geheugen, opslagapparaten, netwerkeenheden en invoer-/uitvoerinterfaces, die de rekeninfrastructuur leveren. De softwarecomponenten omvatten computercode, instructies, programma’s, 4 Zie voor een overzicht van de fasen van AI-systemen OESO (2024), “Explanatory Memorandum on the update OECD definition of an AI system”, OECD Artificial Intelligence Papers, No. 8, OECD Publishing, Parijs, https://doi.org/10.1787/623da898-en, blz. 7. besturingssystemen en toepassingen die bepalen hoe de hardware data verwerkt en taken uitvoert. (12) Alle AI-systemen zijn op machines gebaseerd, aangezien machines nodig zijn om de werking ervan mogelijk te maken, bijvoorbeeld voor het trainen van modellen, het verwerken van data, het ontwikkelen van voorspellende modellen en grootschalige geautomatiseerde besluitvorming. De volledige levenscyclus van geavanceerde AI- systemen is afhankelijk van machines die een groot aantal hardware- of softwarecomponenten kunnen omvatten. Het element “op een machine gebaseerd” in de definitie van een AI-systeem onderstreept het feit dat AI-systemen gebruik moeten maken van rekenkracht en gebaseerd moeten zijn op machinebewerkingen. (13) De term “op een machine gebaseerd” is van toepassing op een grote verscheidenheid aan computersystemen. Zo zijn de meest geavanceerde opkomende kwantumcomputingsystemen van dit moment, die sterk verschillen van traditionele computersystemen, op machines gebaseerde systemen, ondanks hun unieke werkingsbeginselen en het gebruik van kwantummechanische verschijnselen, net als biologische of organische systemen, mits zij rekencapaciteit bieden.

2. Autonomie (14) Het tweede element van de definitie heeft betrekking op het feit dat het systeem zodanig is ontworpen dat het “in verschillende mate autonoom” kan functioneren. In overweging 12 van de AI-verordening wordt verduidelijkt dat de zinsnede “in verschillende mate autonoom” betekent dat AI-systemen zodanig worden ontworpen dat “zij een zekere mate van onafhankelijkheid van menselijke betrokkenheid bezitten en zonder menselijke tussenkomst kunnen functioneren”. (15) De begrippen autonomie en inferentie gaan hand in hand: het inferentievermogen van een AI-systeem (d.w.z. de capaciteit ervan om output te genereren zoals voorspellingen, inhoud, aanbevelingen of beslissingen die van invloed kunnen zijn op fysieke of virtuele omgevingen) is van cruciaal belang om de autonomie ervan te bewerkstelligen. (16) Centraal in het begrip autonomie staan “menselijke betrokkenheid” en “menselijke tussenkomst”, en daarmee de interactie tussen mens en machine. Aan de ene kant van mogelijke interactie tussen mens en machine staan systemen die ontworpen zijn om alle taken uit te voeren door middel van handmatig bediende functies. Aan de andere kant staan systemen die zonder menselijke betrokkenheid of tussenkomst, d.w.z. volledig autonoom, kunnen functioneren. (17) De verwijzing naar “een zekere mate van onafhankelijkheid” in overweging 12 van de AI-verordening sluit systemen uit die zijn ontworpen om uitsluitend te werken met volledige handmatige menselijke betrokkenheid en interventie. Menselijke betrokkenheid en menselijke tussenkomst kunnen direct zijn, bijvoorbeeld door middel van handmatige controles, of indirect, bijvoorbeeld door middel van geautomatiseerde controlesystemen die mensen in staat stellen systeemactiviteiten te delegeren of daarop toezicht uit te oefenen. (18) Een systeem dat handmatige inputs nodig heeft om zelf output te genereren, is een voorbeeld van een systeem met een “een zekere mate van onafhankelijkheid”, omdat het systeem is ontworpen met de mogelijkheid om output te genereren zonder dat deze output handmatig wordt gecontroleerd, of expliciet en nauwkeurig door een mens wordt gespecificeerd. Evenzo is een expertsysteem dat na een delegatie van procesautomatisering door mensen op basis van menselijke input in staat is om zelfstandig output, zoals een aanbeveling, te produceren een systeem met een “zekere mate van onafhankelijkheid”. (19) De verwijzing in de definitie van een AI-systeem in artikel 3, punt 1, van de AI- verordening naar “een op een machine gebaseerd systeem dat is ontworpen om met verschillende niveaus van autonomie te werken” onderstreept het vermogen van het systeem om te interageren met zijn externe omgeving, en houdt niet in dat wordt gekozen voor een specifieke techniek, zoals machinaal leren, of modelarchitectuur voor de ontwikkeling van het systeem. (20) Daarom is het niveau van autonomie een noodzakelijke voorwaarde om te bepalen of een systeem als AI-systeem kan worden aangemerkt. Alle systemen die zijn ontworpen om met een redelijke mate van onafhankelijkheid te werken, voldoen aan de voorwaarde van autonomie in de definitie van een AI-systeem. (21) Systemen die met beperkte of zonder menselijke tussenkomst kunnen werken in specifieke gebruikscontexten, zoals in de in de bijlagen I en III bij de AI-verordening vastgestelde gebieden met een hoog risico, kunnen onder bepaalde voorwaarden aanleiding geven tot aanvullende potentiële risico’s en overwegingen inzake menselijk toezicht. De mate van autonomie is een belangrijke overweging voor een aanbieder bij het ontwerpen van bijvoorbeeld het menselijk toezicht op het systeem of risicobeperkende maatregelen voor het systeem in het kader van het beoogde doel van een systeem.

3. Aanpassingsvermogen (22) Het derde element van de definitie in artikel 3, punt 1, van de AI-verordening is dat het systeem “na het inzetten ervan aanpassingsvermogen kan vertonen”. De begrippen autonomie en aanpassingsvermogen zijn twee verschillende, maar nauw met elkaar verbonden begrippen. Ze worden vaak samen besproken, maar vertegenwoordigen verschillende dimensies van de functionaliteit van een AI-systeem. In overweging 12 van de AI-verordening wordt verduidelijkt dat “aanpassingsvermogen” betrekking heeft op zelflerende capaciteiten, waardoor het gedrag van het systeem tijdens het gebruik kan veranderen. Het nieuwe gedrag van het aangepaste systeem kan voor dezelfde input andere resultaten opleveren dan het voorgaande systeem. (23) Het gebruik van het woord “kan” in verband met dit element van de definitie wijst erop dat een systeem na het inzetten over aanpassingsvermogen of zelflerende capaciteiten kan, maar niet noodzakelijkerwijs hoeft te beschikken om een AI-systeem te vormen. Bijgevolg is het vermogen van een systeem om automatisch te leren, nieuwe patronen te ontdekken of verbanden in de data vast te stellen dat verder gaat dan waarop het systeem oorspronkelijk werd getraind, een facultatieve en dus geen doorslaggevende voorwaarde om te bepalen of het systeem als AI-systeem kan worden aangemerkt.

4. De doelstellingen van een AI-systeem (24) De doelstellingen van een AI-systeem vormen het vierde element van de definitie. AI- systemen zijn ontworpen om te functioneren volgens een of meer doelstellingen. De doelstellingen van het systeem kunnen expliciet of impliciet worden gedefinieerd. Expliciete doelstellingen verwijzen naar duidelijk omschreven doelen die rechtstreeks door de ontwikkelaar in de programmacode van het systeem worden ingevoerd. Zij kunnen bijvoorbeeld worden gespecificeerd in de vorm van de optimalisatie van een bepaalde kostenfunctie, een kans of een cumulatieve beloning. Impliciete doelstellingen hebben betrekking op doelen die niet expliciet worden genoemd, maar die kunnen worden afgeleid uit het gedrag of de onderliggende aannamen van het systeem. Deze doelstellingen kunnen voortvloeien uit de trainingsdata of uit de interactie van het AI- systeem met zijn omgeving. (25) In overweging 12 van de AI-verordening wordt verduidelijk dat “de doelstellingen van een AI-systeem kunnen verschillen van het beoogde doel van het AI-systeem in een specifieke context”. De doelstellingen van een AI-systeem zijn systeemintern en verwijzen naar de doelen van de uit te voeren taken en de resultaten ervan. Een virtueel AI-assistentiesysteem van een bedrijf kan bijvoorbeeld tot doel hebben gebruikersvragen over een reeks documenten met een hoge nauwkeurigheid en een laag foutenpercentage te beantwoorden. Het beoogde doel is daarentegen extern gericht en omvat de context waarin het systeem moet worden ingezet en de wijze waarop het moet worden bediend. Volgens artikel 3, punt 12, van de AI-verordening verwijst het beoogde doel van een AI- systeem immers naar het “gebruik waarvoor een AI-systeem door de aanbieder is bedoeld”. In het geval van een virtueel AI-assistentiesysteem van een bedrijf kan het beoogde doel bijvoorbeeld zijn een bepaalde afdeling van een onderneming bij te staan bij het uitvoeren van bepaalde taken. Hiervoor kan het noodzakelijk zijn dat de documenten die de virtuele assistent gebruikt, voldoen aan bepaalde vereisten (bv. wat lengte en formaat betreft) en dat de vragen van de gebruiker beperkt blijven tot het domein waarin het systeem moet worden gebruikt. Dit beoogde doel wordt niet alleen bereikt door middel van de interne werking van het systeem om de doelstellingen ervan te verwezenlijken, maar ook met andere factoren, zoals de integratie van het systeem in een bredere workflow voor klantenservice, de door het systeem gebruikte data of gebruiksinstructies.

5. Afleiden hoe output kan worden gegenereerd met behulp van AI-technieken (26) Het vijfde element van een AI-systeem is dat het uit de ontvangen input moet kunnen afleiden hoe outputs kunnen worden gegenereerd. In overweging 12 van de AI- verordening wordt verduidelijkt dat een belangrijk kenmerk van AI-systemen hun inferentievermogen is. Verder wordt in die overweging uitgelegd dat AI-systemen moeten worden onderscheiden van “eenvoudigere traditionele softwaresystemen of programmeringsbenaderingen”, en dat de term “AI-systeem” geen betrekking mag hebben “op systemen die gebaseerd zijn op regels die uitsluitend door natuurlijke personen zijn vastgesteld om automatisch handelingen uit te voeren”. Dit inferentievermogen is dan ook een noodzakelijke voorwaarde die AI-systemen van andere soorten systemen onderscheidt. (27) In overweging 12 wordt tevens uitgelegd dat “[d]it inferentievermogen slaat op het proces waarbij output, zoals voorspellingen, content, aanbevelingen of besluiten, wordt verkregen waarmee fysieke en virtuele omgevingen kunnen worden beïnvloed, en op het vermogen van AI-systemen om modellen of algoritmen, of beide, af te leiden uit input of data”. Deze interpretatie van het begrip “inferentie” is niet in tegenspraak met ISO/IEC- norm 22989, waarin inferentie wordt gedefinieerd als redeneren waarbij conclusies worden afgeleid van bekende premissen. In deze norm is een AI-specifieke opmerking opgenomen waarin wordt gesteld dat een premisse in het kader van AI een feit, een regel, een model, een kenmerk of onbewerkte data behelst. 5 (28) Het “proces waarbij output, zoals voorspellingen, content, aanbevelingen of besluiten, wordt verkregen waarmee fysieke en virtuele omgevingen kunnen worden beïnvloed” verwijst naar het vermogen van het AI-systeem, voornamelijk in de “gebruiksfase”, om outputs te genereren op basis van inputs. Een “vermogen van AI-systemen om modellen of algoritmen, of beide, af te leiden uit input of data” verwijst in de eerste plaats, maar blijft niet beperkt tot de “opbouwfase” van het systeem en onderstreept het belang van de technieken die worden gebruikt voor het opbouwen van een systeem. (29) De zinsnede “afleidt hoe” die wordt gebezigd in artikel 3, punt 1, en wordt verduidelijkt in overweging 12 van de AI-verordening, is ruimer dan en blijft niet beperkt tot een beperkte interpretatie van het begrip “inferentie” als een vermogen van een systeem om outputs af te leiden uit bepaalde inputs en daarmee het resultaat te infereren. Dienovereenkomstig moet de in artikel 3, punt 1, van de AI-verordening gebruikte formulering, namelijk “afleidt hoe output te genereren”, worden opgevat als een verwijzing naar de opbouwfase, waarbij een systeem outputs afleidt met behulp van AI- technieken die inferentie mogelijk maken. 5 ISO/IEC-norm 22989:2022, Informatietechnologie — Artificiële intelligentie — Concepten en terminologie op het gebied van artificiële intelligentie.

5.1. AI-technieken die inferentie mogelijk maken

(30) In het bijzonder met betrekking tot de opbouwfase van het AI-systeem wordt in overweging 12 van de AI-verordening verduidelijk dat de technieken die inferentie mogelijk maken bij de opbouw van een AI-systeem, benaderingen omvatten op basis van machinaal leren waarbij aan de hand van data wordt aangeleerd hoe bepaalde doelstellingen kunnen worden bereikt, alsook op logica en kennis gebaseerde benaderingen waarbij iets wordt geïnfereerd uit gecodeerde kennis of uit een symbolische weergave van de op te lossen taak. Die technieken moeten worden opgevat als “AI- technieken”. (31) In deze verduidelijking wordt benadrukt dat het begrip “inferentie” moet worden opgevat als de “opbouwfase” in ruimere zin van het AI-systeem. Voorts bevat overweging 12 van de AI-verordening richtsnoeren over technieken die een AI-systeem het vermogen verschaffen om af te leiden hoe output kan worden gegenereerd. De technieken die kunnen worden gebruikt om inferentie mogelijk te maken, omvatten dan ook “benaderingen op basis van machinaal leren waarbij aan de hand van data wordt geleerd hoe bepaalde doelstellingen kunnen worden bereikt, alsook op logica en kennis gebaseerde benaderingen waarbij iets wordt geïnfereerd uit gecodeerde kennis of uit een symbolische weergave van de op te lossen taak”. (32) De eerste categorie van AI-technieken die in overweging 12 van de AI-verordening wordt genoemd, omvat “benaderingen op basis van machinaal leren waarbij aan de hand van data wordt geleerd hoe bepaalde doelstellingen kunnen worden bereikt”. In deze categorie valt een grote verscheidenheid aan benaderingen die een systeem in staat stellen te “leren”, zoals supervised, self-supervised en unsupervised leren en reinforcement learning. (33) In het geval van supervised of gecontroleerd leren leert het AI-systeem aan de hand van annotaties (gelabelde data), waarbij de inputdata worden gekoppeld aan de juiste output. Met behulp van deze annotaties leert het systeem hoe inputs toe te wijzen aan outputs om deze vervolgens te veralgemenen tot gloednieuwe data. Een op AI gebaseerd systeem voor het opsporen van ongewenste e-mail (spam) is een voorbeeld van een systeem voor supervised leren. Tijdens de opbouwfase wordt het systeem getraind op een dataset met e-mails die mensen als “spam” of “niet spam” hebben bestempeld om patronen te leren herkennen op basis van de kenmerken van de gelabelde e-mails. Zodra het systeem is getraind en wordt gebruikt, kan het nieuwe e-mails analyseren en als spam of niet spam classificeren op basis van de patronen die het aan de hand van de gelabelde data heeft geleerd. (34) Andere voorbeelden van AI-systemen op basis van supervised leren zijn onder meer beeldclassificatiesystemen die zijn getraind op een dataset van afbeeldingen, waarbij elke afbeelding is voorzien van een reeks labels (bv. voorwerpen als auto’s), diagnostische systemen voor medische hulpmiddelen die zijn getraind op medische afbeeldingen die door menselijke deskundigen van labels zijn voorzien, en fraudedetectiesystemen die zijn getraind op gelabelde transactiegegevens. (35) In het geval van unsupervised leren leert het AI-systeem op basis van data die niet van labels zijn voorzien. Het model wordt getraind op data zonder vooraf opgegeven labels of outputs. Met behulp van verschillende technieken, zoals clustering, dimensionaliteitsreductie, analyse van verbanden, anomaliedetectie of generatieve modellen, wordt het systeem getraind om patronen, structuren of verbanden in de data te zoeken zonder expliciete richtsnoeren over het beoogde resultaat. AI-systemen die door farmaceutische bedrijven worden gebruikt voor de ontwikkeling van nieuwe geneesmiddelen, zijn voorbeelden van systemen waarbij unsupervised leren wordt toegepast. AI-systemen maken gebruik van unsupervised leren (bv. clustering of anomaliedetectie) om chemische verbindingen te groeperen en potentiële nieuwe behandelingen voor ziekten te voorspellen op basis van hun gelijkenissen met bestaande geneesmiddelen. (36) Self-supervised leren is een subcategorie van unsupervised leren, waarbij het AI- systeem op gecontroleerde wijze leert op basis van data zonder labels, waarbij de data zelf worden gebruikt voor het genereren van de bijbehorende labels of het vaststellen van de doelstellingen. AI-systemen op basis van self-supervised leren maken gebruik van diverse technieken, zoals auto-encoders, generatieve antagonistennetwerken of contrastief leren. Een beeldherkenningssysteem dat voorwerpen leert herkennen door ontbrekende pixels in een afbeelding te voorspellen, is een voorbeeld van een AI-systeem op basis self-supervised leren. Andere voorbeelden zijn taalmodellen die leren het volgende token in een zin te voorspellen of spraakherkenningssystemen die gesproken woorden herkennen door het volgende akoestische kenmerk in een audiosignaal te voorspellen. (37) AI-systemen op basis van reinforcement learning leren op basis van data die zij zelf hebben verzameld door middel van een beloningsfunctie. In tegenstelling tot AI- systemen die leren van gelabelde data (supervised leren) of die leren op basis van patronen (unsupervised leren), leren AI-systemen op basis van reinforcement learning van hun ervaringen. Het systeem krijgt geen expliciete labels, maar leert in plaats daarvan van zijn fouten, waarbij de strategie wordt verfijnd op basis van de feedback die het van de omgeving krijgt. Een op AI gebaseerde robotarm die taken kan uitvoeren zoals het oppakken van objecten, is een voorbeeld van een AI-systeem dat gebaseerd is op reinforcement learning. Reinforcement learning kan bijvoorbeeld ook worden gebruikt om gepersonaliseerde inhoudsaanbevelingen in zoekmachines en de prestaties van autonome voertuigen te optimaliseren. (38) Deep learning is een subset van machinaal leren waarbij gebruik wordt gemaakt van gelaagde architecturen (neurale netwerken) voor representatief leren. AI-systemen op basis van deep learning kunnen automatisch kenmerken aanleren op basis van onbewerkte data, waardoor handmatige feature engineering niet meer nodig is. Vanwege het grote aantal lagen en parameters vergt het trainen van AI-systemen op basis van deep learning doorgaans grote hoeveelheden data, maar kunnen deze systemen leren patronen te herkennen en voorspellingen te doen met een hoge nauwkeurigheid wanneer voldoende data worden verstrekt. Deep learning wordt op grote schaal ingezet in AI- systemen en is één van de technologieën achter vele recente doorbraken op het gebied van AI. (39) Naast de diverse benaderingen op basis van machinaal leren die hierboven worden besproken, omvat de tweede categorie technieken die in overweging 12 van de AI- verordening wordt genoemd op logica en kennis gebaseerde benaderingen waarmee inferenties worden gedaan op basis van gecodeerde kennis of een symbolische weergave van de op te lossen taak. In plaats van te leren van data, leren deze AI-systemen van kennis, waaronder regels, feiten en verbanden die door menselijke deskundigen zijn gecodeerd. Op basis van de door menselijke deskundigen gecodeerde kennis kunnen deze systemen “redeneren” met behulp van deductie- of inductiemachines of met behulp van bewerkingen als sorteren, zoeken, vergelijken en koppelen. Dergelijke systemen gebruiken logische inferentie om conclusies te trekken en passen daarbij formele logica, vooraf vastgestelde regels of ontologieën toe op nieuwe situaties. Op logica en kennis gebaseerde benaderingen omvatten bijvoorbeeld kennisrepresentatie, inductieve (logische) programmering, kennisbases, inferentie- en deductieve motoren, (symbolische) redeneringen, expertsystemen en zoek- en optimalisatiemethoden. Klassieke taalverwerkingsmodellen op basis van grammaticale kennis en logische semantiek zijn bijvoorbeeld gebaseerd op de taalstructuur, waarbij de syntactische en grammaticale componenten van zinnen worden vastgesteld om de betekenis van een bepaalde tekst te extraheren. Een ander belangrijk voorbeeld van AI-systemen op basis van logische en op kennis gebaseerde benaderingen zijn expertsystemen van de eerste generatie die bedoeld zijn voor medische diagnoses, die worden ontwikkeld door de kennis van een reeks medische deskundigen te coderen en die bedoeld zijn om op basis van een reeks symptomen van een bepaalde patiënt conclusies te trekken.

5.2. Systemen die buiten het toepassingsgebied van de definitie van een AI-systeem vallen

(40) In overweging 12 wordt tevens uitgelegd dat in de definitie van een AI-systeem onderscheid moet worden gemaakt tussen AI-systemen en “eenvoudigere traditionele softwaresystemen of programmeringsbenaderingen”, en dat de definitie “geen betrekking [mag] hebben op systemen die gebaseerd zijn op regels die uitsluitend door natuurlijke personen zijn vastgesteld om automatisch handelingen uit te voeren”. (41) Sommige systemen hebben de capaciteit om beperkte conclusies te trekken, maar kunnen niettemin buiten het toepassingsgebied van de definitie van het AI-systeem vallen vanwege hun beperkte capaciteit om patronen te analyseren en hun output autonoom aan te passen. Tot dergelijke systemen behoren onder meer: Systemen om wiskundige optimalisatie te verbeteren (42) Systemen waarmee wiskundige optimalisatie wordt verbeterd of om traditionele, beproefde optimalisatiemethoden, zoals lineaire of logistieke regressiemethoden, te versnellen en te benaderen, vallen buiten het toepassingsgebied van de definitie van het AI-systeem. De reden hiervoor is dat deze modellen weliswaar de capaciteit hebben om inferenties te doen, maar “de elementaire verwerking van data” niet overstijgen. Zo kan het feit dat een systeem al vele jaren op geconsolideerde wijze wordt gebruikt6 erop kunnen wijzen dat de elementaire verwerking van data niet overstijgt. Daartoe behoren bijvoorbeeld modellen op basis van machinaal leren waarmee functies of parameters bij optimalisatieproblemen worden benaderd met behoud van prestaties. De systemen hebben tot doel de efficiëntie te verbeteren van optimalisatiealgoritmen die worden gebruikt bij rekenkundige vraagstukken. Zij helpen bijvoorbeeld om optimalisatietaken te versnellen door aangeleerde benaderingen, heuristiek of zoekstrategieën te verschaffen. (43) Op natuurkunde gebaseerde systemen kunnen bijvoorbeeld gebruikmaken van technieken voor machinaal leren om de rekenprestaties te verbeteren, traditionele op natuurkunde gebaseerde simulaties te versnellen of parameters te schatten, die vervolgens in bestaande natuurkundige modellen worden verwerkt. Deze systemen vallen normaal gezien buiten het toepassingsgebied van de definitie van een AI-systeem. In dit voorbeeld worden complexe atmosferische processen, zoals de microfysica van wolken of turbulentie, benaderd met modellen voor machinaal leren waardoor snellere en rekenkundig efficiëntere voorspellingen mogelijk zijn. (44) Een ander voorbeeld van een systeem dat buiten het toepassingsgebied van de definitie valt, is een satelliettelecommunicatiesysteem waarmee de toewijzing van bandbreedte en het beheer van middelen worden geoptimaliseerd. Op het gebied van satellietcommunicatie kunnen traditionele optimalisatiemethoden moeite hebben met de realtime vereisten van het netwerkverkeer, met name bij de aanpassing aan schommelingen in de gebruikersvraag in verschillende regio’s. Modellen voor machinaal leren kunnen bijvoorbeeld worden gebruikt om het netwerkverkeer te voorspellen en de toewijzing van middelen als vermogen en bandbreedte aan satelliettransponders te optimaliseren, en leveren vergelijkbare prestaties als gevestigde methoden op dit gebied. (45) Deze systemen kunnen zich automatisch aanpassen en hun werking optimaliseren om de rekenprestaties te verbeteren, niet om bijvoorbeeld op intelligente wijze de bijbehorende besluitvormingsmodellen aan te passen. Onder deze voorwaarden kunnen zij worden uitgesloten van de definitie van een AI-systeem. Elementaire verwerking van data (46) Een systeem voor de elementaire verwerking van data is een systeem dat vooraf gedefinieerde, expliciete instructies of bewerkingen uitvoert. Dergelijke systemen worden ontwikkeld en ingezet om taken uit te voeren op basis van handmatige inputs of regels, zonder dat in enig stadium van de levenscyclus van het systeem sprake is van “leren, redeneren of modelleren”. Zij werken op basis van vaste, door mensen geprogrammeerde regels, zonder gebruik te maken van AI-technieken, zoals machinaal leren of op logica gebaseerde inferentie, om outputs te genereren. Deze systemen voor de elementaire verwerking van data omvatten bijvoorbeeld databankbeheersystemen 6 Hoe het ook zij, de systemen die vóór 2 augustus 2026 in de handel werden gebracht of in gebruik werden gesteld, vallen onder de “grandfather clause” van artikel 111, lid 2, van de AI-verordening. waarmee data worden gesorteerd of gefilterd op basis van specifieke criteria (bv. “zoek alle klanten die afgelopen maand een specifiek product hebben gekocht”), standaard- rekenbladtoepassingen zonder op AI gebaseerde functionaliteiten, en software waarmee een populatiegemiddelde wordt berekend op basis van een enquête, dat later in een algemene context wordt gebruikt. (47) Ook systemen die uitsluitend bedoeld zijn voor beschrijvende analyses, hypothesetests en visualisatie vallen buiten de definitie van een AI-systeem. In software voor de visualisatie van verkoopverslagen kunnen bijvoorbeeld statistische methoden worden gebruikt om een verkoopdashboard te maken dat de totale verkoop, de gemiddelde verkoop per regio en de verkooptrends in de loop van de tijd weergeeft. Met behulp van statistische methoden kunnen deze data worden samengevat en weergegeven in diagrammen en grafieken. Het systeem doet echter geen aanbevelingen over de manier waarop de verkoop kan worden vergroot of over de producten waarvoor reclame moet worden gemaakt. Een ander voorbeeld is een softwaresysteem dat statistische technieken toepast op opiniepeilingen of enquêtegegevens om de geldigheid, betrouwbaarheid, correlatie en statistische significantie ervan te bepalen. Dergelijke systemen zijn niet in staat tot “leren, redeneren of modelleren”, maar presenteren data alleen op informatieve wijze. Klassieke heuristische systemen (48) De klassieke heuristiek omvat probleemoplossende technieken die berusten op ervaringsgebaseerde methoden om op efficiënte wijze globale oplossingen te vinden. Heuristische technieken worden vaak gebruikt bij het programmeren wanneer het vinden van een exacte oplossing onpraktisch is vanwege tijdgebrek of gebrek aan middelen. In de klassieke heuristiek wordt doorgaans gebruikgemaakt van op regels gebaseerde benaderingen, patroonherkenning of proefondervindelijke strategieën in plaats van datagestuurd leren. In tegenstelling tot moderne systemen voor machinaal leren, die hun modellen aanpassen op basis van input-outputrelaties, passen klassieke heuristische systemen vooraf vastgestelde regels of algoritmen toe om oplossingen af te leiden. Zo kan een schaakprogramma dat gebruikmaakt van een minimax-algoritme met heuristische evaluatiefuncties de posities op het schaakbord beoordelen zonder vooraf van data te hoeven leren. Hoewel ze in tal van toepassingen goed werken, ontbreekt het heuristische methoden aan aanpassend en generaliserend vermogen in vergelijking met AI-systemen die leren op basis van ervaring. Eenvoudige voorspellingssystemen (49) Hoewel alle op machines gebaseerde systemen waarvan de prestaties kunnen worden bereikt door middel van een basisregel voor statistisch leren, technisch gezien kunnen worden geclassificeerd als systemen die gebruikmaken van benaderingen op basis van machinaal leren, vallen ze vanwege hun prestaties ervan buiten het toepassingsgebied van de definitie van een AI-systeem. (50) Bij financiële prognoses (basisbenchmarking) kunnen dergelijke op machines gebaseerde systemen bijvoorbeeld worden gebruikt om toekomstige aandelenkoersen te voorspellen door gebruik te maken van een schattingsfactor met de gemiddeldestrategie om een basisvoorspelling vast te stellen (bv. door altijd de historische gemiddelde prijs te voorspellen). Met behulp van dergelijke methoden voor elementaire benchmarking kan worden beoordeeld of meer geavanceerde modellen voor machinaal leren mogelijk toegevoegde waarde hebben. Bij een ander voorbeeld wordt de temperatuur van morgen voorspeld op basis van de gemiddelde temperatuur van de vorige week. Dit basissysteem schat alleen gemiddelden, maar kan niet tippen aan de prestaties van complexere prognosesystemen voor tijdreeksen waarvoor verfijndere modellen nodig zouden zijn. (51) Andere voorbeelden van systemen waarmee een basisscenario of benchmark kan worden vastgesteld, bijvoorbeeld door het (rekenkundig) gemiddelde te voorspellen, zijn statische schattingssystemen, zoals systemen voor het bepalen van de responstijd van de klantenondersteuning, die gebruikmaken van statische schattingen om de gemiddelde afhandelingstijd te voorspellen op basis van data uit het verleden, en zeer eenvoudige predictoren zoals vraagprognoses voor een winkel om te voorspellen hoeveel artikelen van een product dagelijks door de winkel zullen worden verkocht.

6. Outputs die van invloed kunnen zijn op fysieke of virtuele omgevingen (52) Het zesde element van de definitie van een AI-systeem in artikel 3, punt 1, van de AI- verordening houdt in dat het systeem “afleidt hoe output te genereren zoals voorspellingen, inhoud, aanbevelingen of beslissingen die van invloed kunnen zijn op fysieke of virtuele omgevingen”. Het vermogen van een systeem om output als voorspellingen, inhoud en aanbevelingen te genereren op basis van de inputs die het ontvangt en met behulp van machinaal leren en op logica en kennis gebaseerde benaderingen, neemt een centrale plaats in bij wat AI-systemen doen en onderscheidt deze systemen van andere vormen van software. De capaciteit om outputs te genereren en het soort output dat het systeem kan genereren, zijn van cruciaal belang om inzicht te verkrijgen in de functionaliteit en impact van een AI-systeem. (53) Outputs van AI-systemen behoren tot vier brede categorieën die zijn opgenomen in artikel 3, punt 1, van de AI-verordening: voorspellingen, inhoud, aanbevelingen en beslissingen. Elke categorie verschilt in de mate van menselijke betrokkenheid. (54) Voorspellingen behoren tot de meest voorkomende outputs die AI-systemen produceren en die de minste menselijke betrokkenheid vereisen. Een voorspelling is een schatting van een onbekende waarde (de output) op basis van bekende waarden die aan het systeem zijn verstrekt (de input). Softwaresystemen worden al tientallen jaren gebruikt om voorspellingen te genereren. AI-systemen die gebruikmaken van machinaal leren kunnen voorspellingen genereren die complexe patronen in data aan het licht brengen en nauwkeurige voorspellingen doen in zeer dynamische en complexe omgevingen. (55) AI-systemen die in zelfrijdende auto’s worden ingezet, zijn bijvoorbeeld ontworpen om in real time voorspellingen te doen in een uiterst complexe en dynamische omgeving, met meerdere soorten actoren en interacties, en een praktisch oneindig aantal mogelijke situaties, en om beslissingen te nemen om hun gedrag daaraan te passen. Niet-AI- systemen, die doorgaans gebruikmaken van historische gegevens, wetenschappelijke gegevens of vooraf vastgestelde regels, zoals bepaalde medische expertsystemen die niet gebaseerd zijn op AI, kunnen een dergelijke mate van complexiteit niet aan. Evenzo zijn AI-systemen voor het schatten van energieverbruik ontworpen om het energieverbruik te ramen door data van slimme meters, weersvoorspellingen en gedragspatronen voor consumenten te analyseren. Door bij het ontwerpen van het AI-systeem gebruik te maken van benaderingen op basis van machinaal leren kunnen complexe correlaties tussen deze variabelen worden opgespoord om nauwkeurigere voorspellingen van het energieverbruik te doen. (56) Inhoud verwijst naar het genereren van nieuw materiaal door een AI-systeem. Het kan daarbij gaan om tekst, afbeeldingen, video’s, muziek en andere vormen van output. Een toenemend aantal AI-systemen maakt gebruik van modellen voor machinaal leren (bijvoorbeeld op basis van GPT-technologie (Generative Pre-trained Transformer)) om inhoud te genereren. Hoewel inhoud, als outputcategorie, uit technisch oogpunt kan worden opgevat als een reeks “voorspellingen” of “beslissingen”, omdat deze output zeer gangbaar is in generatieve AI-systemen, is deze in overweging 12 van de AI-verordening opgenomen als afzonderlijke outputcategorie. (57) Aanbevelingen hebben betrekking op voorstellen met betrekking tot specifieke acties, producten of diensten aan gebruikers op basis van hun voorkeuren, gedrag of andere data- inputs. Net als voorspellingen kunnen zowel op AI gebaseerde als niet-op AI gebaseerde systemen worden ontworpen om aanbevelingen te genereren. Op AI gebaseerde aanbevelingssystemen kunnen bijvoorbeeld gebruikmaken van grootschalige data, zich in real time aanpassen aan het gedrag van gebruikers, sterk gepersonaliseerde aanbevelingen doen en efficiënt meegroeien met de dataset, functionaliteiten waarover niet-AI-systemen die afhankelijk zijn van statische, op regels gebaseerde mechanismen en beperkte data, zelden beschikken. In andere gevallen hebben aanbevelingen betrekking op mogelijke beslissingen, zoals het in dienst nemen van een kandidaat in een aanwervingssysteem, die later door mensen worden geëvalueerd. Als deze aanbevelingen automatisch worden toegepast, worden het beslissingen. (58) Beslissingen zijn conclusies die zijn getrokken of keuzes die zijn gemaakt door een systeem. Bij een AI-systeem dat als output een beslissing geeft, zijn processen geautomatiseerd die traditioneel door mensen worden verricht. Een dergelijk systeem veronderstelt een volledig geautomatiseerd proces waarbij een bepaald resultaat zonder menselijke tussenkomst wordt geproduceerd in de omgeving van het systeem. (59) Samengevat verschillen AI-systemen, met inbegrip van systemen op basis van benaderingen op basis van machinaal leren en logische of op kennis gebaseerde systemen, van niet-AI-systemen wat betreft hun vermogen om output te genereren in de vorm van voorspellingen, inhoud, aanbevelingen en beslissingen, in zoverre dat zij complexe verbanden en patronen in data kunnen verwerken. AI-systemen kunnen in het algemeen een grotere verscheidenheid aan outputs genereren dan andere systemen, bijvoorbeeld door gebruik te maken van patronen die tijdens de training zijn aangeleerd of door gebruik te maken van door deskundigen vastgestelde regels om beslissingen te nemen, wat in gestructureerde omgevingen zorgt voor geavanceerdere redeneringen.

7. Interactie met de omgeving (60) Het zevende element van de definitie van een AI-systeem behelst dat de outputs van het systeem “van invloed kunnen zijn op fysieke of virtuele omgevingen”. Bij dit element ligt de nadruk op het feit dat AI-systemen niet passief zijn, maar de omgevingen waarin zij worden ingezet actief beïnvloeden. De verwijzing naar “fysieke of virtuele omgevingen” houdt in dat een AI-systeem op zowel tastbare, fysieke objecten (bv. een robotarm) als virtuele omgevingen, met inbegrip van digitale ruimten, datastromen en software-ecosystemen, invloed kan uitoefenen. III. Slotopmerkingen (61) De definitie van een AI-systeem omvat een brede waaier aan systemen. De vaststelling of een softwaresysteem een AI-systeem is, moet gebaseerd zijn op de specifieke architectuur en functionaliteit van dat systeem, waarbij rekening moet worden gehouden met de zeven elementen van de definitie van artikel 3, punt 1, van de AI-verordening. (62) Het is niet mogelijk om automatisch vast te stellen of systemen al dan niet onder de definitie van een AI-systeem vallen en om uitputtende lijsten van dergelijke systemen vast te stellen. (63) Alleen bepaalde AI-systemen zijn onderworpen aan wettelijke verplichtingen en regelgevingstoezicht uit hoofde van de AI-verordening. De risicogebaseerde aanpak van de AI-verordening houdt in dat alleen systemen die de grootste risico’s voor de grondrechten en fundamentele vrijheden opleveren, onderworpen zullen zijn aan de verbodsbepalingen krachtens artikel 5 van de AI-verordening, de regelgeving voor AI- systemen met een hoog risico die onder artikel 6 van de AI-verordening vallen en de transparantievereisten voor een beperkt aantal specifieke AI-systemen zoals vastgelegd in artikel 50 van de AI-verordening. De overgrote meerderheid van de systemen zal niet worden onderworpen aan regelgevingseisen uit hoofde van de AI-verordening, zelfs als zij worden aangemerkt als AI-systemen in de zin van artikel 3, punt 1, van de AI- verordening. (64) De AI-verordening is tevens van toepassing op AI-modellen voor algemene doeleinden, die onder hoofdstuk V van de AI-verordening vallen. De analyse van de verschillen tussen AI-systemen en AI-modellen voor algemene doeleinden valt buiten het toepassingsgebied van deze richtsnoeren.