Remissvar på Europeiska kommissionens (EC) förslag till förordning om harmoniserade regler för artificiell intelligens

""


Trafikanalys har getts tillfälle att yttra sig om förslaget och vill ge följande kommentarer och synpunkter, med en avgränsning till i huvudsak transportområdet.

Sammanfattande kommentarer och synpunkter

Trafikanalys instämmer generellt i behovsanalysen, att riskhantering är en förutsättning för att tillvarata och nyttja AI säkert, effektivt och hållbart. Det motiverar gemensamma legala ramverk med krav på risk- och informationshantering. Samtidigt rymmer förslaget kriterier och metoder för riskhantering som kan utvecklas. Strategin med officiell listning av högrisksystem bör ersättas med generella krav på evidens­baserad riskvärdering.

EC:s förslag bygger på riskklassifikationer av AI-system på basis av olika och delvis oklara kriterier. Vissa AI-system förbjuds med hänvisning till ändamål och teknik, till exempel fjärridentifiering av personer i offentliga miljöer i realtid med hjälp av biometriska data i brotts­bekämpande syfte. I andra fall klassas generella tillämpnings­områden som högrisksystem med hänvisning till allmänna hälso- och säkerhetsrisker, till exempel AI som stöd för trafiksäkerhet på vägar och på fritidsbåtar, samtidigt som andra delar av transportsystemet undantas eller förbises.

I sin nuvarande form ger förslaget intryck av mer eller mindre godtycklig riskklassifikation av AI-system på transportområdet. Det förstärks av otillräckliga motiveringar i förslaget, exempelvis att i allmänna ordalag åberopa branschförutsättningar som grund för olika undantag på transport­området, men inte på andra områden.

Strategin med officiell listning av högrisksystem kan snabbt bli obsolet. Utvecklings­takten är hög på AI-området, även i form av glidningar och korsbefruktningar mellan branscher och sektorer. Osäkerhet om, när och hur riskkriterier ska tillämpas gör även ansvaret för riskhanteringen oklar. Det gäller även hur kunskaps- och kompetensförsörjningen om AI-risker och riskhantering kan och bör främjas mer generellt.

Trafikanalys bedömer därför att kriterier och metoder för riskhantering av AI-system kan och bör utvecklas. Dels genom att utgå från evidensbaserad riskvärdering som grund för riskhantering. Dels genom konsekventa och tydliga kriterier för att klassa systemrisker. Detta bör lägga grunden för tydligare ansvar för riskhantering och utveckling av kunskap och medvetenhet om AI-risker.

Evidensbaserad riskvärdering avser utvärderingar av enskilda AI-system, till skillnad från EC:s förslag på schematiska riskklasser. Ett regelverk för riskhantering av AI-system kan och bör utgå från ett egenansvar för riskvärdering, att det görs till en integrerad del av produkt- och kvalitetsutveckling, med oberoende metodstöd och krav på kvalitetssäkring, tillsyn, samt möjligheter till ansvarsutkrävande.

Sammanfattningsvis, kommissionens förslag gör det svårt att överblicka och konsekvent hantera AI-risker på transportområdet. Regeltillämpningar riskerar att bli godtyckliga. En mer systematisk ansats vore att utgå från (1) generellt egenansvar för riskvärdering och riskhantering, (2) medborgarnas och organisationers rätt till oberoende validering, samt (3) myndigheters ansvar för tillsyn, kvalitets­säkring och kunskapsuppbyggnad.

Hela remissyttrandet hittar du här


Von der Leyen höll tal om tillståndet i unionen


I sitt tal om tillståndet i unionen den 15 september 2021 beskrev EU-kommissionens ordförande Ursula von der Leyen de viktiga n...

Utlysning inom Fonden för ett sammanlänkat Europa


En ny utlysning inom Fonden för ett sammanlänkat Europa (Connecting European Facility, CEF) som omfattar 7 miljarder Euro rikta...

Yttrande över förslag till ändring av EU ETS direktiv 2003/87/EG inklusive flyg, beslut (EU) 2015/1814 angående marknadsstabilitetsreserven och förordning (EU) 2015/757 angående MRV


Materialet som remissen omfattar är omfångsrikt och inte helt lättöverskådligt. Trafikanalys lyfter i remissvaret därför fram e...