Nya regelverket EU AI Act har klubbats igenom, vad innebär det för företag? Kan du använda ChatGPT till ett Facebookinlägg och plötsligt behöva böta 350 miljoner kronor? Vi reder ut.

EU:s nya AI-förordning (EU AI Act), godkändes den 21 maj 2024. Den syftar till att reglera användningen av artificiell intelligens (AI) inom EU.

Vad säger EU AI Act som kan röra företag?

AI-förordningen gäller för alla organisationer som använder AI-system, både vad gäller utveckling och användning. Den delar in AI-tillämpningar i olika risknivåer.

Viss tillämpning av AI (som manipulativa tekniker) förbjuds helt.

Högrisktillämpningar (som till exempel används i kritisk infrastruktur, utbildning, anställning, viktiga privata och offentliga tjänster, brottsbekämpning, migration och rättskipning), omfattas av strikta krav. Bland annat krav på riskhanteringssystem, teknisk dokumentation, register, mänsklig översyn och CE-märkning.

Medan AI-system med lägre risker har mindre omfattande krav.

När det gäller att använda AI-system som chattbotar och annan generativ AI (AI-genererad bild, tal, video och text), behöver företag säkerställa att användare förstår i vilken utsträckning de interagerar med AI-system och AI-genererat material.

Särskilda regler gäller för generella AI-modeller som kan utföra en mängd olika uppgifter, likt OpenAI:s ChatGPT och Googles Gemini (före detta Bard). Bland annat krävs teknisk dokumentation, information till de som avser integrera den generella modellen i andra AI-system och policy för att beakta upphovsrättsfrågor.

Samtidigt tillåts fri användning av AI-system med minimal risk, som till exempel spamfilter.

Vad kan EU AI Act innebära för mitt företag?

Det beror på ditt företags verksamhet. Men för de flesta företag kommer EU AI Act inte att innebära stora förändringar, utan främst handla om att ha koll på vilka AI-system som används, informera konsumenter om att de interagerar med ett AI-system (om ni till exempel har en chatbot i kundtjänst eller använder AI för att analysera kunddata eller rekommendera produkter), märka upp AI-genererat innehåll, samt säkerställa att personal som arbetar med AI-system har tillräcklig kunskap. Lagens betoning på användarnas samtycke och transparens kan också kräva förändringar i hur du samlar in och använder konsumentdata.

Vem ansvarar för att följa EU AI Act?

Ansvaret för att följa förordningen ligger huvudsakligen på leverantörer av AI-system. För högrisktillämpningar har även importörer och distributörer ett visst ansvar, exempelvis att se till att leverantören fullgjort sina skyldigheter. Men även organisationer som använder AI-system har ett ansvar för sina AI-tillämpningar.

Alla aktörer som placerar sitt eget varumärke på ett AI-system, modifierar systemet på ett betydelsefullt sätt eller byter användningsområde för det, kan få ett mycket mer omfattande ansvar motsvarande det som leverantörer har gällande högrisktillämpningar.

Vad är sanktionerna för att som företag bryta mot EU AI Act?

Sanktionerna för överträdelser av AI-förordningen är betydande och varierar beroende på överträdelsens allvar från 7,5 miljoner euro eller 1% av årsomsättningen hela vägen upp till 35 miljoner euro eller 7 % av årsomsättningen. Små och medelstora företag har lägre maxsanktioner än storföretag.

Vad är AI sandlådor?

AI-regulatoriska sandlådor är en del av förordningen som syftar till att främja innovation för start-ups och småföretag. Företag ska kunna experimentera med och testa AI-system i en kontrollerad miljö. Detta är särskilt relevant för småföretagare som vill utveckla och marknadsföra nya AI-lösningar utan att direkt omfattas av fullständiga regulatoriska krav.

När träder EU AI Act i kraft?

Förordningen träder i kraft 20 dagar efter att den publicerats i Europeiska unionens officiella tidning, vilket bör ske snart. Den blir sedan fullt tillämplig 36 månader senare, med vissa delar som träder i kraft tidigare. Förbjudna AI-praktiker förbjuds efter sex månader, förpliktelser för generella AI-modeller gäller efter tolv månader, och för högrisktillämpningar gäller reglerna efter 24 månader.

Vad bör jag som småföretagare göra nu?

1. Analysera ert nuläge och eventuella åtgärder: Se över vilka typer av AI-system som ni använder eller planerar att använda. Handlar det om mer avancerade AI-system som kan omfattas av AI-förordningen? Vilka riskkategorier faller de i så fall inom? Vilken typ av aktör är ni (leverantör, användarorganisation, distributör)? Se över hur du behöver agera utifrån detta. Definiera hur ni säkerställer att ni följer reglerna och har hög datasäkerhet, vems är ansvaret?
2. Planera framåt: Fundera på hur ni vill balansera innovation och risk. Vilken strategi ni vill ha – vill ni vara ledande inom AI-utvecklingen eller avvaktande? Ska ni vidareutveckla någon affärsidé kopplat till AI?
3. Sätt rutiner: I förordningen kommer det att ställas krav på bland annat spårbarhet för beslut och dokumentation om de AI-system som används. Det kan därför vara bra att redan nu se över denna typ av rutiner inom verksamheten. Ett bra stöd finns i den förtroendemodell som flera myndigheter har tagit fram.

Hur kan jag som småföretagare tjäna på EU AI Act?

1. Ökad trovärdighet och förtroende: Genom att följa de nya reglerna kan ditt företag framstå som pålitligt och ansvarsfullt, vilket kan öka kundernas förtroende och lojalitet. Certifiering och efterlevnad av regler kan användas som en marknadsföringsfördel.
2. Nya affärsmöjligheter: Det kan finnas nya affärsmöjligheter för konsulter och småföretag som erbjuder tjänster för att hjälpa andra företag att uppfylla AI-reglerna. Specialisering i att skapa och implementera etiska AI-lösningar kan bli en växande marknad.
3. Förbättrad produktkvalitet och innovation: De nya reglerna kan driva innovation genom att uppmuntra företag att utveckla säkra och effektiva AI-system. Företag som investerar i att förbättra sina AI-system enligt de nya standarderna kan skapa bättre produkter och tjänster. Varför inte börja fundera på hur ni kan dra nytta av AI redan nu? Här finns verktyg, tips och trix för att komma igång och växa ditt företag med artificiell intelligens.