Evrópusambandið hefur innleitt nýja reglugerð um gervigreind (EU AI Act) sem miðar að því að tryggja örugga og siðferðislega notkun tækninnar. Reglugerðin flokkar gervigreindarkerfi eftir því hversu mikla áhættu þau teljast hafa í för með sér fyrir öryggi og grundvallarréttindi fólks.
Helstu áhættuflokkar
Reglugerðin skiptir gervigreind í fjóra meginflokka:
- Óviðunandi áhætta (e. Unacceptable risk): Kerfi sem eru bönnuð (e. prohibited) svo sem félagsleg stigagjöf (e. social scoring) eða tækni sem stýrir hegðun fólks með blekkingum.
- Mikil áhætta (e. High-risk): Kerfi sem eru mikið stýrð og falla undir strangar kröfur. Margar lausnir sem notaðar eru í háskólum falla hér undir.
- Takmörkuð áhætta (e. Limited risk): Kerfi sem lúta léttari kröfum um gagnsæi eins og spjallmenni (e. chatbots) og djúpfölsun (e. deepfakes).
- Lágmarks áhætta (e. Minimal risk): Kerfi sem eru óstýrð svo sem tölvuleikir eða ruslpóstssíur.
Gervigreindarreglugerð Evrópusambandsins (EU AI ACT)
https://artificialintelligenceact.eu/
Hvað þýðir þetta fyrir háskóla?
Háskólar geta bæði verið veitendur (ef þeir þróa eigin kerfi) og notendur (e. deployers) sem innleiða gervigreind í starfsemi sína. Samkvæmt reglugerðinni falla mörg svið háskólastarfs undir flokkinn mikil áhætta (Annex III):
- Inntökuferli og námsmat: Gervigreindarkerfi sem notuð eru til að ákveða aðgang að námi eða meta námsárangur teljast til mikillar áhættu.
- Eftirlit í prófum: Tækni sem notuð er til að fylgjast með eða greina óleyfilega hegðun nemenda í prófum fellur einnig í þennan flokk.
- Starfsmannahald: Kerfi sem notuð eru við ráðningar, mat á umsækjendum eða við stöðuhækkanir starfsfólks eru flokkuð sem áhættusöm.
- Bönnuð notkun: Almennt er bannað að nota gervigreind til að greina tilfinningar fólks innan menntastofnana nema í sérstökum læknisfræðilegum tilgangi eða af öryggisástæðum.
Undanþága fyrir rannsóknir og þróun
Mikilvægt er að hafa í huga að reglugerðin gildir ekki um gervigreindarkerfi sem eru eingöngu þróuð og notuð í þágu rannsókna, vísinda eða frumgerðasmíði áður en þau eru sett á markað. Þetta tryggir að akademískt frelsi til nýsköpunar sé virt.
High risk | Education and vocational training: AI systems determining access, admission or assignment to educational and vocational training institutions at all levels. Evaluating learning outcomes, including those used to steer the student’s learning process. Assessing the appropriate level of education for an individual. Monitoring and detecting prohibited student behaviour during tests.
Tímalína innleiðingar
Reglugerðin tekur gildi í áföngum:
- Bönnuð kerfi: Verða ólögleg sex mánuðum eftir gildistöku.
- Almenn gervigreind (GPAI): Reglur taka gildi eftir tólf mánuði.
- Áhættusöm kerfi í menntun: Reglur taka gildi að fullu eftir 24 mánuði.
Heimildir:
European Commission (2024). The EU Artificial Intelligence Act. Up-to-date developments and analyses of the EU AI Act. https://artificialintelligenceact.eu/
sjá líka: MEPs ready to negotiate first-ever rules for safe and transparent AI | News | European Parliament