Siðferðisleiðbeiningar Evrópusambandsins (ESB) eru hannaðar til að tryggja að gervigreind sé mannmiðuð (e. human-centric). Fyrir stofnun eins og Háskóla Íslands, þar sem þekkingarsköpun og gagnrýnin hugsun eru í fyrirrúmi, veita þessar leiðbeiningar ramma til að nýta tæknina án þess að fórna siðferðislegum gildum.
Stoðirnar þrjár: Grundvöllur trausts
Samkvæmt leiðbeiningunum verður traust gervigreind að uppfylla þrjú skilyrði á öllum lífstíma kerfisins:
- Lögmæti (e. lawful): Að fylgja öllum gildandi lögum og reglum (t.d. GDPR).
- Siðferði (e. ethical): Að tryggja fylgni við siðferðisleg gildi og reglur.
- Gæði (e. robust): Að kerfin séu tæknilega örugg og skaði ekki fólk eða umhverfi fyrir slysni.
Siðferðisleiðbeiningar ESB fyrir trausta gervigreind (e. Ethics guidelines for trustworthy AI)
https://digital-strategy.ec.europa.eu/en/library/ethics-guidelines-trustworthy-ai
Hvað þýða leiðbeiningarnar fyrir Háskólann?
Hér að neðan er útlistað hvernig sjö lykilkröfur ESB (e. seven key requirements) snerta mögulega starfsemi háskólans:
Innan háskólans má gervigreind aldrei draga úr sjálfstæði mannsins.
- Kennarar og nemendur: Notkun gervigreindar ætti að efla færni fólks, ekki gera það háð tækninni. Við námsmat verður mannlegur dómur alltaf að vera lokastig ákvörðunartöku.
Kerfi sem notuð eru til rannsókna eða utanumhalds um nemendagögn verða að vera þolin gegn árásum og villum.
- Rannsakendur: Þegar gervigreind er notuð í rannsóknum þarf að tryggja fall back plans eða varaleiðir ef kerfið gefur rangar eða óvæntar niðurstöður.
ESB leggur ríka áherslu á gæði gagna.
- Stjórnsýsla og rannsóknir: Það skiptir öllu máli hvaða gögn eru notuð til að þjálfa líkön. Ef gögnin eru hlutdræg, verður niðurstaðan hlutdræg. Háskólinn verður að tryggja heiðarleika gagnasafna sinna.
Ein mikilvægasta krafan fyrir akademískt starf.
- Akademískt gagnsæi: Það á ekki að nota svarta kassa (e. black box systems) þar sem ekki er hægt að útskýra hvernig niðurstaðan fékkst. Nemendur og rannsakendur verða að geta rökstutt vinnu sína, jafnvel þótt hluti hennar sé unninn með gervigreind.
Gervigreind má ekki búa til eða viðhalda mismunun.
- Jafnrétti: Háskólinn þarf að vaka yfir því að gervigreindarkerfi (t.d. við inntöku eða einkunnagjöf) mismuni ekki hópum eftir kyni, uppruna eða öðrum þáttum.
Háskólinn ber ábyrgð á því að mennta fólk sem skilur samfélagsleg áhrif tækninnar.
- Sjálfbærni: Við val á gervigreindarkerfum ætti háskólinn að líta til orkunotkunar og umhverfisspor þeirra, í samræmi við sjálfbærnistefnu skólans.
Háskólinn verður að hafa ferla til að meta áhættu og bregðast við ef eitthvað fer úrskeiðis.
- Siðanefndir: Tryggja þarf að rannsóknir sem nota gervigreind fari í gegnum viðeigandi siðferðismat þar sem áhætta er metin fyrirfram.
Ábending: ESB mælir með notkun á sérstökum „Assessment List for Trustworthy AI“ (ALTAI) [https://ec.europa.eu/newsroom/dae/document.cfm?doc_id=68342 ]. Háskólinn getur nýtt þennan gátlista við innkaup á nýjum kerfum eða þegar rannsakendur hanna eigin gervigreindartól.
Heimild:
European Commission. (2019, 8. Apríl). Ethics guidelinse for trustworthy AI. https://digital-strategy.ec.europa.eu/en/library/ethics-guidelines-trustworthy-ai og https://ec.europa.eu/newsroom/dae/document.cfm?doc_id=60419