Miks see on Rootsis oluline
AI on juba koolielu lahutamatu osa: hoolekandjatele kirjade koostamine, tunniselgituste kohandamine, õpilastoe koosolekute märkmete kokkuvõtete tegemine ja haldustekstide kirjutamise kiirendamine. ELi AI Act jõuab kohale samal ajal, kui LGR22 palub koolidel elada oma väärtuste järgi digimaailmas. Tulemuseks võib olla pigistus: uuenda, aga tõesta ka, et oled turvaline, õiglane ja seaduslik.
Hea uudis on see, et „nõuetele vastavus” ei pea muutuma juriidiliseks projektiks. Enamiku koolikasutusjuhtumite puhul on praktiline eesmärk vältida riskantset automatiseerimist, hoida inimesed otsustajana ja olla aus selle suhtes, kus AI-d kasutatakse. Kui teete juba kord aastas vastuvõetava kasutuse ülevaatuse, saate suure osa sellest tööst liita samasse rütmi, selle asemel et luua paralleelne protsess. Struktuur artiklis iga-aastane AI vastuvõetava kasutuse poliitika värskendus on hea mudel, kuidas hoida juhtimine kerge, kuid päris.
ELi AI Act lihtsas keeles
ELi AI Act on riskipõhine. See ei kohtle kogu AI-d ühtemoodi; see küsib, milleks süsteemi kasutatakse ja millised kahjud võivad järgneda. Koolide jaoks tekitab kulmukergitust väljend „kõrge risk”, sest osa hariduses kasutatavast AI-st võib mõjutada õppijate võimalusi, ligipääsu toele või seda, kuidas neid koheldakse.
Igapäevases koolikeeles on „kõrge risk” tõenäolisem siis, kui AI-d kasutatakse millegi järgmise tegemiseks: vastuvõtuotsuste tegemine või tugev suunamine, rühmitamine, edasijõudmine, eritoe määramine, turvajuhtumite (safeguarding) eskaleerimine või formaalsete hindamistulemuste kujundamine. Isegi kui tööriista turundatakse kui „lihtsalt soovitusi”, võib see muutuda suure mõjuga, kui töötajad tunnevad survet seda järgida või kui sellest saab otsuste vaikimisi alus.
Vastupidi, paljud levinud klassiruumi- ja halduskasutused on madalama riskiga, kui neid hästi käsitleda: harjutusküsimuste genereerimine, tekstide ümber sõnastamine, suhtluse tõlkimine või tagasiside mustandi koostamine, mida õpetaja enne jagamist toimetab. Risk muutub koos kontekstiga. Tööriist, mida kasutatakse tunnialguste ideede genereerimiseks, ei ole sama mis tööriist, mis ennustab õpitulemusi ja suunab sekkumisnimekirju.
LGR22 kui praktiline test
LGR22 põhiväärtused ei ole plakat seinal; need võivad olla toimiv test AI kasutusele. Kui töötajad pole kindlad, kas tööriist „läheb nõuetele vastavuse alla”, annavad väärtused ühise keele, mis on koolides tähenduslik.
Demokraatia
Demokraatia AI kasutuses näeb välja nagu teadlik osalus ja vaidlustatavus. Õppijad ja hoolekandjad ei tohiks tunda, et otsuseid teeb nähtamatu masin. Töötajad peaksid suutma tavakeeles selgitada, mida tööriist teeb ja mida ta ei tee. Praktikas tähendab see, et väldite „musta kasti autoriteeti”: kui tööriist annab soovituse, saab kool seda küsitleda, üle kirjutada ja põhjuse talletada.
Lihtne klassiruumi näide on AI kasutamine diferentseeritud lugemisküsimuste genereerimiseks. Demokraatiat toetab see, kui õpetaja valib, milliseid küsimusi kasutada, kohandab sõnastust klassi jaoks ja kutsub õppijaid küsimusi kritiseerima. Demokraatiat õõnestab see, kui AI väljundit käsitletakse „õigena” ja vaidlustamatuna.
Inimõigused
Inimõigused kooli AI kasutuses puudutavad väärikust, mittediskrimineerimist ja isikuandmete kaitset. Igapäevaselt tähendab see, et minimeerite tundlikku infot, olete ettevaatlik haavatavate õppijate detailidega ja väldite süsteeme, mis võiksid rühmi süstemaatiliselt ebasoodsasse seisu panna.
Levinud riskimuster on „profiilimine mugavuse pärast”: töötajad kleebivad vestlusrobotisse pastoral-märkmeid, et „nõu saada”. Isegi kui eesmärk on toetav, võib see paljastada tundlikke andmeid ja luua varikirje väljaspool kooli kontrolli. Teine riskimuster on kallutatud keel AI-genereeritud aruannetes. Kui tööriist kipub kirjeldama mõnda õppijat negatiivsemalt, on kahju kumulatiivne ja reaalne.
Kui teie kool parandab aruandluse töövoogu, vaadake, kuidas auditijäljed ja andmekaitse saab protsessi sisse ehitada, mitte hiljem külge kruvida. Mõttekäik artiklis AI-toega aruannete kirjutamine auditijälgedega kandub hästi üle Rootsi konteksti, isegi kui teie mallid on teistsugused.
Eetika
Eetika on koht, kus LGR22 muutub praktiliseks: see ei ole ainult „seaduslik või ebaseaduslik”, vaid „õige või vale meie õppijate jaoks”. Eetiline AI kasutus koolides tähendab proportsionaalset kasutust, selgeid piire ja professionaalset otsustusvõimet. Kui AI säästab aega, kuid vähendab suhetepõhist mõistmist, ei ole see automaatselt võit.
Hea eetiline harjumus on küsida: „Kui see väljund oleks vale, keda see kahjustaks?” Kui vastus on „õppija tugi, võimalused või maine”, vajab töövoog tugevamat inimjärelevalvet ja paremat dokumentatsiooni.
Kolm läbirääkimatut põhimõtet
Enamik kooli AI juhtimisest saab korraldada kolme läbirääkimatu põhimõtte ümber, mis haakuvad hästi nii ELi AI Acti eesmärgiga kui ka LGR22 väärtustega: läbipaistvus, inimjärelevalve ja andmete minimeerimine.
Läbipaistvus
Läbipaistvus tähendab, et saate inimestele öelda, millal AI-d kasutatakse, millised andmed sisendina läksid ja mis väljundina tuli. See tähendab ka, et saate selgitada piiranguid. Praktikas saavad koolid võtta kasutusele lühikesed „läbipaistvusmärkused” AI-toega väljunditel, näiteks rea aruandekirjutamise süsteemis või jaluse mustandkirjas, mille töötajad eemaldavad või jätavad alles sõltuvalt kontekstist.
Läbipaistvus on ka sisemine. Töötajatel peab olema ühine arusaam, millised tööriistad on heaks kiidetud ja mida „heakskiidetud kasutus” tähendab. Kerge tööriistakomplekti lähenemine, selgete privaatsusvaikimisi seadete ja rutiinidega, võib aidata. Minimaalne elujõuline kooliaasta alguse AI tööriistakomplekt on kasulik lähtepunkt, kuidas seda korraldada kolleege üle koormamata.
Inimjärelevalve
Inimjärelevalve tähendab, et AI ei tee õppijate kohta otsuseid. See võib soovitada, mustandit koostada, kokku võtta või valikuid pakkuda, kuid professionaal jääb lõpliku otsuse eest vastutajaks. Järelevalvet on kõige lihtsam tõendada siis, kui töövood on kujundatud nii, et töötajad peavad üle vaatama ja toimetama enne, kui midagi salvestatakse, jagatakse või selle põhjal tegutsetakse.
Igapäevaselt võib see olla nii lihtne kui: „AI teeb mustandi; töötajad kinnitavad.” Kõrgema panusega valdkondades võib see olla: „AI teeb ettepaneku; nimetatud roll vaatab üle; teine kontroll turvatundlike (safeguarding) juhtumite jaoks.” Võti on selles, et töövoog sunnib otsustamiseks pausi, mitte ei looda heale tahtele.
Avastage Automated Education võimsus, liitudes meie õpetajate kogukonnaga, kes võtavad tagasi oma aja ja rikastavad oma klassiruume. Meie intuitiivse platvormiga saate automatiseerida administratiivseid ülesandeid, isikupärastada õpilaste õppimist ja suhelda oma klassiga nagu kunagi varem.
Ärge laske administratiivsetel ülesannetel varjutada oma kirge õpetamise vastu. Registreeruge täna ja muutke oma hariduskeskkond Automated Education abil.
🎓 Registreeru TASUTA!
Andmete minimeerimine
Andmete minimeerimine on kõige vahetumalt rakendatav põhimõte. See tähendab, et kasutate ainult vajalikke andmeid, võimalikult lühikest aega ja võimalikult vähese tuvastatavusega. Koolides tähendab see ka vastupanu kiusatusele kleepida sisse terveid dokumente „sest nii on kiirem”.
Praktiline näide: kui soovite AI abi hoolekandjale saadetava e-kirja ümberkirjutamisel, ei vaja te enamasti nimesid, isikukoode, meditsiinilisi üksikasju ega täielikku käitumislogi. Võite kasutada kohatäitjaid ja hoida prompt’i fookuse toonil ja selgusel. Aja jooksul muutub see töötajate harjumuseks, mida toetavad mallid ja „ära kunagi kleebi” nimekirjad.
Tõendus igapäevastes töövoogudes
Koolid kirjutavad sageli tugevad poliitikad, kuid siis on raske näidata, mis juhtub teisipäeva pärastlõunal, kui keegi on väsinud ja kiirustab. Tõendus ei pea olema raske; see peab olema järjepidev.
Alustage kahe-kolme levinud AI töövoo valimisest ja tehke neist „mudeltöövood”. Näiteks: iganädalaste uudiskirjade mustandite koostamine, tunnitoe (scaffolds) loomine ja õppijale suunatud tagasiside mustandite koostamine. Igaühe jaoks määratlege lubatud sisendid (ideaalis anonüümitud), nõutav inimkontroll ja see, kuhu väljundit tohib salvestada. Kui teil on juba töötajate koolituspäevad, saate neid töövooge õpetada rutiinidena, mitte reeglitena. Praktiline struktuur on kirjeldatud artiklis INSET päeva AI töötuba mikrorutiinidega, mida saab teie konteksti kohandada.
Seejärel pidage lihtsat tööriistaregistrit ja lühikest otsuseregistrit iga uue tööriista kohta. Eesmärk ei ole bürokraatia; eesmärk on näidata, et olete mõelnud riskidele, väärtustele ja kaitsemeetmetele.
Automated Education näidis-arhitektuurina
Üks viis püsida kooskõlas ELi AI Acti „kõrge risk hariduses” loogikaga on valida arhitektuure, mis vähendavad varjatud profiilimise ja automatiseeritud otsuste tõenäosust.
Võttes Automated Education näidis-arhitektuurina, on nõuetele vastavust toetavad disainivalikud lihtsad selgitada töötajatele ja sidusrühmadele. Süsteemi saab kasutada ilma püsivate õpilasprofiilideta, nii et õppijaid ei jälgita vaikselt ajas. Seda saab seadistada nii, et see ei tee automatiseeritud otsuseid; see toetab mustandite koostamist ja organiseerimist, kuid otsustajateks jäävad töötajad. Sisendid ja väljundid on selged, mis toetab läbipaistvust ja ülevaatust. Human-in-the-loop on töövoogu sisse ehitatud: töötajad genereerivad, toimetavad ja kinnitavad enne, kui midagi jagatakse. GDPR-iga kooskõlas olevad vaikeseaded toetavad andmete minimeerimist, suunates kasutajaid anonüümitud või piiratud prompt’ide poole ja vältides tarbetut säilitamist.
Mõte ei ole selles, et üks toode „lahendab nõuetele vastavuse”. Mõte on selles, et koolid peaksid eelistama tööriistu, mille disain teeb hea praktika lihtsamaks kui halva praktika.
Tarnija kontrollnimekiri Rootsi koolidele
Hankeküsimused ei vaja juriidilist keelt; need vajavad selgust. Tarnijatega rääkides otsite märke, et nad mõistavad hariduse riske ja suudavad toetada teie dokumentatsiooni.
Paluge tarnijatel näidata, mitte ainult öelda, kuidas toode käsitleb identiteeti, salvestamist ja järelevalvet. Võite kasutada lühikest kontrollnimekirja, näiteks:
- Milliseid andmeid salvestatakse, kus ja kui kauaks? Kas saame säilitust kontrollida?
- Kas vaikimisi kasutatakse õpilaste profiilimist või püsivat jälgimist?
- Kas tööriista saab kasutada anonüümitud sisenditega ja see on endiselt kasulik?
- Kas tööriist teeb kunagi automatiseeritud otsuseid või järjestab õppijaid viisil, mis võiks tulemusi suunata?
- Milline auditijälg on olemas töötajate tegevuste ja AI väljundite kohta?
- Kuidas käsitlete mudeli uuendusi ja muudatusi, mis mõjutavad väljundi kvaliteeti?
- Kas saame selged juhised töötajatele „ohutute prompt’ide” ja keelatud sisendite kohta?
Ohumärgid on ebamäärased vastused säilituse kohta, „me parandame mudelit teie andmetega vaikimisi”, võimetus selgitada alltöötlejaid (sub-processors) ning väited, et tööriist on „GDPR compliant” ilma üksikasjadeta. Kui tarnija ei suuda toetada läbipaistvust ja järelevalvet, jääb see koorem teie kooli kanda.
Dokumentatsioonipakk
Kerge dokumentatsioonipakk aitab tõendada head juhtimist, muutmata seda juriidiliseks projektiks. Hoidke see lühike, taaskasutatav ja seotud päris töövoogudega.
Hanke jaoks pange kirja tööriista eesmärk, kavandatud kasutajad, andmekategooriad, säilitus, ning riskide ja leevenduste kokkuvõte. Pilootide jaoks lisage lühike hindamismärge: mis töötas, mis läks valesti ja milliseid kaitsemeetmeid oli vaja. Püsikasutuse jaoks pidage muudatuste logi: uued funktsioonid, uued kasutusjuhud ja kõik intsidendid.
Kui soovite nende dokumentide ülevaatamiseks rütmi, siduge see olemasolevate tsüklitega. Paljud koolid leiavad, et lihtsam on teha õppeperioodi lõpus lühike „AI aluste sprint”, nii et september algab rahulikult ja organiseeritult. Struktuur artiklis suveperioodi AI aluste sprint võib aidata sellel tunduda kooliarendusena, mitte nõuetele vastavuse teatrina.
30-päevane plaan
Esimesel nädalal valige oma kolm peamist AI kasutusjuhtu ja kirjutage igaühe jaoks „heakskiidetud töövoo kaardid”: lubatud sisendid, nõutavad kontrollid ja kuhu väljundeid võib salvestada. Samal ajal looge töötajatele ühe lehekülje läbipaistvusmärge, mida kasutada, kui AI on toetanud suhtlust või tagasisidet.
Teisel nädalal looge oma tööriistaregister ja lisage sinna juba kasutuses olevad tööriistad. See on sageli hetk, mil avastate „varjatud AI” kontod. Käsitlege seda õppimise hetkena, mitte süüdistamisharjutusena. Leppige kokku, millised tööriistad pannakse pausile kuni ülevaatuseni.
Kolmandal nädalal tehke lühike töötajate sessioon, kus harjutatakse prompt’ide anonüümistamist ja inimkontrolle. Kasutage päris näiteid: tundliku e-kirja ümberkirjutamine, toetusplaani lõigu mustandi koostamine ilma tuvastajateta või diferentseeritud küsimuste genereerimine üldisest tekstist.
Neljandal nädalal tehke mini-audit: võtke valim mõnest AI-toega väljundist ja kontrollige, kas teie kolm läbirääkimatut põhimõtet on nähtavad. Uuendage oma töövoo kaarte selle põhjal, mida õpite, ja määrake seejärel ülevaatuse kuupäev.
Lisa: kopeeri-ja-kohanda mallid
Tööriistaregister võib olla nii lihtne kui jagatud tabel väljadega tööriista nimi, omanik, eesmärk, kasutajarühm, andmekategooriad, säilitus, alltöötlejad (sub-processors), heakskiidetud kasutusjuhud, keelatud kasutusjuhud ja ülevaatuse kuupäev. Lisage üks veerg „LGR22 väärtuste kontroll”, kuhu märgite demokraatia, õiguste või eetika mured ja kuidas te neid leevendasite.
Läbipaistvusmärge võib olla lühike lõik, mida töötajad saavad kleepida sisemisse dokumentatsiooni või vajaduse korral välisesse suhtlusse: „AI-d kasutati mustandi koostamise ja keelelise selguse toetamiseks. Töötaja vaatas lõpliku teksti üle ja toimetas. Automatiseeritud otsuseid ei tehtud.” Hoidke see lihtne ja hoidke see aus.
Töötajate „ära kunagi kleebi” nimekiri peaks olema piisavalt lühike, et meelde jääks. Lisage isikukoodid, täisnimed tundliku kontekstiga, terviseinfo, turvajuhtumite (safeguarding) üksikasjad ja kõik dokumendid, mis sisaldavad eriliiki isikuandmeid. Paaritage see positiivse alternatiiviga: kasutage kohatäitjaid, tehke kokkuvõte ilma tuvastajateta või kasutage heakskiidetud sisetööriistu, mis on mõeldud kaitstud andmete jaoks.
Stabiilsema ja väärtuspõhisema AI kasutuse poole teie koolipäevas.
The Automated Education Team