Kus see loeb
Aasta hiljem on ELi AI määrus vähem „uus reegel Ühendkuningriigi koolidele” ja rohkem uus gravitatsiooniväli edtech-turul. Ühendkuningriigi koole ei reguleeri ELi õigus automaatselt lihtsalt seetõttu, et nad kasutavad AI-d. Kuid paljud tarnijad, kes teenindavad Ühendkuningriigi koole, müüvad ka ELis, loovad tooteid ELis või toetuvad ELis asuvatele alltöötlejatele. See tähendab, et nende tootekujundus, dokumentatsioon ja intsidentide käsitlemine peegeldavad üha enam ELi nõudeid. Koolide jaoks on praktiline kasu lihtne: saate esitada täpsemaid küsimusi ja oodata paremat tõendusmaterjali.
Sama oluline on ka see, kus see ei loe. Ärge teeselge, et teie kool on ELi „kasutuselevõtja” (deployer) ELi õiguslike kohustustega, kui te seda ei ole. Vältige vastavuskeele kopeerimist poliitikatesse nii, nagu see oleks siduv. Selle asemel käsitlege AI määrust kvaliteetse raamistikuna hankimiseks ja juhtimiseks. Kui te juba teete igal aastal kontrolli vastuvõetava kasutuse ja andmekaitse osas, saate AI määruse-laadse mõtlemise nendesse tsüklitesse põimida; vaadake praktilise rütmi jaoks, mis personali ei koorma, iga-aastast AI vastuvõetava kasutuse poliitika värskendamise kontrollnimekirja.
Lihtsas keeles kaart
Kõige taaskasutatavamad AI määruse ideed koolide jaoks on risk, roll ja kavandatud eesmärk. Neid saab rakendada ilma õigusžargoonita.
Risk tähendab mõju, kui süsteem eksib, on kallutatud, pole kättesaadav või seda kuritarvitatakse. Koolikontekstis tähendab „kõrge panusega” sageli otsuseid õpilase võimaluste, turvalisuse või toe kättesaadavuse kohta. Mõelge AI tööriistale, mis tuvastab kirjalikust tööst turvalisusega seotud murekohti, või tööriistale, mis soovitab astmelisi sekkumisi. Isegi kui tööriist ainult „soovitab”, võib mõju olla reaalne.
Roll selgitab, kes mida teeb. Tarnijad on tavaliselt AI süsteemi „pakkuja” (provider). Koolid on enamasti „klient” ja operatiivne kasutaja. Mõte pole siltides; mõte on vastutuses. Kes jälgib toimivust? Kes saab seadeid muuta? Kes uurib intsidente? Kes teavitab peresid, kui midagi läheb valesti? Varajane selgus hoiab ära levinud läbikukkumise, kus kõik eeldavad, et keegi teine vastutab.
Kavandatud eesmärk on kõige kasulikum fraas, mida saate üle võtta. Küsige: milleks tarnija väidab, et süsteem on mõeldud, ja milleks te seda tegelikult kasutate? Tööriist, mida turundatakse „tunniplaanide koostamise toena”, võib olla ohutu, kuni see muudetakse ümber hindamise tagasiside generaatoriks, mida kasutatakse laialdaselt. Hange peaks fikseerima kavandatud eesmärgi teie lepingusse ja sisemisse juhendisse, et töötajad ei triiviks kogemata riskantsematesse kasutusviisidesse. Kui soovite kiiret viisi uute mudelite ja funktsioonide hindamiseks nende saabumisel, kohandage kiiret protokolli nagu GPT-5 väljalaskepäeva kooli briifing ja rakendage seda iga suurema tarnijauuenduse puhul.
Hankeküsimused
Käsitlege hanget oma esimese ohutuskontrollina. Eesmärk ei ole tarnijaid „vahele võtta”, vaid koguda tõendusmaterjali, mida saate arhiveerida, üle vaadata ja näidata juhtorganile või audiitoritele.
Siin on 12 küsimust, mida tarnijatelt küsida, koos ettekujutusega, milline hea tõendusmaterjal välja näeb:
Mis on süsteemi kavandatud eesmärk hariduses ja millised kasutusviisid on selgesõnaliselt väljaspool ulatust? Hea tõendusmaterjal sisaldab selget tootepõhist kirjeldust ning lubatud ja keelatud kasutuse näiteid.
Millised andmed sisenevad, mis väljub ja mida salvestatakse? Otsige andmevoo skeemi, säilitustähtaegade plaani ja alltöötlejate loetelu.
Kas mõnda õpilase isikuandmeid kasutatakse mudelite treenimiseks? Tugev vastus on vaikimisi „ei”, koos lepingulise kohustuse ja tehniliste kontrollidega.
Millised kaitsemeetmed on kallutatuse ja ligipääsetavuse jaoks? Oodake hindamiskokkuvõtteid, teadaolevaid piiranguid ja juhiseid kaasavaks kasutuseks.
Kuidas te testite toimivust ja töökindlust koolilaadsetes tingimustes? Hea tõendusmaterjal sisaldab testimise metoodikat, mitte ainult turundusväiteid.
Millist inimjärelevalvet eeldatakse ja mis juhtub, kui töötajad seda eiravad? Otsige töövoo juhiseid, prompt’e ja kasutajaliidese „hõõrdumist”, mis takistab liigset sõltuvust.
Milline logimine on koolile kättesaadav ja kui kauaks? Tugev tõendusmaterjal sisaldab administraatori auditilogisid, ekspordivõimalusi ja rollipõhist ligipääsu.
Kuidas te käsitlete intsidente, sh kahjulikke väljundeid või andmeleket? Oodake intsidentidele reageerimise plaani, teavitustähtaegu ja nimetatud kontaktkanalit.
Milliseid muudatusi saate teha meid teavitamata (mudelid, funktsioonid, vaikeseaded)? Hea tõendusmaterjal sisaldab väljalaskemärkmeid, muudatuste juhtimist ja loobumisvõimalusi.
Millised turvakontrollid on paigas (krüpteerimine, ligipääsukontrollid, pen testing)? Küsige ajakohast turvaülevaadet ja võimalusel sõltumatut kinnitust.
Millist dokumentatsiooni saate meie arhiivi jaoks pakkuda? Otsige paketti, mida saab talletada: DPIA tugi, poliitikad ja tehnilised märkmed.
Kas saate toetada väljumisplaani? Tugevad vastused katavad andmete ekspordi, kustutamise kinnituse ja ajakavad.
Kui soovite struktureeritud viisi tarnija väidete testimiseks oma keskkonnas, laenake klassiruumi hindamisprotokolli vaimu, näiteks Claude’i hindamisprotokoll, kuid viige see läbi hankepiloodina kontrollitud andmetega ja selgete edu kriteeriumidega.
Riskiregister praktikas
Kerge AI riskiregister on elav nimekiri „mis võib valesti minna, kuidas me seda vähendame ja kuidas me teame”. Hoidke see piisavalt lühike, et seda päriselt kasutataks.
Malliväljad, mis koolides hästi toimivad, hõlmavad: süsteemi nimi ja versioon; omanik (nimetatud roll); kavandatud eesmärk; kasutajagrupid (töötajad/õpilased); andmekategooriad; otsuse mõju tase (madal/keskmine/kõrge); peamised riskid (privaatsus, turvalisus, kallutatus, täpsus, liigne sõltuvus, turve, hindamise usaldusväärsus); olemasolevad kontrollid; nõutavad kontrollid; hoitav tõendusmaterjal (lingid failidele); jääkriski hinnang; ülevaatuse kuupäev; intsidentide logi link; ja „muudatuse päästikud” (näiteks mudeli uuendus, uus funktsioon, laiendatud kasutuselevõtt).
Praktikas näeb see välja nagu üks rida teie AI hindamisassistendi kohta, märkides, et seda ei tohi kasutada lõpliku hinde panemiseks, et töötajad peavad väljundeid üle vaatama ning et prompt’id peavad vältima tuvastatavaid õpilase detaile, kui DPIA seda ei toeta. Teine rida võib käsitleda kodutööabi AI vestlusrobotit, tuues esile eakohasuse, sisufiltreerimise ja selle, kuidas õpilased probleemsetest vastustest teatavad. Kui te juba teete tööriistade kohta trimestrilisi ülevaatusi, saate selle siduda tõenditsükliga nagu õppeaasta lõpu AI auditi tõendipakett, nii et teie register muutub kokkuvõtteks, mitte dokumendikapiks.
Avastage Automated Education võimsus, liitudes meie õpetajate kogukonnaga, kes võtavad tagasi oma aja ja rikastavad oma klassiruume. Meie intuitiivse platvormiga saate automatiseerida administratiivseid ülesandeid, isikupärastada õpilaste õppimist ja suhelda oma klassiga nagu kunagi varem.
Ärge laske administratiivsetel ülesannetel varjutada oma kirge õpetamise vastu. Registreeruge täna ja muutke oma hariduskeskkond Automated Education abil.
🎓 Registreeru TASUTA!
Dokumentatsioon, mida saate hallata
Auditiks valmis dokumentatsioon ei tähenda mahtu; see tähendab järjepidevust. Sihtige väikest failikomplekti, mida suudate päriselt ajakohasena hoida.
Talletage iga tööriista kohta ühe lehekülje pikkune „AI süsteemi kirje” (kavandatud eesmärk, kasutajad, andmed, seaded, järelevalve ja keelatud kasutusviisid). Lisage tarnija tõendipakett (lepingud, turvamärkmed, alltöötlejate loetelu, muudatuste logid). Hoidke asjakohasel juhul alles oma DPIA või privaatsusmõju märge ning lühike töötajate juhend, mis vastab sellele, kuidas tööriista teie koolis kasutatakse. Lõpuks pidage intsidentide ja muudatuste logi: mis muutus, kes selle heaks kiitis ja mida kommunikeeriti.
Omandiõigus (vastutus) loeb. Toimiv mudel on: IT omab tehnilist seadistust ja ligipääsu; DPO (või andmekaitse eest vastutaja) omab DPIA-d ja andmetöötlustingimusi; turvalisuse eest vastutajad omavad lapse turvalisuse riske ja teavitusteid; õppekava või hindamise eest vastutajad omavad vastuvõetavat pedagoogilist kasutust; juhtorgan või delegeeritud komitee omab järelevalvet ja kriitilist kontrolli. Ülevaatustsüklid võivad olla trimestrilised suure mõjuga tööriistade puhul ja iga-aastased väikese mõjuga tööriistade puhul, kusjuures kohene ülevaatus käivitub suuremate tootemuudatuste korral. Kui vajate praktilist „privacy-by-default” kasutuselevõtu mustrit, on minimum viable back-to-school AI toolkit kasulik mall kohandamiseks.
Operatiivsed kontrollid
Kontrollid peaksid sobituma koolide reaalsusega: hõivatud töötajad, erinev enesekindlus ja kiire tööriistade uuendamine. Inimjärelevalve on teie ankur. Tehke selgeks, millal AI võib koostada mustandi, kuid mitte otsustada, ja millal on vaja teise täiskasvanu kontrolli. Näiteks kui AI pakub õpilase kirjutisest turvalisusega seotud märksõnu, peaksid töötajad käsitlema seda vihjena konteksti üle vaatamiseks, mitte otsusena.
Logimine jäetakse sageli tähelepanuta kuni hetkeni, mil midagi läheb valesti. Veenduge, et administraatori logid näitavad, kes tööriistale ligi pääses, milliseid seadeid muudeti ja millal. Klassiruumi tööriistade puhul kaaluge, kas vajate tegevuslogisid turvalisuse ja käitumise järeltegevuste jaoks ning kui kaua te neid säilitate.
Intsidentidest teatamine vajab lihtsat teed. Töötajad peaksid teadma, mida teha, kui AI tööriist toodab seksuaalset sisu, vaenukõnet või avaldab isikuandmeid. Tavaliselt piisab lühikesest vormist, mis on lingitud teie turvalisuse või IT kasutajatoe süsteemist, eeldusel et keegi selle kiiresti triaažib ja tulemused dokumenteerib.
Muudatuste juhtimine on varjatud risk. Paljud AI süsteemid muudavad käitumist, kui alusmudel uueneb. Nõudke, et tarnijad teavitaksid teid olulistest muudatustest, ja kehtestage sisemine reegel: ühtegi uut funktsiooni ei lülitata sisse ilma nimetatud kinnitajata ja uuendatud „AI süsteemi kirjeta”. Isegi lühike, trimestriline INSET mikro-rutiin võib hoida praktika kooskõlas; INSET päeva AI töötoa mikro-rutiinide lähenemine on praktiline viis selle juurutamiseks ilma, et see muutuks vastavusharjutuseks.
Kooskõla Ühendkuningriigi juhistega
Kuigi ELi AI määrus ei ole teie otsene reeglistik, peaks teie juhtimine siiski olema kooskõlas Ühendkuningriigi ootustega. Hindamise usaldusväärsus on selge näide. Kui mängus on kvalifikatsioonid või formaalsed hindamised, peaksid teie kontrollid toetama autentsust, läbipaistvust ja AI abi asjakohast kasutust. Praktikas tähendab see selgeid töötajajuhiseid tagasiside piiride kohta, õpilaste deklaratsioone, kui neid nõutakse, ning järjepidevat käsitlust kahtlustatava väärkäitumise korral.
Andmekaitsega kooskõla on sama keskne. ICO-stiilis lähenemine eeldab selgust õigusliku aluse, minimaalsuse, läbipaistvuse, turbe, säilitamise ja töötlejate haldamise osas. Teie tarnijaküsimused ja dokumentatsioonikomplekt peaksid tegema need punktid lihtsasti tõendatavaks. Turvalisusega kooskõla tähendab eakohast ligipääsu, sisukontrolle, teavitusteid ja töötajate koolitust, mis käsitleb AI väljundeid kontrollimata kujul ebausaldusväärsetena.
Kui te kaardistate AI tööriistu ka õppekava ja õpetamise ootustega, hoidke juhtimine seotud rakendusplaneerimisega, mitte sellest eraldi. National Curriculum AI implementation pack aitab hoida pedagoogika, vastavuse ja hanke samas rütmis.
30-päevane plaan
30 päevaga saate liikuda „meil on AI tööriistad” juurest „me suudame tõendada ohutut kasutust” juurde. Esimesel nädalal peaks SLT kokku leppima lühikese nimekirja heakskiidetud AI kasutusjuhtudest ja määrama omanikud hankele, andmekaitsele, turvalisusele ja hindamise usaldusväärsusele. IT saab teha ülevaate praegustest tööriistadest ja võimalusel keelata hallatamatud lisad. Teisel nädalal viige läbi tarnijate küsitlemine teie kolme enimkasutatava või suurima riskiga tööriista kohta ning koostage igaühe jaoks ühe lehekülje pikkused AI süsteemi kirjed. Kolmandal nädalal looge kerge riskiregister ja leppige kokku intsidentidest teatamise teed, sh mis loetakse sisemiselt teavitamist vajavaks juhtumiks. Neljandal nädalal tehke lühike töötajate briifing kavandatud eesmärgi, keelatud kasutusviiside ja murede raporteerimise kohta, seejärel planeerige esimene ülevaatuse kuupäev ja juhtorgani teavitus.
Hästi tehes ei ole see ELi sildi tagaajamine. See on harjumuse kujundamine esitada paremaid küsimusi, hoida leitavat tõendusmaterjali ja teha töötajatele lihtsamaks AI enesekindel kasutamine selgete piiride sees.
Rahulikumaid hankekoosolekuid ja selgemaid auditijälgi soovides,
The Automated Education Team