Väide, et DeepSeek võis olla treenitud Claude’i väljundite peal, võib mõnele õpetajale kõlada nagu tüli tehnoloogiaettevõtete vahel. Koolide, kolledžite ja trustide jaoks on see aga kasulik hoiatus. Kui AI tarnija ei suuda selgelt selgitada, kuidas tema mudelit treeniti, kust selle andmed pärinesid või kas teise süsteemi väljundeid koguti suures mahus, ei jää risk ainult tarnija kanda. See võib kanduda hankeotsustesse, turvalisuse ülevaatustesse, õiguslikku vastutusse ja pikaajalisse sõltuvusse. Seepärast vajavad koolid AI jaoks tugevamat ostuperspektiivi, nagu neil on juba privaatsuse, turvalisuse ja ligipääsetavuse puhul. Kui teie meeskond vaatab AI juhtimist laiemalt üle, pakub meie käsitlus teemal EU AI Act ja koolide hankimine kasulikku laiemat raamistikku.
Miks see oluline on
Kool ostab AI süsteemi harva seetõttu, et ta imetleb mudeli arhitektuuri. Seda ostetakse, sest keegi soovib kiiremat aruannete kirjutamist, tuge tunnikavade koostamisel, kordamismaterjale või halduse automatiseerimist. Praktikas tähendab see, et hankemeeskonnad keskenduvad sageli hinnale, funktsioonidele ja sellele, kas tööriist näib õpilaste andmete jaoks turvaline. Need küsimused on olulised, kuid neist ei piisa. Kui tarnija põhituummudel on ehitatud vaidlustatud või halvasti dokumenteeritud allikatele, võib kool pärida teenuse ebastabiilsuse, õigusliku ebakindluse või äkilised tootemuudatused, kui tarnija vaidlustatakse.
Kujutage ette osakonda, mis võtab aruannete jaoks kasutusele AI kirjutamisassistendi. See töötab ühe trimestri hästi, töötajad muutuvad sellest sõltuvaks ja siis eemaldab tarnija litsentsivaidlusega tegeledes peamised funktsioonid. Vahetu probleem ei ole abstraktne intellektuaalomandiõigus. Probleem on tähtaegade ületamises, ümberõppes, segaduses töötajates ja järjekordses erakorralises hanketsüklis. Oleme näinud sarnaseid sõltuvusmuresid ka muudes kontekstides, sealhulgas muutuvate ligipääsumudelite ja hinnasurve puhul peavoolutööriistades, nagu käsitleme selles ülevaates AI sõltuvusriskist.
Andmepesu selgitus
„Andmepesu” kõlab dramaatiliselt, kuid lihtsas keeles on mõte selge. See kirjeldab olukorda, kus materjal, mis võib olla piiratud, autoriõigusega kaitstud või lepinguliselt kaitstud, muudetakse või lastakse läbi teiste süsteemide viisil, mis jätab selle puhtama mulje, kui see tegelikult on. Praeguses AI kontekstis võib see tähendada ühe mudeli loodud väljundite kasutamist teise mudeli treeningmaterjalina ning seejärel väidet, et teine andmestik on lihtsalt „sünteetiline” või „mudeli loodud”, käsitlemata seda, kust need väljundid algselt pärinesid.
Koolide jaoks ei ole põhipunkt mitte see, kas iga väide osutub tõeks. Küsimus on selles, et „sünteetilised andmed” või „avalikult kättesaadavad väljundid” ei ole võlusõnad, mis eemaldavad kõik mured. Kui tarnija ütleb: „Me ei kraapinud kaitstud sisu otse; me treenisime loodud väljundite peal,” siis mõistlik jätkuküsimus on: kelle loodud, millise litsentsi alusel ja millises mahus? Päritoluprobleem ei kao seetõttu, et ahelasse on lisatud üks lisasamm.
Puuduv küsimus
Paljud koolide AI ostud jätavad endiselt vahele kõige paljastavama küsimuse: kas tarnija suudab selgitada mudeli ja selle treeningandmete päritoluahelat viisil, millest mittespetsialistist ostja aru saab? Koolidele esitatakse sageli lihvitud avaldusi turvalisuse, innovatsiooni ja tootlikkuse kohta. Harvem antakse neile selge ülevaade ülesvoolu allikatest, litsentsidest, välistustest, piirangutest ja ümbertreenimise tavadest.
Andmete päritolu tähendab võimalust jälgida, kust treeningmaterjal pärines, millised õigused sellega kaasnesid ja kuidas tarnija teab, et kasutus oli seaduslik ning lepinguliselt lubatud. See on eriti oluline siis, kui tarnijad ühendavad ühte teenusesse avatud mudeleid, kolmandate osapoolte API-sid, peenhäälestusandmestikke ja klientide päringuid. Hanke väljakutse muutub teravamaks ka avatud lähtekoodiga ja isehostitavate lahenduste puhul, sest „avatud” ei tähenda automaatselt „madalat riski”. Meie artikkel avatud lähtekoodiga koolitarkvara hoolsuskontrollist käsitleb seda eristust põhjalikumalt.
Väljundite kogumine ja litsentsimine
Mitte kogu taaskasutus ei ole sobimatu. AI ettevõtted võivad litsentsida andmestikke, osta ligipääsu sisuarhiividele, kasutada avatud litsentsiga materjale või pidada mudeli täiustamiseks läbi selgesõnalisi kokkuleppeid. Nad võivad treenida ka kliendiandmete peal, kui lepingud seda selgelt lubavad, kuigi koolid peaksid siin olema ettevaatlikud. Õiguspärane treenimine ja litsentsimine hõlmavad dokumenteeritud õigusi, määratletud ulatust ja jälgitavat kasutusalust.
Väljundite kogumine on teistsugune siis, kui tarnija kogub suures mahus vastuseid teisest mudelist, eriti kui see kogumine rikub kasutustingimusi või väldib litsentsitasusid. Koolide jaoks on praktiline küsimus selles, et tarnija võib esitada neid väljundeid neutraalse andmestikuna, kuigi need on tuletatud teise teenusepakkuja süsteemist ja vaidluse all. Kui tarnija ei suuda seda erinevust selgitada, on see hoiatusmärk.
See on oluline ka klassiruumis kasutatavate tööriistade puhul. Kool võib näha ainult korralikku kasutajaliidest tagasiside, aruannete koostamise või viktoriinide loomise jaoks. Kuid selle liidese all võib olla API kutsete, ümbriste ja peenhäälestatud mudelite ahel, mida keegi koolis ei ole kaardistanud. See on üks põhjus, miks tasub pidada ajakohast ülevaadet AI tööriistadest ja andmevoogudest, nagu soovitame oma AI privaatsusauditi kontrollnimekirjas.
Risk koolidele
Kui tarnijad ei suuda selgitada treeningandmete päritoluahelat, seisavad koolid korraga silmitsi mitme praktilise riskiga. Esimene on õiguslik ebakindlus. Isegi kui kool ei ole rikkumises süüdistatav osapool, võib ta siiski seista silmitsi keeruliste küsimustega hoolekogudelt, lapsevanematelt või regulaatoritelt hoolsuskontrolli kohta. Teine on tegevuslik häire, kui tööriist eemaldatakse, piiratakse või seda oluliselt muudetakse. Kolmas on mainekahju. Juhid ei taha selgitada, miks laialdaselt kasutatav õpilastele suunatud tööriist võeti kasutusele ilma elementaarse kontrollita selle üle, kust selle aluseks olev „intelligentsus” pärines.
On ka kvaliteedirisk. Tarnijad, kes on päritolu osas ebamäärased, on sageli ebamäärased ka hindamise, säilitamise, alltöövõtjate ja mudeliuuenduste osas. Nõrgad vastused ühes valdkonnas käivad tavaliselt koos nõrga juhtimisega mujal. Kui te juba võrdlete kirjutamistoe tööriistu, aitab vaadata peamistest funktsioonidest kaugemale ja küsida, kuidas andmekaitset, logimist ja auditeerimisjälgi praktikas hallatakse, nagu käsitleme selles AI assistentide võrdluses aruannete kirjutamiseks.
Avastage Automated Education võimsus, liitudes meie õpetajate kogukonnaga, kes võtavad tagasi oma aja ja rikastavad oma klassiruume. Meie intuitiivse platvormiga saate automatiseerida administratiivseid ülesandeid, isikupärastada õpilaste õppimist ja suhelda oma klassiga nagu kunagi varem.
Ärge laske administratiivsetel ülesannetel varjutada oma kirge õpetamise vastu. Registreeruge täna ja muutke oma hariduskeskkond Automated Education abil.
🎓 Registreeru TASUTA!
Kümme küsimust, mida küsida
Hea hankearutelu peaks liikuma küsimuselt „Mida teie tööriist suudab teha?” küsimuseni „Mis selle taga on?”. Koolid ei pea tarnijaid küsitlema nagu spetsialiseerunud kohtuvaidlejad, kuid nad vajavad otseseid küsimusi. Küsige, milliseid baasmudeleid kasutatakse, kas treenimisel või peenhäälestamisel kasutati kolmandate osapoolte väljundeid ning kas tarnija suudab kirjeldada iga peamise treeningallika seaduslikku alust või litsentsi. Küsige, kas klientide päringuid või väljundeid kasutatakse mudeli täiustamiseks ja kas see on vaikimisi sisse lülitatud.
Seejärel minge kaugemale. Küsige, milliseid tõendeid saab tarnija esitada treeningandmete juhtimise kohta, kas kaitstud või tundlike allikate jaoks on dokumenteeritud välistused ja kuidas käsitletakse ülesvoolu andmete vaidlusi. Küsige, mis juhtub siis, kui põhituummudeli pakkuja muudab tingimusi, peatab ligipääsu või väidab väärkasutust. Küsige, kas kooli teavitatakse olulistest mudelimuudatustest. Lõpuks paluge tarnijal selgitada oma punaseid jooni lihtsas keeles: milliseid andmeid ta kunagi ei kasuta, milliseid allikaid ta kunagi ei neela sisse ja milliseid lepingulisi piiranguid ta ei ületa.
Lepingu punktid, mille nimel tasub survestada
Koolid ei peaks leppima sõbraliku kinnitusega müügikõnes. Kui andmete päritoluahel on oluline, peab see olema kirjas. Mõistlik leping peaks sisaldama kinnitust, et tarnijal on teenuse osutamiseks ning asjakohaste mudelite treenimiseks või peenhäälestamiseks vajalikud õigused. See peaks sisaldama hüvitamiskohustusi kolmandate osapoolte intellektuaalomandi nõuete puhul, sõnastusega, mis ei lagune kohe, kui kool seadistab tööriista tavapärasel viisil. Samuti peaks see nõudma nõuete, uurimiste või teenust mõjutavate oluliste vaidluste kiiret teatamist.
Auditiõiguste taotlemine on mõistlik, isegi kui need on proportsionaalsed, mitte piiramatud. Kool ei pruugi vajada otsest ligipääsu toorandmestikele, kuid ta võib küsida sõltumatuid kinnitavaid aruandeid, dokumenteeritud mudelikaarte, alltöötlejate loetelusid ja tõendeid juhtimise ülevaatuste kohta. Kui tarnija keeldub igasugusest sisulisest läbipaistvusest, ütleb see juba midagi. Koolid võivad nõuda ka lõpetamisõigusi juhul, kui tekib tõsine päritoluvaidlus või mudelipakkujat muudetakse ilma heakskiiduta. Juhtidele, kes sel aastal poliitikateksti koostavad või uuendavad, võib see AI poliitika kiirpakett aidata tõlkida juhtimispõhimõtted kasutatavatesse klauslitesse.
Punase-kollase-rohelise vaade
Praktiline usaldusraamistik aitab hoida otsuseid maa peal. Roheline tarnija suudab nimetada oma baasmudelid, selgitada treeningallikaid üldisel tasemel, kinnitada litsentsimist või õiguspärast kasutust, öelda selgelt, kas kliendiandmeid kasutatakse treenimiseks, ning pakkuda lepingulisi kohustusi teavitamise ja hüvitamise osas. Kollane tarnija annab osalisi vastuseid, toetub tugevalt üldsõnalistele väljenditele nagu „omandilised meetodid” või pakub läbipaistvust alles pärast lepingu allkirjastamist. See võib olla siiski hallatav madala riskiga, mitte õpilastele suunatud kasutuste puhul, kuid peaks käivitama rangemad kontrollid.
Punane tarnija ei suuda või ei taha päritoluahelat selgitada, väldib kirjalikke kohustusi, muudab oma juttu kohtumiste lõikes või lükkab päritolumured ebaolulistena kõrvale. Teine punane lipp on agressiivne allahindlus, mis surub kiirustatud otsuseid läbi enne korralikku ülevaatust — muster, mis ei piirdu AI-ga, kuid on tarkvaramüügis üha nähtavam. Meie artikkel AI tellimuste tumedatest mustritest ja hankekontrollidest näitab, kuidas äriline surve võib hoolsuskontrolli nõrgendada, kui meeskonnad ei ole ettevaatlikud.
Mida sel trimestril teha
Kui teie kool kasutab juba potentsiaalselt kõrge riskiga AI tööriista, ärge sattuge paanikasse ja ärge oodake täiuslikku poliitika ümberkirjutamist. Alustage sellest, et teete kindlaks, kus tööriista kasutatakse, millised andmed sinna sisestatakse ja kas see on hädavajalik või lihtsalt mugav. Esitage tarnijale ülaltoodud päritoluküsimused ja paluge kirjalikke vastuseid. Vaadake üle lepingutingimused treeningkasutuse, hüvitamiskohustuste, etteteatamistähtaegade ja lõpetamisõiguste osas. Kui vastused on nõrgad, piirake tööriista madala riskiga ülesannetega, kuni alternatiive hinnatakse.
Samuti on mõistlik eristada vahetut kasu klassiruumis pikaajalisest platvormikohustusest. Tööriist, mis aitab ajurünnakuga, võib siiski olla sobimatu õpilaste andmete, hindamise toe või kogu kooli hõlmava kasutuselevõtu jaoks. Hankimine ei tähenda innovatsiooni keelamist. See tähendab teadmist, mida te ostate, millised eeldused selle all peituvad ja mis juhtub siis, kui need eeldused läbi kukuvad. DeepSeeki–Claude’i väide tuletab meelde, et koolides on kõige olulisem AI küsimus mõnikord kõige vanem hankeküsimus üldse: kas see tarnija suudab näidata, kuidas ta tulemuseni jõudis?
Selgemate tarnijavastuste ja turvalisemate AI ostuotsuste nimel.
The Automated Education Team