Hariduse valdkonnas on tehisintellekti (AI) tõus olnud nii õnnistus kui ka mureallikas. Õpetajatena oleme näinud AI transformatiivset jõudu õppimise isikupärastamisel, kohese tagasiside andmisel ja isegi administratiivsete ülesannete automatiseerimisel. Kuid koos keerukate AI tekstigeneraatorite nagu OpenAI GPT-3.5 ja GPT-4 tulekuga on tekkinud uus väljakutse: AI loodud sisu tuvastamine akadeemilistes töödes. Küsimus, kas tekstilõik on loodud inimese või AI poolt, on muutunud pakiliseks probleemiks, millel on olulised eetilised tagajärjed.
Õppetund digitaalfotograafiast
AI loodud teksti tuvastamise väljakutset saab paremini mõista, uurides digitaalfotograafia arengut - valdkonda, mis on läbinud teksti genereerimisega paralleelse muutuse. Vaatame seda võrdlust, et mõista seotud keerukusi.
Digitaalfotograafia algusaegadel olid pilditöötlusvahendid algelised. Digitaalsed pildid olid sageli madalama resolutsiooni ja kvaliteediga võrreldes filmifotodega, muutes need kergesti eristatavaks. Redigeerimisel tähendas piiratud tarkvara võimekus, et muudatused olid tavaliselt silmatorkavad. Tüüpilised märgid nagu pikselatsioon, ebaloomulik värviküllastus ja ilmsed kloonimistemplid olid tavalised. Isegi koolitamata silmale olid need digitaalsed jäljed märgatavad ja foto autentsust sai suhteliselt lihtsalt hinnata.
Photoshopi revolutsioon
Adobe Photoshopi tulek 1980ndate lõpus tähistas pöördepunkti. See võimas tarkvara tõi keerukad redigeerimisvahendid massidesse, võimaldades kasutajatel pilte manipuleerida enneolematu täpsusega. Photoshop võimaldas sujuvalt eemaldada plekke, muuta valgustust ja värve ning isegi täielikult ümber kujundada stseeni. Tarkvara arenedes tutvustas see kihte, maske ja hulgaliselt täiustatud funktsioone, mis võimaldasid kunstnikel ja fotograafidel luua pilte, mida piiras ainult nende kujutlusvõime.
Digitaalfotograafia maastik on dramaatiliselt arenenud tänapäevaste DSLR-ide (Digital Single-Lens Reflex kaamerate) ja peeglita kaamerate tulekuga, mis pakuvad sisseehitatud pilditöötlusfunktsioone. Need täiustatud kaamerad on varustatud võimsate protsessorite ja tarkvaraga, mis võimaldavad fotograafidel rakendada erinevaid redigeerimisi otse kaameras, isegi enne, kui pilt arvutisse edasiseks töötlemiseks edastatakse.
Tänapäevased DSLR-id ja peeglita kaamerad sisaldavad sageli võimalusi kaameras HDR-i jaoks, kus tehakse mitu säritust ja kombineeritakse need, et luua pilt, millel on suurem dünaamiline ulatus kui üksik säritus suudaks jäädvustada. See protsess, mis oli kunagi järeltöötluse ülesanne, nõudes spetsiaalset tarkvara, saab nüüd tehtud nupuvajutusega.
Lisaks võivad need kaamerad pakkuda sisseehitatud filtreid ja efekte, mis võivad jäljendada erinevate filmivarude välimust, rakendada värvikorrektsiooni või isegi luua miniatuurseid või kalasilma objektiivi efekte. Mõned kaamerad pakuvad ka võimalust pilte retušeerida, näiteks eemaldada punasilmsust, pehmendada nahka või parandada objektiivi moonutusi, kõik ilma välise tarkvara vajaduseta.
Teine oluline edasiminek on võimalus pildistada RAW-formaadis, mis salvestab kõik andmed kaamera sensorilt ilma kaameras töötlemiseta. See annab fotograafidele maksimaalse hulga teavet, millega järeltöötluse ajal töötada, võimaldades suuremat kontrolli lõpliku pildi üle. Kuid isegi kaameras saavad kasutajad kohandada parameetreid nagu valge tasakaal, säritus ja müra vähendamine RAW-failidel enne nende eksportimist töödeldud JPEG-idena.
Mõned uusimad kaameramudelid sisaldavad isegi AI-põhiseid funktsioone, mis suudavad tuvastada stseene ja objekte, automaatselt kohandades selliseid seadeid nagu fookus, säritus ja värvitasakaal, et optimeerida pilti. Need intelligentsed süsteemid suudavad tuvastada nägusid ja silmi, et tagada portreedes terav fookus või kohandada säritust, et jäädvustada parimad võimalikud detailid heledates ja varjulistes kohtades.
Tänapäevane fototöötlus ei seisne enam ainult vigade parandamises; see on kunstivorm omaette. Professionaalsed retušeerijad võivad pildi täiustamiseks kulutada tunde, isegi päevi, tehes peeneid kohandusi, mida enamik vaatajaid kunagi ei märkaks. Muudatused on nii hoolikad, et need jäljendavad muutmata fotodel leiduvaid loomulikke variatsioone, nagu valguse ja varju mäng, materjalide tekstuur ja inimese naha nüansid. See detailide tase muudab äärmiselt keeruliseks eristada, kas foto on redigeeritud, isegi ekspertide jaoks.
AI teksti tuvastamise tagajärjed
Tõmmates paralleeli AI loodud tekstiga, leiame end sarnases olukorras. Nii nagu digitaalfotograafia on arenenud punktini, kus redigeerimised on märkamatud, on AI tekstigeneraatorid jõudnud tasemele, kus nende väljund võib olla eristamatu inimkirjutisest. AI loodud teksti varased märgid - kohmakas sõnastus, mõttetud laused ja korduv keel - ei ole enam usaldusväärsed näitajad. Täiustatud mudelid nagu GPT-3.5 ja GPT-4 suudavad toota teksti, mis voolab loomulikult, sisaldab nüansirikkaid ideid ja isegi jäljendab konkreetseid kirjutamisstiile.
Digitaalfotograafia analoogia rõhutab käsiloleva ülesande keerukust. Nii nagu fototöötlusest on saanud kunst, mis võib trotsida tuvastamist, on ka AI teksti genereerimine muutunud käsitööks, mis võib vältida kõige valvsamat kontrolli. See võrdlus ei illustreeri mitte ainult väljakutseid AI loodud sisu eristamisel, vaid toimib ka hoiatusena tehnoloogia liigse usaldamise eest probleemide lahendamisel, mis on olemuselt inimlikud ja subjektiivsed.
Teksti genereerimise areng
AI trajektoor teksti genereerimisel peegeldab digitaalfotograafia maastikku. Enne GPT-3.5/4 ajastut võis AI loodud teksti mõnikord tuvastada selle jäiga struktuuri ja juhusliku jampsimise järgi. Varajane AI tekstiruumis koosnes õigekirja- ja grammatikakontrollidest, mis arenesid automaatkorrektsiooni ja ennustava teksti funktsioonideks, mis muutusid nutitelefonide tõusuga kõikjalolevaks.
Nüüd, GPT-3.5/4-ga, on meil AI, mis suudab genereerida teksti, mis on praktiliselt eristamatu inimkirjutisest. Nende mudelite keerukus tähendab, et õigekiri, grammatika, kirjavahemärgid ja kontekst on tavaliselt veatud - sageli ületades keskmise põhikooliõpilase võimeid.
AI sisu tuvastamise lõksud
Hoolimata AI täiustatud võimetest on AI loodud sisu tuvastamine täis väljakutseid. Alguses võivad õpetajad kahtlustada liiga viimistletud tööd kahtlaselt arenenuna. Kuid tõeline probleem tekib siis, kui õpilased tegelevad prompt engineering’iga - AI väljundi peenhäälestamisega, et jäljendada konkreetset stiili või tahtlikult lisada vigu.
Eksperdid tunnistavad piiranguid
OpenAI ise on tunnistanud AI tuvastamise tööriistade piiranguid. Oma blogipostituses nad ütlesid:
“Meie klassifikaator ei ole täielikult usaldusväärne. Meie hinnangutes ingliskeelsete tekstide ‘väljakutse komplekti’ kohta tuvastab meie klassifikaator õigesti 26% AI kirjutatud tekstist (tõelised positiivsed) kui ’tõenäoliselt AI kirjutatud’, samas kui valesti märgistab inimeste kirjutatud teksti AI kirjutatuks 9% ajast (valepositiivsed).” OpenAI
Ettevõte eemaldas hiljem klassifikaatori selle madala täpsusmäära tõttu, rõhutades usaldusväärse tuvastussüsteemi loomise raskusi.
Turnitini juhtum
Turnitin, laialdaselt kasutatav plagiaadi tuvastamise teenus, tutvustas AI tuvastamise tööriista, mis tekitas märkimisväärset muret. Vanderbilt University, pärast tööriista testimist ja teiste asutustega konsulteerimist, otsustas selle keelata, öeldes:
“Valesüüdistused AI kasutamise kohta on viimastel kuudel laialdaselt teatatud, sealhulgas mitmed juhtumid, mis hõlmasid Turnitini.” Vanderbilt University
Kallutatus mitte-emakeelsete inglise keele kirjutajate vastu
Stanfordi teadlased on leidnud, et AI detektorid on kallutatud mitte-emakeelsete inglise keele kirjutajate vastu, kusjuures detektorid märgistavad valesti märkimisväärse arvu mitte-emakeelsete inglise keele õpilaste esseesid AI loodud tekstina. Stanford HAI
Eetilised tagajärjed
AI tuvastamise tööriistade kasutamine tõstatab tõsiseid eetilisi küsimusi. Valepositiivsed tulemused võivad õpilastele kaasa tuua tõsiseid tagajärgi, sealhulgas põhjendamatuid süüdistusi akadeemilises ebaaususes. William Quartermani juhtum, kes oli California Ülikooli, Davise üliõpilane ja keda süüdistati valesti AI tuvastamise tarkvara põhjal petmises, rõhutab võimaliku kahju ulatust. USA Today
Pealegi võib AI tuvastamise tööriistadele tuginemine õõnestada usaldust õpetajate ja õpilaste vahel. Süütuse eeldamine võib kahjustada õpetajate ja õppijate vahelist suhet, luues kahtluse ja vaenulikkuse õhkkonna. Õpetajad peavad leidma õrna tasakaalu akadeemilise aususe säilitamise ja õpilaste õiguste ja väärikuse austamise vahel.
Detektori vältimine
Kuna õpilased muutuvad osavamaks AI loodud sisu manipuleerimisel, võivad nad leida viise tuvastamise vältimiseks. Tehnikad nagu prompt engineering, tahtlike vigade lisamine või AI loodud teksti segamine oma kirjutamisega võivad muuta tuvastamise tööriistade jaoks AI sisu täpse tuvastamise keeruliseks.
Allpool on mõned näited GPT4 poolt loodud sisust, täiesti muutmata. Kõigil juhtudel oli prompt umbes järgmine: “Kirjuta ümber sufrageti kõne kui X klassi õpilane, sealhulgas grammatika- ja õigekirjavead”:
Näide 1
Hlelo eervyone,
My naem is Jamie and toady I’m giong to takl about soemthing raelly importnat. It’s about wemon and how tehy shuold be albe to vote just lkie the men. A wihle back, wich is raelly not fair, wemon cudn’t vote at all. It was only for men, and that’s not rihgt coz grils are just as clever as boys, rihgt?
So, there was this ruel that said if you’re a gril, you can’t vote. That’s lkie saying grils can’t play footie or wear cool kicks, wich is just daft. And that menas all the mummys and their dauters and even their dauters’ dauters didn’t get to pik who makes the ruls. That’s lkie, haf of all the pepole!
This guvment didn’t let the wemon say what tehy think. So it wasn’t a reel democrazy, coz in a democrazy evryone shuold get to have a say. It was more lkie an… aristo… aristo… a big werd that means only some pepole get to be the boss coz they’re rich or coz they’re boys.
It’s lkie, if you had a famly and the dad and the broters and the husbend and the sons got to pik all the fun stuff, and the mum and sistrs and wife and dauters just had to do what tehy say. That wuold make evryone raelly cross, rihgt?
But now, wemon can vote too! It’s much beter coz evryone gets a choice, and that’s raelly importnat for being fair. So, we shud all rember how hard wemon had to fihgt to be albe to vote and make sure we alwys be kind and fair to evryone, no mater if they’re a boy or a gril.
Fanks for listning to my speach. I hpe you thnik it was gud!
Bye!
Näide 2
Hello everybudy,
My name is Jamie and I’m in year for. I’m here to talk to you about something super important. It’s about girls and ladies being able to vote, which is called suff… suffra… suffrage, yeah that’s it. So, a long time ago, women couldn’t vote at all. That’s really not fair, coz like, half of all the peepol are women!
There’s this really tricky word called “dis…disfran…disfranchi…disfranchisement.” It’s when peepol are not aloud to vote. And if only men can vote, then it’s like saying only they can make all the rules and that’s not fair to the girls and ladies. It’s like, the goverment is not listening to them at all. And that’s not what democracy is about, right? Democracy means everyone gets a say, not just some peepol.
When only men are in charge, it’s like having an aris… aristo… a big fancy group of peepol who think they’re better than everyone else. It’s like saying dads and brothers and husbands and sons are the bosses of mums and sisters and wives and daughters. And that’s not nice, coz it makes everyone argue at home and that’s sad.
So, I think it’s really important that girls and ladies can vote too. Because everyone should be treated the same and have the same chances to choose what happens in our country. And that’s what I wanted to say today. Thank you for listening to me.
Bye!
See on lihtne juhtum prompt engineering’ist, kus õpilane on tahtlikult lisanud vigu, et jäljendada noorema õpilase kirjutamisstiili. Tehnikad võivad olla keerukamad, kus õpilased segavad AI loodud sisu oma kirjutamisega, et luua sujuv tükk, mis kergesti väldib isegi kõige keerukamaid tuvastamise tööriistu.
Ei ole võimatu ette kujutada tulevikku, kus arendatakse ja laialdaselt kasutatakse AI veebirakendusi, mis on spetsiaalselt mõeldud petmiseks. Need rakendused võivad tarbida õpilaste enda varasemaid töid, mida kasutatakse sisu genereerimiseks, mis on kohandatud jäljendama konkreetse õpilase kirjutamisstiili, muutes selle praktiliselt võimatuks tuvastada isegi kõige tähelepanelikumate õpetajate poolt. Sellised süsteemid juba eksisteerivad, lihtsalt võib-olla mitte kergesti kättesaadavad keskmisele õpilasele.
Strateegiad Õpetajatele
Tehisintellekti (AI) kiire areng hariduses on toonud õpetajatele kaasa uue hulga väljakutseid. AI võimekus luua teksti, mis on eristamatu inimeste kirjutatust, muudab traditsioonilised meetodid akadeemilise ebaaususe tuvastamiseks ebausaldusväärseks. Nagu oleme näinud, on katsed kasutada AI-d AI-ga loodud sisu tuvastamiseks osutunud eetiliste probleemide ja ebatäpsuste tõttu problemaatiliseks. Mida saavad õpetajad siis teha, et seda probleemi tõhusalt lahendada? Siin on mõned strateegiad, mis keskenduvad õpetamise inimlikule elemendile ja kriitilise mõtlemise oskuste arendamisele, mitte vigase tuvastustehnoloogia liigsele kasutamisele.
Rõhuasetus Õppimisprotsessile, Mitte Tulemusele
Üks tõhusamaid viise AI kasutamisega petmise vastu võitlemiseks on nihutada fookus lõpptulemuselt õppimisprotsessile endale. Julgustage õpilasi esitama mustandeid, ülevaateid ja märkmeid, mis dokumenteerivad nende töö edenemist. See mitte ainult ei takista AI kasutamist, vaid soodustab ka sügavamat kaasatust materjali.
Aususe Kultuuri Edendamine
Loo klassiruumi keskkond, mis väärtustab ausust ja originaalset mõtlemist, võib akadeemilist ebaausust oluliselt vähendada. Arutage oma õpilastega akadeemilise aususe tähtsust ja autentsete õppimiskogemuste väärtust. Tehke selgeks, et ülesannete eesmärk ei ole ainult paberi koostamine, vaid tähendusrikka õppimisprotsessi läbimine.
Avatud Raamatu ja Märkmete Hindamiste Kasutamine
Avatud raamatu või märkmete hindamised võivad vähendada kiusatust kasutada AI loodud sisu. Sellised hindamised julgustavad õpilasi mõistma ja rakendama teadmisi, mitte lihtsalt infot meelde jätma, muutes AI kasutamise vähem tõhusaks.
Suuliste Eksamite või Esitluste Rakendamine
Suulised eksamid ja esitlused nõuavad õpilastelt materjali mõistmise demonstreerimist reaalajas. See formaat võib olla tõhus viis hinnata tõelist arusaamist ja mõtete väljendamise võimet, mida on AI abil palju raskem võltsida.
Projektipõhiste Õppetegevuste Kujundamine
Projektipõhised õppetegevused nõuavad õpilastelt oma teadmiste rakendamist reaalse maailma probleemidele, sageli koostöökeskkonnas. Nende projektide keerukus ja unikaalsus muudavad AI jaoks nende replikatsiooni keeruliseks, tagades, et õpilased tuginevad oma oskustele ja loovusele.
Eakaaslaste Arvustamise ja Koostöö Julgustamine
Kaasake eakaaslaste arvustamise sessioone, kus õpilased saavad oma töö kohta tagasisidet anda ja saada. Koostöö aitab õpilastel üksteiselt õppida ja loob kogukonna ja ühise vastutuse tunde akadeemiliste standardite säilitamise eest.
Ole Kursis ja Kohane
Kuna AI areneb pidevalt, peavad ka meie strateegiad sellega tegelemiseks arenema. Ole kursis AI uusimate arengutega ja ole valmis oma õpetamismeetodeid vastavalt kohandama. Osale professionaalse arengu võimalustes, mis keskenduvad AI kirjaoskusele ja eetilistele kaalutlustele.
Tuleviku Suunamine Ettevaatlikkuse ja Hoolikusega
Seistes tehnoloogilise arengu ja haridusliku terviklikkuse ristteel, on oluline, et me, õpetajad, navigeeriksime selles uues maastikus ettevaatlikkuse ja hoolikusega. AI kui akadeemilise ebaaususe tuvastamise tööriista võlu tuleb kaaluda võimaliku vale süüdistamise ja usalduse õõnestamise vastu meie hariduskogukondades.
AI tuvastustööriistade poolt esitatud eetiline dilemma ei ole kergekäeliselt võetav. Õpilase töö valesti märgistamise tagajärjed võivad olla kaugeleulatuvad, mõjutades nende akadeemilist rekordit, enesehinnangut ja tulevasi võimalusi. Meie vastutus on tagada, et meetodid, mida kasutame akadeemilise terviklikkuse säilitamiseks, oleksid õiglased, võrdsed ja vabad eelarvamustest.
Selles kiiresti arenevas maastikus peame olema valvsad ja proaktiivsed. Peame pidama avatud dialoogi oma õpilastega AI eetilise kasutamise kohta, edendama keskkondi, mis julgustavad originaalsust ja kriitilist mõtlemist, ning jääma kohanemisvõimeliseks hariduse muutuvate olemuste suhtes digiajastul.
Eesolev teekond on kaardistamata, kuid pannes esikohale hariduse inimliku elemendi – meie suhted, meie otsustusvõime ja meie pühendumuse oma õpilastele – saame suunata kursi, mis austab kõigi õppijate väärikust ja säilitab väärtused, mis on meie elukutse südames.
Automated Educationis mõistame AI poolt haridussektorile esitatud keerukusi ja väljakutseid. Meie AI-toega õpetaja assistent on loodud toetama õpetajaid õpikogemuse täiustamisel, mitte õpilaste töö autentsuse jälgimisel. Usume tehnoloogia kasutamisesse, et võimestada nii õpetajaid kui ka õpilasi, edendades koostöö- ja innovatsioonikeskset õpikeskkonda.
Jätkates AI võimekuste ja mõjude uurimist hariduses, teeme seda koostöö, mõistmise ja eetilise kaalutluse vaimus. Koos saame kasutada AI võimu hariduse rikastamiseks, säilitades samal ajal terviklikkuse, mis on meie ühise teadmistepüüdluse alus.
Edasine Lugemine
AI-loodud teksti tuvastustööriistade testimine
Artikkel hindab kriitiliselt tööriistade tõhusust, mis on loodud AI-loodud teksti tuvastamiseks, eriti akadeemilises keskkonnas, testides nende võimet eristada inimeste ja ChatGPT poolt loodud sisu. See näitab, et praegused tuvastusmeetodid on suures osas ebatäpsed ja kalduvad AI-teksti inimkirjutatuks ekslikult tuvastama, kusjuures varjamistehnikad halvendavad nende jõudlust veelgi. Uuring on märkimisväärne oma ulatusliku testimise poolest erinevate tööriistade, sealhulgas Turnitin ja PlagiarismCheck, ning toob esile väljakutsed ja piirangud, mis tulenevad selliste tööriistade kasutamisest hariduskontekstis.
Weber-Wulff, D., Anohina-Naumeca, A., Bjelobaba, S. et al. Testing of detection tools for AI-generated text. Int J Educ Integr 19, 26 (2023). https://doi.org/10.1007/s40979-023-00146-z
AI sisu tuvastustööriistade tõhususe hindamine inimeste ja AI-loodud teksti eristamisel
See uuring hindab AI sisu tuvastustööriistade tõhusust, et eristada ChatGPT mudelite 3.5 ja 4 ning inimeste kirjutatud teksti jahutustornide teemal inseneriteaduses. Testitud tööriistad hõlmavad OpenAI, Writer, Copyleaks, GPTZero ja CrossPlag tööriistu. Tulemused näitavad, et kuigi need tööriistad on paremad GPT 3.5 sisu tuvastamisel, on neil raskusi GPT 4-ga ja nad näitavad ebajärjekindlust inimeste kirjutatud tekstiga, põhjustades valepositiivseid tulemusi. Leiud rõhutavad vajadust täiustatud AI tuvastustehnoloogiate järele, kuna AI-loodud sisu muutub üha eristamatumaks inimeste kirjutatud tööst.
Elkhatat, A.M., Elsaid, K. & Almeer, S. Evaluating the efficacy of AI content detection tools in differentiating between human and AI-generated text. Int J Educ Integr 19, 17 (2023). https://doi.org/10.1007/s40979-023-00140-5
Kas AI-loodud teksti saab usaldusväärselt tuvastada?
Artikkel käsitleb AI-loodud teksti tuvastamise väljakutset, et vältida suurte keelemudelite (LLM) väärkasutamist plagiaadi, valeuudiste ja rämpsposti loomiseks. See näitab, et praegused tuvastusmeetodid, sealhulgas mudeli allkirjad, vesimärgid ja erinevad klassifikaatorid, on ebaefektiivsed keerukate rünnakute, näiteks rekursiivse parafraseerimise vastu. Uuring näitab, et sellised rünnakud võivad tuvastamisest mööda hiilida, säilitades samal ajal teksti kvaliteedi ja võivad isegi petta tuvastajaid inimteksti AI-loodud tekstiks valesti märgistama, ohustades arendajate mainet. Lisaks pakub uuring teoreetilist raamistikku AI-loodud teksti tuvastamise sisemise raskuse hindamiseks ja pakub avalikku juurdepääsu katsetes kasutatud koodile.
Vinu Sankar Sadasivan, Aounon Kumar, Sriram Balasubramanian, Wenxiao Wang, Soheil Feizi. Can AI-Generated Text be Reliably Detected? arXiv:2303.11156 [cs.CL] (2023) https://doi.org/10.48550/arXiv.2303.11156