Rozzuřené obavy, že generativní AI ChatGPT podněcuje studenty k obrovskému podvádění při psaní esejů, vyvolává okouzlující pozornost pro etiku AI a zákon o AI

Je psaná esej moderních studentů už nikdy?

Vychází studentská seminární práce plná úzkosti horečně z okna?

To je ta brouhaha, která nedávno propukla v totální povyk. Vidíte, vzhled aplikace AI známé jako ChatGPT si získal velkou pozornost a stejně tak vyvolal velký hněv. Pro mé komplexní pokrytí ChatGPT viz odkaz zde. Pro mé průběžné a rozsáhlé pokrytí etiky AI a práva AI viz odkaz zde a odkaz zde, Abychom jmenovali jen několik.

Podstatou ječení a řevu je, že tento druh umělé inteligence, obvykle označovaný jako generativní AI, bude umíráček za to, že žádají studenty, aby dělali úkoly ve stylu eseje.

Proč?

Protože nejnovější generativní umělá inteligence je schopna produkovat zdánlivě plynulé eseje pouhým zadáním jednoduché výzvy. Pokud zadáte řádek jako „Řekni mi o Abrahamu Lincolnovi“, AI vygeneruje esej o životě a době Lincolna, která je často dost dobrá na to, aby byla mylně považována za napsanou výhradně a výhradně lidskými rukama. Navíc, a zde je skutečný nakopávač, esej nebude duplikátem nebo nápadnou kopií něčeho jiného, ​​co již bylo napsáno na stejné téma. Vytváření eseje bude v podstatě „originál“, pokud by jakákoli náhodná kontrola zjistila.

Student, který stojí před psaním úkolu, může pouze vyvolat jednu z těchto generativních aplikací umělé inteligence, zadat výzvu a voila, celá jeho esej byla napsána pro něj. Stačí automaticky vygenerovaný text vyjmout a vložit do prázdného dokumentu, tajně do něj plácnout své jméno a informace o třídě as trochou odvážné odvahy ho odevzdat jako své vlastní dílo.

Pravděpodobnost, že učitel bude schopen odhalit, že esej napsala umělá inteligence, a nikoli student, je téměř nulová.

Skandální!

Titulky spěšně hlásaly, že jsme dosáhli hořkého konce, kdy studenti psali eseje nebo dělali v podstatě jakýkoli druh písemných úkolů mimo třídu. Zdá se, že jediným prostředkem, jak se s touto situací vyrovnat, je psaní esejí ve třídě. Když jsou studenti v kontrolovaném prostředí, jako je učebna, a předpokládají, že nemají přístup k notebookům nebo svým chytrým telefonům, ocitnou se omezeni na psaní esejí staromódním způsobem.

Abychom objasnili, staromódní způsob znamená, že budou muset psát výhradně pomocí svých vlastních noggins.

Jakýkoli druh eseje provedený mimo třídu bude okamžitě podezřelý. Napsal student esej nebo to udělala aplikace AI? Jak již bylo zmíněno, esej bude napsána tak dobře, že snadno nezjistíte, že byla napsána strojem. Pravopis bude bezvadný. Syntaxe bude ohromná. Linie diskurzu a potenciální koučované argumenty budou přesvědčivé.

Sakra, v jistém smyslu byste mohli naznačit, že generativní umělá inteligence nakloní svou příslovečnou ruku tím, že udělá esej, která přesahuje možnosti studenta, který se rozhodne jít touto hanebnou cestou. Učitel může mít podezření jednoduše kvůli tomu, že esej je příliš dobrá. Důvtipný učitel by byl v pokušení uhodnout, že student nemohl napsat tak elegantní a neprodyšnou prózu. Začnou zvonit vnitřní poplašné zvonky.

Samozřejmě, že vyzvat studenta na jeho esej bude ošklivé a může mít nepříznivé důsledky.

Předpokládejme, že student pečlivě napsal esej, úplně sám. Možná to zkontrolovali dvakrát a třikrát. Existuje také šance, že možná měli přítele nebo známého, aby se podíval na něco, co potřebuje extra leštění. Celkově vzato je to stále jejich esej, jak ji napsali. Představte si, že učitel klade tomuto vážnému a pilnému studentovi vyhrocené otázky týkající se eseje. Rozpaky a rozhořčení nad tím, že jsou v podstatě obviněni z podvádění, jsou hmatatelné, i když to učitel nahlas neprohlásí. Pouhá konfrontace sama o sobě stačí k tomu, aby podkopala úctu studenta a vyvolala v něm pocit falešného pomluvy.

Někteří trvají na tom, že každý učitel, který má podezření na autorství eseje, by měl požádat studenta, aby vysvětlil, co napsal. Předpokládá se, že pokud esej napsal student, může to konkrétní student dostatečně vysvětlit. Učitelé dělali tento druh šetření po eony. Student mohl přimět jiného studenta, aby za něj napsal esej. Student možná přiměl rodiče, aby napsali jejich esej. V dnešním světě může student zaplatit někomu přes internet, aby jeho jménem tajně napsal esej.

Žádat studenta, aby si autorství ověřil prostřednictvím dotazu ve třídě, je tedy obvyklé a není to velký problém.

Jsem rád, že jsi to uvedl.

Pokus o mírné nebo prokazatelné grilování studenta není tak přímočarý lakmusový papírek, jak si možná myslíte. Student si mohl důkladně prostudovat esej vytvořenou AI a připravit se na případný výslech.

Přemýšlejte o tom takto. Student nejprve vytvoří esej pouhým stisknutím tlačítka. Student pak tráví spousty času, který by věnoval psaní eseje, místo toho, aby esej pečlivě zkoumal a studoval. Po chvíli jsou slova téměř zcela uložena v paměti. Student se téměř klame, že věří, že esej skutečně napsali. Toto zdání důvěry a uvědomění by je mohlo snadno dostat přes kontrolu pod vedením učitele.

Aha, někteří v protikladu k obavám z generativních aplikací umělé inteligence říkají, že student se ve skutečnosti něco „naučil“, když vytvořil esej. Jistě, student si nedělal práci, aby zkoumal téma, a ani nepsal esej, ale pokud si esej pečlivě prostudoval, zdá se, že se o zadaném tématu dozvěděl. Student, který se zavázal, že se naučí zpaměti esej o Lincolnovi, se pravděpodobně dozvěděl něco podstatného o Lincolnovi.

Učení proběhlo.

Páni, odpověděl, že úkol byl pravděpodobně dvojí proces. Dozvědět se o Lincolnovi mohlo být relativně vedlejší. Skutečným účelem bylo, aby se student naučil psát. Tato podstatná část zadání byla zcela podříznuta. Učitelé často zadávají otevřená témata a ve skutečnosti se snaží pouze o to, aby si student vyzkoušel psaní. Musíte si rozvrhnout, co chcete napsat, musíte přijít na to, jaká slova použijete, musíte slova poskládat do rozumné sady vět a odstavců a tak dále. Pouhé čtení eseje vytvořené umělou inteligencí vůbec neodpovídá tomuto základnímu aspektu zadání eseje.

Protipólem k tomu je tvrzení, že student se potenciálně učí o psaní tím, že podrobně zkoumá písmo vytvořené AI. Nestudujeme všichni velmistry psaní, abychom viděli, jak píší? Naše psaní je pokusem oslovit Shakespeara a další skvělé spisovatele. Studium psaného slova je platným prostředkem k získání toho, jak psát.

Jako při divokém tenisovém zápase se míček přesune na druhou stranu sítě. Studium dobrého psaní je sice dobré, ale pokud chcete umět psát, musíte nakonec psát. Nemůžete jen donekonečna číst a pak tupě předpokládat, že student nyní umí psát. Musí psát, psát a psát, dokud nebudou schopni hmatatelně předvést a zlepšit své schopnosti psaní.

Vidíte, jak je to všechno docela rébus?

Uvědomte si, že v tom všem je asi milion nebo více zvratů.

Uvedu některé z důmyslnějších a zajímavějších zvratů.

Ladění eseje prostřednictvím výzvy AI

Když už jsme zmínili Shakespeara, zde je jeden aspekt generativní umělé inteligence, který by vás mohl překvapit. V mnoha generativních aplikacích umělé inteligence můžete říci něco takového: „Napište esej o Lincolnovi, jako by esej napsal Shakespeare.“ Umělá inteligence se pokusí vytvořit esej, která se zdá být napsána v jazyce, který Shakespeare ve svých spisech obvykle používá. Je to docela zábavný a poutavý výkon a mnozí z toho mají docela radost.

Jak to souvisí se studentem, který „podvádí“ používáním generativní umělé inteligence k psaní svých esejí?

V mnoha generativních aplikacích AI můžete AI říct, aby psala méně než hvězdným způsobem. Umělá inteligence se bude snažit vytvořit esej, která bude na okrajích poněkud hrubá. Tady nebo tam jsou problémy se syntaxí. Logika eseje může být nervózní nebo mírně nesouvislá.

To by byla chytrá lest. Student vezme výslednou esej a odevzdá ji. Esej je dost dobrá na to, aby získala nejlepší známku, ale zatím není tak dokonalá, aby učitele vzbudila hněv. Umělá inteligence opět udělala za studenta veškerou práci, včetně toho, že esej byla poněkud nedokonalá.

Kromě toho vám většina generativních aplikací AI umožňuje používat aplikaci tak dlouho, jak si přejete. Tady je návod, jak se to hraje. Student píše, že aplikace AI má vytvořit poněkud nedokonalou esej o Lincolnovi. Esej je vytvořena. Student se podívá na esej a uvědomí si, že je stále příliš dokonalá. Student zadá další výzvu, která instruuje AI, aby byly nedokonalosti výraznější.

Lather, opláchněte, opakujte.

Student neustále zadává výzvy a kontroluje vytvořené eseje. K tomu dochází znovu a znovu. Nakonec student dostane AI na správnou úroveň nedokonalosti v eseji. Bylo dosaženo verze zlatovlásky. Je prostě dost dokonalý na to, aby získal vysokou známku, a dost nedokonalý, aby nevzbudil podezření.

Jsem si jistý, že někteří z vás šmrncovně říkají, že kdyby se student rozhodl napsat tu zatracenou esej, možná by strávil méně času nebo alespoň stejnou dobu psaním samotné eseje. Celé toto energeticky vyčerpávající použití aplikace AI mohlo být zaměřeno na pouhé pokračování v psaní eseje.

Dobře, pamatujte, že student to nemá na mysli. Snadné zadávání výzev a opakované prohlížení a výběr požadované eseje bude pro studenta jistě mnohem snazší. Hodina toho je mnohem méně náročná než napsat esej přímo. Šikovnost je v tomto případě třeba poměřovat s realitou.

Co se stane, když ostatní studenti udělají totéž

Vsadil bych se, že jste měli na mysli tuto chytrou myšlenku, když jste četli předchozí analýzu o esejích a generativních aplikacích umělé inteligence, totiž že student bude nepochybně přistižen, pokud totéž udělá spousta dalších studentů.

Dovolte mi to vysvětlit.

Učitel pověří celou třídu, aby napsala esej o Lincolnovi. Předpokládejme, že 90 % studentů se rozhodne pro tento úkol použít generativní aplikaci AI. Pokud se vám 90 % zdá příliš depresivní, pokračujte a použijte místo toho 10 %. Jen mějte na paměti, že jak studenti získávají informace o užitečnosti generativních aplikací umělé inteligence, pokušení je používat jako houby po dešti.

Dobře, takže značné procento třídy používá generativní aplikaci AI. Předpokládali byste, že ergo studenti budou odevzdávat zhruba stejnou Lincolnovu esej. Učitel si všimne v době, kdy hodnotí třetí nebo čtvrtou esej, že všechny eseje jsou v podstatě stejné. To bude obrovská stopa, že něco není v pořádku.

Promiň, ale takové štěstí pravděpodobně mít nebudeš.

Většina generativních aplikací AI je velmi citlivá na to, jak je výzva konkrétně složena. Pokud napíšu „Řekni mi o Lincolnovi“ a když napíšu „Pověz mi o Lincolnově životě“, je pravděpodobné, že eseje se budou podstatně lišit. V první řadě se možná esej vytvořená AI zaměřuje na prezidenta Lincolna během jeho funkčního období v Bílém domě a vynechává cokoliv o jeho dětství. Druhá výzva by mohla vytvořit esej pokrývající jeho narození až po jeho smrt.

Studenti pravděpodobně nezadají přesně to, co jim učitel dal jako výzvu k eseji. Jako podvodník by se zdálo rozumné zkoušet variace. Ale i když všichni studenti zadají přesně stejnou výzvu, je pravděpodobné, že každá esej bude poněkud odlišná od ostatních.

Tyto aplikace s umělou inteligencí využívají rozsáhlou interně vytvořenou matematickou a výpočetní síť, která má v zásadě široce shodný vzor s textem nalezeným na internetu. Součástí procesu generování eseje je pravděpodobnostní faktor. Je nepravděpodobné, že vybraná slova budou ve stejném pořadí a budou mít stejné přesné znění. Každý vytvořený esej bude obecně jiný.

Má to však jeden háček. Pokud je zvolené téma dosti nejasné, existuje šance, že se některé vytvořené eseje budou navzájem podobat. Částečně by to bylo způsobeno tím, že vzor v kořenu textu byl zpočátku tenký. Jak již bylo řečeno, způsob, jakým je esej sestaven, může být stále zcela odlišný. Říkám jen, že podstata obsahu jako takového by mohla být potenciálně zhruba stejná.

Nechci působit zasmušile, ale mohli byste potenciálně tvrdit totéž o běžném tématu, jako je život Lincolna. Kolika různými způsoby můžete rozvést celkové aspekty jeho života? Pokud jste nějakým způsobem zajistili studentům v zamčené učebně, aby psali o Lincolnovi, a dali jste jim online přístup ke zkoumání jeho života, troufám si tvrdit, že šance, že si eseje budou do jisté míry podobné, se stejně mohou vyskytnout.

Bezplatný a snadný faktor je podstatný

Pokud chce student v dnešní době podvádět tím, že zaplatí někomu přes internet za napsání jeho eseje, je to velmi jednoduché (doufám, že vás to nešokuje, možná jsem měl předem nabídnout spouštěcí varování).

Problém však je, že za esej musíte zaplatit. Existuje také malá šance, že byste mohli být později chyceni, možná. Použili jste k platbě za esej kreditní kartu? Možná je lepší použít nějakou formu zpracování podzemních plateb, abyste se pokusili udržet své stopy čisté.

Krása nebo možná rozčilující faktor generativní umělé inteligence spočívá v tom, že právě teď je většina z nich dostupná zdarma. Není vyžadována žádná platba. Žádný konkrétní záznam o vašem používání (no, aby bylo jasné, aplikace AI může sledovat vaše používání, zejména proto, že mnoho aplikací AI vyžaduje, abyste se zaregistrovali pomocí e-mailové adresy, ale samozřejmě to můžete také předstírat. ).

Někteří lidé přirozeně předpokládají, že musíte být průvodcem AI, abyste mohli používat generativní aplikaci AI.

Není tak.

Obecně lze říci, že generativní aplikace AI jsou úžasně jednoduché na používání. Vyvoláte aplikaci AI. Nabízí vám otevřené textové pole, do kterého můžete zadat výzvu. Zadáte výzvu a stisknete Odeslat. Aplikace AI generuje text.

To je o tom.

Nejsou potřeba žádné specializované počítačové jazyky. Žádné znalosti databází nebo datové vědy. Ujišťuji vás, že téměř každé dítě ve škole může snadno používat generativní aplikaci AI. Pokud dítě umí psát, může tyto aplikace používat.

Někteří tvrdí, že společnosti, které poskytují generativní aplikace AI, by měly nejprve ověřit věk uživatele, pravděpodobně proto, aby zabránily jiným než dospělým v používání AI pro účely podvádění při psaní esejů. Pokud uživatel uvede, že není dospělý, nedovolte mu používat aplikaci AI. Upřímně řečeno, to je nepravděpodobný scénář prevence, pokud nebudou nějakým způsobem uzákoněny zákony týkající se umělé inteligence, které se snaží zavést tento druh omezení. I když budou takové zákony schváleny, můžete to pravděpodobně obejít pomocí generativní aplikace AI, která je hostována v jiné zemi atd.

Dalším zakazujícím úhlem by bylo, kdyby používání generativních aplikací AI stálo peníze. Předpokládejme, že existoval poplatek za transakci nebo poplatek za předplatné. Tím by se generativní aplikace umělé inteligence vyrovnala těm lidem na internetu, kteří za vás napíší esej, která vás za to bude účtovat. Labouristé by se střetli s umělou inteligencí (ostatně to vše naznačuje, že lidé, kteří se živí psaním esejí pro studenty, budou nahrazeni umělou inteligencí, která dělá totéž; otázkou je, zda nás to mrzí nebo těší že tito lidé, kteří si vydělávají na živobytí, už toho nebudou moci dělat tímto způsobem).

Společnosti, které vytvářejí generativní aplikace AI, si určitě přejí vydělávat peníze z těchto aplikací, i když je stále ve vzduchu, jak to udělat. Účtování transakčního poplatku, poplatku za předplatné nebo možná účtování za vygenerované slovo jsou na stole. Spíše než zpoplatnění lidí může být zpeněžení provedeno pomocí reklam. Možná pokaždé, když použijete konkrétní generativní aplikaci AI, musíte nejprve vidět reklamu. To by mohl být výdělek.

Nerad na to rozlévám mléko, ale jako prostředek k překonání studentského podvádění to nebude žádná stříbrná kulka. Ani zdaleka.

Existují open-source verze generativní umělé inteligence. Lidé je tam dávají a ostatní jsou ochotni zpřístupnit aplikaci zdarma. Tak či onak, i když některé společnosti účtují poplatek, budete moci najít varianty, které jsou zdarma k použití, i když možná budete muset vidět reklamy nebo se možná zaregistrovat a poskytnout nějaké informace o sobě pro marketingové účely.

Pomáhá k tomu Multi-Step

Student se rozhodne použít generativní aplikaci AI k vytvoření své eseje.

Namísto okamžitého odevzdání eseje se student rozhodne esej upravit. Uvážlivě zde vyřazují pár slov. Uveďte tam pár slov. Přesuňte větu nahoru. Posuňte větu dále dolů. Po troše úprav a dolaďování mají nyní esej, kterou jsou připraveni odevzdat.

Je tato esej práce studenta nebo není?

Přivedl jsem vás k velké nezodpovězené nevyřešené otázce za milion dolarů.

Pojďme si udělat nějaké rychlé pozadí o zákonných právech a porušování. To je téma, které jsem probral docela dost, jako např odkaz zde a odkaz zde, například.

Pravděpodobně již víte něco o autorských právech a o tom, co je známé jako duševní vlastnictví (IP). Někdo, kdo má příběh chráněný autorským právem, si má ponechat různá zákonná práva spojená s tímto příběhem. Nemají zcela železné všeobjímající zdání zákonných práv. Existují výjimky a výjimky.

Jedním z nejobtížnějších problémů při porušování něčích materiálů chráněných autorskými právy je blízkost toho, co můžete mít ve srovnání s původním zdrojem. Možná jste četli nebo viděli zprávy o slavných zpěvácích a jejich textech, kdy někdo jiný napsal píseň se zdánlivě podobným textem a zda to bylo právně správné nebo ne.

Již dříve jsem zmínil, že generativní aplikace umělé inteligence obvykle nevytváří esej, která je kopií jiných materiálů, na kterých byla dříve školena prostřednictvím zkoumání obsahu na internetu. Je pravděpodobné, že materiál je zobecněný a vše složené dohromady tak, že se již příliš nepodobá tomu, z čeho se zdrojový obsah skládal.

Na to, jak se s tím vypořádá právní proces, si budeme muset počkat. Pokud generativní aplikace AI vytváří umělecké dílo, které je vizuálně zjevně podobné nějakému uměleckému dílu ze zdrojů, pravděpodobně bychom se přiklonili k obvinění AI a tvůrců AI z porušení autorských práv souvisejících s původním dílem. Můžeme to vidět na vlastní oči.

Pokud jde o eseje, může to být složitější. Zjevné případy jsou, když jsou celé věty a odstavce slovo od slova totožné. Všichni to vidíme. Ale když se formulace liší s trochou rozdílů, dostáváme se do šedých oblastí.

Jak daleko od původního zdrojového materiálu musí být nově vytvořený materiál, aby bylo možné prohlásit, že jde o bona fide originál sám o sobě?

To je závažná otázka.

Pojďme to spojit se studentem, který používá generativní aplikaci AI pro svou esej.

Předstírejte, že konkrétní esej vygenerovaná aplikací AI bude vykládána jako „originální“ esej. Říkám, že předpokládám, že to žádným zjevným způsobem neporušuje žádný jiný dříve existující esej nebo textový příběh kdekoli na zemi.

Student poté začíná s originálním zdrojem materiálu. Jak již bylo naznačeno, student tento materiál upravuje a zpřesňuje. Věci dosáhnou bodu, kdy se originál vytvořený aplikací AI nyní liší od vylepšené verze, kterou student vymyslel.

Je to podvádění?

Možná ano možná ne.

Můžete namítnout, že ano. Student začal tím, že za ně umělá inteligence napsala esej. Vše, co student udělal, je mechanicky si pohrávat s esejí. Očekáváme, že student napíše esej ze vzduchu a použije k tomu vlastní šťouchnutí. Použití aplikace AI ke generování jejich základní linie je zjevně podvádění. Přidělte studentovi známku „F“.

Ne tak rychle. Můžete namítnout, že to není podvod. Student přepracoval zdrojový materiál. Pokud je srovnání mezi esejí vytvořenou aplikací AI a verzí upravenou studenty dostatečně velký rozdíl, řekli bychom, že esej napsal student. Je pravda, že při tom použili jiný materiál, ale nemůžete říct totéž, pokud použili encyklopedii nebo jiný zdroj? Tento student si zaslouží známku „A“ za to, že napsal esej vlastním důvtipem (nehledě na to, že se k tomu odvolával na jiné materiály).

Učitelé budou chyceni uprostřed této již tak nepříjemné otázky.

Jedním z přístupů je, že učitel může kategoricky prohlásit, že studenti musí uvést všechny referenční materiály, včetně toho, zda byla použita generativní aplikace AI. Pokud student přímo neuvede generativní umělou inteligenci jako referenci a pokud učitel zjistí, že ji neuvedl, student celkově dostane za úkol známku „F“. Nebo to možná některé školy budou považovat za akt podvádění, který způsobí, že student automaticky propadne. Nebo možná vyloučen. Uvidíme, jak daleko školy v těchto věcech zajdou.

Obecně platí, že míříme do zvráceného světa duševního vlastnictví a legálního vlastnictví děl, jako jsou eseje (text), umění (obrázky) a video, včetně:

• Někteří budou požadovat právní nápravu od tvůrců generativní umělé inteligence, pokud jde o zdroje obsahu, které umělá inteligence použila k vytvoření vytvořeného výstupu.
• Někteří vezmou výstup generativní umělé inteligence a budou považovat výsledek za svá vlastní díla, a pak se pokusí získat právní odškodnění od kohokoli, kdo poruší jejich „původní“ práci.
• To by se mohlo zacyklit, takže někdo vytvoří výstup z generativní umělé inteligence, který se zveřejní na internetu, a pak přijde nějaká další generativní umělá inteligence a použije to ve svém tréninku vytváření podobných děl.

Přeměna negativu na pozitivní

Všechny tyto řeči o špatnosti generativní umělé inteligence, pokud jde o podvádění studentů, možná zatemňují naši mysl, někteří nabádají.

Vezměte to jiným směrem.

sedíš?

Možná by učitelé měli zvážit záměrně, aby studenti používali generativní umělou inteligenci jako součást procesu učení o tom, jak psát eseje.

Již dříve jsem psal o tzv dvojí použití AI, viz odkaz zde. Představa je taková, že někdy lze systém umělé inteligence použít ke špatnému a někdy jej lze změnit a použít k dobru. Znepokojivým aspektem je, když někdo píše AI pro dobro a blaženě si neuvědomuje, jak snadno lze jeho AI proměnit ve strašidlo špatnosti. Část Etická umělá inteligence je poznání, že umělá inteligence by měla být navržena tak, aby se nemohla přes noc proměnit v prokletí. Jedná se o přetrvávající obavy.

Zpět ke generativní umělé inteligenci pro vytváření esejů.

Již dříve jsem přišel s myšlenkou, že by se student mohl naučit psát o písemných pracích, které již existují. To dává velký smysl. V zásadě, čím více čtete, je pravděpodobné, že rozšíříte své duševní zdání směrem k tomu, abyste mohli psát. Jak bylo uvedeno dříve, stále musíte psát, protože veškeré čtení na světě z vás nezbytně neudělá dobrého spisovatele, pokud nebudete cvičit psaní.

K podpoře tohoto spojení čtení a zápisu bychom mohli použít generativní AI. Požádejte studenta, aby záměrně používal generativní umělou inteligenci. AI vytvoří esej. Student dostane za úkol kritizovat esej vytvořenou AI. Dále je studentovi přiděleno napsat novou esej, možná na jiné téma, ale může použít strukturu a další obecné prvky dřívější eseje vytvořené umělou inteligencí.

Někteří navrhují, že to může být pro studenty ještě produktivnější než pouhé čtení knih nebo jiných textů od spisovatelů, se kterými student nemá žádný přístup. S aplikací AI si student mohl zkusit opakovat a vytvořit počáteční esej pomocí velkého množství výzev, jednu po druhé. Student by mohl říct AI, aby napsala barebones esej o Lincolnovi. Dále student požádá o dlouhý esej o Lincolnovi, který je napsán neformálním hlasem. Poté, co si to student prohlédne, naznačí aplikaci AI, aby vytvořila vysoce formalizovanou verzi Lincolnovy eseje. Atd.

Tvrdí se, že by to mohlo studentovi materiálně pomoci naučit se psát a jak může psaní probíhat.

Nedávný výzkumný dokument navrhuje právě tento bod: „Autoři tohoto článku se domnívají, že AI lze použít k překonání tří překážek učení ve třídě: zlepšení přenosu, prolomení iluze hloubky vysvětlení a školení studentů, aby kriticky hodnotili vysvětlení“ ( v článku nazvaném „Nové způsoby učení umožněné AI Chatboty: Tři metody a úkoly“, Dr. Ethan Mollick a Dr. Lilach Mollick, Wharton School of the University of Pennsylvania & Wharton Interactive, 12. prosince 2022)

Poukazují například na to, že ke zlepšení přenosu učení může dojít takto: „AI je levný způsob, jak studentům poskytnout mnoho příkladů, z nichž některé mohou být nepřesné, potřebují další vysvětlení, nebo mohou být jednoduše vymyšlené. Studentům se základními znalostmi tématu můžete pomocí umělé inteligence pomoci otestovat jejich porozumění a výslovně je přimět, aby pojmenovali a vysvětlili nepřesnosti, mezery a chybějící aspekty tématu. Umělá inteligence může poskytnout nekonečnou řadu příkladů konceptů a aplikací těchto konceptů a vy můžete studenty přimět: porovnávat příklady v různých kontextech, vysvětlovat jádro konceptu a poukazovat na nekonzistence a chybějící informace ve způsobu, jakým umělá inteligence používá koncepty. do nových situací“ (tamtéž).

Je to podobné starému refrénu, pokud je nemůžete porazit, přidejte se k nim.

Proměňte generativní umělou inteligenci na vzdělávací nástroj.

Jejda, přichází rychlá reakce.

Dáš lišku do kurníku. Studenti, kteří neměli ponětí, co je generativní umělá inteligence, to nyní budou otevřeně ukazovat prostřednictvím zjevných akcí učitele a jejich škol. Pokud studenti nevěděli o možnostech podvádění, vkládáte jim to přímo do tváře a do rukou.

Zdá se být zcela odpudivé, že by ti, kdo mají moc, seznamovali studenty s prostředkem k podvádění. Navždy tak uvrhnete nejčestnější studenty do říše podvodných pokušení. Každý bude mít přístup k podvádění. Je jim řečeno, aby to udělali. Není třeba to skrývat. Není třeba předstírat, že nepoužíváte generativní umělou inteligenci. Škola a učitel tě přiměli to využít.

Odpověď zní, že musíte slepě a nevědomě mít hlavu v písku, abyste si mysleli, že studenti se s generativní AI neseznámí. Zatímco vy pošetile předstíráte, že o tom nevědí, oni utíkají mimo školu, aby to použili. Vaší lepší volbou je věc jim představit, probrat, na co se dá a na co ne, a vnést do celého rébusu jasné zářivé světlo.

Je to docela blbost.

Pro ty z vás, kteří se zabývají výzkumem vzdělávacích inovací technologií, se možná budete chtít podívat na generativní umělou inteligenci a na to, jak by mohla změnit povahu vzdělávacích přístupů a ovlivnit učení studentů. Už to brzy přijde.

Pomocí detekce nás zachránili před zkázou

Vyměňte klobouky a pojďme se na chvíli zamyslet nad digitálním uměním.

Pokud vytvoříte dílo digitálního umění, možná ho budete chtít nějakým způsobem označit, abyste později mohli rozeznat, zda se někdo rozhodl použít nebo znovu použít vaše umění. Jednoduchý způsob, jak toho dosáhnout, spočívá ve změně některých pixelů nebo bodů ve vaší digitální kresbě. Pokud jich tu či tam uděláte několik, bude se lidským očím zdát, že vzhled uměleckého díla bude stále stejný. Nevšimnou si těch pixelů, které jsou mladistvé a byly nastaveny na nějakou speciální barvu, kterou lze vidět pouze při podrobné kontrole pomocí digitálních nástrojů.

Možná znáte tyto techniky jako formu vodoznaku. Stejně jako v dávných dobách existovaly pokusy o vodoznak na papírové materiály a další nedigitalizovaný obsah, postupně jsme byli svědky vzestupu digitálních vodoznaků.

Digitální vodoznak může být skrytý v obrázku digitálního uměleckého díla. Pokud se vám to může zdát rušivé pro obrázek, můžete zkusit vložit vodoznak do souboru, který obsahuje digitální kresbu (takzvaná „metadata“ digitálního díla).

Může vzniknout hra na kočku a myš.

Přijde nějaký zločinec a objeví váš digitální vodoznak. Odstraňují to. Nyní mohou zdánlivě volně používat vaše digitální umělecká díla bez obav, že se do nich později budete moci šťourat a předvést, že je to zjevně podvod ve vašem úsilí. Ti šmejdi!

Potřebujeme zdokonalit digitální vodoznak, což můžeme udělat pomocí kryptografických technik a technologií. Myslete na tajné zprávy a kódování.

Myšlenka je taková, že digitální vodoznak zakódujeme tak, aby jej bylo těžké najít. Je také potenciálně obtížné jej odstranit. Mohli bychom se dokonce pokusit zajistit, aby software, který zobrazí nebo umožní použití digitálního uměleckého díla, musel nejprve zkontrolovat a zjistit, zda v díle existuje platný zakódovaný digitální vodoznak, jinak je považován za nevhodnou kopii. Chytil jsem tě při činu.

Můžeme udělat totéž pro generativní AI, která produkuje text?

Byla položena rukavice. Problém však může být do určité míry těžší než při zvažování digitálních vodoznaků pro umělecká díla.

Zde je důvod.

Předpokládejme, že jediné místo, kam můžete vodoznak umístit, je přímo do samotného textu. Říkám to proto, že vygenerovaný text nemusí nutně jít do souboru. Text je jen text. Můžete jej vyjmout a vložit z generativního nástroje AI. V tomto smyslu obvykle neexistují žádná metadata nebo soubor, do kterého lze vodoznak vložit.

Musíte se soustředit pouze na text. Čistý text.

Jednou z cest by bylo nechat generativní AI produkovat text způsobem, který lze vysledovat. Jako hrubý, ale nepraktický příklad si představte, že jsme se rozhodli každou třetí větu začínat slovem „A“ na začátku věty. Stále bychom vytvořili zdánlivě zcela plynulou esej. Jedinou záludností je, že každá třetí věta začíná námi vybraným kouzelným slovem. Nikdo jiný neví, na čem jsme.

Student používá generativní AI k vytvoření zadané eseje o Lincolnovi. Student to vezme přímo z aplikace AI a pošle e-mailem učiteli. Ukázalo se, že student čekal do poslední chvíle a dodržel zveřejněný termín. Není čas recenzovat esej. Stačí poslat a doufat v to nejlepší.

Učitel se dívá na esej. Předpokládejme, že jsme jí řekli, že náš vodoznak se skládá z magického slova použitého na začátku každé třetí věty. Učitel zjistí, že tomu tak je i v této předložené eseji. I když je možná neuvěřitelně malá šance, že student napsal esej a možná rád používá toto konkrétní slovo na začátku každé třetí věty, myslím, že se můžeme rozumně shodnout, že je to vysoce nepravděpodobné a místo toho student pravděpodobně použil generativní AI vytvořit esej.

Vidíš, jak to funguje?

Věřím, že ano.

Problém nyní je, jak přijít s vodoznakem, který není tak zřejmý. Student si může všimnout, že se zdá, že věty podivně používají určité slovo. Mohli by tušit, co se děje. Na oplátku se může student pohybovat ve větách a přeformulovat je. To pak do značné míry potopí tento konkrétní vodoznak, protože esej již není snadno patrná jako napsaná generativní AI.

Hra na kočku a myš se opět tlačí vpřed.

Potřebujeme vytvořit plynulý text, který nějakým způsobem obsahuje „vodoznak“ způsobem, který nelze snadno rozeznat. Dále, pokud je to možné, vodoznak by měl nadále přetrvávat, i když je esej mírně upravena. Celková revize pravděpodobně neumožní vodoznaku přežít. Chceme však určitou redundanci a odolnost, aby byl vodoznak nejlépe zjistitelný, i když se v textové oblasti provede nějaké množství změn.

Výzkumník, který dělá nějakou práci pro společnost, která vyrábí ChatGPT (aplikaci AI od OpenAI), zkoumá některé zajímavé kryptografické snahy týkající se těchto úvah o vodoznaku. Scott Aaronson je profesorem informatiky na Texaské univerzitě v Austinu a nedávno promluvil o některých probíhajících pracích (přepis je zveřejněn na jeho blogu).

Zvažte tento úryvek, ve kterém stručně vysvětluje stávající přístup: „Jak to funguje? U GPT je každý vstup a výstup řetězec tokenů, což mohou být slova, ale také interpunkční znaménka, části slov nebo více – celkem je to asi 100,000 XNUMX tokenů. Ve svém jádru GPT neustále generuje rozdělení pravděpodobnosti pro další token, který se má vygenerovat, podmíněné řetězcem předchozích tokenů. Poté, co neuronová síť vygeneruje distribuci, server OpenAI skutečně vzorkuje token podle této distribuce – nebo nějakou upravenou verzi distribuce, v závislosti na parametru zvaném „teplota“. Dokud je teplota nenulová, obvykle bude při výběru dalšího tokenu docházet k určité náhodnosti: mohli byste běžet znovu a znovu se stejnou výzvou a pokaždé získat jiné dokončení (tj. řetězec výstupních tokenů). .“

Jak bylo uvedeno, existuje určitá náhodnost, která slova budou umístěna jako další do eseje, která je odvozena aplikací ChatGPT. To také vysvětluje předchozí bod, že každý esej bude pravděpodobně poněkud odlišný, i když na stejné téma. Při generování eseje je pod pokličkou účelné používání přístupu náhodného výběru, který je v určitých mezích.

Nyní se dostáváme k šťavnaté části, kryptografickému spojení: „Takže k vodoznaku, namísto náhodného výběru dalšího tokenu, bude myšlenkou vybrat jej pseudonáhodně pomocí kryptografické pseudonáhodné funkce, jejíž klíč zná pouze OpenAI. . To nebude pro koncového uživatele znamenat žádný zjistitelný rozdíl, za předpokladu, že koncový uživatel nemůže rozlišit pseudonáhodná čísla od skutečně náhodných. Ale nyní si můžete vybrat pseudonáhodnou funkci, která tajně zkresluje určité skóre – součet nad určitou funkcí g vyhodnocovanou v každém n-gramu (sekvence n po sobě jdoucích tokenů), pro nějaké malé n – které skóre můžete také vypočítat, pokud víte klíč pro tuto pseudonáhodnou funkci."

Uvědomuji si, že se to může zdát poněkud technologicky přeplněné.

Podstatou je, že vytvořený esej bude vypadat plynule a při čtení eseje nebudete schopni snadno rozeznat, že obsahuje digitální vodoznak. Chcete-li zjistit, zda daný esej obsahuje vodoznak, budete muset vložit esej do speciálně navrženého detektoru. Program, který provádí detekci, by vypočítal hodnotu na základě textu a byl by schopen ji porovnat s uloženým klíčem. V popisovaném přístupu by klíče držel prodejce a nebyly by jinak dostupné, takže za předpokladu, že klíče jsou drženy v tajnosti, pouze pomazaný detekční program by mohl v tomto případě vypočítat, zda byla esej pravděpodobně odvozena z ChatGPT.

Pokračuje, když uznává, že to není spolehlivé: „Nyní lze toto všechno porazit s dostatečným úsilím. Pokud jste například použili jinou AI k parafrázi výstupu GPT – dobře, nebudeme to schopni zjistit. Na druhou stranu, pokud sem tam vložíte nebo smažete pár slov nebo změníte pořadí některých vět, signál vodoznaku tam bude stále. Protože závisí pouze na součtu nad n-gramy, je odolný proti takovýmto intervencím.“

Učitel může získat přístup k programu detektoru, který by kontroloval studentské eseje. Předpokládejme, že věc je relativně snadná v tom, že učitel nechá studenty poslat své eseje e-mailem učiteli a automatickému detektoru. Aplikace detektoru pak informuje učitele o pravděpodobnosti, že v tomto případě bude esej vytvořena ChatGPT.

Nyní, pokud je detektor otevřeně dostupný jen pro kohokoli, měli byste „překonané“ studentské podvodníky, kteří by jednoduše nahráli své eseje do detektoru a provedli řadu změn, dokud detektor neukázal nízkou pravděpodobnost, že esej byla odvozena generativním AI. Více o kočce a myši. Pravděpodobně musí být detektor přísně chráněn heslem, nebo jsou potřeba nějaké jiné prostředky nebo metody řešení kryptografických přístupů (existuje celá řada metod založených na klíčích i bezklíčových metod, které lze použít).

Učitel může čelit možnosti desítek nebo stovek generativních aplikací umělé inteligence dostupných pro použití na internetu. V takovém případě se pokusit všechny přimět k tomu, aby používali nějaký digitální vodoznak a do všech z nich vkládat esej, no, je to prostě ještě okouzlující a logisticky komplikovanější.

Žádné další eseje mimo třídu

Perspektiva zkázy a temnoty je, že učitelé možná budou muset opustit používání externího psaní esejí. Všechny eseje musí být napsány pouze v kontrolovaném prostředí učebny.

To má mnoho a mnoho problémů.

Předpokládejme, že student obvykle potřebuje deset hodin na napsání konkrétní plnohodnotné eseje, která je třídním projektem. Jak by se to dělalo ve třídě? Chystáte se to rozdělit a nechat studenta napsat malý kousek eseje během série dní? Přemýšlejte o obtížích, které to představuje.

Někteří tvrdí, že se možná věc přehání.

Učitelé by měli postupovat tak, jak to vždy dělali v případě plagiátorství ze strany studentů. Učitel předem prohlásí, že plagiátorství je vážný problém podvádění. Zdůrazněte, že použití generativní umělé inteligence jakýmkoli způsobem bude považováno za podvádění.

Udělejte tresty, které mají značnou váhu, jako je nízká známka, propadlá třída nebo vyloučení ze školy, pokud to dojde tak daleko. Vyžadujte po studentech, aby u každého externího úkolu písemně potvrdili, že to, co odevzdali, je jejich práce (bez pomůcek, jako je generativní umělá inteligence, kopírování z internetu, používání spolužáků, používání rodičů, placení za to, již brzy). Požadujte také, aby studenti uvedli všechny online nástroje použité při přípravě práce, včetně toho, že si budou muset všimnout zejména jakéhokoli generativního použití AI.

Učitel může nebo nemusí použít aplikaci detektoru, aby se pokusil rozeznat, zda je zaslaná esej pravděpodobně vytvořena generativní aplikací AI. Toto je potenciálně zatěžující krok v závislosti na tom, jak snadné je použití a přístup k detektorům.

Učitelé by pravděpodobně již měli podniknout kroky k tomu, aby zjistili, zda se eseje mimo psané zdají být legitimní. Psaní esejí ve třídě je možné porovnávat a porovnávat, přičemž si však uvědomujeme, že času na psaní ve třídě je méně a může být také omezeno omezením, které nedovoluje přístup k online referenčním materiálům.

Podstatou je, že bychom se neměli vydat cestou náhlého vyřazení z vnějšího psaní esejí. Někteří by to odsuzovali jako unáhlený čin a takový, který připomíná vyhazování dítěte s vodou ve vaně (staré přísloví, které možná stojí za to odejít do důchodu).

Pokud se psaní mimo text zcela přeruší jako učební aktivita, odstranění této zdánlivě každodenní vzdělávací aktivity z učebních osnov bude pravděpodobně mít vážné a dlouhodobé nevýhody. Je s tím spojen kompromis. Kolik studentů bude podvádět, navzdory všem výše uvedeným kontrolám a protivahám? Kolik studentů nebude podvádět, a proto bude i nadále používat prospěšný vzdělávací přístup ke zlepšení svých dovedností v psaní?

Teoreticky doufejme, že procento podvodníků bude dostatečně malé, takže vnější psaní je stále záslužné pro převahu studentů.

Proč investovat do čističky vzduchu?

AI dokáže pěkně bolet hlava.

Pro učitele může být umělá inteligence požehnáním i prokletím. Ať tak či onak, znamená to, že učitelé potřebují vědět o AI a také o tom, jak se vypořádat s AI zvraty spojenými s jejich vyučovacími aktivitami, což je další přidaná zátěž na jejich již tak příliš natažená záda a ramena. Pokřik na učitele všude.

Možná si můžeme přát, aby AI odešla.

Ne.

Víte, nehodláme vrátit čas a vymazat generativní AI. Každý, kdo po tom volá, je snílek. A kromě toho používám slovo „A“ jako první slovo třetí věty tohoto odstavce (jejda, dávám klíč!), generativní umělá inteligence tu zůstane.

Zde je návod, jak rozproudit vášnivé diskuse: Generativní AI se stane všudypřítomnější a bude mít ještě úžasnější a znervózňující schopnosti.

Pokles mikrofonu.

Zatím poslední myšlenka.

Shakespeare skvěle napsal, že „Být či nebýt: to je otázka.

Ujišťuji vás, že generativní AI bude. Už je.

Musíme přijít na to, jak chceme, aby generativní umělá inteligence vstoupila do našich životů, a jak se společnost rozhodne takové využití utvářet a řídit. Pokud jste někdy potřebovali důvod k přemýšlení o etice umělé inteligence a zákonech umělé inteligence, možná vás generativní umělá inteligence přiměje k hledání toho, co jsme, i když nevíme, co můžeme být (skrytá Shakespearova zmínka).