Ekki segja þeim hvað ætti að vera erfitt

Skapandi gervigreind (Generative AI) er ekki eitthvað sem við rennum bara ljúflega inn í okkar fyrra venjulega líf. Hlutir sem áður voru erfiðir eru það einfaldlega ekki lengur. Þetta er beiskur biti að kyngja og við erum rétt farin að tyggja hann.

Það er gömul eðlishvöt í menntakerfinu, bæði hjá stofnunum og innan fagstétta, að verja hversu erfitt eitthvað er. Flækjustigið er tilgangurinn. Baráttan er viðurkenningin. Við byggðum upp heilt kerfi í kringum þá hugmynd að ef það væri erfitt að læra eitthvað, þá hefði erfiðið gildi í sjálfu sér. Svo mætti mállíkan til leiks og leysti erfiðleikana hljóðlega upp á meðan stofnunin var enn að skrifa stefnu um það.

Ég er ekki að tala um þessa andlausu, útópísku útgáfu af þessu. Ég er að tala um eitthvað mun óþægilegra: kerfislæga breytingu á því hvað telst til færni, hvað telst vera þekking og hvað bilið milli sérfræðings og byrjanda þýðir í raun og veru núna.

Ef kennari þarf að útskýra fyrir nemanda hversu flókið vandamálið er og nemandinn leysir það á nokkrum mínútum og staðfestir niðurstöðuna með hjálp stórs mállíkans (LLM), þá er það ekki flókið lengur. Ekki fyrir þennan nemanda. Ekki á þessu augnabliki.

Þetta er ekki bilun í menntakerfinu. Þetta er spegill sem er haldið upp að því. Spurningin sem þetta knýr fram er spurning sem flestar stofnanir eru ekki tilbúnar að svara: hvaða hlutar af því sem við kennum voru alltaf bara áfangi — skref í átt að áfangastað — og hvaða hlutar voru áfangastaðurinn sjálfur?

Upplausnin

Þessi verkefni krefjast enn dómgreindar um lokaafurðina. En hreinir erfiðleikar, klukkutímarnir og árin, hafa verið þjappaðir saman í ein fyrirmæli. Þetta er staðreyndin. En staðreyndir hafa tilfinningalegar afleiðingar, sérstaklega þegar maður hefur byggt sjálfsmynd sína á erfiðinu.

Faglega sorgin

Afneitun: „Það getur ekki gert þetta eins vel.“

Reiði: „Þetta er þjófnaður á því sem við byggðum upp.“

Samningaviðræður: „Já, en maður þarf samt að skilja undirliggjandi ferlið.“

Þunglyndi: Þögn. Fagmaðurinn hættir að tala um gildi starfsins.

Samþykki: Að endurskilgreina hvað sérfræðingurinn er, ekki sá sem framkvæmir, heldur sá sem dæmir.

Flokkunarkerfið sem enginn vill skrifa

Við þurfum heiðarlegt kort. Hér eru fjórir flokkar sem ég held að séu nauðsynlegir til að lýsa því landi sem við stöndum á:

Flokkur I — Færni sem gervigreindin hefur leyst upp: Verkefni sem kröfðust margra klukkustunda þjálfunar til að framkvæma af grunnhæfni. Fyrstu drög. Grunnrannsóknir. Uppsetning. Þýðingar. Einföld greining. Þessi verkefni krefjast enn dómgreindar um afurðina — en þröskuldurinn til að byrja hefur hrunið. Klukkutímarnir eru horfnir. Að verja þessi verkefni eins og erfiðið sé enn til staðar er ákveðin tegund af afneitun.

Flokkur II — Grunnfærni rýrnar: Samskipti. Gagnrýn hugsun. Siðferðisleg rökfærsla. Þessi færni lifir ekki sjálfkrafa af — og það gerir það stórhættulegt að flokka hana vitlaust. Hún er helsta fórnarlamb algóritmafíknarinnar, einmitt vegna þess að mállíkanið framkvæmir svo sannfærandi hermingu af henni að maðurinn hættir að þjálfa undirliggjandi getu sína. Vöðvinn rýrnar ekki af því að við ákveðum meðvitað að hætta að nota hann, heldur vegna þess að hreyfingarleysið fer fram hjá okkur. Nemandinn sem lætur líkanið smíða rökin hefur ekki lært að færa rök. Fagmaðurinn sem lætur kerfið merkja við siðferðisvandamál hefur ekki þroskað með sér siðferðisdómgreind en hann hefur þroskað með sér traust á kerfi sem umritar siðferðislega samstöðu þjálfunargagna sinna, fryst á ákveðnum tímapunkti og beitir við aðstæður sem það var aldrei hannað fyrir. Þessi færni mun aðeins lifa af ef hún er markvisst þjálfuð — þar með talið í aðstæðum þar sem það væri hraðara og auðveldara að nota gervigreindina. Hún viðhelst ekki sjálfkrafa. Hún krefst tilbúinnar núningsmótstöðu. Þessa mótstöðu þarf að hanna inn í námskrár, inn í fagleg vinnubrögð og inn í daglega uppbyggingu þess hvernig við vinnum. Enginn er að gera þetta í stórum stíl. Næstum því enginn einu sinni að stinga skýrt upp á því.

Flokkur III — Færni sem krafist er til að vinna með gervigreind: Hæfnin til að stýra, staðfesta, yfirheyra og taka ábyrgð á afurðum gervigreindar. Að vita hvenær á að treysta henni og hvenær á að hunsa hana. Að hanna samhengið sem hún starfar í. Að þekkja bilanamynstur sem líta út eins og hæfni. Þetta er ný fræðigrein. Hún er ekki eðlislæg, hún er ekki kennd kerfisbundið, og fólkið sem þarf mest á henni að halda er líklegast til að vita ekki að það vanti hana.

Flokkur IV — Færni sem verður að vera mannleg, af kerfislægri nauðsyn: Þetta er flokkurinn sem enginn er að ræða af hreinskilni — og framsetningin skiptir sköpum. Við höldum lækninum, dómaranum eða lögregluþjóninum ekki mannlegum vegna viðkvæmni eða tilfinningasemi. Við höldum þeim mannlegum vegna þess að algóritmi getur ekki borið ábyrgð. Það er ekki hægt að svipta hann lækningaleyfi, reka hann úr lögmannafélagi, setja hann í fangelsi eða segja honum upp. Hann getur ekki tekið út afleiðingar. Uppgjörið sem fagið byggir á — það sem gerir starfsréttindin marktæk — krefst líffræðilegrar veru á enda keðjunnar. Ábyrgð er ekki heimspekilegt val. Hún er kerfislæg krafa sem kallar eftir því að það sé einhver manneskja sem hægt er að draga til ábyrgðar þegar kerfið bregst. Flokkur IV markast ekki af kröfum löggjafarinnar í dag. Hann ræðst af því hvar persónulegar afleiðingar eins og svipting starfsréttinda, refsiábyrgð og félagsleg skömm knýja fram þá gætni sem hlutlæg skaðabótaábyrgð lögaðila getur einfaldlega ekki tryggt. Fyrirtæki getur greitt sekt og haldið áfram. Læknirinn sem missir lækningaleyfi sitt getur það ekki.

Vandamálið við að verja gömlu erfiðleikana

Þegar við segjum nemendum að eitthvað ætti að vera erfitt og að þeir ættu að hafa fyrir hlutunum eins og við gerðum þá erum við stundum að miðla hreinni speki um gildi djúprar þjálfunar. En stundum erum við að verja erfiðleikana af því að við byggðum sjálfsmynd okkar á því að hafa lifað þá af. Þetta tvennt er gjörólíkt.

Orðræða fagstétta hefur alltaf notað hið fyrra til að réttlæta hið síðara. Sumir þröskuldar innihalda raunverulega þekkingu. Aðrir innihalda verndun á sérréttindum stéttarinnar. Lögfræðimenntunin er augljóst dæmi: þrepaskipt kerfið, fjöldi ára, próftakan — hluti af því snerist alltaf um þekkingu, hluti snerist alltaf um að takmarka aðgang. Flestir þröskuldar innihalda hvort tveggja, flækt saman á þann hátt sem gerir heiðarlegan aðskilnað pólitískt ómögulegan innan frá. Gervigreindin kallar fram uppgjör á því hvað er hvað og stofnanir bregðast við með því að forðast að mestu spurninguna, í von um að svarinu seinki nógu lengi til að verða vandamál einhvers annars.

Því mun ekki seinka. Breytingin er kerfislæg og vélræn. Mörkin sem skilgreina hvað maður verður að geta gert án vélar — og hver ber ábyrgðina þegar vélin bregst — munu ekki standa auð. Ef stofnanir festa þessi mörk ekki markvisst í gegnum stefnumótun og stranga uppbyggingu mun markaðurinn ráða svarinu sjálfkrafa, hann mun hámarka afköst og vinna algjörlega gegn mannlegri getu.

Læknirinn sem stimplar óséð sjúkdómsgreiningu algóritmans. Dómarinn sem treystir á áhættumatið. Greinandinn sem framsendir tölvugerðu skýrsluna án þess að lesa hana. Þetta er engin ímynduð framtíð. Þetta er núverandi framkvæmd sjálfgefna ástandsins sem er þegar farin að hafa afleiðingar og enn sem komið er að mestu órannsökuð.

Spurningin er ekki hvort þetta sé að gerast. Spurningin er hvort við veljum mörkin, eða fáum þau í arf.