Ko danes kdo omeni umetno inteligenco, se pogovor skoraj neizogibno zasuče v eno od dveh smeri: v navdušenje nad njenimi zmožnostmi ali skrbjo nad posledicami. Redko pa se ustavi pri vprašanju, ki je morda pomembnejše od obojega. Kako ta tehnologija spreminja naš pojem znanja? Kaj pomeni nekaj vedeti v svetu, v katerem nam stroj na vsako vprašanje vrne razumljiv, samozavesten in, če uporabimo najboljše modele, skoraj vedno pravilen odgovor?
Da bi se temu vprašanju sploh lahko približali, moramo opustiti eno najbolj razširjenih poenostavitev. Trditev, da generativna umetna inteligenca »zgolj napoveduje naslednjo besedo«, je tehnično točna, a zgrešena na enak način, kot bi bilo zgrešeno reči, da možgani zgolj prenašajo električne impulze. Drži, toda iz tega opisa ne izvemo ničesar o mišljenju, spominu ali zavesti.
Med učenjem jezikovni model analizira ogromne količine besedil in jih stisne v bistveno manjšo matematično strukturo. Učno gradivo obsega velik del digitaliziranega znanja človeštva. Čeprav to nikakor ni vsa vednost, ki jo človeštvo premore, saj njeni ogromni deli ostajajo utelešeni v nezapisanih praksah in izkušnjah, gre za najobsežnejšo zbirko zapisanega znanja, ki je bila kadarkoli zbrana na enem mestu.
Da bi jo model obvladal, mora iz nje izluščiti bistvo: ponovljive vzorce, pomenska razmerja in skrite povezave med pojmi. Rezultat je geometrija pomenov, v kateri so ideje razporejene glede na to, v kakšnih medsebojnih odnosih so. »Kralj« in »kraljica« sta si v tem prostoru blizu, ker je model sam odkril, da sta v podobnem pomenskem razmerju. Na podlagi učenja nastane nekakšen zemljevid pojmov, ki prikazuje, v kakšnih razmerjih so ideje med seboj.
To si najlažje predstavljamo s prispodobo. Razsvetljenska enciklopedija je bila prvi veliki poskus, da bi se človeško znanje uredilo, povezalo in dalo na voljo vsakomur. Veliki jezikovni model gre korak dlje: znanje ne le zbira in ureja, ampak ga stisne v matematični prostor, ki se zna prilagoditi vsakemu sogovorniku posebej. Gre za nekakšno dejavno enciklopedijo, ki se odziva, prilagaja in ustvarja.
A ta prispodoba skriva še nekaj bolj presenetljivega. Zemljevid pojmov, ki nastane med učenjem, presenetljivo spominja na eno najstarejših filozofskih teorij. Pred skoraj dva tisoč petsto leti si je Platon zamislil, da so za vsemi posamičnimi pojavi abstraktne, nespremenljive oblike, ki jim je rekel ideje. Matematični prostor velikega jezikovnega modela je sodobna različica tega koncepta: hrani razmerja med pomeni, ne posameznih besedil. Stroj je te abstraktne oblike izluščil iz naših zapisov.
Tu pa nastopi odločilni obrat. Platonov svet idej je bil normativen. Služil je kot merilo, po katerem smo ločili resnico od senc v votlini, če uporabimo slavno prispodobo. Matematični prostor jezikovnega modela pa je deskriptiven. Odraža tisto, kar je konsistentno prisotno v besedilih, na katerih se je učil. To pa ni nujno isto kot tisto, kar je resnično. Model ne loči med tem, kar se pogosto ponavlja, in tem, kar je res. In kar je bistveno: v samem sistemu ni razsodnika. Ta vloga pripada uporabniku. On je tisti, ki mora ločiti ideje od senc. Model ponudi odgovor, uporabnik pa mora presoditi, ali drži.
Pogosto slišimo ugovor, da modeli »ne razumejo« in ne znajo pojasniti svojih odgovorov. To je vse manj točno, saj napredni modeli podajajo koherentne razlage, vključno z argumenti in omejitvami svojega odgovora. Problem torej ni več v kakovosti razlage, ampak v vrsti znanja, ki za njo stoji. Ko strokovnjak pojasni, zakaj je nekaj res, za tem ne stoji le njegova individualna izkušnja, temveč celotna družbena infrastruktura znanja: proces preverjanja, dvoma in strokovnega konsenza, predvsem pa osebna odgovornost za izrečeno. Strokovnjak za svojo trditvijo stoji z integriteto in ugledom. Model pa po drugi strani pojasnjuje v izolaciji in rekonstruira najverjetnejšo razlago iz matematičnih vzorcev preteklosti. Razlaga sama po sebi zato še ni znanje. Znanje nastane šele, ko nekdo za razlago prevzame odgovornost.
Morda je čas, da začnemo razlikovati med različnimi načini védenja. Strokovnjak ve, ker razume in sodeluje v živem procesu znanosti, ki išče tisto, kar bo jutri morda ovrglo naše sedanje teorije. Model pa »ve«, ker je izluščil vzorec iz ogromne množice gradiva. Čeprav sodobni sistemi že odkrivajo nove rešitve v matematiki ali biologiji, ki presegajo človeško zmožnost sinteze, jim še vedno manjka zmožnost teoretskega mišljenja in strateškega udejstvovanja v svetu.
Nevarnost torej ni v napačnih odgovorih, čeprav se tudi ti pojavljajo. Nevarnost je v tem, da začnemo sprejemati na videz zelo dobro utemeljene odgovore in se pri tem nehamo spraševati po njihovem izvoru. Model nam ponuja statistični konsenz preteklosti, znanost pa zahteva deliberativni konsenz sedanjosti, ki nastaja z razpravo, preverjanjem in dvomom. Generativna umetna inteligenca nam vprašanj ne odvzema, lahko pa nas od njih odvadi s svojo udobno, visoko prepričljivo gotovostjo.
Ustvarili smo zelo uporabno matematično orodje, ki je bliže Platonovemu svetu idej kot karkoli doslej v človeški zgodovini. Je najboljša enciklopedija, kar jo je svet videl, in hkrati najbolj prepričljiv nadomestek za razmišljanje, kar si ga je mogoče zamisliti. Oboje drži. A če prenehamo spraševati in zgolj konzumiramo izvrstne odgovore stroja, se v Platonovo votlino vračamo prostovoljno. Z eno samo razliko: sence na steni so zdaj v visoki ločljivosti in so videti izjemno prepričljivo.