Sodelavec, ki ne ve, česa ne zna

Računalnik iz orodja postaja sodelavec: dodeliš mu nalogo, on pa se vrne z rezultatom

Do nedavnega je bila generativna umetna inteligenca predvsem izjemno pameten sogovornik. Generirala je besedila, slike ali zvok – a vse to je bil izpis, ki je za končni učinek v resničnem svetu nujno potreboval človeka. Bralec, gledalec ali poslušalec je moral informacijo prejeti, jo razumeti in šele nato ukrepati.

Danes pa se dogaja tiha revolucija agentne umetne inteligence, ki namesto besedil za ljudi ustvarja in izvaja računalniško kodo, torej navodila strojem. Človeški posrednik nenadoma ni več nujen, da se nekaj v resnici zgodi – in prav v tem premiku se skriva pomembna sprememba, ki presega zgolj tehnološko novost.

Napredek najlažje pojasnimo z analogijo. Zapis DNK v celici ni le informacija, saj se lahko prevede v delujoče beljakovine, ki nato opravijo konkretno nalogo. Podobno se tudi izpis umetne inteligence v obliki računalniškega programa prevede v dejanje.

Digitalni agent je tako stroj, ki prejme naše navodilo, nato pa sam odpre ustrezne programe, napiše ali popravi kodo, izvede testiranje in brez naše neposredne pomoči pripravi končni izdelek.

Da bi takšne agente lahko koristno uporabljali, pa moramo razumeti, kako so sestavljeni, saj je od sestave odvisno, kaj zmorejo. Novo zgradbo te tehnologije sestavljajo trije sloji: modeli, aplikacije in tako imenovane vprege.

Model oziroma nevronska mreža je »možganski« del sistema, ki razume naše ukaze, išče vzorce in rešuje probleme; ne gre za pasivni arhiv informacij, temveč za strnjeno in urejeno znanje, izluščeno iz ogromnih količin podatkov. Aplikacija je vmesnik, prek katerega s tem modelom komuniciramo prek zaslona, telefona ali s posebnimi ukazi.

Prava sprememba pa se skriva v vpregi. Tako kot konjska vprega usmeri surovo moč živali v vlečenje voza, digitalna vprega umetni inteligenci omogoči dostop do orodij: povezavo z internetom, delo z našimi datotekami, urejanje tabel, nadzor nad programi ali celo namizjem. Brez vprege je umetna inteligenca le pameten sogovornik, omejen na pogovor, z njo pa postane izvajalec nalog.

Ko imamo na voljo takšnega pomočnika, se naša vloga spremeni. Komuniciranje z računalnikom ni več vnašanje kratkih vprašanj, temveč postaja delegiranje – veščina z jasnimi zakonitostmi, ki veljajo ne glede na to, ali nalogo zaupamo človeku ali stroju.

Agentu moramo znati pojasniti, kaj želimo doseči, kje so meje njegovih pooblastil, kako naj nas obvešča o napredku in kako je videti uspešno končan projekt. Pravila, ki so vedno veljala za vodenje človeških ekip – jasna komunikacija, postavljanje meja, preverjanje rezultatov – postajajo hkrati najboljši način za upravljanje pametnih strojev.

Pri delegiranju stroju pa se pojavi vprašanje, ki ga pri ljudeh redko postavljamo tako eksplicitno: ali se to sploh splača? Odgovor se skriva v razmerju treh dejavnikov: koliko časa bi za nalogo porabili sami, kako verjetno je, da jo bo agent uspešno opravil, in koliko časa nam vzame preverjanje rezultata.

Če nam naloga vzame ves dan, jo agent opravi v nekaj minutah, preverjanje pa traja manj kot uro, smo dosegli znaten prihranek – vendar le, če je verjetnost uspeha dovolj velika. Prihranka namreč ne določa zgolj hitrost izvedbe, temveč razmerje med časom, tveganjem in nadzorom.

Vse tri spremenljivke te enačbe izboljša isti element: strokovna presoja. Izkušen uporabnik oblikuje jasnejša navodila in poveča verjetnost uspeha. Hitreje opazi napako in skrajša čas preverjanja. Bolje presodi, ali se delegacija sploh izplača – in se izogne situacijam, ko bi popravljanje napak vzelo več časa kot lastna izvedba. Paradoksalno, čim naprednejši postajajo agenti, tem pomembnejša postaja sposobnost presojanja njihovih rezultatov.

Tu pa se skriva past. Enačba agentskega dela predpostavlja, da lahko vsaj približno ocenimo verjetnost uspeha – da imamo intuicijo o tem, kaj bo agent zmogel in česa ne. V resnici je ta intuicija pogosto nezanesljiva. Zmožnosti umetne inteligence so razporejene neenakomerno na načine, ki kljubujejo zdravi pameti.

Raziskovalci temu pravijo »nazobčana meja«: isti agent, ki zanesljivo opravi večurno analitično nalogo, odpove pri nečem, kar se nam zdi trivialno. Izjemno uspešen je lahko pri formalnih problemih, a morda zgreši pri nalogah, ki zahtevajo subtilno razumevanje konteksta.

Problem ni le v tem, da agent dela napake, temveč da jih dela tam, kjer jih najmanj pričakujemo. Edino zanesljivo varovalo ostane preverjanje – in za preverjanje potrebujemo znanje.

Če vse to povežemo, se izriše podoba, ki je precej drugačna od običajnega razumevanja napredka umetne inteligence. Pogosto slišimo, da bo avtomatizacija postopoma razjedala delo od spodaj navzgor: najprej rutinska opravila, nato zahtevnejša, dokler za človeka ne bo ostalo skoraj nič. Toda nazobčana meja kaže, da se ta proces ne dogaja enakomerno.

Delo, ki ga je mogoče opraviti po predpisanem postopku brez globljega razumevanja, se hitro preseli na strojne agente. Delo, ki zahteva presojo – vedeti, kdaj postopek ne ustreza situaciji, prepoznati, da se rezultat zdi pravilen, a v resnici ni – pa postaja vse bolj dragoceno. Ne zato, ker bi bilo zahtevnejše kot prej, temveč zato, ker predstavlja tisti del procesa, ki ga agent sam (še) ne zna nadzorovati.

Računalnik je bil dolgo orodje, ki je čakalo na naša navodila. Danes postaja sodelavec, ki mu zastavimo nalogo in se čez nekaj časa vrne z rezultatom. Toda to je sodelavec, ki ne ve, česa ne zna – zato potrebuje nekoga, ki to ve namesto njega.

https://www.delo.si/mnenja/kolumne/sodelavec-ki-ne-ve-cesa-ne-zna