Kao odgovor na to, formalna ekonomska literatura počela je istraživati implikacije AI koja je znatno sposobnija nego što je danas – različito definisana kao 'transformativna AI ', 'veštačka opšta inteligencija' (ili 'OUI') i 'superinteligencija' (vidi, na primee, Aghion, Jones i Jones 2018, Korinek i Trammell 2020, Korinek 2023, Korinek i Suh 2024, Trammell i Korinek 2023, Brynjolfsson, Korinek i Agrawal 2024, Jones 2024). U ovom radu želim se nadovezati na ovu literaturu, istražujući koje vrste plaćenog posla bi mogle ostati za ljudska bića ako se približimo svetu s OUI – gde se 'OUI' definiše kao mašine koje su sposobne obavljati sve ekonomski korisne zadatke produktivnije od ljudi. Do sada je najkorisnije pitanje za razmišljanje o uticaju tehnologije na plaćeni rad bilo 'šta mašine mogu, a šta ne mogu uraditi'. Ali kako se približavamo svetu s opštom veštačkom inteligencijom (AGI), to pitanje će nestati, a njegovo mesto će zauzeti 'šta će ljudima ostati da rade ako mašine mogu sve'.
Koji će onda plaćeni posao ostati ljudima da obavljaju? U ovom radu tvrdim da odgovor nije 'nikakav'. U stvari, postoje dobri razlozi za verovanje da bi tri seta zadataka i dalje ostala na ovom svetu, zbog tri ograničenja. Prvo, postoje 'ograničenja opšte ravnoteže' - da čak i ako mašine imaju apsolutnu prednost u obavljanju svih zadataka, efikasnije je i dalje ostaviti rad da obavlja zadatke u kojima ima komparativnu prednost. Drugo, postoje 'ograničenja preferencija' - zadaci gde ljudska bića mogu imati ukus ili preferenciju za robu i usluge koje proizvodi ili pruža ljudsko biće, a ne mašina. I konačno, postoje 'moralna ograničenja' - zadaci normativnog karaktera, koji mogu zahtevati 'čoveka u petlji' da izvrši svoj moralni sud. Identifikacija ovih ograničenja je korisna za razmišljanje o svetu s AGI. Ali prepoznavanje ovih ograničenja je također zanimljivo kada se razmišlja o današnjem svetu rada i ulozi ljudskih bića kao naših mašina koje postepeno, ali neumoljivo, postaju sposobnije.
I. Prekoračenje zadatka i opšta beštaćka inteligencija (AGI)
Kako bismo trebali razmišljati o tehnološkom napretku? Tradicionalno, mnogi posmatrači tehnologije pokušavali su identifikovatu čvrste granice mogućnostima mašina, eksplicitno označavajući koje zadatke veštačka inteligencija može, a koje ne može obavljati sa tehničkog stanovišta. U formalnoj ekonomskoj literaturi postoje dva različita pristupa identifikovanju ovih granica. Jedan ih povlači prema prirodi zadataka; na primer, Autor i saradnici (2003), uticajan rani rad u literaturi o uticaju tehnologije na tržište rada, tvrdio je da mašine mogu obavljati „rutinske“ zadatke, koji se oslanjaju na „eksplicitno“ znanje koje ljudi mogu lako artikulisati, ali ne mogu obavljati „nerutinske“ zadatke, koji se oslanjaju na prećutno znanje koje ljudi teško artikulišu. Drugi pristup je povlačenje ovih granica prema specifičnim sposobnostima koje su ljudima potrebne za njihovo obavljanje; na primer, popularna tvrdnja je da se mašine teško obavljaju zadatke koji zahtevaju socijalnu inteligenciju (Deming 2017). Ali ono što dele ovi pristupi je opšta sklonost povlačenju strogih granica.
Međutim, ovo povlačenje linija pokazalo se pogrešnim. Fiksna granica može biti umirujuće jasna, pružajući navodno pouzdane temelje na kojima se mogu graditi argumenti o budućnosti rada. Ali tehnološki napredak pokazao je malo poštovanja prema granicama koje su stručnjaci povukli između onih zadataka koje veštačka inteligencija može, a koje ne može obavljati. Na primer, kolaps u primenjivosti razlike između „rutinskog“ i „nerutinskog“, koja je igrala tako važnu ulogu u modernoj ekonomskoj misli o uticaju novih tehnologija na tržište rada – da mašine mogu obavljati prvo, ali ne i drugo – dobar je primer (vidi, na primer, Susskind 2016, 2019, 2020a).
Korisnija polazna tačka za razmišljanje o tehnološkom napretku je pretpostavka da će ove tehnologije postepeno, nepredvidivo, ali neumoljivo zadirati u sve više zadataka koje su nekada obavljala ljudska bića. Ovaj proces nazivam 'zadiranjem zadataka' (Susskind 2020a, b; 2022). I ovaj proces se sve više odražava u formalnoj ekonomskoj literaturi, gde su noviji modeli daleko agnostičniji prema mogućnostima nove tehnologije. Umesto da nametnu fiksnu granicu na mogućnosti mašina od vrha prema dole, na osnovu teorije o tome kako ove tehnologije funkcionišu, one umesto toga koriste podatke da bi od dna prema vrhu utvrdile šta mašine trenutno mogu da rade - koristeći mere poput, na primer, Mere uticaja veštačke inteligencije na zanimanje, Indeksa pogodnosti za mašinsko učenje i Rezultata izloženosti veštačkoj inteligenciji (Acemoglu et al., 2022).
Važno je napomenuti da će, u granicama ovog procesa prenatrpanosti zadataka, kako mašine nastavljaju svoj neumoljivi napredak, mašine biti u stanju da obavljaju sve ekonomski korisne zadatke produktivnije od ljudskih bića. Kada u ovom radu spominjem 'Opštu uštedu znanja', to je ishod koji imam na umu. Do nedavno, mnogi ekonomisti su ovu vrstu izgleda odbacivali kao nestvarnu: „iako svi uživamo u naučnoj fantastici, istorijske knjige su obično sigurniji vodič za budućnost“, kako je to rekla grupa eminentnih istraživača 2017. godine. Ali, kao što je već navedeno, ova vrsta skepticizma je značajno oslabila poslednjih godina – sada postoji sve veća formalna literatura koja istražuje posledice ove vrste tehnologije.
II. Granice opšte ravnoteže
Razmišljajući o svetu u kojem su mašine sposobne obavljati sve ekonomski korisne zadatke produktivnije od ljudi, ekonomska teorija pruža važan uvid: da kada se postigne „opšta ravnoteža“, mašine neće nužno obavljati sve ove zadatke - čak i ako bi mogle. Ovo je važan rezultat: u svetu sa opštom uravnotežavanjem, kada se dozvoli prilagođavanje cena na različitim tržištima - tj. kada se vlasnicima mašina isplati stopa povrata, a radu plata - postoje dobri razlozi za verovanje da potražnja za radom za obavljanje određenih zadataka ipak može ostati. (Iako je vrlo neizvesno koliko potražnje može ostati za radom za obavljanje tih zadataka i kakva bi mogla biti plata za taj preostali rad - kao što ću istražiti.)
Intuicija za ovaj rezultat može se pokazati kroz pristup "zasnovan na zadacima", koji je sada dominantan okvir u formalnoj ekonomskoj literaturi za istraživanje uticaja tehnologije na tržište rada. Ovaj pristup je ukorenjen u jednostavnoj razlici između posla i pojedinačnih zadataka koji čine taj posao; princip je da je ovo drugo, a ne prvo, prava jedinica analize za istraživanje uticaja tehnologije na rad. Ideja ima bogatu intelektualnu istoriju, koja seže do preokupacije klasičnih društvenih teoretičara podelom rada. Ali poslednjih godina formalizovana je u snažan skup ekonomskih modela za proučavanje uticaja tehnologije na tržište rada (vidi, na primer, Zeira 1998, Autor et al. 2003, Acemoglu 2011, Acemoglu i Restrepo 2018).
Jedna inovativna karakteristika novijih modela zasnovanih na zadacima je njihov odgovor na izazov preopterećenja zadataka, što je navedeno u prethodnom odeljku. Rani modeli zasnovani na zadacima oslanjali su se na fiksnu granicu između onoga što mašine mogu, a šta ne mogu raditi. (Na primer, u Autor et al. (2003), pretpostavka je bila da mašine mogu obavljati „rutinske“ zadatke, ali ne i „nerutinske“ zadatke.) Međutim, noviji modeli zasnovani na zadacima su daleko agnostičniji u pogledu toga koji se zadaci mogu, a koji ne mogu automatizovati, na osnovu prepoznavanja da su granice mogućnosti mašina neizvesne i promenjive. Ovi modeli umesto toga koriste „spektar zadataka“, poredavajući sve različite vrste zadataka u ekonomiji u liniju. Zauzvrat, oni koriste „raspored produktivnosti“ kako bi uhvatili sposobnost svakog faktora – mašina i rada – u obavljanju svakog od tih zadataka.
Daljnja inovativna karakteristika ovih novijih modela je način na koji određuju koje će zadatke obavljati mašine, a koje radna snaga. Ova granica je predstavljena graničnom vrednosti na spektru zadataka - s jedne strane granične vrednosti, zadatke obavljaju mašine; s druge strane, obavlja ih radna snaga. Ali, ključno je da ta granična vrednost nije fiksna, postavljena prema skupu krutih pretpostavki o tome šta mašine mogu, a šta ne mogu raditi, kao u prošlosti. Umesto toga, granična vrednost se može menjati i endogeno je određena unutar modela. Šta određuje gde se granična vrednost nalazi? Delomično, to zavisi od relativne produktivnosti mašina i rada, tj. koje zadatke mašine mogu obavljati i koliko su produktivne u odnosu na radnu snagu pri obavljanju tih zadataka. Delomično, to je također određeno relativnim cenama faktora mašina i rada, tj. koliko košta korištenje svakog faktora za obavljanje tih zadataka. (vidi Acemoglu & Restrepo, 2018; Aghion et al., 2019; Moll et al., 2021).
Uzgred, ova razlika - između produktivnosti faktora pri obavljanju zadataka i troškova faktora pri obavljanju tih zadataka - važna je za opšte razmišljanje o automatizaciji. Intuitivno, ona objašnjava zašto danas postoje mnoge moćne tehnologije koje mogu obavljati impresivne zadatke, ali se ipak ne koriste u praksi - jer su preskupe u odnosu na ljudsku alternativu. Na primer, postoje roboti koji mogu produktivnije savijati veš od ljudi, ali cena ovih skupih mašina u odnosu na daleko nižu cenu ljudskog čistača znači da je ekonomski isplativo koristiti jeftiniju, iako manje produktivnu, ljudsku alternativu. Ukratko rečeno, iako mašine mogu biti produktivnije od rada pri obavljanju određenih zadataka, ipak ih možda neće biti efikasno koristiti s obzirom na njihovu relativnu cenu.
U ovim novim modelima zasnovanim na zadacima, kako mašine postaju sposobnije i kako se zadiranje u zadatke odvija, endogeno određeno ograničenje spektra zadataka se pomiče - mašine preuzimaju više vrsta zadataka, a radu ostaje manje zadataka za obavljanje. Međutim, važno je da mašine ne obavljaju sve zadatke koje bi mogle obavljati u ravnoteži: mašine se specijalizuju za određene zadatke, a rad za druge. Štaviše, čak i u okruženju sa opštom veštačkom inteligencijom (AGI), gde mašine mogu obavljati svaki zadatak produktivnije od rada, one i dalje ne obavljaju nužno sve zadatke koje bi mogle obavljati - neki zadaci bi ipak mogli biti ostavljeni za rad. Ovo je važan rezultat. Ali zašto bi određena potražnja za radom mogla ostati, čak i ako su mašine produktivnije od njih u svakom zadatku? Kratak odgovor je da je neefikasno ostaviti rad neaktivnim, što je rasipanje faktora koji - iako bi mogao biti manje produktivan od mašina u svim zadacima - i dalje bi se mogao ekonomski iskoristiti. Duži odgovor je suptilniji.
Sa opštom veštačkom inteligencijom (AGI), iako mašine mogu imati apsolutnu prednost nad radom u obavljanju svih zadataka - tj. sposobne su obavljati sve zadatke produktivnije od rada - ipak je efikasnije da se mašine specijaliziraju za obavljanje onih zadataka u kojima imaju komparativnu prednost nad radom (tj. onih zadataka u kojima imaju niži oportunitetni trošak), a da se rad specijalizira za obavljanje onih zadataka u kojima ima komparativnu prednost nad mašinama. Da biste videli razliku između apsolutne i komparativne prednosti u akciji, razmislite o Lionelu Messiju (Susskind 2024). On je najbolji fudbaler na svetu. Ali zamislite da ima tajnu: on je ujedno i najbrža pletilja na svetu. Treba li odustati od fudbala da bi pleo? Očigledno ne: ako plete, odriče se ogromnog prihoda kao fudbaler; ako se bilo koji pletilj počne baviti fudbalom, teško će uopšte zaraditi prihod. Messi ima apsolutnu prednost i u fudbalu i u pletenju, ali ima komparativnu prednost u fudbalu (tj. njegov oportunitetni trošak igranja fudbala umesto pletenja je daleko niži od bilo čijeg drugog).
Nije slučajnost da je ovaj rezultat - da se svaki faktor treba specijalizovati za obavljanje zadataka u kojima ima komparativnu prednost - vrlo sličan rezultatima u literaturi o međunarodnoj trgovini, gde se efikasnost maksimizira ako se svaka zemlja specijalizira za proizvodnju robe u kojoj ima komparativnu prednost. Ovi modeli tržišta rada zasnovani na zadacima izomorfni su 'Rikardijanskim' modelima međunarodne trgovine (posebno Dornbusch et al. 1977): u modelima trgovine, umesto dva faktora (mašine i rad) postoje dve različite zemlje; umesto spektra zadataka postoji spektar roba; umesto granice koja označava koji se faktori specijaliziraju za obavljanje kojih zadataka, postoji granica koja označava koje se zemlje specijaliziraju za proizvodnju kojih roba. I tako, baš kao što SAD mogu biti produktivnije od Vijetnama u proizvodnji i robota i riže, ali bi se trebale specijalizirati za prvo, mašine bi mogle biti produktivnije od rada u svim zadacima, ali bi se trebale specijalizirati za zadatke u kojima imaju komparativnu prednost.
Ovi modeli zasnovani na zadacima stoga pružaju važnu intuiciju o tome zašto bi radna snaga i dalje mogla imati zadatke koje treba obavljati, čak i u svetu s opštom veštačkom inteligencijom (AGI), gde mašine mogu sve raditi produktivnije od ljudi – dobitak u efikasnosti od faktora koji se specijaliziraju za svoju komparativnu prednost. Kao što je efikasnije za dve različite zemlje da se specijaliziraju za proizvodnju različitih roba i usluga, čak i ako je jedna zemlja produktivnija od druge u proizvodnji svega, tako je i efikasnije za dva različita faktora da se specijaliziraju za obavljanje različitih zadataka, čak i ako je jedan faktor produktivniji od drugog u obavljanju svega. Opet, imajte na umu da nam ova intuicija ne govori ništa o tome kolika će biti potražnja za radnom snagom koja će obavljati ove preostale zadatke, a samim tim i kakve će biti plate za taj rad: jedno je reći da bi moglo biti zadataka za radnu snagu, a sasvim drugo reći da će plate biti dovoljno velike da im omogući život.
III. Proces naspram ishoda
Sa ekonomske tačke gledišta, obećanje preopterećenja zadataka je daleko veća efikasnost - sposobnost obavljanja šireg spektra zadataka, uz niže troškove. I u mnogim slučajevima, ovaj proces će biti poželjan: na primjer, medicinski dijagnostički sistem omogućen vještačkom inteligencijom koji pruža pristupačniji pristup vrsti medicinske ekspertize koja je u prošlosti možda bila dostupna samo privilegovanoj i sretnoj manjini. Međutim, očigledna posljedica preopterećenja zadataka je da aktivnosti koje su nekada obavljala ljudska bića umjesto toga obavljaju mašine. Ta činjenica može izazvati razne brige. Ali kada razmišljamo o tome šta bi radna snaga mogla učiniti u svijetu u kojem bi mašine mogle produktivnije obavljati sve ekonomski korisne zadatke, postoji jedan posebno važan skup briga - naime, oni koji su zabrinuti da se nešto vrijedno gubi kada se određeni zadaci oduzmu iz ruku ljudskih bića, koliko god efikasni bili rezultati.
Malo drugačije rečeno, ove brige se fokusiraju na napetost: automatizacija bi nam mogla pomoći da efikasnije postignemo određene „ishode“, ali može postojati i nešto nepoželjno u vezi s „procesom“ kroz koji se postižu ti dobici u efikasnosti. Ova napetost se može izraziti na različite načine: da su i „sredstva“ i „ciljevi“ važni, da je „kako“ se zadatak obavlja važno kao i „koliko dobro“, da određeni zadaci imaju „intrinzičnu“ kao i „instrumentalnu“ vrednost kada ih obavljaju ljudska bića, a ne mašina. Ali svaka od ovih razlika odnosi se na isto osnovno zapažanje: da ljudi mogu imati razloga da cene proces obavljanja zadatka i da li ga obavlja ljudsko biće ili mašina, kao i rezultat koji zadatak postiže.
Zašto bi ljudi mogli ceniti način na koji se neki zadatak obavlja? Uopšteno govoreći, postoje dva seta razloga: razlozi 'preferencije', gde ljudi preferiraju da zadatak obavlja ljudsko biće; i 'moralni' razlozi, gde ljudi veruju da zadatak treba da obavi ljudsko biće. Kao što ćemo videti, ova razlika - između ljudi koji žele da ljudska bića rade stvari jer to preferišu i ljudi koji žele da ljudska bića rade stvari jer bi trebali - može biti nejasna u praksi. Ali okvir je ipak koristan način razmišljanja o prirodi zadataka koji bi mogli ostati za ljudska bića, čak i u svijetu u kojem bi mašine mogle sve raditi produktivnije.
IV. Ograničenja preferencija
Zašto bi ljudi preferisali da zadatak obavlja ljudsko biće, a ne mašina? Postoji nekoliko „preferencijalnih“ razloga zašto bi to moglo biti tako: ja ih nazivam „estetski“ razlozi, razlozi „postignuća“ i razlozi „empatije“.
Za početak, razmislite o umetničkim težnjama. Kada uđete u Sikstinsku kapelu, ne samo da se divite lepoti stropa (rezultat) već i činjenici da ga je oslikalo ljudsko biće (proces). Kada pogledate Davidov kip, ne samo da se divite njegovom obliku (rezultat) već i činjenici da ga je isklesalo ljudsko biće (proces). Kada slušate četvrti stavak Pete simfonije Gustava Mahlera, ne samo da mislite da ovo zvuči prekrasno (rezultat), već se i divite dubini osećaja koje je kompozitor morao imati prema svojoj supruzi, Almi Mahler, za koju je delo napisano (proces). Posledica ovih zapažanja je da, koliko god veštačka inteligencija mogla postati sposobna za generisanje slika, objekata, zvuka ili videa, i koliko god ta dela bila zapanjujuća, ljudi ipak mogu smatrati ove umetničke rezultate inferiornima upravo zbog činjenice da ih je stvorila mašina, a ne ljudsko biće. To su 'estetski' razlozi.
Usko povezani su razlozi „postignuća“. Da bismo to videli, razmotrimo priču o kompjuterskom šahu. Godine 1997. tadašnji svetski šahovski prvak Garry Kasparov poražen je od strane kompjuterskog sistema u vlasništvu IBM-a, Deep Blue. To je dobro poznato postignuće. Ali neko vreme, nakon te igre, smatralo se da ova pobeda nije označila kraj za ljudske šahiste. Da, šahovska mašina je pobjedila izvanrednog ljudskog igrača koji je delovao sam. Ali, optimistični argument je glasio da bi ljudski igrač koji radi sa šahovskom mašinom pored sebe i dalje mogao nadmašiti šahovsku mašinu koja radi sama. Imajući to na umu, Kasparov je slavio takozvani „kentaur šah“, tvrdeći da je „čovek plus mašina“ bolji od „čovek samog“ - i to ne samo na šahovskoj tabli, već i na širem tržištu rada (Susskind 2020a).
Međutim, taj optimizam se pokazao kratkotrajnim. Godine 2017, DeepMind-ov sistem AlphaZero, nakon samo jednog dana samoobuke, uspeo je pobediti najbolju postojeću šahovsku mašinu u meču od stotinu partija bez gubitka partije. Danas nije jasno da li ljudski igrači uopšte išta donose šahovskom timu sa mašinom. Kasparov se, nakon početnog poraza od Deep Bluea, pitao o budućnosti igre:
Š]ta bi se desilo kada bi šahovska mašina pobedila svetskog prvaka? Da li bi i dalje bilo profesionalnih šahovskih turnira? Da li bi bilo sponzorstva i medijskog izveštavanja o mojim mečevima za svetsko prvenstvo ako bi ljudi mislili da je najbolji šahista na svetu mašina? Da li bi ljudi uopšte i dalje igrali šah? (Kasparov 2017)
Ideja da igra ima budućnost u 'kentaurskom' šahu bila je njegov odgovor na ova pitanja. Ali mislio je dvostruko krivo - jer kentaurski šah nije imao budućnost, kao što je navedeno, jer je obična igra imala budućnost. Danas, iako su računari koji igraju šah moćniji nego ikad pre, i iako ljudski igrači izgledaju umanjenije nego ikad pre, šah se čini popularnijim nego ikad: „šah nije doživeo ovakvu popularnost od Svetskog prvenstva u šahu 1972. godine“, napisao je New York Times krajem 2022. (Keener 2022; 1972. je bio zloglasni meč hladnog rata između Amerikanca Bobbyja Fischera i Sovjeta Borisa Spaskog.)
Razlog trajne popularnosti šaha, uprkos ovom tehnološkom razvoju, je važan. U godinama koje su usledile nakon pobede Deep Bluea, pokazalo se da ono što ljudi cene u vezi s igrom nije samo ishod - da li je igra dobijena ili izgubljena - već i proces - da li ju je igrao čovek ili mašina. Drugim rečima, iako je veštačka inteligencija uspešno preuzela zadatak igranja šaha, sposobna da nadmaši čak i najboljeg ljudskog igrača, ljudi su i dalje cenili igru kada ju je izvodio čovek, a ne mašina.
Zašto su ljudi više voleli gledati ljudsku igru? Delomično, kao i pre, to može biti zbog estetskih razloga, da je postojala lepota u samoj činjenici da je to bio ljudski um koji je pravio poteze na šahovskoj tabli. Ali ta preferencija je verovatno i zbog razloga postignuća - da ljudi imaju ukus za gledanje ljudskih bića kako pomeraju svoje granice, da cene postignuća relativizovana u odnosu na neki prosečni nivo ljudskih sposobnosti, da uživaju gledati kako neko nadmašuje druga ljudska bića u zadatku na takmičenju. Ovi razlozi postignuća primenjuju se i na druge igre - utrka droida između, na primer, Tesla Optimusa i Boston Dynamicovog Atlasa verovatno će biti daleko manje cenjena od utrke između najboljih ljudskih sportista.
Razlozi estetike i postignuća primenjuju se i kada razmišljamo o intelektualnim težnjama. 2016. godine vodio sam privatnu e-mail korespondenciju s Leonardom Susskindom, vodećim astrofizičarom. (Nije povezano s autorom.) U raspravi o granicama veštačke inteligencije, rekao je:
Što se mene tiče, ono što Einsteinov rad čini tako lepim nisu samo rezultati, već i način na koji je do njih došao. Njegovo razmišljanje je uvek počinjalo s najjednostavnijim zapažanjima o prirodi, stvarima koje dete može razumeti. Primer je bila njegova spoznaja da boravak u ubrzanom liftu ima isti učinak kao gravitacijsko polje. Možete ga osetiti na tabanima. Iz toga, i samo iz toga, izveo je opštu teoriju relativnosti. Smatram da to nije samo pametno, već i lepo i duboko ljudski.
Za njega nije bio važan samo ishod, „rezultati“, kako je on to rekao, već i proces, „način na koji je do njih došao“. Opšta je primedba da možda imamo razloga da cenimo otkrića koja čini veliki um, ali da također možemo pridati vrednost samoj činjenici da ih je napravilo ljudsko biće. Ovo je kombinacija estetskih razloga - lepote ljudskog uma koji ga je stvorio - ali i postignuća - da je to nešto što bi samo posebna osoba mogla učiniti.
dovde Važno je napomenuti da ovi razlozi estetike i postignuća imaju prozaičnije ekonomske posljedice. Na mnogim tržištima, potrošači ne cijene samo ishod koji se postiže određenim ekonomskim zadacima, već i proces kroz koji se ti ishodi postižu. To može biti zbog estetskih razloga: ručno kuhana kafa, ručno krojeno odijelo, ručno izrađen komad namještaja. Ili bi to moglo biti zbog razloga postignuća: pomislite, na primjer, na sport, igre ili bilo koju vrstu takmičenja (takmičenje protiv sebe ili protiv drugih ljudskih bića). Drugim riječima, čak i ako bi se ove vrste roba i usluga mogle efikasnije pružati putem automatiziranog procesa, ipak može postojati potražnja za onima koje pružaju ljudska bića zbog same činjenice da ih osoba proizvodi.
Sasvim drugačiji skup razloga zbog kojih bi ljudi mogli preferirati da zadatak obavlja ljudsko biće, a ne mašina, su razlozi 'empatije'. Da bismo razumjeli prirodu ovih razloga, korisno je istražiti širu historiju automatizacije u ovom kontekstu.
Početkom 1990-ih, u Media Labu Tehnološkog instituta Massachusetts pojavilo se područje istraživanja poznato kao "afektivno računarstvo", posvećeno izgradnji mašina koje su sposobne detektovati i reagovati na ljudske emocije (Picard 1995). U početku je fokus bio na hardveru: Kismet (1990-e), jedan od prvih afektivnih robota, sa pokretnim dijelovima lica; Paro (2004), robotski tuljan, koji se koristio za utjehu pacijenata sa demencijom; Kaspar (2005), humanoidni bot, koji se koristio za utjehu djece sa autizmom; Wakamaru (2005), još jedan humanoid, dizajniran da pruži kućnu podršku starijim osobama. Neophodna igračka na prijelazu stoljeća bio je Furby, primjena afektivnog računarstva koja je prodata u 14 miliona jedinica 1999. godine.
Međutim, kako je vrijeme prolazilo, fokus u ovoj oblasti se okrenuo softveru: sistemima, na primjer, koji bi mogli nadmašiti ljudska bića u razlikovanju osmijeha društvene konformnosti od onog istinske radosti, ili lica koje pokazuje istinsku bol od lažne boli (Susskind i Susskind 2015); sistemima koji mogu pogledati lice osobe i reći da li je sretna, zbunjena, iznenađena ili oduševljena, koji mogu reći da li je studentima dosadno tokom nastave ili da li osoba laže tokom unakrsnog ispitivanja u sudnici (Susskind 2020a). Nedavni napredak u programima prava (LLM) i chatbotovi pokretani umjetnom inteligencijom koji su uslijedili - Replika, Character.ai - pri čemu je svaki od njih delikatno podešen da otkrije i odgovori na lični ukus svog korisnika, dodatno su unaprijedili polje afektivnog računarstva.
Ovaj napredak je provokativan jer mnogi ljudi ne samo da vjeruju da je ljudska interakcija ključni dio posla koji obavljaju, već i da je to aktivnost koja se ne može lako automatizirati. To je posebno slučaj među profesionalcima u oblasti administracije, koji se često pozivaju na ovaj aspekt posla kako bi dokazali da su zaštićeni od automatizacije: doktori koji kažu da je lični pristup ključan za postavljanje tačne dijagnoze; advokati koji tvrde da moraju sjesti licem u lice sa svojim klijentima kako bi razumjeli njihove poteškoće; nastavnici koji tvrde da je najbolji način učenja lični kontakt u tradicionalnom okruženju učionice (Susskind i Susskind 2015). Stručni komentatori su dodali svoju težinu ovim tvrdnjama: na primjer, istraživanje Pew Research Centra koje je pokazalo da mnogi vjeruju da postoje određene „jedinstveno ljudske karakteristike“ poput empatije koje nikada neće biti automatizirane (Susskind 2020a). Razvoj afektivnog računarstva, međutim, sve više dovodi u pitanje tu pretpostavku.
Ali ja bih išao dalje. Važniji od sistema koji pokušavaju 'kopirati' sposobnost empatije - otkrivanjem i reagiranjem na emocije na način na koji bi to činilo ljudsko biće - su oni koji ljudima omogućavaju da obavljaju zadatke koji bi mogli zahtijevati empatiju od ljudskog bića, ali da te zadatke obavljaju na sasvim drugačiji način. Ovo je posljedica možda najvažnijeg razvoja u oblasti vještačke inteligencije u posljednjih četrdeset godina, onoga što ja nazivam 'Pragmatističkom revolucijom': prelazak sa izgradnje sistema koji kopiraju neke aspekte ljudskih bića koja djeluju inteligentno - njihove procese razmišljanja, rasuđivanje kojim se bave, čak i njihovu anatomiju - na izgradnju sistema koji obavljaju zadatke na fundamentalno drugačije načine od ljudskih bića (Susskind 2016, 2020a).
Uzmimo za primjer zadatak poput postavljanja medicinske dijagnoze. Do nedavno se u formalnoj ekonomskoj literaturi smatralo da je ovaj zadatak izvan dometa automatizacije jer je to „nerutinski“ zadatak koji uključuje suptilne sposobnosti poput prosuđivanja koje nijedan ljudski ljekar ne bi mogao artikulirati u skupu eksplicitnih pravila kojih bi se mašina trebala pridržavati (Susskind 2016, 2019). Međutim, sada postoje mnogi sistemi koji mogu dijagnosticirati medicinske probleme sa istom preciznošću kao i ljudski ljekari. Kako oni funkcionišu? Ne kopiranjem „procjene“ ljudskog bića, već korištenjem napretka u procesorskoj snazi, mogućnostima pohrane podataka i dizajnu algoritama kako bi se zadaci obavljali na fundamentalno drugačiji način. (U mnogim slučajevima, ovi sistemi funkcionišu tražeći obrasce između određene fotografije problematične bolesti o kojoj je riječ i baze podataka s mnogo hiljada sličnih - vidi, na primjer, Esteva et al. 2017).
Isto važi i za mnoge druge zadatke koji su historijski zahtijevali empatičnu interakciju od ljudskih bića – sada ih obavljamo ne pokušavajući replicirati sposobnost empatije, već na drugačiji način putem novih tehnologija: automatizirane blagajne zamjenjuju blagajnike s prijateljskim licima, online programi za obračun poreza zamjenjuju lični pristup računovođe, robo-savjetnici zamjenjuju interakcije s ljudskim finansijskim stručnjakom i tako dalje (Susskind 2020a). Postavljeno u termine razlike između „procesa“ i „ishoda“, oni koji tvrde da se određeni zadatak ne može automatizirati jer zahtijeva „empatiju“ često miješaju tradicionalni proces putem kojeg smo možda riješili probleme – naime, interakciju licem u lice s ljudskim bićima – s ishodom koji pokušavamo riješiti: plaćanje robe, podnošenje poreznih prijava, upravljanje našim finansijskim poslovima. Tamo gdje ta konfuzija prevladava i gdje se ispostavi da ljudi više cijene ishod nego proces, onda činjenica da je ishod postignut empatičnim interakcijama u prošlosti nije usko grlo automatizaciji.
I tako, ovo vodi do važnog pitanja: postoje li zadaci gdje je upravo ono što ljudi cijene empatična interakcija s ljudskim bićem, gdje je proces ono što je najvažnije? Ovdje je korisna razlika između 'kognitivne' i 'afektivne' dimenzije empatije: prva je sposobnost razumijevanja emocionalnog stanja drugog; druga je sposobnost osjećanja emocionalnog stanja drugog (Susskind i Susskind 2015). I dok je postignut značajan napredak u izgradnji vještačkih inteligencija koje se mogu angažovati s kognitivnom dimenzijom empatije - zaista, u mnogim slučajevima, sistemi nadmašuju ljudska bića - nije bilo napretka u pogledu afektivne dimenzije empatije. Zaista, dok se ne izgrade vještačke inteligencije koje su, u nekom smislu, 'svjesne' i sposobne da 'osjećaju' emocije, ne možemo očekivati nikakve promjene.
Nemogućnost umjetne inteligencije da se angažuje s afektivnom dimenzijom empatije je važna: ako ljudi u interakciji cijene samu činjenicu da nešto drugo „osjeća“ njihove emocije – a ne samo da ih „razumije“ – onda to ukazuje na daljnje ograničenje automatizacije. Ako, na primjer, ono što osoba želi na kraju svog života nije jednostavno da joj se pomogne da dobro umre – ishod – već da neko razumije njenu patnju – proces – onda je to aktivnost koju mašina ne može lako obaviti. I ovo zapažanje se generalizira na druge domene: možda je, zbog ovih razloga empatije, važno da nastavnik pomaže teškim učenicima s njihovim ponašanjem; da roditelj podržava svoje dijete kroz teške životne događaje; da svećenik sluša muke svojih župljana; da psiholog čuje borbu svojih pacijenata; da ljudski vođa razmišlja o velikim odlukama za svoju kompaniju.
Moralne granice
Uz razloge zasnovane na preferencijama za vrednovanje procesa kojim se zadatak obavlja, postoje i moralni razlozi - gdje se ne radi samo o tome da ljudi imaju sklonost prema ljudskom procesu, a ne prema automatizovanom, već o tome da vjeruju da bi ljudska bića trebala obavljati zadatak s moralnog gledišta.
Prilikom razmišljanja o moralnim ograničenjima automatizacije, korisno je razlikovati „umjetnu usku inteligenciju“ (ANI), sisteme koji mogu obavljati samo vrlo specifične zadatke, i „umjetnu opću inteligenciju“ (AGI), sisteme sa daleko širim mogućnostima. (Napomena: ova razlika se razlikuje od razlike između „slabe“ i „jake“ umjetne inteligencije: prva se odnosi na širinu mogućnosti umjetne inteligencije, a druga na to da li rad umjetne inteligencije podsjeća na ljudsku svijest.) Trenutno su umjetne inteligencije ANI – one su dobre u obavljanju specifičnih aktivnosti. Nedavni napredak u generativnoj umjetnoj inteligenciji nas je možda malo približio OUI – ono što je vrijedno pažnje kod sistema poput ChatGPT-a, Claudea i Geminija, na primjer, jeste širina njihovih mogućnosti, to što im je jednako ugodno pisati koncizne pravne argumente kao i sastavljati zabavnu stand-up rutinu. Ali uprkos toj novoj i impresivnoj općenitosti, ovi sistemi ipak ostaju na određenoj udaljenosti od onoga što bi većina stručnjaka smatrala „pravom“ OUI.
Ova razlika između ANI i AGI korisna je za razmišljanje o moralnim granicama automatizacije, budući da svaka vrsta umjetne inteligencije uključuje drugačiji "moralni zadatak". U slučaju ANI, postoji stav da određene zadatke treba obavljati ljudsko biće - da ti zadaci moraju uključivati ono što se različito naziva "ljudsko biće u petlji", "značajna ljudska kontrola" i "ljudski nadzor", između ostalog. Ovaj argument se primjenjuje u širokom spektru domena: da oružje treba imati čovjeka koji povlači okidač; da automobili trebaju imati čovjeka za volanom; da značajne presude trebaju uključivati ljudskog sudiju na optuženičkoj klupi; da medicinske presude o životu ili smrti trebaju uključivati ljudskog doktora; da učionica treba imati ljudskog edukatora.
Važno je, međutim, da se u svakom od ovih različitih slučajeva ne tvrdi samo da bi ljudi više voljeli da ljudsko biće obavi zadatak, već da postoje moralni razlozi za mišljenje da bi oni trebali obaviti taj zadatak. Oni koji dijele ovo uvjerenje skloniji su favoriziranju nekog oblika moralne teorije „zasnovane na procesu“, a ne moralne teorije „zasnovane na rezultatima“, koja pridaje normativni značaj načinu na koji se zadatak obavlja, a ne samo tome koliko dobro se obavlja. (Jer, u svijetu u kojem mašine mogu nadmašiti ljudska bića u svakom ekonomski korisnom zadatku, oni koji dijele samo ovo drugo uvjerenje ne bi se protivili automatizaciji zadatka sa moralnog stanovišta.) Uprkos tome, još uvijek postoji značajna heterogenost u izvorima normativnosti u ovim moralnim teorijama zasnovanim na procesu – onome što daje „trebalo bi“ njegov značaj – u različitim domenima i među naučnicima.
Na primjer, neki koji cijene moralne teorije zasnovane na procesima zauzimaju Kantov stav da ljudska bića, kao racionalna bića, imaju jedinstvenu sposobnost moralnog rasuđivanja koju mašina može samo kopirati, ali ne i replicirati. Drugi tvrde da samo ljudsko biće može biti smatrano moralno odgovornim ili odgovornim za određeni ishod. Neki pak ističu razloge solidarnosti, da za određene zadatke, „kada čovjek sudi drugom čovjeku, postoji solidarnost u igri koju pruža činjenica da oboje posjeduju i imaju priliku da ostvare svoju racionalnu prirodu“ (Tasioulas 2023). Nesumnjivo postoje i drugi uvjerljivi kandidati za izvore normativnosti za moralnu teoriju zasnovanu na procesima. Ali ono što im je svima zajedničko je uvjerenje da nije samo slučaj puke preferencije da ljudsko biće izvrši zadatak, već moral.
U slučaju opće umjetne inteligencije (OUI), moralni zadatak se razlikuje od slučaja ANI – on uključuje značajniji zadatak pružanja povratnih informacija umjetnoj inteligenciji koja djeluje u širokom rasponu različitih zadataka. Danas se ovo obično definira kao 'problem usklađivanja', tj. kako osigurati da se radnje OUI u više domena najbolje usklade s ljudskim vrijednostima (vidi, na primjer, Russell 2019, Ngo et al. 2020). Od originalnog straha Norberta Weinera iz 1960. – „Ako za postizanje svojih ciljeva koristimo mehaničku agenciju u čiji rad ne možemo efikasno utjecati... bolje da budemo sasvim sigurni da je svrha stavljena u mašinu svrha koju zaista želimo“ (Weiner 1960) – nakupila se ogromna literatura o problemu usklađivanja, istražujući i kako razmišljati o problemu i, zauzvrat, kako ga riješiti. (Uprkos svim tim intelektualnim naporima, ovo pitanje ostaje neriješeno.) Važno je, međutim, napomenuti da je prećutna pretpostavka u ovoj literaturi uvjerenje da zadatak usklađivanja opće umjetne inteligencije (AGI) trebaju – sa moralne tačke gledišta – obavljati ljudska bića. Postoje izuzeci – na primjer, OpenAI-jev „pristup istraživanju usklađivanja“ uključuje tri faze, a posljednja je „obuka AI sistema za istraživanje usklađivanja“ (OpenAI, 2022) – ali konvencionalna mudrost je i dalje da bi to trebao biti važan zadatak za ljudska bića.
Za neke, ova razlika između ANI i AGI je nepotrebna kada se razmišlja o uključenim moralnim zadacima. Razmotrimo, na primjer, Ruth Chang, koja tvrdi da je „danas vodeća strategija za pokušaj postizanja usklađenosti 'stavljanje čovjeka u petlju' mašinske obrade. Zahtijevanjem ljudskog doprinosa u kritičnim trenucima mašinske obrade, možemo - nada se - uskladiti mašinsko donošenje odluka s ljudskim vrijednostima.“ (Chang 2024). Prema ovom gledištu, dakle, držanje 'čovjeka u petlji' svakog određenog moralnog zadatka je način da se riješi općitiji moralni zadatak usklađivanja umjetne inteligencije. Labavije rečeno, ako možemo identificirati sve 'petlje' koje su važne s moralnog gledišta i 'zadržati ljudska bića u njima', onda je razlika između ANI i AGI nebitna. Bez obzira na to da li se slažete s tim stavom ili ne, osnovno zapažanje ostaje isto: postoje određeni moralni zadaci - 'čovjek u toku' s ANI, 'usklađenost umjetne inteligencije' s AGI - gdje se vjeruje da bi ih ljudsko biće trebalo izvršiti.
Važno je ponovo naglasiti da razlog zašto ljudsko biće obavlja ove moralne zadatke nije taj što bi moglo isporučiti bolji 'ishod' od mašine, već zato što je važno da 'proces' izvodi ljudsko biće; oni koji u to vjeruju pozivaju se na moralne teorije zasnovane na procesu, a ne na moralne teorije zasnovane na ishodu. Uprkos tome, neki naučnici pokušavaju da se pozivaju na ishode: da ljudsko biće mora 'ostati u toku' tako da je, na primjer, svaka data moralna odluka 'objašnjivija' (vidi, na primjer, Tasioulas 2023). Ali poteškoća sa tvrdnjama koje se na ovaj način pozivaju na ishode je u tome što ih je teško održati kako mašine postaju sve sposobnije: mnogo prije opće umjetne inteligencije (AGI), zamislivo je da bi "odluke čije obrazloženje možemo shvatiti" mogle lakše proizaći iz vještačke inteligencije (AI), a ne iz ljudskog bića (Tasioulas 2023). Da biste to vidjeli, razmotrite medicinsko okruženje: pitajte doktora, na primjer, kako postavlja dijagnozu, a on bi mogao početi pozivanjem na lako artikulirano eksplicitno znanje, kao što biste mogli pronaći na relevantnim stranicama medicinskog udžbenika, ali ako se više potrudite, vjerovatno će se pozivati na teško artikulirano prećutno znanje – „Koristio sam svoju prosudbu, kreativnost, instinkt, intuiciju“ i tako dalje. Zaista, u ekonomskoj literaturi, uvjerenje da se doktor više oslanja na prećutno, nego na eksplicitno znanje, činilo je zadatak posebno teškim za automatizaciju (to ga je činilo „nerutinskim“; vidi, na primjer, Susskind 2016; 2019).
Zaključak: Granice granica?
Šta će ljudima preostati da rade, čak i u svijetu u kojem mašine mogu obavljati sve ekonomski korisne zadatke produktivnije od ljudi? U ovom radu tvrdim da postoje tri važna ograničenja: ograničenja opšte ravnoteže, koja uključuju zadatke u kojima rad ima komparativnu prednost nad mašinama (čak i ako nema apsolutnu prednost); 'ograničenja preferencija', koja uključuju zadatke u kojima ljudi mogu imati ukus ili preferenciju za neautomatizovani proces; i 'moralna ograničenja', koja uključuju zadatke normativnog karaktera, gdje ljudi mogu vjerovati da je potreban 'čovjek u toku' da bi ostvario svoj moralni sud.
Ali koliko su ova ograničenja - opšta ravnoteža, preferencija, moral - otporna na proces preuzimanja zadataka? Drugim riječima, ako su lideri kompanija za vještačku inteligenciju u pravu u svojim predviđanjima i ako izgradimo opštu umjetnu inteligenciju (OUI) u kratkoročnom i srednjoročnom periodu, hoće li ova ograničenja moći izdržati tako izuzetan napredak? Po mom mišljenju, svako ograničenje ima važnu slabost. U nastavku želim odrediti koja bi to mogla biti.
U slučaju granica opće ravnoteže, ključno pitanje je kolika će biti potražnja za radnom snagom koja će obavljati ove rezidualne zadatke u kojima radna snaga zadržava komparativnu prednost u odnosu na mašine – jedno je reći da je efikasno prepustiti određene zadatke radu, umjesto da faktor ostane neaktivan, ali sasvim drugo je reći da će radna snaga biti plaćena dovoljno velikom platom da zaradi za život. Formalna literatura o ovom pitanju je neuvjerljiva. U Susskindu (2016; 2020b), pokazujem kako radna snaga može biti osiromašena, a plate svedene na nulu jer je prisiljena da se specijalizuje za sve manji skup rezidualnih zadataka u kojima zadržava komparativnu prednost; Acemoglu i Restrepo (2018) hvataju optimističniji put, iako onaj koji je vrlo osjetljiv na pretpostavku da ekonomija nastavlja stvarati sve više zadataka u kojima radna snaga ima komparativnu prednost; Korinek i Trammell (2023), te Korinek i Suh (2024) istražuju opštije uslove pod kojima plate rastu ili padaju. Zaključak je da postojanje zadataka u kojima radna snaga zadržava komparativnu prednost samo po sebi ne podrazumijeva da će nužno postojati dovoljna potražnja za tim preostalim zadacima kako bi svi ostali u dobro plaćenom zaposlenju. Zapravo, ne postoji ekonomski zakon koji kaže da ovaj ishod mora biti takav.
U slučaju ograničenja preferencija, ključno pitanje je šta se dešava sa ukusima ljudi tokom vremena - uostalom, preferencije se mogu mijenjati. Na primjer, zamislivo je da napredak u vještačkoj inteligenciji dovodi do poboljšanja ishoda koja su toliko značajna da nadmašuju svaki historijski ukus za ljudski proces. Formalno rečeno, malo je vjerovatno da ljudi imaju 'leksikografske' preferencije za ljudski proces, tj. da će, bez obzira na to koliko dobri ishodi mogu postati, ljudi nužno preferirati da se zadatak obavi na određeni način. Malo je vjerovatno, na primjer, da će ljudi uvijek preferirati ljudskog doktora da postavi dijagnozu, koliko god sposoban bio dijagnostički sistem pokretan vještačkom inteligencijom; ili da će ljudi uvijek preferirati ljudskog sudiju, koliko god sofisticiran postao sudija pokretan vještačkom inteligencijom. Čini se vjerojatnijim zamisliti da su naši ukusi za efikasne ishode i ljudski procesi uključeni u čin ravnoteže: ponekad naša preferencija za ovo drugo može nadmašiti našu preferenciju za prvo, ali to se može promijeniti - i važno je ne patiti od neuspjeha mašte o tome koliko bi vještačka inteligencija mogla postati sposobna u budućnosti.
Dramatičniji način na koji se preferencije mogu promijeniti na štetu ograničenja preferencija je taj da ćemo, tokom vremena, kako vještačka inteligencija postaje sve sposobnija, možda razviti novi ukus za automatizovane procese. Kompjuterski naučnik Douglas Hofstadter, u svom najpoznatijem djelu Gödel, Escher, Bach, rekao je sljedeće o mašinski generisanoj muzici:
Program“ koji bi mogao proizvoditi muziku kao što su oni to činili morao bi sam lutati svijetom, probijajući se kroz lavirint života i osjećajući svaki njegov trenutak. Morao bi razumjeti radost i usamljenost hladnog noćnog vjetra, čežnju za dragom rukom, nepristupačnost dalekog grada, tugu i regeneraciju nakon ljudske smrti. Morao bi poznavati rezignaciju i umor od svijeta, tugu i očaj, odlučnost i pobjedu, pobožnost i strahopoštovanje. (Hofstadter 1979)
Ipak, možda ćemo u budućnosti početi cijeniti umjetničko djelo - poput muzičkog djela - upravo zato što ga je proizvela umjetna inteligencija, a ne ljudsko biće, diveći se s krajnje zapanjenim strahopoštovanjem sistemu koji je u stanju ne samo da uhvati iskustvo jednog osjetljivog ljudskog bića - o čemu Hofstadter tako elokventno piše - već cijeli univerzum svog ljudskog iskustva, prošlog i sadašnjeg, nešto što nijedan pojedinac sam ne bi mogao shvatiti, a možda i u kombinaciji s drugim dimenzijama iskustva koje su potpuno izvan našeg ljudskog dosega.
Konačno, koliko su robusna moralna ograničenja za opću umjetnu inteligenciju (OUI)? Odgovor zavisi od prirode moralnog obrazloženja koje se koristi za tvrdnju da ove zadatke treba obavljati ljudsko biće, a ne mašina: da li se radi o čistoj moralnoj teoriji zasnovanoj na procesu ili onoj koja je pomiješana s moralnom teorijom zasnovanom na ishodu. Ako je ovo drugo, a argument uključuje pozivanje na ishode, omogućavajući da se efikasnost kojom se postiže ishod pojavi u moralnom računu, onda moralno ograničenje nije robusno - mora postojati određeni nivo tehnološkog napretka na kojem je automatizovani ishod toliko izvanredan da nadjačava sve konkurentske razloge za vjerovanje da ljudsko biće treba da izvrši zadatak. Međutim, ako je argument potpuno nezavisan od efikasnosti ishoda, ako je to čista moralna teorija zasnovana na procesu, onda je vjerovatno vjerovati da bi ova moralna ograničenja bila robusna - koliko god ishod bio efikasan, zadatak bi uvijek trebalo da izvrši ljudsko biće. Ali za puriste koji se drže takvog stava, opća umjetna inteligencija (OUI) će sigurno testirati njihove moralne intuicije: jer kako mašine postaju neumoljivo sposobnije, a rezultati se nastavljaju poboljšavati, na kraju će se morati suočiti s tim da li ih ti rezultati uopće mogu zanimati.
Autor: Daniel Susskind
Коментари
Постави коментар