Lavoro intellettuale, automazione e controllo sociale

Nicholas Carr: La gabbia di vetro. Prigionieri dell'automazione, Raffaello Cortina

Risvolto
Sono poche le cose che oggi facciamo senza l’aiuto dei computer. È questo il mondo che vogliamo? Nicholas Carr va al di là dell’entusia

Nicholas Carr autore di saggi importanti sul rapporto tra tecnologia, economia e cultura, collabora con The New York Times, The Financial Times, Wired e altri periodici. In questa collana ha pubblicato Internet ci rende stupidi? (2011).
"Macchine e intelligenze artificiali possono diventare una gabbia"Forse non supereranno mai il cervello umano, ma potrebbero far scordare all'uomo parti importanti di se stesso. E chi controlla i controllori delle nuove tecnologie?

Luca Gallesi - il Giornale Mer, 17/06/2015

Intelletti al servizio delle macchine 

Codici Aperti. Dalla neuroplasticità alla utopia negativa dei chip intelligenti. Un sentiero di lettura sull’automazione a partire dal saggio «La gabbia di vetro» (Raffaello Cortina) di Nicholas Carr 

Benedetto Vecchi il Manifesto 3.6.2015
L’automazione ha un effetto col­la­te­rale inquie­tante: riduce le capa­cità cogni­tive degli umani. E se que­sto dato è spesso igno­rato nelle nor­mali atti­vità quo­ti­diane, in situa­zioni impre­vi­ste può avere un esito cata­stro­fico. È uno dei leit motiv del volume di Nicho­las Carr da poco pub­bli­cato da Raf­faello Cor­tina (La gab­bia di vetro, pp. 290, euro 25) dove l’autore affronta il tema dell’automazione del lavoro «intel­let­tuale» e delle sue con­se­guenze sulla mente umana, in base alla tesi che un uso inten­sivo delle mac­chine modi­fica l’organizzazione delle reti neu­rali del cer­vello, faci­li­tando dun­que lo svi­luppo di alcune capa­cità cogni­tive e l’impoverimento di altre. 

Il libro di Carr si snoda su due diret­trici: la prima è il pas­sag­gio della sosti­tu­zione del lavoro intel­let­tuale con le mac­chine; la seconda riguarda invece la per­dita di auto­no­mia che le mac­chine pro­vo­cano, al punto che l’automazione è rap­pre­sen­tata come un gab­bia di vetro che rende pri­gio­nieri attra­verso pro­ce­dure astratte e algo­ritmi pre­dit­tivi. Nel tenere insieme i due filoni di ana­lisi l’autore fa ricorso a espe­rienze per­so­nali e case study tratti dall’attualità, rive­lando una capa­cità nar­ra­tiva che cat­tura l’attenzione, evi­den­ziando come il tema dell’automazione sia una costante delle cosid­dette scienze sociali made in Usa. Sono infatti citate ricer­che che spa­ziano dagli anni Ses­santa del Nove­cento al primo decen­nio di que­sto millennio. 

Ogni stu­dio ricor­dato dall’autore tende a illu­strare la for­ma­zione di diverse «ondate» di auto­ma­zione, che dalla fab­brica hanno poi inve­stito il lavoro cosid­detto «cogni­tivo» per­se­guendo lo stesso scopo: spez­zare la resi­stenza espressa dal lavoro vivo al governo eser­ci­tato dal capi­tale. Le prime qua­ranta pagine sem­brano infatti un com­pen­dio iper­sem­pli­fi­cato di molte ana­lisi mar­xiane del secolo scorso. Allo stesso tempo, è evo­cata la quasi seco­lare discus­sione sulla disoc­cu­pa­zione tec­no­lo­gica, in base alla quale, per osmosi, i disoc­cu­pati in un set­tore saranno alla fine rias­sor­biti da altri settori. 

Servi e padroni 

A smen­tire que­sta con­ce­zione in base alla quale il sistema eco­no­mico tende sem­pre a un equi­li­brio, ci sono i dati occu­pa­zio­nali dei set­tori emer­genti dell’economia mon­diale: imprese come Face­book, Goo­gle o Apple danno lavoro a poche decine di migliaia di uomini e donne. Ma Carr si ferma sull’uscio dei con­tem­po­ra­nei ate­lier della pro­du­zione. Più che adden­trarsi nei con­flitti e con­trad­di­zioni del capi­ta­li­smo, pre­fe­ri­sce ricor­dare con mali­zia il dop­pio signi­fi­cato della parola robot, che può essere tra­dotta sia come lavoro pesante, ma anche come ser­vitù. Sol­tanto che i robot, meglio le mac­chine infor­ma­ti­che più al ser­vi­zio degli umani, ren­dono pro­gres­si­va­mente que­sti ultimi loro appen­dici, scim­mie ammae­strate anno­te­rebbe l’Antonio Gram­sci di «ame­ri­ca­ni­smo e for­di­smo». Per quanto riguarda, le modi­fi­ca­zioni delle reti neu­rali del cer­vello, Carr evoca il suo appren­di­stato alla guida svolto con una auto­mo­bile con il cam­bio manuale: il pas­sag­gio a quello auto­ma­tico e l’uso del navi­ga­tore, scrive l’autore, hanno pro­vo­cato nostal­gia, smar­ri­mento, timore che l’uso di dispo­si­tivi auto­ma­tici aves­sero «inde­bo­lito» sia la capa­cità di orien­ta­mento nella città che le capa­cità di rea­zione rispetto agli impre­vi­sti che il traf­fico sem­pre riserva. Il pas­sag­gio al j’accuse con­tro il pro­getto di Goo­gle, la bestia nera delle cri­ti­che di Carr al mondo digi­tale, di auto­mo­bili com­ple­ta­mente auto­ma­tiz­zate è breve.

Non è la prima volta che Carr punta i riflet­tori sulla per­va­si­vità del com­pu­ter nelle gene­ri­che atti­vità umane, soste­nendo che l’immersione in una realtà for­te­mente infor­ma­tiz­zata impo­ve­ri­sca le facoltà cogni­tive, modi­fi­cando il modo di fun­zio­nare del cer­vello umano, come atte­sta il sag­gio Inter­net ci rende stu­pidi? Come la rete sta cam­biando il nostro cer­vello (Raf­faello Cortina). 

A soste­gno della sua tesi, l’autore ricorre alla ele­vata quan­tità di dati e studi che neu­ro­psi­chia­tri, bio­logi, psi­co­logi e filo­sofi hanno pro­dotto nel corso del tempo a par­tire da alcune carat­te­ri­sti­che pro­prie della orga­niz­za­zione e del fun­zio­na­mento del cer­vello: un organo fles­si­bile e capace di adat­tarsi a con­te­sti e realtà in muta­mento, al punto tale che alcune parti pos­sono essere sol­le­ci­tate a svol­gere un ruolo mag­giore che in pas­sato, men­tre altre pos­sono per­dere di «peso», facendo per­dere agli umani alcune capa­cità acqui­site nell’ormai mil­le­na­ria sto­ria dell’evoluzione. Il caso più ecla­tante e noto è la minore pron­tezza degli umani nel «saper far di cal­colo» a causa della ten­denza a far svol­gere ai com­pu­ter ope­ra­zioni mate­ma­ti­che sem­plici o com­plesse. Un timore, quello del «deca­di­mento cogni­tivo», che negli Stati Uniti è stato ali­men­tato dalle ricer­che sulla neu­ro­pla­sti­cità, un set­tore di ricerca defi­nito di fron­tiera che vede un forte coin­vol­gi­mento, in ter­mini di finan­zia­menti pub­blici, tanto del Pen­ta­gono che dell’istituto nazio­nale della sanità sta­tu­ni­tense, che delle mag­giori uni­ver­sità americane. 

Deca­di­menti cognitivi 

L’ipotesi di par­tenza è che il cer­vello sia appunto un organo fles­si­bile, capace di adat­ta­mento, al punto di sop­pe­rire «auto­no­ma­mente» ad alcuni traumi. I pro­grammi sulla neu­ro­pla­sti­cità sono fina­liz­zati non solo a com­pren­dere come il cer­vello si sia o meno modi­fi­cato rispetto l’uso delle tec­no­lo­gie infor­ma­ti­che, ma anche come ripro­durre al com­pu­ter l’organizzazione delle reti neu­rali, al fine di annul­lare la distanza tra cono­scenza tacita e espli­cita, una vera bar­riera per svi­lup­pare mac­chine intel­li­genti. Al di là del sogno di costruire automi o androidi «intel­li­genti», c’è, come da copione, anche un altro lato oscuro in que­sti pro­grammi di ricerca, che riguarda lo svi­luppo di algo­ritmi pre­dit­tivi al fine di modi­fi­care, indi­riz­zare, insomma «mani­po­lare» i com­por­ta­menti dei sin­goli nei social net­work o di come ela­bo­rare i dati dei pro­fili indi­vi­duali al fine di stra­te­gie di mar­ke­ting e pub­bli­ci­ta­rie. In altri ter­mini, la neu­ro­pla­sti­cità, così come altre ricer­che di fron­tiera, come i motori di ricerca seman­tici, sono la cor­nice dell’unico set­tore attual­mente in forte espan­sione, quello dei Big Data. Un con­te­sto ben pre­sente in que­sto libro, che oscilla tra una cri­tica verso la per­for­ma­ti­vità delle tec­no­lo­gie digi­tali e una «eco­lo­gia del digi­tale» che pre­vede una sorta di disin­tos­si­ca­zione dall’«infosfera» attra­verso perio­di­che discon­nes­sioni dalla Rete al fine di ripri­sti­nare un habi­tat pre­tec­no­lo­gico nel quale è espunta ogni pos­si­bi­lità di «deca­di­mento cogni­tivo» da over­dose digitale. 

Nel libro sono ripor­tati molti casi ecla­tanti di auto­ma­zione di atti­vità e lavori «intel­let­tuali». Il primo caso è il pilota auto­ma­tico sugli aerei, che ridu­cono al minimo l’intervento umano. Certo ci pos­sono essere degli «incon­ve­nienti», come è acca­duto negli Stati Uniti e in Fran­cia, quando il fun­zio­na­mento del pilota auto­ma­tico ha indotto all’errore l’equipaggio chia­mato ad inter­ve­nire in una situa­zione impre­vi­sta. In entrambi i casi, gli inci­denti hanno pro­vo­cato la morte dell’equipaggio e dei pas­seg­geri. Una situa­zione che ha allar­mato l’ente fede­rale ame­ri­cano sul tra­sporto aereo che ha inviato un memo­ran­dum alle com­pa­gnie aeree affin­ché ridu­cano il tasso di auto­ma­zione degli aero­mo­bili e atti­vino forme di for­ma­zione degli equi­paggi, una sorta di corsi di «alfa­be­tiz­za­zione per anal­fa­beti di ritorno». Inol­tre, i piloti sono diven­tati appen­dici delle mac­chine, con­trol­lori con poco potere a dispo­si­zione, visto che i soft­ware sono stati pen­sati per fare a meno, poten­zial­mente, pro­prio degli umani. 

Esperti e digitali 

Certo, la respon­sa­bi­lità della dequa­li­fi­ca­zione dei piloti dipende dalle com­pa­gnie e dal soft­ware usato. Le prime per rispar­miare sul per­so­nale di volo (nella cabina di pilo­tag­gio ormai ci sono solo due piloti, le altre figure che pre­si­dia­vano il con­trollo delle rotta, delle comu­ni­ca­zioni e dei motori sono da anni stati can­cel­lati nel corso degli ultimi trenta anni), men­tre il soft­ware instal­lato parte pro­prio dal pre­sup­po­sto che un aereo può fare a meno dei piloti: la loro pre­senza dipende ancora dai limiti nello svi­lup­pare aerei «intelligenti». 

L’altro esem­pio riguarda i medici. Su que­sto cri­nale il libro di Carr si inol­tra in una sen­tiero poco bat­tuto dagli stu­diosi di tec­no­lo­gie infor­ma­tica. Viene ampia­mente docu­men­tato come l’informatizzazione delle car­telle cli­ni­che sia stata incen­ti­vata in base alla ridu­zione della spesa sani­ta­ria. Il risul­tato è una qua­lità sem­pre più medio­cre degli inter­venti sani­tari, visto che i medici devono rispet­tare gri­glie ana­li­ti­che pre­de­fi­nite, arri­vando anche a pre­scri­vere medi­ci­nali e ana­lisi inu­tili; o a dia­gno­sti­care erro­nea­mente pato­lo­gie ine­si­stenti. Inol­tre, l’informatizzazione impone di seguire rigidi pro­to­colli che fanno fare ana­lisi medi­che spesso inu­tili. Dun­que abbas­sa­mento della qua­lità dell’intervento dei medici e aumento della spesa sanitaria. 

Con distacco, Carr rian­noda il filo rosso che lega le scelte dei pre­si­denti sta­tu­ni­tensi che, indi­pen­dente si chia­mino George Bush Jr. o Barack Obama, hanno favo­rito una dequa­li­fi­ca­zione di massa dei medici di base e un aumento della spesa sani­ta­ria in nome dell’innovazione. Ma, anche in que­sto caso, inter­rompe l’analisi sul nesso tra dismis­sione del wel­fare state, pri­va­tiz­za­zioni in nome del pro­gresso tecnico-scientifico, pre­fe­rendo ricor­dare con nostal­gia la figura fami­liare del medico di base. 

L’interesse di que­sto volume non sta però nella cri­tica alla «tec­no­strut­tura» domi­nante – ci sono forti eco degli studi del filo­sofo e reli­gioso Jac­ques Ellul in que­sto sag­gio -, ma nel resti­tuire una discus­sione sull’automazione che negli Stati Uniti non si è mai sopita. 

Le mac­chine, dopo aver signi­fi­cato la ridu­zione del lavoro manuale e la con­se­guente cre­scita della disoc­cu­pa­zione, si sono dif­fuse anche nel lavoro intel­let­tuale o dei «col­letti bian­chi», che hanno pro­vo­cato un’ondata di licen­zia­menti di massa. Ma a dif­fe­renza del pas­sato non c’è stata, alla luce della per­dita di cen­ti­naia di migliaia di posti di lavoro nell’industria, una cre­scita dell’occupazione nei ser­vizi. La disoc­cu­pa­zione tec­no­lo­gica è di massa e lo svi­luppo dell’informatica, della rete o delle bio­tec­no­lo­gie non hanno favo­rito il rias­sor­bi­mento degli esu­beri in altri settori. 

La pros­sima apocalisse

Espres­sioni come jobless gro­wth indi­cano pro­prio non solo una cre­scita eco­no­mica senza aumento di posti di lavoro, ma che la Rete come le bio­tec­no­lo­gie non sono set­tori labour inten­sive, come invece lo sono i super­mer­cati, i cen­tri com­mer­ciali, i ser­vizi di cura alla per­sona. L’automazione favo­ri­sce, secondo que­sto schema, una dequa­li­fi­ca­zione del lavoro e una cre­scente disoc­cu­pa­zione. Al pari di altri testi usciti sull’argomento – da segna­lare sono La nuova rivo­lu­zione delle mac­chine di Erik Bry­n­jol­fs­son e Andrew McA­fee (Fel­tri­nelli), La natura della tec­no­lo­gia di Wil­liam Brian Arthur (Codice edi­zioni), La dignità ai tempi di Inter­net di Jason Lanier (Il Sag­gia­tore) — La gab­bia di vetro di Nicho­las Carr non fa sua però nes­suna tesi neo­lud­di­sta o «primitivista». 

Carr ass­sume l’automazione del lavoro come una ten­denza inar­re­sta­bile del capi­ta­li­smo con­tem­po­ra­neo, ma poi si ritrae, quasi spa­ven­tato dalle pos­si­bili derive teo­ri­che del suo ragio­na­mento. Attinge argo­menti per la sua «eco­lo­gia digi­tale» dagli scritti di Marx, da Lavoro e capi­tale mono­po­li­sitco di Harry Bra­ver­man o dalle pun­genti ana­lisi sul cyber­ca­pi­ta­li­smo di Nick Dyer-Witheford (di quet’ultimo è appena uscito in for­mato kindle il volume Cyber-Proletariat: Glo­bal Labour in the Digi­tal Vor­tex), quasi che il pen­siero cri­tico, messo all’indice per tanti anni, sia ormai l’unico vade­me­cum per com­pren­dere il futuro del capi­ta­li­smo. Ma non è inte­res­sato a una alter­na­tiva al capi­ta­li­smo. Il suo è un grido di allarme per la per­dita di auto­no­mia dei sin­goli, indi­vi­duando il deca­di­mento cogni­tivo vei­co­lato dall’automazione come una sorta di apo­ca­lisse pros­sima ven­tura, dove l’essere umano perde in auten­ti­cità a causa del domi­nio delle mac­chine. Nel mondo digi­tale di Carr uomini e donne sono con­dan­nati a vagare in un deserto senza fine alla ricerca dell’ultimo scam­polo di uma­nità. Un po’ come i pro­ta­go­ni­sti di Mad Max Fury Road, che vedono la sal­vezza in una cit­ta­della da ripo­po­lare e dove poter «addo­me­sti­care» nuo­va­mente le macchine.