Jordi Pigem (Tècnica i totalitarisme) Digitalizació, deshumanizació i els anells del poder global

LA DIGITALITZACIÓ DEL MÓN és el procés històricament més transcendent que estem vivint des de fa tres dècades.

Abans ens comunicàvem amb persones, mirant-nos als ulls; ara cada vegada més ens comuniquem a través de pantalles —o amb sistemes d'algoritmes que reaccionen mecànicament als sons que pronunciem o els mots que teclegem. Ens responen sense saber què diuen, mentre enregistren la nostra veu i les nostres dades, que seran emmagatzemades, probablement comercialitzades i pot-ser, algun dia, manipulades. Com escriu Carissa Véliz, investigadora a Oxford i autora de Privacy is power (La pri-vacitat és poder, 2020):

A finals del segle xx, el teu cotxe era un cotxe –no li inte-ressava quina música t'agradava, no t'escoltava les converses, no et mesurava el pes, no registrava a on anaves i d'on venies. [...] Per alguns de nosaltres, despertar a la vigilància de l'era digital va ser com anar a dormir una nit i trobar un món completament diferent l'endemà— un món més llòbrec, si més no pel que fa a la privacitat i a la nostra autonomia sobre els objectes que ens envolten.

Dotzenes d'aparells d'ús quotidià enregistren contínuament les nostres dades, i com més serveis ens donen, més serveis donem nosaltres a les entitats que hi ha a l'altra banda de la connexió, sense que generalment en siguem conscients. Així paguem multitud de serveis que només són gratuits en aparença. Tots aquests aparells enregistren el que fem i diem. I no ho fan, al capdavall, pel nostre bé. Com escriu Véliz, en la «societar de la vigilancias que és l són usades en contra teva». 

Si Alexa, Siri o l'assistent de Google responen quan se'ls crida, és perquè sempre estan escoltant. És cone- gut el cas d'una dona nord-americana que va saber que una conversa íntima que acabava de mantenir havia sigut enviada a un contacte aleatori (Amazon va allegar que Alexa devia haver malinterpretat alguna ordre) i e d'un home que, en arribar a casa a Londres, va começar a rebre ordres «kafkianes» que li dictava el seu Amazon Echo. L'any 2021, el Parlament d'Irlanda va demanar a tots els seus funcionaris que «evitin tenir converses confidencials de treball prop d`assistents digitals de la llar o altaveus "intelligents" (com Alexa o Google Home), ja que poden enregistrar el que es diu i compartir-ho amb la seva empresa matriu».

Fins i tot el televisor «intelligent» pot estar enregistrant i fent circular el que es diu davant seu. La Iletra petita de Samsung sobre la funció de reconeixement de veu del seu televisor «intelligent» inclou aquesta frase: «Sisplau, tingui present que si les seves paraules inclouen informació personal o altra informació delicada, aquesta informació formarà part de les dades que són capturades i transmeses a un tercer». Tècnicament, es pot desactivar aquesta funció però, pel que sembla, pot ser reactivada a distància per agències d'espionatge i altres beneficiaris del totalisme digital. També les noves aspiradores Roomba, mentre netegen, rastregen: els mateixos sensors amb quê sorienten enregistren dades que són enviades molt lluny de casa.

Pel que fa als comptadors d'electricitat «intelli-gents» (smart meters), poden determinar a quina hora et lleves, quan entres i surts de casa o distingir quins aparells elèctrics estàs fent servir a cada moment; i en la societat de la vigilância, hi ha moltes entitats disposades a comprar aquestes dades.

Carissa Véliz es demana com hem arribat aquí, com és que la nostra vida quotidiana s'ha transformat en dades que es poden fer servir per manipular-nos. ¿Com hem arribat al món de la hipervigilància digital? La resposta més breu és aquesta: «A través de la teva interacció amb ordinadors. L'ús d'aparells digitals genera dades com a subproducte.»

TRADUCCIÓN

LA DIGITALIZACIÓN DEL MUNDO es el proceso históricamente más trancendental que estamos viviendo desde hace tres décadas.

Antes nos comunicábamos con las personas mirándonos a los ojos; ahora cada vez más nos comunicamos a través de pantallas —o con sistemas de algoritmos que reaccionan mecánicamente a los sonidos que pronunciamos o a las palabras que tecleamos. Nos responden sin saber lo que dicen, mientras registran  nuestra voz y nuestros datos, que serán almacenados, probablemente comercializados y puede ser que, algún  día, manipulados. Como escribe Carissa Véliz, investigadora en Oxford y autora de Privacy is power (La privacidad es poder, 2020).

Al finales del siglo XX, tu coche era un coche —no le interesaba qué música te gustaba, no escuchaba las conversaciones, no calculaba tu peso, no registraba a dónde ibas y de dónde venías. [...] Para algunos de nosotros, despertar de la vigilancia de la era digital fue como ir a dormir una noche y encontrar un mundo completamente diferente al día siguiente —un mundo más lúgubre, no solo en lo que se refiere a nuestra privacidad y nuestra autonomía sobre los objetos que nos rodean. 

Docenas de aparatos de uso cotidiano registran continuamente nuestros datos, y cuanto más servicios nos ofrecen, más servicios entregamos nosotros a las entidades que hay al otro lado de la conexión, sin que generalmente seamos conscientes. Así pagamos multitud de servicios que solo son gratuitos en apariencia. Todos estos aparatos registran lo que hacemos y decimos. Y lo hacen, al fin y al cabo, por nuestro bien. 

Como escribe Véliz, en la «sociedad de la vigilancia» que es la sociedad contemporánea, «en todo momento, tus datos son usados en contra tuya». 

Si Alexa, Siri o el asistente de Google responden cuando se les llama, es porque siempre están escuchando. Es conocido el caso de una señora norteamericana que descubrió que una conversación íntima que acababa de mantener había sido enviada a un contacto aleatorio (Amazon alegó que Alexa debía haber malinterpretado una orden) y el de un hombre que, al llegar a su casa en Londres, empezó a recibir ordenes «kafkianes» que le dictaba su Amazon Echo. En el año 2021, el Parlamento de Irlanda aconsejó a todos sus funcionarios que «evitasen tener conversaciones de trabajo cerca de asistentes digitales en casa o altavoces "inteligentes" (como Alexa o Google Home), ya que podían registrar lo que decían y compartirlo con su empresa matriz. 

Hasta el televisor «inteligentes» puede estar registrando y haciendo circular lo que se dice delante suyo. La letra pequeña de Samsung sobre el funcionamiento del reconocimiento de voz de su televisor «inteligente» incluye esta frase: «Por favor, tenga presente que si sus palabras incluyen información personal u otra información delicada, esta información formará parte de los datos que son capturados y transmitidos a terceros. Técnicamente, se puede desactivar esta función pero, por lo que parece, puede ser reactivada a distancia por agencias de espionaje y otros beneficiarios del totalitarismo digital. También las nuevas aspiradas Roomba, mientras limpian, rastrean: los mismos sensores con los que se orientan registran datos que son enviados muy lejos de casa.  Por lo que hace a los compradores de electricidad «inte.ligents» (smart meters), pueden determinar a qué hora te levantas, cuándo entras y sales de casa o distinguir qué aparatos eléctricos se están usando en cada momento; y en la sociedad de la vigilancia, existen entidades dispuestas a comprar estos datos. 

Carissa Véliz nos pregunta cómo hemos llegado aquí, cómo es que nuestra vida cotidiana se ha transformado en datos que se pueden utilizar para manipularnos. ¿Cómo hemos llegado al mundo de la hipervigilancia digital? La respuesta más breve es esta: «A través de tu interacción con ordenadores. El uso de aparatos digitales genera datos como subproducto». 

Pigem, Jordi (La nueva realidad) Del economicismo a la conciencia...
Pigem, Jordi (Inteligencia vital) Una visión postmaterialista de la vida y...
Pigem, Jordi (Pandemia y posverdad) La vida, la conciencia y la Cuarta...
Pigem, Jordi (Ángeles o robots) La interioridad humana en la ...

No hay comentarios:

analytics