Los diseñadores de crisis prosperan polarizando

«Our civilization is invaded by those set to destroy it.»
Wheatley, Margaret

Un artículo en The Guardian sobre la infuencia de los ‘think tank‘ conservadores incluye una cita remarcable de Milton Friedman:

“Sólo una crisis, real o percibida – genera un cambio real. Cuando tiene lugar esa crisis, las acciones que se emprendan dependen de las ideas que haya en el entorno. esta es nuestra función básica: desarrollar alternativas a las políticas existentes y mantenerlas vivas hasta que lo políticamente imposible se convierta en lo políticamente inevitable.»

Es un reflejo, y por eso demasiado fácil y potencialmente engañoso, apostillarla como típica de la derecha ultraliberal y reaccionaria. Porque desde posiciones autoproclamadas como progresistas se sostienen posturas que se me antojan en la misma línea:

«La polarización de la sociedad es una herramienta no sólo correcta, sino imprescindible para vencer la pasividad de una sociedad dormida y por tanto fácil de dominar.»

En una entrevista en el mismo medio, un adalid de la desobediencia civil sostiene que  «para ganar ha de crecer la tensión […] y se ha de dar por sentada la reacción de la extrema derecha»,  porque «la represión no ha de ser perjudicial para el movimiento; más bien al contrario, se puede utilizar la represión contra los represores […] Su represión provoca una respuesta negativa de la gente que la ve.»

Pienso que es pertinente señalar el paralelismo las posiciones de dos ideologías que se presentan como opuestas, porque la coincidencia de ambas hace más probable que la polarización conduzca a crisis que a grandes acuerdos. También porque los comportamientos de los polarizados de uno y otro bando son más emocionales, o fanáticos, que racionales. Pero, por si eso no fuera suficiente, el adalid de la no violencia proclama que:

«El movimiento ha de entender que ha de polarizar y protestar aunque haya represión y sacrificio. Los primeros cristianos decían que la semilla de la Iglesia era la sangre de los mártires. Morir como un mártir es inherente a los movimientos ganadores. No se quiere que suceda, pero es inevitable una vez que se aumenta la tensión.»

La última frase es de un cinismo insoportable. Porque quienes azuzan la tensión casi nunca están en primera fila de las potenciales víctimas.

Detrás de todos los movimientos de masas, también, si se quiere, de los adormecimientos de masas, hay el liderazgo de muy competentes diseñadores de crisis. El artículo de The Guardian documenta intereses y personas que impulsan a conservadores. No hay tanta claridad al respecto del impulso a movimientos revolucionarios o identitarios. Pero en uno y otro caso están teniendo éxito y se arrogan la representación de la democracia y el soporte del soporte del pueblo, a la vez que los niegan al resto de la sociedad, incluyendo a quienes descalifican como ‘equidistantes‘.

«Las sociedades cambian a través del conficto y se gestionan mediante la política» – explica Manuel Castells. De momento sólo vemos el conflicto, a la vez que perdemos la confianza en las políticas que puedan llegar a aplicar nuestros políticos actuales. Quizá toque asumir un pesismismo moderado. Que a corto plazo las cosas van a ir a peor, o incluso a mucho peor. Quizá, como recomienda Margaret Wheatley en su último libro, lo único razonable para quienes creemos en el valor de preservar lo común y construir sobre ello sea preparar islas de sanidad, espacios de supervivencia al margen dinámicas destructivas y la erosión de la ética. Formas de resistencia radical a los polarizadores antes de que arrasen. O, en el peor de los casos, cuando hayan arrasado como un tsunami.

Empresas no responsables se aprovechan de sus usuarios

«Every advance in connectivity and mobility seems to increase the possibilities for crime.»
(John Seabrook en The New Yorker).

El Pew Research Center detectó hace unos meses en una de sus encuestas que un 75% de los norteamericanos desconocía que Facebook recoge, compila y analiza datos sobre sus preferencias.

Un estudio más reciente, también de Pew, constató que sólo el 59% de los encuestados era consciente de que el modelo de negocio de la mayoría de las redes sociales se basa en intermediar publicidad para sus usuarios. Y que sólo un 29% sabía que Facebook es propietaria de Intagram y Whatsapp.

Por último, según un tercer estudio, el 81% del público considera que los riesgos a los que se enfrentan como consecuencia de la recogida de datos por parte de las plataformas sociales no compensan los beneficios, en tanto que el 79% declara estar preocupado por cómo las empresas utilizan los datos que recogen.

Si añadimos además la influencia creciente de las redes sociales sobre las creencias y los comportamientos de las personas, el panorama es preocupante. Muchos usuarios utilizan diariamente herramientas tecnológicas sin ser conscientes de que «cuando un servicio online es gratuito no eres el cliente, sino el producto«.

«En el terreno técnico repetidamente nos involucramos en diversos contratos sociales, las condiciones de los cuales se revelan sólo después de haberlos firmado.» (Langdon Winner, «La ballena y el reactor»).

El fenómeno es difícilmente reversible. Es más fácil sacar la pasta de dientes del tubo que hacerla entrar. Pero así y todo parece que habría que hacer algo al respecto. Empezando por acordar un diagnóstico de las causas de la situación. ¿Cómo hemos llegado hasta aquí?

Diría que se trata de una combinación de varios factores:

  • Un estado de opinión benevolente e ingenuo, creado durante décadas, que tiende a hacer énfasis sólo en los beneficios potenciales de las nuevas ofertas electrónicas, sin considerar su potencial para generar efectos dañinos colaterales.
  • Una clamorosa ausencia de regulación al respecto de las condiciones razonables a aplicar a las nuevas ofertas tecnológicas, que contrasta demasiado, por ejemplo, con la que se aplica a los productos farmacéuticos.
  • Estrategias no responsables de empresas, incluyendo aquellas apuntadas al mantra de la disrupción: «move fast and break things«, externalizando a la sociedad el coste de los platos rotos, cuando los hay.

«Para sobrevivir y prosperar en el siglo XXI, necesitamos dejar atrás la ingenua visión de los seres humanos como individuos libres —una concepción herencia a partes iguales de la teología cristiana y de la Ilustración— y aceptar lo que, en realidad, somos los seres humanos: unos animales pirateables.»  Yuval Noah Harari


Los usuarios, ¿no tienen ninguna responsabilidad? – se preguntarán algunos. Pues al parecer hay diferencia de opiniones. Para algunos autores, ninguna, porque sostienen nuestras mentes están siendo hackeadas. Otros son incluso más radicales, haciendo responsables de esta situación a los usuarios, asignándoles «la misma profundidad intelectual que un rebaño de ovejas«, a la vez que los califican como «auténticos monos jugando con ametralladoras«.

No parecen buenos puntos de partida. Habrá que apoyar los intentos de gobernanza tecnológica, a ver qué dan de sí. O tal vez iniciar una campaña para que la ONU incluya la protección de las mentes de las personas en una sociedad digital como uno más de sus Objetivos de Desarrollo Sostenible. Más sobre ello en próximas entradas.

 

 

 

 

 

Un adjetivo para los 65: ¿Viejo o mayor?

Según Nature, este año los mayores de 65 años, por primera vez en la historia, seremos más que los menores de 5 años. Las consecuencias y acciones al respecto son aún objeto de debate.

Al haber cumplido los 65, me encuentro reflexionando sobre mi edad, las consecuencias de mi edad y sobre que correspondería hacer al respecto. Sobre cómo me veo y cómo me ven. Sobre acciones y omisiones, lo vivido y lo que todavía me reste por vivir.

Sea como fuere, el tiempo que me queda por delante se está convirtiendo rápidamente en un recurso escaso. ¿A qué dedicarlo? ¿Con qué prioridades? Depende del punto de vista.

¿Cómo vemos hoy una persona de 65? ¿Diríamos que es «vieja»? ¿O quizá «anciana»? ¿O tal vez que es una «persona mayor»? Si alguien a esta edad cuelga su perfil en una de esas plataformas de empleo, ¿recibiría alguna oferta de trabajo?

Las palabras tienen poder. El nombre hace la cosa. El calificativo que apliquemos a esa persona condiciona, seguro, lo que pensamos y esperamos de ella. También lo hará el calificativo que ella misma se aplique.

Ejercicio: Apuntad sin pensar en un papel las cinco palabras que os vienen primero a la mente asociadas a «viejo«; o a «anciano«; o a «persona mayor«. Seguro que los resultados serán distintos. Repetid el experimento con personas próximas. Me complacerá que alguien me haga llegar sus listas.

Entretanto, aún asumiendo el riesgo de que ya sea tarde, medito la sentencia de Sócrates: «Una vida sin examen no merece la pena ser vivida«.

Vemos según miramos, también sobre la IA

Se pronostica, seguro que con buen criterio, que «es probable que no exista ahora mismo un video juego que un sistema de inteligencia artificial como OpenAIFive no pueda dominar a un nivel superior al de la capacidad de los humanos.»

Se trata de un pronóstico que admite más de una interpretación. O, si se prefiere, más de un juicio de valor.

Se trata, de entrada, de un reconocimiento del espectacular aumento de las capacidades de los sistemas de inteligencia artificial. Que, si se toma en cuenta el contexto del artículo de donde se ha extraído la cita, se hace con una valoración positiva.

Con todo, es posible que ese reconocimiento deba matizarse cuando se manifiesta que el aprendizaje de este sistema de IA requirió el equivalente de 45.000 años de juego. Algo que el sistema, según aseguran sus creadores, llevó a cabo sin aburrirse.

Por tanto, dado que ningún ser humano, ni tampoco los mejores equipos de juegadores, está en condiciones de hacer una inversión de tiempo ni remotamente similar, una primera conclusión razonable sería que, con todas sus capacidades, el sistema de IA no puede duplicar una inteligencia de eficacia similar al de los seres humanos.

«Uau – dice uno de los personajes de la viñeta de The New Yorker – esta versión es un modo mucho más inmersivo de dilapidar nuestra juventud«.

Propongo una segunda concusión, entiendo que también razonable. Si las capacidades de inteligencia humana que se utilizan para dominar un juego de ordenador complejo son emulables (aunque no duplicables) por un sistema informático, es probable que esas capacidades no sean las más distintivas de la inteligencia humana. A menos que, como hacen algunos, se acepte la hipótesis de que la inteligencia humana en su conjunto es algorítmica y por tanto duplicable por un sistema informático avanzado. Algo que en este momento carece de base científica, por lo que cabe calificarlo como un acto de fe.

«Si se aumenta lo que es, surgirán estas y aquellas desgracias, y, por lo tanto, debe considerársele como al huevo de la serpiente, que, incubado, llegaría a ser dañino, como todos los de su especie, por lo que es fuerza matarlo en el cascarón«. (W. Shakespeare, «Julio César»)

Si se acepta esta premisa, valdría la pena que, individualmente y como sociedad en general, nos pusiéramos como objetivo identificar, cultivar, desarrollar y poner en práctica capacidades de inteligencia y conocimiento que nos diferencien de las potenciales de los sistemas informáticos. De lo contrario, como simples humanos tenemos el riesgo de que los sistemas de IA sean como el huevo de una serpiente que cuando eclosione nos envenene y mate. Huevos de serpiente que hoy por hoy alguien incuba, como cabe temer por experiencia y precaución, más en su propio beneficio que en el nuestro.

Tecnología y responsabilidad social

En McKinsey se preguntan si «la Inteligencia Artificial puede ayudar a la sociedad tanto como a los negocios«. Su conclusión es que es posible, aunque no está garantizado. Su conclusión es que depende de dos condiciones:

  • Que las empresas adopten las tecnologías con el objetivo de acelerar la innovación y el crecimiento, y no como una estrategia para eliminar personal y reducir costes.
  • Que la adopción de la tecnología se acompañe de medidas para gestionar de modo activo los cambios laborales que han acompañarla, y más en concreto gestionar las habilidades de los empleados.

Su conclusión es que hace falta que las empresas incorporen a su estrategia el concepto de «Responsabilidad Social de la Tecnología«, que equilibre de forma consciente el alineamiento entre los objetivos de negocio a corto y medio plazo y los impactos sociales a más largo plazo.

Añadiría que esta nueva responsabilidad debería extenderse también a quienes desarrollan las nuevas tecnologías y a quienes les financian. El argumento de que si es posible desarrollar una tecnología hay que desarrollarla es falaz, interesado y, en algunos casos, ética y socialmente irresponsable.

Son dos buenos QUÉ a los que, como en tantos otros ámbitos, tienen todavía un considerable déficit de cómos. Un tema a seguir durante los próximos meses, o quizá más.

La singularidad es una religión

Leo por ahí que la idea de la singularidad, que incluye la predicción de que la evolución de la (mal llamada) inteligencia artificial superará y hará obsoletas las capacidades de la inteligencia humana, es una religión.

O sea, en último término, la consecuencia de un acto de fe: el de la capacidad de quienes la defienden de crear una tecnología que supere las facultades que hasta ahora considerábamos exclusivas de los humanos.

O, si se prefiere, una consecuencia del cientificismo, la ideología que sostiene que la ciencia es el único modo válido de entender el mundo y resolver problemas sociales.

Me parece razonable. De hecho, la confianza ilimitada de muchos en el poder de la ciencia y de la tecnología es también una creencia basada en un acto de fe. O, si se prefiere, no pasa de ser una hipótesis de trabajo. Puede parecer plausible, porque la ciencia y el método científico han generado respuestas a muchos retos teóricos y prácticos. Pero no es demostrable que sean aplicables a todos los retos presentes y futuros.

«Los seres humanos siembre han construido mitos colectivos, con el objetivo de cohesionar, controlar y dar un sentido a su experiencia compartida. Los mitos nos guían, nos inspiran y nos permiten vivir en un universo que en último término es incontrolable y misterioso. Pero también pueden cegarnos ante las necesidades reales urgentes. […] La religión de la tecnología es uno de esos mitos.»

(David Noble, «La religión de la tecnología«).

Desde siempre hay quienes han instrumentalizado las religiones como instrumentos de poder sobre la conciencia y los comportamientos de personas y sociedades. Lo cual obliga a preguntarse si la religión de la singularidad se basa en un acto de buena fe, o es simplemente un instrumento interesado para acumular riqueza y poder. Más aún cuando quienes con mayor entusiasmo defienden la idea de la singularidad (p.e. la Singularity University) son los mismos que promocionan empresas exponenciales cuyo éxito, por la misma idea de exponencialidad, es alcanzar posiciones de oligopilio en sus mercados.

Conclusión. No perdamos la fe en la ciencia, pero desconfiemos de los ‘ultras de la ciencia’. Uno de ellos escribía hace poco en El País que «la ciencia siempre acaba destruyendo las creencias«. Una afirmación muy radical que sin embargo no deja de ser una creencia sin base científica. 

Para acabar. En ocasión de su 150 aniversario, la prestigiosa revista científica Nature ha publicado algunas reflexiones muy interesantes sobre el presente y futuro de la ciencia. Las recomiendo (y tal vez las comente en el futuro).

 

Facebook y las fuerzas del mal

Estos días los asuntos relacionados con la responsabilidad y la regulación de las empresas tecnológicas son otra vez de actualidad. Lo seguirán siendo, pienso, durante bastante tiempo. La tecnología avanza más rápidamente que la regulación, y  hay muchos intereses en aprovechar los huecos que deja la regulación para hacer negocios, algunos de cuales son éticamente cuestionables.

El contraste entre las dos citas recogidas en la pantalla es ilustrativo de la brecha en cultura, ética y lenguaje entre tecnólogos con poca conciencia social y agentes con responsabilidad social que consideran que el sector tecnológico evoluciona sin el mínimo de control que sería apropiado.

No deja de ser curioso que si a algunos nos preguntaran por casos concretos de la «naturaleza humana» y «adversarios sofisticados» a los que se refiere el CEO de Facebook, mencionaríamos precisamente a Facebook y su liderazgo.

Un comentario final sobre la cita del Parlamento británico. Es posible que cuando dicen «no debería permitirse que» les gustaria haber escrito «no deberíamos permitir que». Al igual que en tantos otros retos colectivos, saber QUÉ conviene hacer es más fácil que acertar en CÓMO conseguirlo.

Amenazas en red

La propaganda computacional es un negocio emergente (quizá exponencialmente peligroso): http://www.ox.ac.uk/news/2018-07-20-social-media-manipulation-rising-globally-new-report-warns

Innovar con orejeras

Como sociedad, no nos equivocamos al innovar, pero sí cuando ignoramos lo que alteramos o disminuimos al innovar. Un ejemplo, entre muchos: https://www.theguardian.com/commentisfree/2018/aug/25/skim-reading-new-normal-maryanne-wolf

Lo digital no puede ser imperativo

«Se utilizarán todas las debilidades humanas, y sobre todo la vanidad y falta de veracidad, para conducir a los seres humanos al lado equivocado.» (Rudolf Steiner).

Leo en el suplemento de negocios de un diario un artículo que asegura, sin matices, que «la transformación digital nos cambia la vida, crea valor a las organizaciones y mejora la sociedad» y con ello «beneficia a usuarios, organizaciones, sociedades y finalmente al planeta«. A partir de lo cual concluye que el imperativo de la transformación digital «merece un lugar en nuestra lista de imperativos«.

Un día después, el mismo diario publica un reportaje en el que, bajo el titular «El acceso a la pornografía se adelanta a los 8 años» se asegura que la causa de la infantilización de la pornografía es su gratituidad y el fácil acceso desde un teléfono móvil.

Por si no fuera suficiente, el último número de Alternativas Económicas incluye un dossier que documenta cómo el juego online contribuye a un aumento de la ludopatía, con consecuencias negativas personales y sociales sobre las que no hace falta abundar.

La explosión del juego online y el boom de las casas de apuestas han provocado un aumento de la ludopatía y de los problemas psicológicos y familiares derivados de la adicción.

Supongo que los empresarios de la pornografía y el juego online estarán de acuerdo en que para ellos su transformación digital es imperativa. Prefiero pensar que no son esas transformaciones digitales las que están en la lista de imperativos del articulista. Espero, aunque no apsotaría por ello, que tampoco lo estén las que facilitan la difusión de fake news y de contenidos de odio, o el auge de plataformas que estarían socavando derechos laborales.

Conclusión: Hablar en general de la transformación digital y sus beneficios es como mínimo poco riguroso. Para empezar, porque es probable que si se pregunta a diez personas sobre qué significa en concreto la transformación digital obtengamos once respuestas distintas. Y también porque, como me parece evidente a partir de los ejemplos mencionados más arriba, hay transformaciones digitales socialmente nocivas.

Más sobre estos asuntos digitales en próximas entradas.