Los diseñadores de crisis prosperan polarizando

«Our civilization is invaded by those set to destroy it.»
Wheatley, Margaret

Un artículo en The Guardian sobre la infuencia de los ‘think tank‘ conservadores incluye una cita remarcable de Milton Friedman:

“Sólo una crisis, real o percibida – genera un cambio real. Cuando tiene lugar esa crisis, las acciones que se emprendan dependen de las ideas que haya en el entorno. esta es nuestra función básica: desarrollar alternativas a las políticas existentes y mantenerlas vivas hasta que lo políticamente imposible se convierta en lo políticamente inevitable.»

Es un reflejo, y por eso demasiado fácil y potencialmente engañoso, apostillarla como típica de la derecha ultraliberal y reaccionaria. Porque desde posiciones autoproclamadas como progresistas se sostienen posturas que se me antojan en la misma línea:

«La polarización de la sociedad es una herramienta no sólo correcta, sino imprescindible para vencer la pasividad de una sociedad dormida y por tanto fácil de dominar.»

En una entrevista en el mismo medio, un adalid de la desobediencia civil sostiene que  «para ganar ha de crecer la tensión […] y se ha de dar por sentada la reacción de la extrema derecha»,  porque «la represión no ha de ser perjudicial para el movimiento; más bien al contrario, se puede utilizar la represión contra los represores […] Su represión provoca una respuesta negativa de la gente que la ve.»

Pienso que es pertinente señalar el paralelismo las posiciones de dos ideologías que se presentan como opuestas, porque la coincidencia de ambas hace más probable que la polarización conduzca a crisis que a grandes acuerdos. También porque los comportamientos de los polarizados de uno y otro bando son más emocionales, o fanáticos, que racionales. Pero, por si eso no fuera suficiente, el adalid de la no violencia proclama que:

«El movimiento ha de entender que ha de polarizar y protestar aunque haya represión y sacrificio. Los primeros cristianos decían que la semilla de la Iglesia era la sangre de los mártires. Morir como un mártir es inherente a los movimientos ganadores. No se quiere que suceda, pero es inevitable una vez que se aumenta la tensión.»

La última frase es de un cinismo insoportable. Porque quienes azuzan la tensión casi nunca están en primera fila de las potenciales víctimas.

Detrás de todos los movimientos de masas, también, si se quiere, de los adormecimientos de masas, hay el liderazgo de muy competentes diseñadores de crisis. El artículo de The Guardian documenta intereses y personas que impulsan a conservadores. No hay tanta claridad al respecto del impulso a movimientos revolucionarios o identitarios. Pero en uno y otro caso están teniendo éxito y se arrogan la representación de la democracia y el soporte del soporte del pueblo, a la vez que los niegan al resto de la sociedad, incluyendo a quienes descalifican como ‘equidistantes‘.

«Las sociedades cambian a través del conficto y se gestionan mediante la política» – explica Manuel Castells. De momento sólo vemos el conflicto, a la vez que perdemos la confianza en las políticas que puedan llegar a aplicar nuestros políticos actuales. Quizá toque asumir un pesismismo moderado. Que a corto plazo las cosas van a ir a peor, o incluso a mucho peor. Quizá, como recomienda Margaret Wheatley en su último libro, lo único razonable para quienes creemos en el valor de preservar lo común y construir sobre ello sea preparar islas de sanidad, espacios de supervivencia al margen dinámicas destructivas y la erosión de la ética. Formas de resistencia radical a los polarizadores antes de que arrasen. O, en el peor de los casos, cuando hayan arrasado como un tsunami.

Empresas no responsables se aprovechan de sus usuarios

«Every advance in connectivity and mobility seems to increase the possibilities for crime.»
(John Seabrook en The New Yorker).

El Pew Research Center detectó hace unos meses en una de sus encuestas que un 75% de los norteamericanos desconocía que Facebook recoge, compila y analiza datos sobre sus preferencias.

Un estudio más reciente, también de Pew, constató que sólo el 59% de los encuestados era consciente de que el modelo de negocio de la mayoría de las redes sociales se basa en intermediar publicidad para sus usuarios. Y que sólo un 29% sabía que Facebook es propietaria de Intagram y Whatsapp.

Por último, según un tercer estudio, el 81% del público considera que los riesgos a los que se enfrentan como consecuencia de la recogida de datos por parte de las plataformas sociales no compensan los beneficios, en tanto que el 79% declara estar preocupado por cómo las empresas utilizan los datos que recogen.

Si añadimos además la influencia creciente de las redes sociales sobre las creencias y los comportamientos de las personas, el panorama es preocupante. Muchos usuarios utilizan diariamente herramientas tecnológicas sin ser conscientes de que «cuando un servicio online es gratuito no eres el cliente, sino el producto«.

«En el terreno técnico repetidamente nos involucramos en diversos contratos sociales, las condiciones de los cuales se revelan sólo después de haberlos firmado.» (Langdon Winner, «La ballena y el reactor»).

El fenómeno es difícilmente reversible. Es más fácil sacar la pasta de dientes del tubo que hacerla entrar. Pero así y todo parece que habría que hacer algo al respecto. Empezando por acordar un diagnóstico de las causas de la situación. ¿Cómo hemos llegado hasta aquí?

Diría que se trata de una combinación de varios factores:

  • Un estado de opinión benevolente e ingenuo, creado durante décadas, que tiende a hacer énfasis sólo en los beneficios potenciales de las nuevas ofertas electrónicas, sin considerar su potencial para generar efectos dañinos colaterales.
  • Una clamorosa ausencia de regulación al respecto de las condiciones razonables a aplicar a las nuevas ofertas tecnológicas, que contrasta demasiado, por ejemplo, con la que se aplica a los productos farmacéuticos.
  • Estrategias no responsables de empresas, incluyendo aquellas apuntadas al mantra de la disrupción: «move fast and break things«, externalizando a la sociedad el coste de los platos rotos, cuando los hay.

«Para sobrevivir y prosperar en el siglo XXI, necesitamos dejar atrás la ingenua visión de los seres humanos como individuos libres —una concepción herencia a partes iguales de la teología cristiana y de la Ilustración— y aceptar lo que, en realidad, somos los seres humanos: unos animales pirateables.»  Yuval Noah Harari


Los usuarios, ¿no tienen ninguna responsabilidad? – se preguntarán algunos. Pues al parecer hay diferencia de opiniones. Para algunos autores, ninguna, porque sostienen nuestras mentes están siendo hackeadas. Otros son incluso más radicales, haciendo responsables de esta situación a los usuarios, asignándoles «la misma profundidad intelectual que un rebaño de ovejas«, a la vez que los califican como «auténticos monos jugando con ametralladoras«.

No parecen buenos puntos de partida. Habrá que apoyar los intentos de gobernanza tecnológica, a ver qué dan de sí. O tal vez iniciar una campaña para que la ONU incluya la protección de las mentes de las personas en una sociedad digital como uno más de sus Objetivos de Desarrollo Sostenible. Más sobre ello en próximas entradas.

 

 

 

 

 

Vemos según miramos, también sobre la IA

Se pronostica, seguro que con buen criterio, que «es probable que no exista ahora mismo un video juego que un sistema de inteligencia artificial como OpenAIFive no pueda dominar a un nivel superior al de la capacidad de los humanos.»

Se trata de un pronóstico que admite más de una interpretación. O, si se prefiere, más de un juicio de valor.

Se trata, de entrada, de un reconocimiento del espectacular aumento de las capacidades de los sistemas de inteligencia artificial. Que, si se toma en cuenta el contexto del artículo de donde se ha extraído la cita, se hace con una valoración positiva.

Con todo, es posible que ese reconocimiento deba matizarse cuando se manifiesta que el aprendizaje de este sistema de IA requirió el equivalente de 45.000 años de juego. Algo que el sistema, según aseguran sus creadores, llevó a cabo sin aburrirse.

Por tanto, dado que ningún ser humano, ni tampoco los mejores equipos de juegadores, está en condiciones de hacer una inversión de tiempo ni remotamente similar, una primera conclusión razonable sería que, con todas sus capacidades, el sistema de IA no puede duplicar una inteligencia de eficacia similar al de los seres humanos.

«Uau – dice uno de los personajes de la viñeta de The New Yorker – esta versión es un modo mucho más inmersivo de dilapidar nuestra juventud«.

Propongo una segunda concusión, entiendo que también razonable. Si las capacidades de inteligencia humana que se utilizan para dominar un juego de ordenador complejo son emulables (aunque no duplicables) por un sistema informático, es probable que esas capacidades no sean las más distintivas de la inteligencia humana. A menos que, como hacen algunos, se acepte la hipótesis de que la inteligencia humana en su conjunto es algorítmica y por tanto duplicable por un sistema informático avanzado. Algo que en este momento carece de base científica, por lo que cabe calificarlo como un acto de fe.

«Si se aumenta lo que es, surgirán estas y aquellas desgracias, y, por lo tanto, debe considerársele como al huevo de la serpiente, que, incubado, llegaría a ser dañino, como todos los de su especie, por lo que es fuerza matarlo en el cascarón«. (W. Shakespeare, «Julio César»)

Si se acepta esta premisa, valdría la pena que, individualmente y como sociedad en general, nos pusiéramos como objetivo identificar, cultivar, desarrollar y poner en práctica capacidades de inteligencia y conocimiento que nos diferencien de las potenciales de los sistemas informáticos. De lo contrario, como simples humanos tenemos el riesgo de que los sistemas de IA sean como el huevo de una serpiente que cuando eclosione nos envenene y mate. Huevos de serpiente que hoy por hoy alguien incuba, como cabe temer por experiencia y precaución, más en su propio beneficio que en el nuestro.

Facebook y las fuerzas del mal

Estos días los asuntos relacionados con la responsabilidad y la regulación de las empresas tecnológicas son otra vez de actualidad. Lo seguirán siendo, pienso, durante bastante tiempo. La tecnología avanza más rápidamente que la regulación, y  hay muchos intereses en aprovechar los huecos que deja la regulación para hacer negocios, algunos de cuales son éticamente cuestionables.

El contraste entre las dos citas recogidas en la pantalla es ilustrativo de la brecha en cultura, ética y lenguaje entre tecnólogos con poca conciencia social y agentes con responsabilidad social que consideran que el sector tecnológico evoluciona sin el mínimo de control que sería apropiado.

No deja de ser curioso que si a algunos nos preguntaran por casos concretos de la «naturaleza humana» y «adversarios sofisticados» a los que se refiere el CEO de Facebook, mencionaríamos precisamente a Facebook y su liderazgo.

Un comentario final sobre la cita del Parlamento británico. Es posible que cuando dicen «no debería permitirse que» les gustaria haber escrito «no deberíamos permitir que». Al igual que en tantos otros retos colectivos, saber QUÉ conviene hacer es más fácil que acertar en CÓMO conseguirlo.

Lo digital no puede ser imperativo

«Se utilizarán todas las debilidades humanas, y sobre todo la vanidad y falta de veracidad, para conducir a los seres humanos al lado equivocado.» (Rudolf Steiner).

Leo en el suplemento de negocios de un diario un artículo que asegura, sin matices, que «la transformación digital nos cambia la vida, crea valor a las organizaciones y mejora la sociedad» y con ello «beneficia a usuarios, organizaciones, sociedades y finalmente al planeta«. A partir de lo cual concluye que el imperativo de la transformación digital «merece un lugar en nuestra lista de imperativos«.

Un día después, el mismo diario publica un reportaje en el que, bajo el titular «El acceso a la pornografía se adelanta a los 8 años» se asegura que la causa de la infantilización de la pornografía es su gratituidad y el fácil acceso desde un teléfono móvil.

Por si no fuera suficiente, el último número de Alternativas Económicas incluye un dossier que documenta cómo el juego online contribuye a un aumento de la ludopatía, con consecuencias negativas personales y sociales sobre las que no hace falta abundar.

La explosión del juego online y el boom de las casas de apuestas han provocado un aumento de la ludopatía y de los problemas psicológicos y familiares derivados de la adicción.

Supongo que los empresarios de la pornografía y el juego online estarán de acuerdo en que para ellos su transformación digital es imperativa. Prefiero pensar que no son esas transformaciones digitales las que están en la lista de imperativos del articulista. Espero, aunque no apsotaría por ello, que tampoco lo estén las que facilitan la difusión de fake news y de contenidos de odio, o el auge de plataformas que estarían socavando derechos laborales.

Conclusión: Hablar en general de la transformación digital y sus beneficios es como mínimo poco riguroso. Para empezar, porque es probable que si se pregunta a diez personas sobre qué significa en concreto la transformación digital obtengamos once respuestas distintas. Y también porque, como me parece evidente a partir de los ejemplos mencionados más arriba, hay transformaciones digitales socialmente nocivas.

Más sobre estos asuntos digitales en próximas entradas.

 

 

 

Cuando las grandes consultoras actúan como herramientas del poder

La serendipia me ha llevado a escuchar la charla «The economy as a complex and evolving system» de Eric Beinhocker, un ex-McKinsey convertido en académico, autor de un muy recomendable y estimulante «The Origin Of Wealth: Evolution, Complexity, and the Radical Remaking of Economics«. Dos cosas me han parecido especialmente destacables. La primera está reflejada […]

Lenguaje analógico vs. lenguage digital: Un experimento.

Una entrada en el blog de Seth Godin me mueve añadir un ángulo adicional a su reflexión. Imagina que te regalan una fantástica caja de 120 colores, con un único requisito: Dar un nombre a cada uno de ellos. ¿Cómo responder? Imagino varias alternativas: Una descripción técnica, en la línea de las que algunos enólogos […]

Explorando el origen de las tendencias tecnológicas

Cada mes de Enero la bandeja de entrada de mi correo se llena de informes varios sobre las tendencias tecnológicas para el año que empieza. Leerlos me deja siempre la duda de si resultan de una investigación sensata, o si son sólo el reflejo de las expectativas de quienes los redactan. Sin descartar que, cuando quien los publica es una consultora, se trate simplemente de una acción comercial, un vehículo para entablar conversaciones de negocio con sus clientes.

Lo que llama la atención por su ausencia, tanto en mi correo como en esos trabajados informes sobre las tendencias tecnológicas, es un mínimo análisis acerca del origen de esas tendencias. Como si fueran fruto del azar, o del designio de una divinidad inescrutable.

«Technology is not driving itself. It doesn’t want anything. Rather, there is a market expressing itself through technology.» (Douglas Rushkoff)

No debería ser así. En una entrevista reciente en La Contra, el escritor Alessandro Baricco apunta, a mi intender, en la dirección correcta al señalar que «Primero hubo una revolución mental que propició la digital”. En la misma línea, si bien en un lenguaje más académico, Manuel Castells ha analizado a fondo el estrecho vínculo entre el desarrollo de la ‘sociedad red’  y las distintas estructuras sociales de poder.

Pero la descripción de esos vínculos ausales, incluso su mención, está ausente de los informes que más circulan y se reproducen en la red. Y, sin embargo, no podremos entender la evolución y las consecuencias de la tecnología sin entrar en la mentalidad, las intenciones y los objetivos de quienes la impulsan y promueven. La tecnología es un vector de cambio, pero a su vez el resultado de vectores de cambio de una entidad conceptual superior.

Quizá una analogía con las ciencias pueda servir de ilustración. La fuerza de la gravedad que hace caer los objetos hacia la Tierra, la misma que mantiene a los planetas y a los satélites artificiales en sus órbitas, es consecuencia de la existencia del campo gravitatorio. Cuya naturaleza es a su vez una consecuencia de la teoría de la relatividad general que Einstein imaginó y a cuyo origen andan a su vez dando vueltas los científicos.

Pero este análisis causal, aplicado a la tecnología y su evolución, brilla por su ausencia, como mínimo en los medios y redes de mayor difusión. Lástima. Porque si se profundizara en el mismo se podrían investigar conjeturas interesantes. Como, por ejemplo, que Mark Zuckerberg no sea el malo de la película de las ‘fake news‘, sino sólo instrumento manipulado por fuerzas más poderosas, una mente hackeada como las que apunta Yuval Hariri.

¿Qué hacer ante la cultura de la queja?

Prolifera la cultura de la queja. Viene de lejos, aunque las redes sociales contribuyen a hacerla más notoria. Es una cultura victimista, basada en responsabilizar a cualquier otro, excepto a uno mismo, de lo que va mal, o siquiera no lo bastante bien.

Sabemos por experiencia, incluso la propia, que la cultura de la queja es adictiva, porque es egoísta. Empequeñece a quien la adopta, porque no interpela ni compromete. No llega ni siquiera a ser irresponsable, porque no se responsabiliza de nada.

No se trata, por tanto, de alabar o promover la cultura de la queja. Pero tampoco, aunque sólo sea por coherencia, instalarse en la queja de la cultura de la queja. Como en tantos otros ámbitos, aunque no podemos evitar la existencia de la cultura de la queja ni contrarrestar su proliferación, tenemos la libertad, y con ella la responsabilidad, de decidir qué hacer al respecto. Hay opciones.

Para empezar, mantenerse a distancia de los ámbitos en donde la cultura de la queja se fomenta y retroalimenta. En muchas de las tertulias de la tele; en los comentarios a las noticias de la prensa; en buena parte de las redes sociales. Se trata de una cultura tóxica y contaminante; mejor no respirarla.

Pero mantenerse a distancia no es la mejor opción cuando encontramos la queja en ámbitos en los que tenemos una responsabilidad o una cierta capacidad de influencia. Por ejemplo, en la educación de los adolescentes en el tránsito de una infancia en la que tienen sólo derechos a una edad adulta responsable.

«La gente que pide constantemente la intervención del gobierno está echando la culpa de sus problemas a la sociedad. Y no hay tal cosa como la sociedad […] La gente primero debe cuidar de sí misma.»

Margaret Thatcher.

Tampoco parece ético mantenerse a distancia, mirar hacia otro lado, cuando quienes se quejan tienen derecho a sentirse víctimas. No se trata de empatizar con la cultura de la queja, pero sí con personas que necesitan ayuda. En esos ámbitos, contra la cultura de la queja corresponde ejercitar la solidaridad. Lo contrario, hacer a las personas incondicionalmente responsables de su situación y de salir de ella, es la base de las políticas neoliberales que con tanto éxito abanderó en su momento Margaret Thatcher, con los resultados conocidos.

Por eso resulta preocupante que desde las posiciones de quienes no gustarían de ser tildados de neoliberales, se proclame que «necesitamos una sociedad que respete más a los que arriesgan y que ignore mucho más a los mediocres que solamente saben quejarse y bloquear«. Porque,

  • Si quienes promueven la cultura de la queja sistemática no tienen razón, alguien tiene que asumir la responsabilidad de utilizar la dialéctica para combatir sus razones. Lo contrario es abandonar el terreno al populismo, aunque sea de pequeña escala.
  • Habrá personas a la que aplicar, con empatía, los versos del poeta: «El mundo es así y vengo herido. Ten paciencia conmigo». 
  • Cuando en una organización se instala la cultura de la queja sistemática, hay que buscar la responsabilidad en la falta de liderazgo. El líder es el primer responsable de la cultura de una organización. Etiquetar a quienes se quejan de mediocres o encasillarlos en la categoría del no-talento es propio de líderes irresponsables. O sea, de falsos líderes.
  • Porque, a veces, promover el emprendimiento es también una forma de evitar el reto de cambios sistémicos y de este modo consolidar el ‘status quo’. (Tema para una próxima entrada).

Quizá la conclusión final es que, para lidiar con la cultura de la queja sistemática y sus efectos perniciosos, lo que hace falta es educar a muchos más liderazgos responsables. ¿Cómo y dónde hacerlo? Habrá que buscar respuestas, o crearlas.

 

 

No degradarás en vano la inteligencia humana

«Cuando el lenguaje pierde el significado, no puede existir
ninguna forma de verdad y la mentira se convierte en norma.«

«Somos confrontados con el refinado arte de la mentira
y el torcimiento del significado de las palabras.
«

Rob Riemen («Para combatir esta era:
Consideraciones urgentes sobre fascismo y humanismo
«)

En La Vanguardia, un artículo sobre la inteligencia artificial de uno de sus colaboradores habituales, se me antoja una buena muestra del perceptivo diagnóstico de Jaron Lanier acerca de las perspectivas e intenciones sesgadas de muchos tecnófilos:

«Hacen a las personas obsoletas para que las máquinas parezcan más avanzadas.»
Jaron Lanier, «You are not a gadget«

Una manifestación visible de este sesgo es que el autor considere estimulante definir la inteligencia como «todo lo que las máquinas aún no han hecho«.  Una definición que, a medida que se avance en las capacidades de la IA, lleva a considerar como cada vez menos inteligentes a los humanos.  De ahí a degradar a los propios humanos a favor de las máquinas hay sólo un (pequeño) paso. Que algunos los explotadores de la condición humana, en alianza con algunos vendedores de máquinas sin escrúpulos, estarán encantados de dar.

Me parece pues apropiado aplicar un poco de autodefensa intelectual y de ejercicio de la dialéctica. Empezando por no aceptar las trampas del argumentario del autor.

  • Aprovecharse de la homonimia. No hay una única definición de inteligencia. Si, de entre las que propone la Wikipedia, por ejemplo, escogiéramos «la capacidad agregada o global de actuar con propósito, de pensar racionalmente y de manejar eficazmente su entorno«, difícilmente calificaríamos a los ordenadores como inteligentes. Quizá sea tarde para evitar que se utilice la misma palabra (‘inteligencia’) para referirse a capacidades diferentes; pero no lo es para tomar conciencia de las consecuencias de hacerlo; sobre todo de las mal intencionadas, que las hay.
  • La falta de rigor en el uso del lenguaje. El autor presenta la IA como «la disciplina que se encarga de dotar a los ordenadores de las capacidades cognitivas que hasta ahora eran exclusivas de los humanos«.  Si entendemos la cognición como «el proceso de conocer y comprender por medio del pensamiento, la experiencia y los sentidos», la IA no tiene capacidades cognitivas. Porque nadie comprende (hoy por hoy) cómo los algoritmos de IA más avanzados producen los resultados que producen; y mucho menos los propios algoritmos.
  • La asignación antidemocrática de responsabilidades. Para el autor, definir la inteligencia humana en negativo (lo que los ordenadores aún no son capaces de hacer) es interesante porque «nos obliga a redefinirnos a nosotros mismos«. La IA es un desarrollo impulsado por una minoría, que en principio persigue sus propios intereses. Conceder sin más el poder de que se nos obligue a redefinirnos como humanos es, en el fondo, de lo más antidemocrático.

Hay quien propone que 2019 sea el año en que se empiecen a poner límites al desarrollo y la aplicación acrítica de las tecnologías. Una tarea que incluiría desmontar con rigor la argumentación (no sé si ingenua o falaz) de escritos como el comentado. ¿Alguien se apunta?