#Tech4What: La trampa de las preguntas binarias

Ship2B tuvo la bienintencionada pero arriesgada inciativa de incluir en el programa de 4YFN un taller sobre la cuestión «Tech4Good o Tech4Bad». Se nos pidió a los participantes, distribuidos en 7 u 8 grupos, que propusiéramos en unos 20 minutos tres iniciativas ‘potentes’ para catalizar intencionadamente un impacto social positivo de la tecnología.

Es un asunto importante, desde luego oportuno como para incluirse en la agenda de una organización como Ship2B centrada en el impacto social, pero que requiere (pienso) una reflexión y un proceso de exploración y debate mucho menos superficial que el posible en el tiempo y formato propuesto.

La temática del impacto de la tecnología en la sociedad, como el menos tratado del impacto de la sociedad en la tecnología, es un asunto demasiado complejo, multidimensional si se prefiere, para encapsularlo en una pregunta binaria.

El progreso tecnológico tendrá (ha tenido) efectos positivos, pero también negativos.

«No question, technological progress, just like trade, creates losers as well as winners. The Industrial Revolution involved hugely painful economic and social dislocations—though nearly everybody would now agree that the gains in human welfare were worth the cost» (The Economist, 27/09/2001)

Aceptemos que  en la mayoría de las ocasiones quienes impulsan el avance de la tecnología lo hacen con buenas intenciones (#tech4good); pero ello no excluye que generen efectos colaterales indeseados, además de una distribución por lo general nada democrática entre ganadores y perdedores. En particular, porque nadie se postula de entrada como perdedor.

Al mismo tiempo, la naturaleza humana, o el influjo de las fuerzas del mal, si se prefiere, tendrá como consecuencia inevitable que haya (los ha habido, los hay) quienes conciban, desarrollen, impulsen o utilicen la tecnología para fines socialmente censurables (#tech4bad).

«La revolución de los ordenadores es claramente silenciosa con respecto a sus propios fines. (Langdon Winner«, La ballena y el reactor).

Los que nos dedicamos ayudar a grupos u organizaciones en sus procesos de cambio sabemos de la dificultad frecuente en que se encuentran para responder con precisión y coherencia a una ‘pregunta poderosa’: «¿Para qué?«. Pienso que sería interesante someter a los convencidos del #Tech4Good a un cuestionamiento a fondo de sus convicciones.

«Hablan demasiado cuando convendría callar más. Todo son respuestas y casi no queda espacio para las preguntas que pueden no tener respuesta.» (Josep M. Esquirol, «La resistencia íntima«).

Porque los expertos han descrito el síndrome que denominan como ‘la ilusión del conocimiento’ (ver, por ejemplo, «The Knowledge Illusion«).  Cuando se interroga a fondo a gente sobre su conocimiento en detalle sobre temas en los que tienen una opinión bien formada, una buena parte acaba por admitir, siempre ‘a posteriori’, estar mucho menos seguros de su conocimiento en profundidad de la materia. Sería ilustrativo hacer este experimento sobre los efectos de la tecnología. ¿Alguien se apunta?

 

La trampa de la comodidad: el asalto a la voluntad

Viñeta: The New Yorker, 27/03/2017

El debate sobre los efectos colaterales de la proliferación acrítica de las redes sociales se ha puesto (por fin) de actualidad. Valga como muestra este  artículo a doble página en El País , («Rebelión contra las redes sociales«, 17/02/2018), tildándolas de «Manipuladoras de la atención. Vehículo de noticias basura. Oligopolios sin control.»

Hace tiempo que estábamos avisados (Langdon Winner, «La ballena y el reactor«) de que:

«La construcción de un sistema técnico que involucra a seres humanos como partes de su funcionamiento requiere una reconstrucción de los roles y las relaciones sociales.«

Lo que emerge ahora es la conciencia de que el despliegue de algunas tecnologías tiene también como consecuencia la reconstrucción (de-construcción, tal vez) de la esencia de lo humano. El modelo de negocio de las redes sociales se basa en captar la mayor cuota posible de la atención de sus usuarios. Con la consecuencia práctica de minar su capacidad de prestar atención a otras asuntos más merecedores de ella.

Pero vemos ahora cómo emerge un frente adicional de asalto a la conciencia. Como observa Tim Wu en The New York TimesThe Tyranny of Convenience«):

«La comodidad está emergiendo como quizá la fuerza más poderosa que conforma nuestras vidas individuales y nuestras economías.«

La proliferación de servicios basados en la comodidad apunta a un efecto sobre el ejercicio de la voluntad similar al de los contenidos sociales sobre la atención. El objetivo es en ambos casos soslayar el ejercicio de la conciencia. De la decisión consciente de en dónde concentrar la atención. De la práctica consciente de ejercitar la voluntad para superar obstáculos. Para, en ambos casos, explotar económicamente actuaciones en que el usuario actúa guiado por hábitos, pulsiones o instintos subconscientes. Porque precisamente esos, al ser automáticos, resultan también los más previsibles.

Sería imprudente considerar que se trata de un fenómeno casual. Los inversores / especuladores que promueven la innovación disruptiva han sabido sacar provecho de la ‘deconstrucción’ de roles y relaciones sociales en ámbitos como los medios de comunicación (Google, Facebook), el turismo (Airbnb) o el transporte (Uber) o la contratación de personal (Deliveroo y similares). Con este precedente, no parece descabellado especular que intenten lo mismo la explotación del subconsciente.

Lo que subyace es un déficit de ética y también de teoría social en los discursos y prácticas que emanan de Silicon Valley. Déficits que se encarnan en personas, empresas y organizaciones que tienen clara conciencia de sus propósitos y una férrea voluntad de alcanzarlos. En su propio (quizá exclusivo) beneficio. El mal existe, dicen por ahí, y es distinto de la ausencia de bien. Atentos.

Una caduca «Declaración de independencia»

Imagen: Electronic Frontier Foundation

Anuncian la muerte de John Perry Barlow, autor de una «Declaración de la Independencia del Ciberespacio«, publicada en 1996. Una declaración muy celebrada en su momento por los tecno-utópicos, y que todavía traen a colación de cuando en cuando los ilustrados-TIC y los propagandistas y voceros de la ideología tecnocrática de Silicon Valley y afines.

El tiempo, sin embargo, ha tratado mal el espíritu y la realidad de esa Declaración.

«We will create a civilization of the Mind in Cyberspace. May it be more humane and fair than the world your governments have made before.«

La realidad desmiente esa visión utópica del ciberespacio como una «civilización de la Mente». La realidad hoy es la de un ciberespacio complejo y caótico, en que la maraña de contenidos banales, cuanto no  ‘fake news, enmascaran la sabiduría y el conocimiento civilizados. Un ciberespacio colonizado además por grandes empresas quasi-monopolistas, ampliamente financiadas por el capitalismo más puro y duro. Un espacio que quizá llegue a servir para ampliar la democracia, pero que seguro que sirve ya para combatirla. Un espacio que tanto puede ampliar nuestras mentes como aletargarlas, ampliar nuestras conexiones como aislarnos, estimular la conversación como pervertirla.

Quizá la conclusión más equilibrada sea que la evolución del ciberespacio es paralela a la del espacio físico, dominados ambos por las mismas pulsiones, impulos e intereses, a la vez por ángeles y por espíritus del mal. Que la realidad virtual no es ni será ni más ni menos utópica que la que teníamos por convencional.

Concluiré postulando que el razonamiento utópico de John Perry Barlow se fundamenta erróneamente en una visión dualista del mundo, de  los conceptos de realidad, materia y espíritu:

«Your legal concepts of property, expression, identity, movement, and context do not apply to us. They are all based on matter, and there is no matter here.»

Doblemente incierto. Porque los cimientos del ciberespacio están hechos de materia, silicio, fibra óptica, servidores y redes. Y  los fundamentos de los conceptos legales a los que se refiere no son materiales: se aplican a una realidad material, pero emanan de pensamientos, teorías, ideologías, intenciones y voluntades.

Esta declaración de independencia, como tantos otros manifiestos bienintencionados, pecan de un optimismo no realista acerca de la capacidad de los utopistas para crear grupos e instituciones acordes con su visión de futuro. Subestiman a los incumbentes:

«You have no moral right to rule us nor do you possess any methods of enforcement we have true reason to fear.»

a la vez que sobrevaloran sus propias habilidades y capacidades:

«We will spread ourselves across the Planet so that no one can arrest our thoughts.»

Descanse en paz, John Perry Barlow. Aquí queda todavía mucho por hacer.

No tomarás el nombre de nada en vano.

Un nuevo colectivo («Treva i Pau»), en el contexto de la situación en Cataluña,  nos invita en La Vanguardia al compromiso de hacernos co-responsables de nuestro futuro. Destacan la necesidad de:

«Un nuevo relato dirigido a establecer actitudes sociales tendentes a hacer posible una acción poderosa de reforma y regeneración […] A esta tarea nos comprometemos y llamamos a todo el mundo a comprometerse.«

Este relato, si quiere ser nuevo, tendría que incorporar también nuevas imágenes y marcos mentales, un nuevo léxico. También posiblemente un nuevo estilo de escritura, una sintaxis diferente.

Quizá por coincidencia, Eduardo Madina propone («Lenguaje para después de una batalla«) renovar el vocabulario. Rechazando, por ejemplo, propuestas que apelen genéricamente al «pueblo» como si este concepto significara hoy algo. «Cada cosa en su sitio«, reclama también Remei Margarit, con la que coincido en:

«El convencimiento de que cuando se habla en nombre del pueblo es que no se tiene argumentos creíbles y sensatos.«

Añado a este zurcido de retales un titular reciente de La Contra:

«De un conflicto se sale poniendo palabras a las emociones.«

No somos responsables de nuestras emociones, pero sí de lo que hacemos con ellas. Lo primero, si queremos evitar que sean los demonios del inconsciente los que guíen nuestro actuar, es «tomar la suficiente distancia respecto a lo que sentimos como para distinguirlas de hechos y razones«. Poner las palabras justas a las emociones es articularlas, convertirlas en conocimiento. Es también cerrar esos demonios que tanto nos pueden cegar.

La cuestión, como tantas veces, es cómo hacerlo. No sólo de modo individual, sino también colectivamente. En su reciente y recomendable «Nueva Ilustración Radical«, Marina Garcés reedita la denuncia la tendencia extendida a la interpasividad:

«Una forma de actividad delegada que oculta la propia pasividad […] Es una relación sin relación que mueve información pero que no genera experiencia, comprensión ni desplazamiento alguno.»

Confiar en que la publicación de ideas y propuestas en los periódicos o en las redes sociales será suficiente para cambiar las cosas sería un ejemplo de interpasividad. También lo es, mucho me temo, limitarse a escribir este blog. Hacen falta nuevas prácticas y nuevos practicantes.

Ilustración: Perico Pastor en La Vanguardia

 

 

 

 

 

Conocimiento, emociones y creencias

Escribo bajo la influencia de la lectura  de «The Knowledge Illusion: The myth of individual thought and the power of collective wisdom«. (También, supongo, bajo la influencia de la campaña electoral en Cataluña).

Su punto de partida (que debiera escribirse en primera persona del plural):

«No es que la gente sea ignorante. Es que la gente es más ignorante de lo que cree.«

Y en particular, que:

«Los políticos y los votantes no son conscientes de lo poco que entienden.»

Para los autores, la causa de esta «ilusión del conocimiento» es que:

«Los sentimientos intensos no emergen a partir de un conocimiento profundo.«

Cuando actuamos, como a menudo sucede, a partir de emociones y creencias (incluyendo las que conforman nuestros valores), nos importa poco el razonamiento sobre los resultados de nuestras acciones (o los de las políticas a las que damos apoyo). En línea con el origen y la influencia de los ‘marcos mentales’ que Georges Lakoff puso de moda hace ya algunos años,

«El secreto que la gente que tiene práctica en el arte de la persuasión aprendió hace siglos es que cuando una actitud está basada en un valor que se considera sagrado, las consecuencias no importan.»

La conclusión, desde luego, no es prescindir de los valores:

«Los valores sagrados tienen su lugar, pero su lugar no debería el de impedir el razonamiento causa-efecto sobre las consecuencias de la política social.»

Hace poco, Alfredo Pastor firmaba un artículo en la misma línea:

«Lograr la armonía no ha sido la principal preocupación de nuestros políticos en estos últimos tiempos. Al contrario: han jugado con las emociones y las han excitado […] Los políticos pueden contribuir a la ­tarea de remendar la convivencia no sólo ­arbitrando la única salida inmediata po­sible en nuestro caso, que consiste en poner a votación de un buen acuerdo. También pueden incidir en el plano más profundo de emociones y creencias.«

Una dificultad, creo, es que nos gusta considerarnos como seres racionales, pero lo cierto es que también somos seres hedonistas. Lo cual trae a cuento mi cita final, que unos atribuyen a Oscar Wilde y otros a Voltaire:

«La ilusión es el primero de todos los placeres.«

He estado a punto de escribir que me haría ilusión que la política y nuestros políticos fueran de otra forma. Pero me he contenido.

Atención, divino tesoro

Fuente: The Economist

Soy lector de The Economist desde hace muchos años. Pienso que escriben tan bien que incluso cuando no se está de acuerdo con lo que publican, uno debe obligarse a la disciplina de rebatirles con un rigor y calidad como mínimo equivalente al que ellos emplean. No es tarea fácil, como cualquier lector atento puede comprobar por sí mismo.

Otro aspecto que me parece también remarcable de The Economist es el modo en que tratan las temáticas tecnológicas y su impacto social. Con una aproximación equilibrada e independiente; ni al dictado de la ideología tecnocrática de Silicon Valley ni de sus críticos sistemáticos.

Por eso mismo creo que son notables, y de lectura obligada, se esté o no de acuerdo, los dos artículos (uno y dos) que la revista dedica al impacto en la sociedad democrática de Fakebook y similares. Extraigo sólo dos afirmaciones que creo apuntan al núcleo de la cuestión:

«Los ‘social media’ son un mecanismo sin par para capturar, manipular y consumir atención.»

«Una economía basada en la atención es fácilmente manipulable.»

Nos conviene ser más conscientes de cómo utilizamos nuestra atención (y como otros aprovechan nuestras omisiones al respecto). Porque la atención es la más personal de nuestras herramientas. La única, quizá.

(Queda abierta la cuestión de qué hacer al respecto. Como en tantas otras materias, la regulación irá por detrás de los acontecimientos. En paralelo, aunque sólo sea por si acaso, empiezan a apuntar organizaciones que intentar cambiar las cosas desde la base. Temas para otra ocasión.)

Actuar como víctima o como agente: una cuestión de conciencia

Cito de una lectura de este verano:

«Quizá el ejercicio más importante de libertad personal es la decisión de si vivir como una víctima o como un actor».

El autor describe así la postura de quien escoge situarse como víctima:

«La víctima sólo presta atención a aquellos factores sobre los que no puede influir. Se ve a sí mismo como alguien que sufre las consecuencias de las circunstancias externas. La víctima mantiene su autoestima alegando inocencia. Sus explicaciones nunca lo incluyen, ya que no tiene nada que ver con el problema. Nunca reconoce ninguna contribución a la situación actual. Cuando las cosas van mal, la víctima busca a quien culpar […] Para la víctima, los problemas siempre vienen de las acciones de otras personas.»

Estamos viendo estos días demasiados ejemplos de esta postura. Porque es tentadoramente cómoda y satisfactoria. Porque el cambio de la actitud «víctima» a la actitud «agente» es de calado. Supone pasar del «Es imposible» a «Aún no hemos encontrado la solución»; de «Alguien debería hacer algo» a «Estoy dispuesto a dar un primer paso»; de «No tengo tiempo (o dinero)» a «Tengo otras prioridades».

El cambio de lenguaje es sólo un primer paso. Pero imprescindible para otros primeros pasos.

El mayor peligro de la Inteligencia Artificial

Getty Images

Los medios se han hecho eco del sonoro enfrentamiento público entre Elon Musk (CEO de Tesla) y Mark Zuckerberg (CEO de Facebook) acerca de los peligros (o no) de la Inteligencia Artificial (IA).

Musk sostiene que (*):

«La IA es un riesgo central para la existencia de la civilización humana.»

La respuesta de Zuckerberg:

«Soy optimista. Y no entiendo a la gente que es negativa e intenta inventar escenarios apocalípticos. Creo que es bastante irresponsable

Musk replica en Twitter:

«He hablado con Mark sobre esto. Su entendimiento sobre el tema es limitado.»

Por debajo de la batalla de la batalla entre dos egos ‘king size’ subyace una cuestión más de fondo: la de si conviene o no regular ya el desarrollo de la IA.

Musk aboga por una regulación proactiva:

La IA es uno de los raros casos en los cuales creo que necesitamos una regulación proactiva en lugar de una reactiva […] Cuando se produzca una regulación reactiva, será demasiado tarde.»

Zuckerberg discrepa, apuntando implícitamente que la regulación retrasaría el desarrollo de la tecnología.

«La tecnología puede siempre utilizarse para bien o para mal, y uno ha de ser cuidadoso acerca de lo que construye, cómo lo construye y cómo se utilizará […] Pero discrepo de la gente que aboga por ralentizar el proceso de crear IA.»

Hay un dato que quizá ayude a entender la polémica. Musk está acostumbrado a que sus empresas actúen en mercados fuertemente regulados, como el del automóvil. Facebook aprovecha carencias en la regulación (p.e. sobre privacidad) para extender su negocio (no es el único; empresas como Uber o Airbnb hacen lo mismo en otros ámbitos). ¿Defendería Zuckerberg que Tesla se saltara las reglamentaciones sobre seguridad para desarrollar más rápidamente el mercado de sus automóviles? No lo creo.

Subyace por tanto la cuestión de los objetivos y prácticas de la regulación, especialmente la de las nuevas tecnologías. Una cuestión repleta de criterios y matices, que de ningún modo se puede despachar como lo hace uno de nuestros más ilustres ilustrados-TIC‘:

«Reclamar regulación sobre una tecnología o conjunto de tecnologías antes de que se desarrollen es un problema [porque] muy pocas veces se desarrolla de la manera adecuada, y tiende a basarse en la restricción de posibilidades […] Esperemos que esas peticiones de regulación no lleguen a ningún político temeroso e inspirado. Y mientras tanto, sigamos trabajando.«

Por supuesto que, como en el ejemplo de los automóviles que apuntaba antes, la regulación ha de basarse en la restricción de posibilidades. Porque tenemos el derecho a reclamar que el respeto a criterios éticos y sociales sea un requisito que se aplique previamente al desarrollo de una tecnología. La eficacia limitada de muchos organismos reguladores no ha de ser una excusa para obviar la necesidad de una regulación proactiva, sino en todo caso para diseñar e implantar mejores regulaciones y organismos reguladores.

Una explicación del impulso que está teniendo el desarrollo de la IA es que será una herramienta de acumulación de riqueza y poder, seguramente en mayor grado que otras tecnologías. El mayor riesgo realThe Real Threat of Artificial Intelligence«) es que esta acumulación genere desigualdades y desequilibrios imposibles de gestionar a posteriori.

«Los productos de IA […] tienen el potencial de transformar radicalmente nuestro mundo, y no sólo para mejor […] Recompondrán el significado del trabajo y la creación de riqueza, llevando a desigualdades económicas sin precedentes e incluso alterando el equilibrio global de poderes.

A medio plazo, por ejemplo, la IA tensionará aún más el pacto social entre capital y trabajo (cuya regulación ya es conflictiva), eliminando los trabajos de muchos, pero sin hacerse cargo de la factura de los daños colaterales. Sabemos que la Revolución Industrial generó dislocaciones sociales del mismo tipo, que costó varias décadas solucionar. Una regulación proactiva apropiada debería evitar que esta historia se repita, esta vez en mayor escala. Es una cuestión de ética y de responsabilidad social.

(*) Video, a partir del minuto 48.

eSTEMos al tanto

Asistí de oyente a una reunión de una patronal de empresas convocada con la temática de incentivar las vocaciones STEM (Science, Technology, Engineering, Math) en las escuelas.

Habiendo sido yo mismo el sujeto de una voación STEM precoz (tuve la fortuna de licenciarme y doctorarme en Física), creo que puede afirmar con un cierto conocimiento de causa que los ponentes (sin duda bien intencionados) no consiguieron generar demasiado entusiasmo con sus propuestas a favor de las STEM.

Por el contrario, incluyeron argumentos que me parecen desencaminados, si no directamente peligrosos.

  1. En primer lugar, basándose en estudios que indican que las vocaciones STEM se consolidan ya hacia los 14 de años de edad, se propuso promocionar activamente las STEM a partir de los 10 años.
  2. En la práctica, las propuestas mostradas de promoción de las STEM se centraban en exclusiva en la tecnología informática, con énfasis en enseñar a programar. Ni una sola mención a las Ciencias (Física, Química, Ciencias de la vida) ni a las Matemáticas. El aprendizaje de las ciencias amplía las perspectivas mentales. La programación, por su propia naturaleza y orientación, las reduce. Promover el aprendizaje de programación como paradigma de STEM es reduccionista, demagógico y en mi opinión perjudicial.
  3. Tampoco hubo ninguna mención a la conexión necesaria entre las Ciencias (que generan respuestas) y las Humanidades (que estimulan preguntas oportunas).

Cabría además ver con reticiencia los intentos de las empresas de influir en los contenidos escolares, que se cuestionan también en The New York Times («How Silicon Valley Pushed Coding Into American Classrooms«). Más aún cuando las mismas empresas proclaman que en esta época de cambios acelerados no se puede predecir cómo serán los modelos de negocio a diez años vistos, y que muchas de las profesiones que imperarán en esa época están todavía por inventar. Si eso es así, y probablemente lo sea, no deja de resultar un punto paradójico su intento de influir en las escuelas con argumentos de futuro.

Para conversar sobre la ciencia

Dos videos que bien pueden motivar una conversación sobre ciencia.

No creo ser el único fascinado por el péndulo de Newton.  ¿Por qué se comporta como lo hace? ¿Funcionaría si cada bola colgaran de un hilo en lugar de dos? ¿Por qué funciona mejor con dos hilos? ¿Qué juego popular se basa en el mismo principio físico que el péndulo de Newton? ¿Cómo nos ayuda el péndulo a explicar la función del reposacabezas en los automóviles?

Un video sobre una variante del péndulo de Newton. ¿Por qué funciona como lo hace?