Pre-juicios de la tecnociencia

Entrevistan en El Mundo a un neurobiólogo español de prestigio.

Afirma categóricamente que:

(1) La mente está en el cerebro. Todo lo que somos, la esencia del individuo, lo que pensamos, lo que nos define como personas, todo, está en el cerebro.

(2) El cerebro genera la mente. Si entendemos el cerebro, entendemos la mente. Si podemos leer la actividad del cerebro, podemos leer la mente.

(3) Imagínate que podemos leer la mente y podemos manipular la actividad del cerebro, entonces podemos manipular la mente.

Me resisto a darle la razón. En parte porque entiendo que su afirmación no es el resultado de una investigación, sino de un pre-juicio ‘a priori’. Porque intuyo como mucho más verdadera la perspectiva del filósofo Markus Gabriel, que comentaba en una entrada anterior:

  • “La mente humana no es un fenómeno puramente biológico.”
  • “Somos seres espirituales que no pueden ser plenamente entendidos si se intenta basar nuestra imagen humana en el modelo de las ciencias naturales.”

De otra parte, ¿qué pensaríamos de una afirmación como la siguiente?


«Imaginemos que nos dan un ordenador que ejecuta un software complejo y especializado. Por ejemplo, uno de esos nuevos programas de inteligencia artificial. La totalidad del programa y de los datos que maneja residen en el hardware del ordenador. El hardware es pues la esencia. Si podemos leer todos los bits almacenados y monitorizar todo el tráfico electrónico cuando el ordenador está funcionando, entenderemos todo lo que hay que entender.

No sólo eso, modificando los bits y quizá algún circuito podemos corregir posibles errores e incluso construir versiones mejoradas de ese ordenador.»


Creo evidente que cualquiera con un mínimo entendimiento sobre ordenadores y computación desaconsejaría por poco práctica una propuesta de este tipo. Porque:

  • Es prácticamente imposible, o como mínimo extremadamente laborioso,  hacer la ingeniería inversa de un programa en binario de una cierta para obtener el código fuente original.
  • Incluso si se tiene acceso al código fuente, muchos programas son realmente difíciles de entender, incluso por su autor cuando ha pasado un tiempo, a menos que haya una buena documentación de diseño y suficientes comentarios, lo que en la práctica pocas veces ocurre.
  • No es posible por el momento entender el razonamiento en base al cual toman decisiones los programas modernos basados en ‘deep learning‘ o similares; incluso los expertos los ven como una caja negra. En parte, regún entiendo, porque estos programas no razonan, sino que calculan a partir de matrices numéricas de gran tamaño.

Ya puestos en plan escéptico, añadiría que:

  • Hay evidencias de que algunos de los programas utilizados para analizar el funcionamiento del cerebro han resultado no ser fiables.
  • Parece ser que intentos de aplicar esos programas para entender la estructura y el funcionamiento de un ordenador sencillo han tenido, por así decirlo, resultados por debajo de lo esperado.

Mis conclusiones:

(1) El cerebro es un instrumento del pensar. Pero para entender el pensar habrá que mirar más allá del cerebro. Igual que para entender el tiempo hay mejores maneras que investigar cómo funciona uno de esos relojes con muchas complicaciones en los que los relojeros suizos son tan expertos.

(2) El problema con algunos científicos no es que sean ignorantes; es que, como ocurre a tantas personas, son más ignorantes de lo que se creen.

(3) Sobre las posibles reacciones a una entrada como ésta, recordar la advertencia de Bertrand Rusell: «Las opiniones más apasionadas son siempre aquellas para las que no existe fundamento«.

Dicho ésto, me encantará participar en un debate sobre los límites de la ciencia y este tipo de cuestiones.

Efectos secundarios del impulso de estar informado


«El rasgo distintivo de una persona que tiene el control de su conciencia es su capacidad de enfocar la atención a voluntad, de ser ajeno a las distracciones, de concentrarse durante el tiempo que sea necesario para alcanzar un objetivo, y no más. La persona que puede hacer esto generalmente disfruta el día a día de su vida.» (M. Csikszentmihaly, «Flow»).

No añadiría ni una palabra más a estas imágenes. Excepto, quizá, mencionar la envidia que me dan estos dibujantes de The New Yorker.

Fuentes:

Cuando su ‘nosotros’ es nuestro ‘ellos’, por ahora

Foto: Miguel Orós


«En el terreno técnico repetidamente nos involucramos en diversos contratos sociales, las condiciones de los cuales se revelan sólo después de haberlos firmado.» (Langdon Winner)


La reflexión de Berners-Lee sobre Internet comentada en una entrada anterior nos alerta de que el impacto social de la tecnología no es siempre ni el deseado ni el previsto. Ha sido así en el pasado, y no hay motivos para creer que dejará de ser así en adelante, en particular con las tecnologías que se engloban bajo el lema de la Revolución Industrial 4.0: la inteligencia artificial, el Big Data, la Internet de las cosas, la robótica, la realidad aumentada y algunas que seguramente olvido.


«Se busca en vano entre los promotores y agitadores del campo de los ordenadores las cualidades de conocimiento social y político que caracterizaban a los revolucionarios del pasado. (Langdon Winner)


Parece pues obligado leer con precaución, cuando no con desconfianza, los argumentos del ‘status quo’, como el World Economic Forum a favor de esa nueva revolución tecnológica. Usaré como ejemplo una publicación reciente: «Robots have been taking our jobs for 50 years, so why are we worried?«. Su argumento central es ya  toda una declaración de principios:

«A medida que la Industria 4.0 sea más inteligente y más ampliamente disponible, los productores de todos los tamaños tendrán la capacidad de desplegar como estándar coste-efectivo máquijas colaborativas y multipropósito. Ello resultará en crecimiento industrial y competitividad del mercado.»

El impulso al desarrollo de esa tecnología 4.0 se da por hecho, aún admitiendo la incertidumbre sobre «el impacto exacto que una fuerza de trabajo robótica con el potencial de operar de forma autónoma tendrá en la industria productiva». Se cita como precedente que cuando la introducción de una tecnología ha convertido a los humanos en redundantes «les ha forzado a adaptarse», lo cual es también una declaración de valore. Unos deciden desarrollar e implantar una tecnología; otros se ven forzados a adaptarse. Aunque esta adaptación forzosa suponga, por ejemplo, el desacople entre los aumentos de productividad y los salarios que viene constatándose desde hace ya algunas décadas. Lo que se sí se argumenta es que en un escenario ideal, la Industria 4.0 «permitiría a las personas enfocarse más en aquello que nos hace humanos«. Posible, pero improbable. Porque, como observa un académico en ciernes, «entendemos mucho mejor cómo trabajan los robots que cómo lo hacemos nosotros». Pero, sobre todo, porque se omite todo detalle sobre las características de este escenario ideal, sobre cómo construirlo, así como el modo de combatir la aparición de otros escenarios menos ideales impulsados desde el lado oscuro.

El artículo cierra con una frase deliberadamente ambigua:

«En último término, nos corresponde a nosotros definir si la fuerza de trabajo robótica trabajará para nosotros, con nosotros o contra nosotros.«

Ambigua, porque la naturaleza de este nosotros no queda en absoluto clara. Alguien observó certeramente que «cuando se habla en nombre del pueblo es que no se tiene argumentos creíbles y sensatos«. Pues eso. Me temo que, por lo menos de momento, su ‘nosotros’ es nuestro ‘ellos’.

WWW: La tragedia de las buenas intenciones

Imagen: Berners-Lee en el CERN en 1994. © 1994–2018 Cern.

En una entrevista en Vanity Fair, Tim Berners-Lee, el inventor de la Web, afirma que:

«Hemos demostrado que la Web ha fallado a la Humanidad en lugar de servirla, como se suponía que debía haber hecho.»

Habla de la creciente centralización de la Web, del escándalo de Facebook y Cambridge Analytica, de la influencia en la elección de Donald Trump, del asalto a la privacidad individual por parte de empresas y Gobiernos, del crecimiento de las desigualdades. La lista de efectos secundarios negativos es larga y relevante.

Lo que acongoja a Berners-Lee es que esos daños colaterales se han producido no sólo sin una acción deliberada de las personas que diseñaron la plataforma, sino incluso en contra de sus buenas intenciones.

“El espíritu inicial era el de algo muy descentralizado. Empoderar al individuo de una forma increíble. Todo se basaba en la ausencia de una autotidad central a la que tuvieras que pedir permiso. Este sentimiento de control individual, de empoderamiento, es algo que hemos perdido.»

La clave, ahora evidente, es que Berners-Lee regaló su innovación al mundo sin condiciones. Esperando que fuera una plataforma para lo mejor pero sin incluir protecciones contra lo peor. Hay algo que aprender de esa tragedia personal, de la que Berners-Lee afirma sentirse en parte responsable.

Pero lo es sólo en parte, porque el estado actual de la Web no sería tal sin la negligencia o falta de visión de millones de usuarios, consumidores y ciudadanos perezosos, que durante décadas hemos firmado, sin siquiera leerlo, el consentimiento hacia el modo en que los Googles y Facebooks usan nuestros datos y acumulan dinero y poder.

También hay que apuntar a la falta de escrúpulos sociales de la industria de capital riesgo que se apuntó enseguida a explotar a su favor la ideología del winner-takes-it-all, hoy dominante en el mundo de la tecnología.

Y no pasar por alto la falta de visión (o directamente negligencia) de los poderes públicos que no intervinieron a tiempo para establecer unas reglas de juego alternativas al despliegue de la Web y sus aplicaciones, apoyando sin espíritu crítico las estrategias de aquellos cuyo dominio hoy cuestionan.

Valdría la pena, pienso, tomar conciencia de esta historia ante el despliegue de la propaganda sobre las bondades de la nueva ola tecnológica 4.0. La mayoría de la gente cree que Internet es buena para ellos como individuos, pero no tanto para la sociedad. Se equivocan. Del mismo modo que lo hacen quienes caen en la falacia de la superioridad ilusoria (la que tiene lugar cuando la mayoría de individuos de un colectivo cree ser superior a la media de ese mismo colectivo).

Más sobre todas estas cosas en próximas entradas.