Entradas

El cerebro no piensa; es sólo un instrumento

Emerge con intensidad creciente en estos tiempos que nos ha tocado vivir una admiración y un respeto mayor por la (mal llamada) inteligencia artificial (digital, algorítmica) que por la inteligencia natural.

No creo que sea una casualidad; casi nada lo es. Si se nos informa bien, el 67% de CEOs estadounidenses encuestados creen que el futuro de sus empresas reside en la tecnología, y no en las personas. Una sorpresa sólo relativa. Al fin y al cabo, las empresas constituye reflejan en sus balances el valor de los activos tecnológicos, pero no el de los recursos humanos.

Seguro que los fabricantes de tecnologías están encantados con este criterio de valoración. Al fin y al cabo, como avisó hace años Jaron Lanier, hay a quienes no les importa hacer que las personas parezcan obsoletas si ello supone que sus máquinas serán más y mejor valoradas.

Resulta por ello refrescante leer que una médico respetada sostienga en una entrevista en La Vanguardia que, en base a su experiencia con pacientes:

«La consciencia no es un producto de nuestro cerebro sino que utiliza a nuestro cerebro.«

Un proposición que a algunos nos parece verosímil, por mucho que no encaje con los enfoques mecanicistas que predominan en los ámbitos científicos.

Pienso por analogía. Quien en este video produce la música maravillosa del Adagio del concierto KV 622 de Mozart no es el clarinete, sino Martin Fröst. La música vive en el intérprete antes de que este la insufle en su instrumento.

Tiraría de este hilo para apostar que ningún neurocientífico encontrará la música de Mozart en el cerebro de Martin Fröst ni el de ningún otro intérprete mientras toca esa música, ni cualquier otra. Podríamos pues preguntarnos en dónde reside, más allá de las partituras, la esencia de ese precioso Adagio que Mozart compuso.  Aunque, persistiendo en la misma línea de pensamiento, quizá no sea descabellado imaginar que Mozart no lo compuso realmente, sino que tuvo el privilegio de que le escogieran para escribirlo al dictado.

Pre-juicios de la tecnociencia

Entrevistan en El Mundo a un neurobiólogo español de prestigio.

Afirma categóricamente que:

(1) La mente está en el cerebro. Todo lo que somos, la esencia del individuo, lo que pensamos, lo que nos define como personas, todo, está en el cerebro.

(2) El cerebro genera la mente. Si entendemos el cerebro, entendemos la mente. Si podemos leer la actividad del cerebro, podemos leer la mente.

(3) Imagínate que podemos leer la mente y podemos manipular la actividad del cerebro, entonces podemos manipular la mente.

Me resisto a darle la razón. En parte porque entiendo que su afirmación no es el resultado de una investigación, sino de un pre-juicio ‘a priori’. Porque intuyo como mucho más verdadera la perspectiva del filósofo Markus Gabriel, que comentaba en una entrada anterior:

  • “La mente humana no es un fenómeno puramente biológico.”
  • “Somos seres espirituales que no pueden ser plenamente entendidos si se intenta basar nuestra imagen humana en el modelo de las ciencias naturales.”

De otra parte, ¿qué pensaríamos de una afirmación como la siguiente?


«Imaginemos que nos dan un ordenador que ejecuta un software complejo y especializado. Por ejemplo, uno de esos nuevos programas de inteligencia artificial. La totalidad del programa y de los datos que maneja residen en el hardware del ordenador. El hardware es pues la esencia. Si podemos leer todos los bits almacenados y monitorizar todo el tráfico electrónico cuando el ordenador está funcionando, entenderemos todo lo que hay que entender.

No sólo eso, modificando los bits y quizá algún circuito podemos corregir posibles errores e incluso construir versiones mejoradas de ese ordenador.»


Creo evidente que cualquiera con un mínimo entendimiento sobre ordenadores y computación desaconsejaría por poco práctica una propuesta de este tipo. Porque:

  • Es prácticamente imposible, o como mínimo extremadamente laborioso,  hacer la ingeniería inversa de un programa en binario de una cierta para obtener el código fuente original.
  • Incluso si se tiene acceso al código fuente, muchos programas son realmente difíciles de entender, incluso por su autor cuando ha pasado un tiempo, a menos que haya una buena documentación de diseño y suficientes comentarios, lo que en la práctica pocas veces ocurre.
  • No es posible por el momento entender el razonamiento en base al cual toman decisiones los programas modernos basados en ‘deep learning‘ o similares; incluso los expertos los ven como una caja negra. En parte, regún entiendo, porque estos programas no razonan, sino que calculan a partir de matrices numéricas de gran tamaño.

Ya puestos en plan escéptico, añadiría que:

  • Hay evidencias de que algunos de los programas utilizados para analizar el funcionamiento del cerebro han resultado no ser fiables.
  • Parece ser que intentos de aplicar esos programas para entender la estructura y el funcionamiento de un ordenador sencillo han tenido, por así decirlo, resultados por debajo de lo esperado.

Mis conclusiones:

(1) El cerebro es un instrumento del pensar. Pero para entender el pensar habrá que mirar más allá del cerebro. Igual que para entender el tiempo hay mejores maneras que investigar cómo funciona uno de esos relojes con muchas complicaciones en los que los relojeros suizos son tan expertos.

(2) El problema con algunos científicos no es que sean ignorantes; es que, como ocurre a tantas personas, son más ignorantes de lo que se creen.

(3) Sobre las posibles reacciones a una entrada como ésta, recordar la advertencia de Bertrand Rusell: «Las opiniones más apasionadas son siempre aquellas para las que no existe fundamento«.

Dicho ésto, me encantará participar en un debate sobre los límites de la ciencia y este tipo de cuestiones.

¿Conectar mi cerebro a Internet? No, gracias.

En un artículo en The Economist se preguntan si «tenemos los humanos que asumir que necesitaremos implantes en el cerebro para seguir siendo relevantes».

La pregunta surge al hilo de la noticia de que Elon Musk, el CEO de Tesla e impulsor de otras empresas de tecnología avanzada, ha anunciado la formación de Neuralink,  una nueva empresa que tendría como primer objetivo producir dispositivos invasivos para diagnosticar o tratar enfermedades neurológicas.

Parece, sin embargo, que la intención de la empresa, o cuanto menos de su promotor, apunta más lejos. Musk ha manifestado en una entrevista que los humanos corren el riesgo de acabar siendo tratados como mascotas por artefactos dotados de inteligencia artificial. Propone como una posible solución añadir artificialmente al cerebro una capa digital que, conectada a Internet, multiplicaría la memoria y la capacidad de computación del cerebro, y por tanto nuestra inteligencia.

Una perspectiva que la comunicadora de la Singularity University glosa de este modo:

«Podríamos multiplicar por mil nuestra inteligencia e imaginación. Sería una disrupción radical en cómo pensamos, sentimos y comunicarmos. Al transferir nuestros pensamientos y sentimientos directamente a otros cerebros podríamos redefinir la socialización y la intimidad de los humanos. En último término, subiendo nuestro Yo completo a las máquinas nos permitiría transcender nuestra piel biológica y convertirnos en digitalmente inmortales.»

Dos objeciones. La primera es filosófica. Afirmaciones de este tipo dejan traslucir una concepción materialista, o informacionalista si se prefiere, del ser humano. Pero no está nada claro que esta concepción tenga ninguna base científica. Me parece más convincente la argumentación de nuestra naturaleza espiritual que presenta Markus Gabriel en («Yo no soy mi cerebro«)

La segunda objeción es estratégica. ¿Es inevitable que hayamos de competir con artefactos dotados de inteligencia artificial? ¿Cuál es el sentido de decidir crear esos artefactos para que compitan con nosotros? ¿No merecería ese asunto algún tipo de dictamen democrático?

Además, incluso si era competencia fuera inevitable, las normas elementales de la estrategia dictan que nunca hay que escoger el terreno más favorable para el adversario. Si los artefactos nos superan en inteligencia digital, por llamarla de algún modo, tendrá sentido retarles en ámbitos donde otro tipo de inteligencia sea la determinante. Volvernos más digitales sería sólo un modo de ser hacernos más similares a ellos, y por tanto más vulnerables.

Conmigo, desde luego, que no cuenten.

Imagen: Singularity University

La filosofía es necesaria para entender la ciencia

«Los modelos matemáticos – nos cuentan en el video adjunto – nos proporcionan imágenes bonitas y fáciles de digerir acerca de cómo funciona el Universo […] Pero debemos tener cuidado sobre el valor que damos a estos modelos en nuestro pensamiento […] El modo en que describimos el mundo influencia cómo creemos que es el mundo. Incluso cuando hay otros modos igualmente correctos de describir el mundo que emplean imágenes totalmente distintas de las nuestras.

[youtube https://www.youtube.com/watch?v=lHaX9asEXIo&w=800&h=450]

¿Por qué llamar la atención sobre ello? Porque, citando a Marcelo Gleiser, el análisis de los límites de la ciencia es muy necesario cuando la arrogancia en la especulación científica es manifiesta. De que haya leyes de la naturaleza no se deduce directamente, que todo lo que sucede obedezca a leyes naturales. La suposición de que sólo es genuino el conocimiento científicamente asegurado y formulado en un lenguaje supuestamente experto es sólo eso, una suposición que no puede probarse científicamente.

Reflexiones de este tipo parecen especialmente necesarias en el terreno de la neurociencia. Observamos que es cada vez más frecuente que se describa el cerebro como una máquina, o al ser humano como un complejo procesador de información. Quizá sólo porque falta imaginación para pensar de otro modo. Quizá porque, como apuntaba Jaron Lanier, interesa a algunos degradar a las personas para que los ordenadores parezcan más potentes.

Me anima leer a alguien como Seth Godin escribir así sobre (los límites) de la ciencia:

«La ciencia es un proceso. No se trata de pretender que tiene la respuesta correcta; solamente que es el mejor proceso para acercarse a la respuesta correcta.»

Creo que más de un científico, y sobre todo más de un pseudo-divulgador de la ciencia o divulgador de la pseudo-ciencia podrían aprender de él algo más que marketing.

Continuará.