¿Es irresponsable el optimismo tecnológico?
La serendipia internética me lleva hasta «Humanity and AI will be inseparable«, una entrevista con la investigadora responsable de machine learning en Carnegie-Mellon.
Una de sus afirmaciones me llama especialmente la atención:
«Creo que la investigación que estamos haciendo en sistemas autónomos – coches autónomos, robots autónomos – es una llamada a la humanidad para ser responsable. En algun sentido, no tienen nada que ver con la tecnología. La tecnología se desarrollará. La inventamos nosotros – los humanos. No viene del cielo ni de extraterrestres. Es nuestro descubrimiento. Es la mente humana la que ha concebido este tipo de tecnología, y es por tanto la responsabilidad de la mente humana hacer un buen uso de ella.»
Se me antoja que es una afirmación certera y a la vez inútil en la práctica.
Porque lo cierto es que ‘la mente humana’ no existe como tal. Es solamente una abstracción. Existen, desde luego, mentes humanas. Muchos tipos de mentes humanas, con una variedad enorme de características. Y no todas ellas gobiernan conductas que pudiéramos considerar precisamente como responsables. Las evidencias son tan numerosas y cercanas que no hace falta ni siquiera empezar a enumerarlas.
Más aún. Algunas mentes humanas actúan, casi literalmente, como si estuvieran poseídas por fuerzas del mal. (¿Hacen falta ejemplos?) Podemos tener pues la absoluta seguridad de que habrá mentes humanas que se aplicarán, si no lo están haciendo ya, a utilizar los resultados de la investigación en inteligencia artificial para fines que poco tendrán que ver con el beneficio de la humanidad. Eso, además de la posibilidad de que mentes enfermas, que también las hay, se apliquen exclusivamente a hacer daño.
A partir de ahí, ¿cuál es la mente humana responsable a la que se refiere la investigadora?
Más en concreto, me pregunto ¿cuál es la responsabilidad de las mentes humanas que impulsan, desarrollan y financian nuevas tecnologías como la inteligencia artificial? ¿Deberían hacerse responsables de los usos malévolos que puedan aparecer? ¿Deberíamos hacerles responsables?
Langdon Winner escribió hace ya tiempo que «en el terreno técnico repetidamente nos involucramos en diversos contratos sociales, las condiciones de los cuales se revelan sólo después de haberlos firmado.»
Añadiría que, en demasiadas ocasiones, quien firma el contrato ni siquiera nos lo enseña. Y, si quien lo firma es un político de los de hoy, me temo que haya una alta probabilidad de que lo firme sin leerlo o sin entenderlo.
