¿Es irresponsable el optimismo tecnológico?
La serendipia internética me lleva hasta «Humanity and AI will be inseparable«, una entrevista con la investigadora responsable de machine learning en Carnegie-Mellon.
Una de sus afirmaciones me llama especialmente la atención:
«Creo que la investigación que estamos haciendo en sistemas autónomos – coches autónomos, robots autónomos – es una llamada a la humanidad para ser responsable. En algun sentido, no tienen nada que ver con la tecnología. La tecnología se desarrollará. La inventamos nosotros – los humanos. No viene del cielo ni de extraterrestres. Es nuestro descubrimiento. Es la mente humana la que ha concebido este tipo de tecnología, y es por tanto la responsabilidad de la mente humana hacer un buen uso de ella.»
Se me antoja que es una afirmación certera y a la vez inútil en la práctica.
Porque lo cierto es que ‘la mente humana’ no existe como tal. Es solamente una abstracción. Existen, desde luego, mentes humanas. Muchos tipos de mentes humanas, con una variedad enorme de características. Y no todas ellas gobiernan conductas que pudiéramos considerar precisamente como responsables. Las evidencias son tan numerosas y cercanas que no hace falta ni siquiera empezar a enumerarlas.
Más aún. Algunas mentes humanas actúan, casi literalmente, como si estuvieran poseídas por fuerzas del mal. (¿Hacen falta ejemplos?) Podemos tener pues la absoluta seguridad de que habrá mentes humanas que se aplicarán, si no lo están haciendo ya, a utilizar los resultados de la investigación en inteligencia artificial para fines que poco tendrán que ver con el beneficio de la humanidad. Eso, además de la posibilidad de que mentes enfermas, que también las hay, se apliquen exclusivamente a hacer daño.
A partir de ahí, ¿cuál es la mente humana responsable a la que se refiere la investigadora?
Más en concreto, me pregunto ¿cuál es la responsabilidad de las mentes humanas que impulsan, desarrollan y financian nuevas tecnologías como la inteligencia artificial? ¿Deberían hacerse responsables de los usos malévolos que puedan aparecer? ¿Deberíamos hacerles responsables?
Langdon Winner escribió hace ya tiempo que «en el terreno técnico repetidamente nos involucramos en diversos contratos sociales, las condiciones de los cuales se revelan sólo después de haberlos firmado.»
Añadiría que, en demasiadas ocasiones, quien firma el contrato ni siquiera nos lo enseña. Y, si quien lo firma es un político de los de hoy, me temo que haya una alta probabilidad de que lo firme sin leerlo o sin entenderlo.
M. Chagal. Vidriera que representa al poeta Ezequiel.
Empezaré confesando que cada vez me irritan más los profetas tecnológicos, como el autor de la pieza «These 6 new technology rules will govern our future«) que publica el Washington Post (que tiene a Jeff Bezos, el CEO de Amazon, como propietario):
Lo que me molesta no es tanto que algunas de estas profecías me resulten increíbles (las #3 y #5 en concreto) o incómodas (la #6), sino que se presenten como inevitables sin más justificación que un flagrante determinismo tecnológico:
Insistiría en primer lugar, aunque sea un tema recurrente en este espacio, que la tecnología no está creando ninguna regla, porque no tiene autonomía para hacer algo así. La tecnología evoluciona como consecuencia de actuaciones de personas, grupos o empresas que la conciben, diseñan, producen, difunden y consumen. Podemos admitir como una predicción plausible, por ejemplo, que se digitalizará todo lo digitalizable (y que se intentará además digitalizar lo no digitalizable). La tecnología lo permite, pero no lo impone. La digitalización es un resultado, previsible si se quiere, de las decisiones de gente que digitaliza cosas. Por los motivos que sean, no siempre altruistas.
En la misma línea, quizá sería apropiado conjeturar que lo que subyace a estas predicciones del autor no es tanto una inexistente ley tecnológica, ni tampoco su improbable capacidad como vidente, sino el conocimiento de las intenciones de quienes utilizan o planean utilizar la tecnología de un determinado modo y con unas determinadas intenciones.