Entradas

El mayor peligro de la Inteligencia Artificial

/0 Comentarios/en , /por

Getty Images

Los medios se han hecho eco del sonoro enfrentamiento público entre Elon Musk (CEO de Tesla) y Mark Zuckerberg (CEO de Facebook) acerca de los peligros (o no) de la Inteligencia Artificial (IA).

Musk sostiene que (*):

«La IA es un riesgo central para la existencia de la civilización humana.»

La respuesta de Zuckerberg:

«Soy optimista. Y no entiendo a la gente que es negativa e intenta inventar escenarios apocalípticos. Creo que es bastante irresponsable.»

Musk replica en Twitter:

«He hablado con Mark sobre esto. Su entendimiento sobre el tema es limitado.»

Por debajo de la batalla de la batalla entre dos egos ‘king size’ subyace una cuestión más de fondo: la de si conviene o no regular ya el desarrollo de la IA.

Musk aboga por una regulación proactiva:

La IA es uno de los raros casos en los cuales creo que necesitamos una regulación proactiva en lugar de una reactiva […] Cuando se produzca una regulación reactiva, será demasiado tarde.»

Zuckerberg discrepa, apuntando implícitamente que la regulación retrasaría el desarrollo de la tecnología.

«La tecnología puede siempre utilizarse para bien o para mal, y uno ha de ser cuidadoso acerca de lo que construye, cómo lo construye y cómo se utilizará […] Pero discrepo de la gente que aboga por ralentizar el proceso de crear IA.»

Hay un dato que quizá ayude a entender la polémica. Musk está acostumbrado a que sus empresas actúen en mercados fuertemente regulados, como el del automóvil. Facebook aprovecha carencias en la regulación (p.e. sobre privacidad) para extender su negocio (no es el único; empresas como Uber o Airbnb hacen lo mismo en otros ámbitos). ¿Defendería Zuckerberg que Tesla se saltara las reglamentaciones sobre seguridad para desarrollar más rápidamente el mercado de sus automóviles? No lo creo.

Subyace por tanto la cuestión de los objetivos y prácticas de la regulación, especialmente la de las nuevas tecnologías. Una cuestión repleta de criterios y matices, que de ningún modo se puede despachar como lo hace uno de nuestros más ilustres ‘ilustrados-TIC‘:

«Reclamar regulación sobre una tecnología o conjunto de tecnologías antes de que se desarrollen es un problema [porque] muy pocas veces se desarrolla de la manera adecuada, y tiende a basarse en la restricción de posibilidades […] Esperemos que esas peticiones de regulación no lleguen a ningún político temeroso e inspirado. Y mientras tanto, sigamos trabajando.«

Por supuesto que, como en el ejemplo de los automóviles que apuntaba antes, la regulación ha de basarse en la restricción de posibilidades. Porque tenemos el derecho a reclamar que el respeto a criterios éticos y sociales sea un requisito que se aplique previamente al desarrollo de una tecnología. La eficacia limitada de muchos organismos reguladores no ha de ser una excusa para obviar la necesidad de una regulación proactiva, sino en todo caso para diseñar e implantar mejores regulaciones y organismos reguladores.

Una explicación del impulso que está teniendo el desarrollo de la IA es que será una herramienta de acumulación de riqueza y poder, seguramente en mayor grado que otras tecnologías. El mayor riesgo real («The Real Threat of Artificial Intelligence«) es que esta acumulación genere desigualdades y desequilibrios imposibles de gestionar a posteriori.

«Los productos de IA […] tienen el potencial de transformar radicalmente nuestro mundo, y no sólo para mejor […] Recompondrán el significado del trabajo y la creación de riqueza, llevando a desigualdades económicas sin precedentes e incluso alterando el equilibrio global de poderes.

A medio plazo, por ejemplo, la IA tensionará aún más el pacto social entre capital y trabajo (cuya regulación ya es conflictiva), eliminando los trabajos de muchos, pero sin hacerse cargo de la factura de los daños colaterales. Sabemos que la Revolución Industrial generó dislocaciones sociales del mismo tipo, que costó varias décadas solucionar. Una regulación proactiva apropiada debería evitar que esta historia se repita, esta vez en mayor escala. Es una cuestión de ética y de responsabilidad social.

(*) Video, a partir del minuto 48.

Ideología e instituciones para la Revolución Industrial 4.0

/0 Comentarios/en , /por

El Presidente del World Economic Forum (WEF), organizador de la célebre reunión de Davos, parece tener la certeza de que estamos abocados a una cuarta revolución industrial:

«Estamos al borde de una revolución tecnológica que alterará los fundamentos del modo en que vivimos, trabajamos y nos relacionamos unos con otros. Por su escala, alcance y complejidad, esta transformación será diferente de todo lo que la humanidad ha experimentado hasta ahora.»

Se trata de una afirmación discutible. De entrada, porque no es la revolución tecnológica lo que ha provocado, provoca o puede provocar la transformación de la humanidad. Recordemos, una vez más, el dictamen de  Peter Drucker:

«La sociedad de 2030 será muy diferente de la actual y muy poco parecida a la que predicen los futuristas más prominentes. No estará dominada, ni siquiera conformada por la tecnología. La característica central de la nueva sociedad, como la de sus predecesores, serán nuevas instituciones y nuevas teorías, ideologías y problemas.»

La evidencia muestra, en efecto, que la ideología del capitalismo de mercado y las instituciones diseñadas desde esta ideología fueron el verdadero desencadente de la revolución industrial en Occidente. La tecnología fue el instrumento de ese modelo de desarrollo social. En los países comunistas, la misma tecnología, conducida desde la ideología marxista, fue instrumental para otro modelo totalmente distinto.

El CEO del WEF es ambiguo, creo que deliberadamente, sobre el modo en que tendrá lugar esta nueva gran transformación. Por una parte reconoce que:

«Ni la tecnología ni la disrupción que la acompaña son fuerzas exógenas acerca de las cuales los humanos carecen de control.

Tras lo cual concluye que:

Todos nosotros somos responsables de guiar su evolución […] Deberíamos aprovechar la oportunidad y el poder que tenemos para conformar la Revolución Industrial 4.0 y dirigirlas hacia un futuro que refleja nuestros objetivos y valores comunes.»

La ambigüedad, claro está, reside en el alcance del nosotros al que se refiere. ¿Cuáles son esos objetivos y valores? ¿Cuál es la comunidad que los tiene en común? ¿Quién, exactamente, tiene ese poder de conformar el rumbo de la RI 4.0?

La realidad, entre otras, de la política actual es una muestra de la fragmentación de la sociedad y de la dificultad de encontrar objetivos y valores comunes. También de la dificultad, cuando no de la impotencia, de las instituciones para gestionar esta realidad. La postura del WEF ante esta realidad planta una semilla muy peligrosa:

«Los gobiernos se enfrentarán a una presión creciente […] a medida que su rol central de conducir la política disminuye debido a nuevas fuerzas de competencia y a la redistribución y descentralización del poder que las nuevas tecnologías hacen posible […] En último término, la capacidad de adaptación de los sistemas de gobierno y las autoridades públicas determinará su supervivencia.»

La evolución tecnológica y la disrupción que comporta no son un fenómeno espontáneo. Resultan de objetivos, intenciones, impulsos e inversiones encarnadas en colectivos más o menos indeterminados, pero de ningún modo inclusivos ni demostrablemente democráticos. Es irresponsable descartar sin más la posibilidad de que, como señala Douglas Rushkoff en su último libro,

«Las nuevas tecnologías no se estén desarrollando para el beneficio de la humanidad, ni siquiera el de nuestros negocios, sino para maximizar el crecimiento del mercado especulativo. Y resulta que no da lo mismo.» 

Concluir entonces que lo único que las instituciones públicas deben hacer sea adaptarse equivale prácticamente a proponer un golpe de Estado. Que podría funcionar, porque el CEO del WEF tiene un punto (o más) de razón  cuando concluye que:

«Los decisores [públicos] de hoy están a menudo demasiado atrapados en un pensamiento lineal tradicional […] como para pensar estratégicamente acerca de las fuerzas de disrupción e innovación.»

También cuando afirma que:

«Los sistemas actuales de formación de políticas [públicas] y de toma de decisiones evolucionaron […] cuando los decisores tenían tiempo para estudiar cada asunto y desarrollar la respuesta necesaria y el marco regulatorio adecuado.»

Pero ‘adaptarse‘ no puede ser la única opción. Corresponde a la tecnología y a quienes la impulsan aportar a la sociedad opciones, pero no decidir sobre ellas. Un organismo vivo, y la sociedad lo es, crece no en función de los nutrientes más abundantes, en este caso la tecnología, sino de los más escasos. En este caso, como reconoce el propio WEF, la responsabilidad del liderazgo es ayudar a proporcionar respuestas sobre el ‘para qué’ de cada una de las opciones tecnológicas y sobre el ‘cómo’ desplegar las que corresponda.  Algo para lo que serán necesarios innovación nuevos diseños institucionales y sociales inspirados por valores que vayan más allá de la simple eficiencia tecnológica.

Será cuestión de ponerse a ello.

La exponencialidad no es una causa, sino una consecuencia

/0 Comentarios/en , /por

“Idea TFP” is defined as the ratio of the output of ideas to the inputs used to make them.

Es cada vez más habitual que se nos presente la evolución exponencial de las tecnologías poco menos que como resultado de una ley natural e incontestable. Algunos creen en ella, o así lo aparentan, con una fe poco distinta de la religiosa. Otros intentan construir una teoría integrada de la tecnología, presentándola como una fuerza sobrenatural a la que la condición humana y la sociedad tienen la obligación de acomodarse.

A este respecto, los estudios sobre la interacción entre tecnología y sociedad han puesto repetidamente de manifiesto la falacia ideológica inherente a considerar tecnología y sociedad como dos entidades independientes. De hecho, es posible argumentar de forma plausible que el desencadenante de la Revolución Industrial no fue tanto el desarrollo tecnológico como la adopción de la ideología del capitalismo de mercado.  El modo en que las tecnologías se desarrollaron en los laboratorios e implantaron en la sociedad estuvo (y está) directamente influido por el impulso de inversores, que cada vez en mayor proporción son inversores corporativos, representantes de grandes capitales.

Por eso me parece interesante reseñar un estudio de investigadores de Stanford (.pdf) que argumenta que la productividad en la producción de ideas lleva décadas disminuyendo de forma notoria; el ritmo de crecimiento de la tecnologia se mantiene o aumenta como consecuencia de multiplicar los esfuerzos en I+D:

«Exponential growth results from the large increases in research effort that offset its declining productivity.«

Si estos investigadores han hecho bien su trabajo, cuando nos hablen de la evolución exponencial de las tecnologías tendremos que tener en mente que es una consecuencia de un impulso inversor creciente. «Follow the Money«. Al considerar el impacto en la sociedad de las tecnologías exponenciales  hemos de pensar en qué tipo de impacto persiguen quienes invierten en ellas. Podría continuar, pero ahí lo dejo por ahora.

¿Se ha vuelto compasivo Silicon Valley?

/0 Comentarios/en /por

En eldiario.es reproducen hoy un artículo («¿Un Silicon Valley compasivo?«) que escribí para el último número de Alternativas Económicas.

Va sobre la cuestión de la renta básica universal, intentando analizar por qué una innovación social de este tipo se propone precisamente ahora y precisamente desde Silicon Valley.

Me alegra y anima que desde eldiario.es se considere que algo de lo que escribo tiene la calidad suficiente como para reproducirlo. Pero sobre todo me honra colaborar con Alternativas Económicas, una revista que debería ser de lectura obligada para cualquier espíritu inquieto interesado en eso, en alternativas a las visiones convencionales de la Economía (la ciencia económica) y la economía (el modo en que la sociedad gestiona los asuntos económicos). (Debo al recomendable libro de Miren Etxezarreta la conciencia de esta importante distinción).

Disclaimer: Alternativas Económicas es una cooperativa de la que soy socio, además de colaborador escribiente.

Un relato desengañado sobre tecnoambiciones

/1 Comentario/en , /por

blog_160614

Una pieza reciente de Ethan Zuckerman en Medium incide sobre un tema ya abordado en entradas anteriores: el contraste entre las realidades actuales del panorama tecnológico de hoy y las expectativas/promesas de los tecno-utópicos de hace diez años.

Traduzco algunos párrafos, pero os invito a leer el artículo completo:

«Hace algunos años, los ciberutópicos de mi generación, personas que no éramos lo suficientemente estúpidos para creer que Internet haría automáticamente que el mundo fuera mejor, pero sí éramos los suficientemente estúpidos para creer que los valores y las tendencias de Internet nos llevarían hacia un mundo mejor, empezamos a entrar en crisis. Una de nuestras mayores esperanzas era que Internet y centralización fueran intrínsecamente opuestos. Que las barreras de entrada son tan bajas que siempre habría competidores, que siempre habrían opciones. Hoy, cuando Amazon devora toda la venta al menor, Facebook toda la comunicación, Google todo el descubrimiento, es díficil continuar creyendo en ello.»

La historia que describe es la de una brecha entre las ambiciones y las buenas intenciones y los efectos colaterales no deseados. La de no tomar suficientemente en cuenta desde un principio que la tecnología da poder, y que si ese poder puede usarse a favor de intereses particulares, aunque sea a expensas de los intereses de muchos otros, alguien lo hará.

Zuckerman escribe que está inmerso en el desarrollo de un sistema de contenidos basado en la tecnología de blockchain que impida puntos de centralización como los actuales. Su conclusión, que suscribo:

«Debemos empezar a pensar en cómo construir sistemas que no sean sólo nuevos e innovadores […] No es un nuevo mundo – es una operación de rescate […] No tuvimos éxito la primera vez en construir una web descentralizada, porque las soluciones fáciles desplazaron a las correctas; pero lo podemos hacer ahora, porque entendemos los riesgos de la centralización.«

Añadiría que la respuesta a esta cuestión necesitará implicar no sólo pensamiento técnico, sino también pensamiento político, en un sentido amplio. La tecnología y los artefactos tecnológicos acaban teniendo aspectos políticos, si es que no los tienen desde un principio. Y, cuando se trata de política o de poder, la inociencia no sólo no funciona; puede incluso ser culpable.