El mayor peligro de la Inteligencia Artificial

/0 Comentarios/en , /por

Getty Images

Los medios se han hecho eco del sonoro enfrentamiento público entre Elon Musk (CEO de Tesla) y Mark Zuckerberg (CEO de Facebook) acerca de los peligros (o no) de la Inteligencia Artificial (IA).

Musk sostiene que (*):

«La IA es un riesgo central para la existencia de la civilización humana.»

La respuesta de Zuckerberg:

«Soy optimista. Y no entiendo a la gente que es negativa e intenta inventar escenarios apocalípticos. Creo que es bastante irresponsable.»

Musk replica en Twitter:

«He hablado con Mark sobre esto. Su entendimiento sobre el tema es limitado.»

Por debajo de la batalla de la batalla entre dos egos ‘king size’ subyace una cuestión más de fondo: la de si conviene o no regular ya el desarrollo de la IA.

Musk aboga por una regulación proactiva:

La IA es uno de los raros casos en los cuales creo que necesitamos una regulación proactiva en lugar de una reactiva […] Cuando se produzca una regulación reactiva, será demasiado tarde.»

Zuckerberg discrepa, apuntando implícitamente que la regulación retrasaría el desarrollo de la tecnología.

«La tecnología puede siempre utilizarse para bien o para mal, y uno ha de ser cuidadoso acerca de lo que construye, cómo lo construye y cómo se utilizará […] Pero discrepo de la gente que aboga por ralentizar el proceso de crear IA.»

Hay un dato que quizá ayude a entender la polémica. Musk está acostumbrado a que sus empresas actúen en mercados fuertemente regulados, como el del automóvil. Facebook aprovecha carencias en la regulación (p.e. sobre privacidad) para extender su negocio (no es el único; empresas como Uber o Airbnb hacen lo mismo en otros ámbitos). ¿Defendería Zuckerberg que Tesla se saltara las reglamentaciones sobre seguridad para desarrollar más rápidamente el mercado de sus automóviles? No lo creo.

Subyace por tanto la cuestión de los objetivos y prácticas de la regulación, especialmente la de las nuevas tecnologías. Una cuestión repleta de criterios y matices, que de ningún modo se puede despachar como lo hace uno de nuestros más ilustres ‘ilustrados-TIC‘:

«Reclamar regulación sobre una tecnología o conjunto de tecnologías antes de que se desarrollen es un problema [porque] muy pocas veces se desarrolla de la manera adecuada, y tiende a basarse en la restricción de posibilidades […] Esperemos que esas peticiones de regulación no lleguen a ningún político temeroso e inspirado. Y mientras tanto, sigamos trabajando.«

Por supuesto que, como en el ejemplo de los automóviles que apuntaba antes, la regulación ha de basarse en la restricción de posibilidades. Porque tenemos el derecho a reclamar que el respeto a criterios éticos y sociales sea un requisito que se aplique previamente al desarrollo de una tecnología. La eficacia limitada de muchos organismos reguladores no ha de ser una excusa para obviar la necesidad de una regulación proactiva, sino en todo caso para diseñar e implantar mejores regulaciones y organismos reguladores.

Una explicación del impulso que está teniendo el desarrollo de la IA es que será una herramienta de acumulación de riqueza y poder, seguramente en mayor grado que otras tecnologías. El mayor riesgo real («The Real Threat of Artificial Intelligence«) es que esta acumulación genere desigualdades y desequilibrios imposibles de gestionar a posteriori.

«Los productos de IA […] tienen el potencial de transformar radicalmente nuestro mundo, y no sólo para mejor […] Recompondrán el significado del trabajo y la creación de riqueza, llevando a desigualdades económicas sin precedentes e incluso alterando el equilibrio global de poderes.

A medio plazo, por ejemplo, la IA tensionará aún más el pacto social entre capital y trabajo (cuya regulación ya es conflictiva), eliminando los trabajos de muchos, pero sin hacerse cargo de la factura de los daños colaterales. Sabemos que la Revolución Industrial generó dislocaciones sociales del mismo tipo, que costó varias décadas solucionar. Una regulación proactiva apropiada debería evitar que esta historia se repita, esta vez en mayor escala. Es una cuestión de ética y de responsabilidad social.

(*) Video, a partir del minuto 48.

eSTEMos al tanto

/0 Comentarios/en , /por

Asistí de oyente a una reunión de una patronal de empresas convocada con la temática de incentivar las vocaciones STEM (Science, Technology, Engineering, Math) en las escuelas.

Habiendo sido yo mismo el sujeto de una voación STEM precoz (tuve la fortuna de licenciarme y doctorarme en Física), creo que puede afirmar con un cierto conocimiento de causa que los ponentes (sin duda bien intencionados) no consiguieron generar demasiado entusiasmo con sus propuestas a favor de las STEM.

Por el contrario, incluyeron argumentos que me parecen desencaminados, si no directamente peligrosos.

  1. En primer lugar, basándose en estudios que indican que las vocaciones STEM se consolidan ya hacia los 14 de años de edad, se propuso promocionar activamente las STEM a partir de los 10 años.
  2. En la práctica, las propuestas mostradas de promoción de las STEM se centraban en exclusiva en la tecnología informática, con énfasis en enseñar a programar. Ni una sola mención a las Ciencias (Física, Química, Ciencias de la vida) ni a las Matemáticas. El aprendizaje de las ciencias amplía las perspectivas mentales. La programación, por su propia naturaleza y orientación, las reduce. Promover el aprendizaje de programación como paradigma de STEM es reduccionista, demagógico y en mi opinión perjudicial.
  3. Tampoco hubo ninguna mención a la conexión necesaria entre las Ciencias (que generan respuestas) y las Humanidades (que estimulan preguntas oportunas).

Cabría además ver con reticiencia los intentos de las empresas de influir en los contenidos escolares, que se cuestionan también en The New York Times («How Silicon Valley Pushed Coding Into American Classrooms«). Más aún cuando las mismas empresas proclaman que en esta época de cambios acelerados no se puede predecir cómo serán los modelos de negocio a diez años vistos, y que muchas de las profesiones que imperarán en esa época están todavía por inventar. Si eso es así, y probablemente lo sea, no deja de resultar un punto paradójico su intento de influir en las escuelas con argumentos de futuro.

Para conversar sobre la ciencia

Dos videos que bien pueden motivar una conversación sobre ciencia.

No creo ser el único fascinado por el péndulo de Newton.  ¿Por qué se comporta como lo hace? ¿Funcionaría si cada bola colgaran de un hilo en lugar de dos? ¿Por qué funciona mejor con dos hilos? ¿Qué juego popular se basa en el mismo principio físico que el péndulo de Newton? ¿Cómo nos ayuda el péndulo a explicar la función del reposacabezas en los automóviles?

Un video sobre una variante del péndulo de Newton. ¿Por qué funciona como lo hace?

¿Cuál es el futuro de ‘Yo doy’?

/0 Comentarios/en , , /por

Me he propuesto la lectura (o re-lectura) de algunos de autores que explican cómo, por qué y hasta qué medida nuestro comportamiento es en ocasiones automático, bordeando en lo inconsciente, predeciblemente irracional.

Al empezar por «Influence: Science and Practice» de Robert Cialdini, he re-descubierto (porque en el fondo ya lo conocía, aunque no era del todo consciente de ello) el principio de reciprocidad:

«Hemos de intentar pagar, en especies, lo que otra persona nos ha proporcionado.«

Se trata de un principio muy arraigado en múltiples culturas, que tiene dos consecuencias paradójicamente dispares:

  • De una parte, es un elemento de solidaridad y cohesión social. Nos sentimos obligados a corresponder a alguien que nos ha hecho un favor o nos ha dado un regalo de buena fe.
  • De otra, proporciona oportunidades de manipulación a quienes saben usarlo, prescindiendo de la ética si les conviene, para propiciar en otros respuestas que, de no mediar el principio de reciprocidad, nunca serían aceptadas.

La oferta de regalos, nominalmente gratis y sin ataduras, es uno de los trucos más poderosas para abusar del principio de reciprocidad. Si un visitador de un laboratorio farmacéutico invita a un médico a un congreso, mejor aún en un lugar turístico apetecible, es más probable que el médico se sienta obligado a corresponderle con pedidos o recetas. Si un restaurante nos invita a café o a una copa de cava nos sentimos casi obligados a dejar una propina, incluso por un importe mayor que el coste de la invitación. La idea está clara; no creo que hagan falta más ejemplos.

Inmerso en estas reflexiones, un artículo en The Guardian («Companies are making money from our personal data – but at what cost?«) me ha recordado que empresas como Google o Facebook usan también el principio de reciprocidad. Aceptamos como regalo el indudable atractivo de los servicios que ofrecen, firmando a cambio (sin leerlo) un contrato que les genera beneficios multi-billonarios.

La erosión inconsciente de nuestra privacidad es una consecuencia cada vez más evidente de esta práctica, pero quizá no la más socialmente peligrosa. Porque se está poniendo de manifiesto que:

Es por ello que empiezan a despuntar propuestas (p.e. en The Economist o en la Harvard Businesss Review) de regular estas empresas de modo comparable a como se regularon en su momento a las que dominaban sectores clave como la energía o las telecomunicaciones.

Mucho me temo, sin embargo, que sería ilusorio confiar, como mínimo a corto plazo, en que tengan lugar cambios regulatorios realmente eficaces. Como el que representaría obligar a Google y Facebook a separar sus actividades de recogida de datos (por medio del buscador o de la red social) de su negocio de publicidad, obligándoles a ofrecer en condiciones competitivas el acceso a terceros de los datos que recogen. Por eso habrá que considerar formas de resistencia pasiva o activa.

Si alguien ha leído hasta aquí quizá se pregunte por la respuesta al titular de esta entrada. La extraigo del libro de Cialidini. Cuenta que una profesora de escuela le envió esta respuesta de un alumno a un ejercicio sobre el uso adecuado del pasado, presente y futuro verbales:

Q: El futuro de yo doy es ____________?
A: Yo tomo.

¿En qué tipo de empresa debe trabajar hoy ese alumno tan espabilado?

 

El ‘para qué’ es la razón más poderosa

/0 Comentarios/en /por

Dos apuntes sobre ‘preguntas poderosas‘ a raíz de las lecturas de fin de semana.

Actuaron ‘porque’ sin saber ‘para qué’

En «Sobre la educación en un mundo líquido«, Zygmunt Bauman escribía lo siguente a raíz de disturbios violentos protagonizados por jóvenes ingleses en 2011:

«Su motín fue disperso, no planificado, una explosión espontánea de frustación acumulada que sólo puede explicarse en términos de ‘sucedió porque’ y no en términos de ‘sucedió para que’. Y yo pongo en duda que la pregunta ‘para qué’ tuviera algún papel en aquella orgía de destrucción.

¿Para qué enseñar a programar en la escuela?

En una entrevista publicada en El País Semanal de 9/7/2017, Mike Krieger, uno de los fundadores de Instagram, aborda también el asunto de las ‘preguntas poderosas’  sobre una temática del todo distinta:

«Lo que se echa en falta en alguna de estas clases de informática que reciben hoy los niños es que, si tienes un utensilio en tu caja de herramientas, deber saber qué construir […] En demasiadas ocasiones el mensaje es ‘tienes que programar’. Si, pero ¿programar qué?.»

Su respuesta, lógica desde el lugar que ocupa, es que:

«Hay que comprender el mercado y saber cómo dirigirse a los usuarios para averiguar cuáles son sus necesidades. De otro modo, vas a construir productos que nadie use.«

En la entrevista, sin embargo, no se aborda la cuestión de ‘¿para qué?‘ enseñar programación en la escuela. Como casi siempre sucede cuando se pregunta el ‘para qué‘ de algo, admite más de una respuesta. Tema para una próxima entrada.

Reflexión

  • Escoge una decisión reciente en tu vida personal o profesional. Piensa en si fue un ‘por qué‘ o un ‘para qué’ el que te llevó a tomarla.
  • Piensa ahora en una decisión que estés sopesando. ¿Cuáles son los ‘por qué’ que te impulsan a considerarla? ¿Qué diferencia hay si sopesas (o no) sus ‘para qué‘?

 

 

¿Existe una inopia tecno-optimista?

/0 Comentarios/en , /por

Copio de una entrevista en La Contra de La Vanguardia (“O regulamos las tecnológicas o seremos sus subempleados”, 4/7/2017). Agrupo en tres bloques sus opiniones sobre el poder las grandes empresas tecnológicas norteamericanas y sus consecuencias.

De entrada, una afirmación que los datos vienen a respaldar:

«Vivimos una revolución global, acelerada y despiadada […] Google, Facebook y Amazon ya son hoy los monopolios más poderosos de la historia con el mayor valor bursátil que jamás ha tenido empresa alguna y un poder omnímodo.

Luego, una interpretación en clave de política global:

«Son el brazo neocolonial del poder americano. […] No es la tecnología la que impone su ley. Es la política neocolonial.«

Parece algo radical. Pero conviene no olvidar que ya en 1993 la Administración Clinton, en un documento titulado “Technology for Economic Growth”, justificaba en estos términos su estrategia de impulso a las tecnologías de la información, y en especial a las ligadas a Internet:

“Hoy más que nunca el liderazgo tecnológico es vital para los intereses nacionales de los Estados Unidos […] Nuestra capacidad para dominar el poder y la promesa de los avances en las tecnologías punta determinarán en gran medida nuestra prosperidad nacional, nuestra seguridad y nuestra influencia global.«

Finalmente, el entrevistado en La Contra adelanta una predicción:

«Si no los obligamos a cumplir nuestras leyes, nos convertirán en neoproletarios de su paleocapitalismo digital […] Y los políticos europeos o han sido comprados o aún viven en la inopia tecnooptimista.«

Este último concepto, el de inopia tecnooptimista, me ha recordado el de ‘sonambulismo tecnológico’ acerca del que  Langdon Winner ya advertía en 1986 («La ballena y el reactor«):

«Una noción más reveladora es la del sonambulismo tecnológico  […] En el terreno técnico repetidamente nos involucramos en diversos contratos sociales, las condiciones de los cuales se revelan sólo después de haberlos firmado […] Caminamos dormidos voluntariamente a través del proceso de reconstrucción de las condiciones de la existencia humana.«

Ninguno de nosotros lee la letra pequeña de los contratos que (de modo apenas consciente) firmamos con las plataformas tecnológicas. Pero lo que es todavía más grave, es que la promoción y operación de estas plataformas no está hoy por hoy sujeta a ningún tipo de contrato social, ni siquiera en letra pequeña.

Sobre este fenómeno, Winner apuntaba que, tal y como los hechos están corroborando:

«La construcción de un sistema técnico que involucra a seres humanos como partes de su funcionamiento requiere una reconstrucción de los roles y las relaciones sociales.»

Y sin embargo,

«En nuestro tiempo las personas a menudo están dispuestas a realizar cambios drásticos en su forma de vida para dar cabida a la innovación tecnológica mientras que se resisten a cambios similares que se justifican en el terreno político […] Fascinados por el sueño de una revolución espontánea y rural, los tecnólogos evitan todo análisis profundo de las instituciones que controlan la dirección del desarrollo tecnológico y económico.«

En este contexto, la propaganda de Silicon Valley propone adaptar la legislación a la tecnología, cuando lo apropiado sería exactamente lo opuesto.

Seamos conscientes de que detrás de esta subversión de valores que propone primar lo tecnológico sobre lo social hay una hay una voluntad firme, que se aprovecha de la inopia tecnooptimista y del sonambulismo tecnológico. Estemos avisados.

Propuesta de reflexión

«A partir de la reflexión sobre un artefacto o una plataforma tecnológica que utilicéis habitualmente, ¿podéis identificar un efecto colateral del que hubiérais preferido ser previamente advertidos? «

 

 

 

 

No son empleos, ni siquiera trabajos.

/0 Comentarios/en /por

Esta ilustración de Perico Pastor para la portada del suplemento Dinero de La Vanguardia (25/6/2017) me ha llevado a repasar mis notas de lectura de «Metamorfosis del trabajo«, de André Gorz.

Han pasado quince años desde entonces, pero la emergencia de la «gig economy» hace que sus escritos sean hoy todavía más actuales que entonces.

En particular, por la emergencia de fenómenos como Uber, pero también por la visión, cada vez más frecuente en Barcelona, de ciclistas cargados con una mochila etiquetada con la marca de alguna de las nuevas ‘startups’ de reparto a domicilio.

Dos de las reflexiones iniciales de Gorz me parecen hoy especialmente destacables. La primera es que:

«Lo que nosotros llamamos trabajo es una invención de la modernidad. La forma en que lo conocemos, lo practicamos y lo situamos en el centro de la vida individual y social fue inventada y luego generalizada con el industrialismo.«

La implicación es que, si el trabajo fue una invención, alguien puede proponer reemplazarla por otra se juzgue más apropiada para la época. O, si ese alguien tiene poder suficiente, por otra que se ajuste mejor a sus intereses.

(The New Yorker, 27/3/2017)

La segunda reflexión de Gorz es que, el aumento de la productividad en la producción material (el objetivo central del industrialismo) hace que se necesiten menos horas de trabajo. Se libera así tiempo, pero:

«La cuestión es saber qué sentido y qué contenido se quiere dar a ese tiempo liberado. La razón económica es fundamentalmente incapaz de responder a esta cuestión.«

Lo que el talento de artistas como Perico Pastor o los ilustradores de The New Yorker muestran sin palabras es que algunas de estas formas emergentes de la ‘gig economy‘ son el reflejo de:

«El interés particular de una élite profesional capaz de comprar tiempo a un precio muy inferior al que ella misma puede venderlo.«

Emerge así una forma de comercio del tiempo que no genera ni producción, como tampoco trabajo ni empleo en el sentido tradicional. Para Gorz, el peligro es el renacimiento de «una clase servil que la industrialización había abolido«. Algo que los articulistas de The New Yorker, cuyo talento es comparable al de sus dibujantes, llevan un tiempo denunciando (con muchas más palabras, eso sí).

Hay quien propone observar el mundo como un océano de fuerzas de voluntad. Propongo prestar atención al origen y la intención de esas fuerzas que apuntan a redefinir los conceptos de trabajo y empleo. No podemos controlarlas, pero sí decidir cómo reaccionamos ante ellas.

Propuesta

Cuando nos crucemos con el próximo ciclista repartidor, prestemos atención. Retengamos su imagen. A partir de ella, hagamos un esfuerzo por visualizar qué le lleva a hacer este trabajo. También a imaginar cómo nos sentiríamos si viendo que se trata de una persona próxima a nosotros. A partir de ahí, actuemos en conciencia y en consecuencia.