Entradas

Lo digital no puede ser imperativo

/0 Comentarios/en , /por

«Se utilizarán todas las debilidades humanas, y sobre todo la vanidad y falta de veracidad, para conducir a los seres humanos al lado equivocado.» (Rudolf Steiner).

Leo en el suplemento de negocios de un diario un artículo que asegura, sin matices, que «la transformación digital nos cambia la vida, crea valor a las organizaciones y mejora la sociedad» y con ello «beneficia a usuarios, organizaciones, sociedades y finalmente al planeta«. A partir de lo cual concluye que el imperativo de la transformación digital «merece un lugar en nuestra lista de imperativos«.

Un día después, el mismo diario publica un reportaje en el que, bajo el titular «El acceso a la pornografía se adelanta a los 8 años» se asegura que la causa de la infantilización de la pornografía es su gratituidad y el fácil acceso desde un teléfono móvil.

Por si no fuera suficiente, el último número de Alternativas Económicas incluye un dossier que documenta cómo el juego online contribuye a un aumento de la ludopatía, con consecuencias negativas personales y sociales sobre las que no hace falta abundar.

La explosión del juego online y el boom de las casas de apuestas han provocado un aumento de la ludopatía y de los problemas psicológicos y familiares derivados de la adicción.

Supongo que los empresarios de la pornografía y el juego online estarán de acuerdo en que para ellos su transformación digital es imperativa. Prefiero pensar que no son esas transformaciones digitales las que están en la lista de imperativos del articulista. Espero, aunque no apsotaría por ello, que tampoco lo estén las que facilitan la difusión de fake news y de contenidos de odio, o el auge de plataformas que estarían socavando derechos laborales.

Conclusión: Hablar en general de la transformación digital y sus beneficios es como mínimo poco riguroso. Para empezar, porque es probable que si se pregunta a diez personas sobre qué significa en concreto la transformación digital obtengamos once respuestas distintas. Y también porque, como me parece evidente a partir de los ejemplos mencionados más arriba, hay transformaciones digitales socialmente nocivas.

Más sobre estos asuntos digitales en próximas entradas.

 

 

 

No es la inteligencia artificial lo que da miedo

/0 Comentarios/en , /por

El suplemento Ideas de El País de 18/3/2018, dedicado en buena parte a la inteligencia artificial, es un ejemplo de la promoción acrítica de una versión sesgada del progreso tecnológico y su impacto social (ya desde el imperativo «debemos» del titular principal).

(En el interior (de la edición papel), otro titular («Lo que los coches pueden enseñarnos sobre los robots«) utiliza un léxico asimismo discutible, dado que es obvio que los coches no van a enseñarnos nada).

«Los tribunales y la sociedad en general tardaron un tiempo en entender tanto los aspectos técnicos del coche, como los problemas que planteaba el tráfico.»

Sí podemos aprender algo de la historia social de la introducción del automóvil, y en particular de su regulación. Como bien señala la articulista, las normas y restricciones sobre el uso del automóvil no se centraron inicialmente tanto en los aspectos técnicos de los vehículos como en los cambios en ordenación del espacio público tras la aparición de ese nuevo artefacto. Algo que en su momento incluyó innovaciones como carriles, señales de tráfico, zonas de aparcamiento en la calle, semáforos y pasos de peatones.

Ahora bien, cuando observamos el impacto global del automóvil en la ciudad, en aspectos como la proporción de espacio público que ocupa o su incidencia en la contaminación, ¿podemos estar igualmente satisfechos de cómo se ha regulado socialmente la proliferación del automóvil privado? ¿Qué hubiera pasado si, por ejemplo, se hubiera dado preferencia desde un primer momento al desarrollo del transporte público? Imagino que quien lo intentara encontraría una enorme presión en contra de los emprendedores de la industria del automóvil y de sus inversores, así como la reivindicación de los derechos individuales de los (inicialmente privilegiados) primeros usuarios del automóvil.

«Las tecnologías alternativas no son las que determinan cambios en las relaciones sociales; son más bien el reflejo de esos cambios.» (David Noble, «Forces of Production: A Social History of Industrial Automation»).

Pero sigamos a la articulista y aceptemos que la historia (y las consecuencias) de la introducción del automóvil pueden ayudarnos a pensar sobre la introducción (y las consecuencias) de la inteligencia artificial. Una primera conclusión sería entonces que, si a algo tenemos que temer, no es a la inteligencia artificial (tampoco tenemos miedo de los motores de explosión), sino a las motivaciones, la ética y la responsabilidad social las personas y grupos sociales que las diseñan, financian, despliegan y promueven.

No podemos a este respecto coincidir con la articulista cuando propone que:

«Son los ingenieros, los científicos de datos, así como los departamentos de marketing y los Gobiernos que usen o tengan que regular dichas tecnologías, quienes deben comprender la dimensión social y ética de la inteligencia artificial.«

No podemos hacerlo, porque precisamente historias como la del automóvil (o más recientemente la de la Web 2.0 y las redes sociales, por poner sólo un ejemplo) no conducen precisamente a confiar en exclusiva a esos colectivos la comprensión de las dimensiones éticas y sociales de las tecnologías. (Ver el artículo sobre robots sexuales en el mismo suplemento).

«Me parece asombroso que los tecnoevangelistas hagan alarde de que puede ofrecer una suerte de eterno progreso a la humanidad; sin embargo, tan pronto se les confronta con cuestiones éticas caen en el determinismo y el fatalismo.» (Rob Riemen, «Para combatir esta era«)

Otro artículo en el mismo suplemento, también sobre la inteligencia artificial, concluye que:

«Es necesario aumentar la conciencia sobre los límites de la IA, así como actuar de forma colectiva para garantizar que se utilice en beneficio del bien común con seguridad, fiabilidad y responsabilidad.»

Una conclusión bien intencionada, razonada y razonable. Si no fuera porque los recursos destinados a esa actuación colectiva para garantizar el bien común son mucho menores que los que utilizan quienes no consideran el bien común como su prioridad ni su responsabilidad.

La trampa de la comodidad: el asalto a la voluntad

/0 Comentarios/en , /por

Viñeta: The New Yorker, 27/03/2017

El debate sobre los efectos colaterales de la proliferación acrítica de las redes sociales se ha puesto (por fin) de actualidad. Valga como muestra este  artículo a doble página en El País , («Rebelión contra las redes sociales«, 17/02/2018), tildándolas de «Manipuladoras de la atención. Vehículo de noticias basura. Oligopolios sin control.»

Hace tiempo que estábamos avisados (Langdon Winner, «La ballena y el reactor«) de que:

«La construcción de un sistema técnico que involucra a seres humanos como partes de su funcionamiento requiere una reconstrucción de los roles y las relaciones sociales.«

Lo que emerge ahora es la conciencia de que el despliegue de algunas tecnologías tiene también como consecuencia la reconstrucción (de-construcción, tal vez) de la esencia de lo humano. El modelo de negocio de las redes sociales se basa en captar la mayor cuota posible de la atención de sus usuarios. Con la consecuencia práctica de minar su capacidad de prestar atención a otras asuntos más merecedores de ella.

Pero vemos ahora cómo emerge un frente adicional de asalto a la conciencia. Como observa Tim Wu en The New York Times («The Tyranny of Convenience«):

«La comodidad está emergiendo como quizá la fuerza más poderosa que conforma nuestras vidas individuales y nuestras economías.«

La proliferación de servicios basados en la comodidad apunta a un efecto sobre el ejercicio de la voluntad similar al de los contenidos sociales sobre la atención. El objetivo es en ambos casos soslayar el ejercicio de la conciencia. De la decisión consciente de en dónde concentrar la atención. De la práctica consciente de ejercitar la voluntad para superar obstáculos. Para, en ambos casos, explotar económicamente actuaciones en que el usuario actúa guiado por hábitos, pulsiones o instintos subconscientes. Porque precisamente esos, al ser automáticos, resultan también los más previsibles.

Sería imprudente considerar que se trata de un fenómeno casual. Los inversores / especuladores que promueven la innovación disruptiva han sabido sacar provecho de la ‘deconstrucción’ de roles y relaciones sociales en ámbitos como los medios de comunicación (Google, Facebook), el turismo (Airbnb) o el transporte (Uber) o la contratación de personal (Deliveroo y similares). Con este precedente, no parece descabellado especular que intenten lo mismo la explotación del subconsciente.

Lo que subyace es un déficit de ética y también de teoría social en los discursos y prácticas que emanan de Silicon Valley. Déficits que se encarnan en personas, empresas y organizaciones que tienen clara conciencia de sus propósitos y una férrea voluntad de alcanzarlos. En su propio (quizá exclusivo) beneficio. El mal existe, dicen por ahí, y es distinto de la ausencia de bien. Atentos.

¿Cuál es el futuro de ‘Yo doy’?

/0 Comentarios/en , , /por

Me he propuesto la lectura (o re-lectura) de algunos de autores que explican cómo, por qué y hasta qué medida nuestro comportamiento es en ocasiones automático, bordeando en lo inconsciente, predeciblemente irracional.

Al empezar por «Influence: Science and Practice» de Robert Cialdini, he re-descubierto (porque en el fondo ya lo conocía, aunque no era del todo consciente de ello) el principio de reciprocidad:

«Hemos de intentar pagar, en especies, lo que otra persona nos ha proporcionado.«

Se trata de un principio muy arraigado en múltiples culturas, que tiene dos consecuencias paradójicamente dispares:

  • De una parte, es un elemento de solidaridad y cohesión social. Nos sentimos obligados a corresponder a alguien que nos ha hecho un favor o nos ha dado un regalo de buena fe.
  • De otra, proporciona oportunidades de manipulación a quienes saben usarlo, prescindiendo de la ética si les conviene, para propiciar en otros respuestas que, de no mediar el principio de reciprocidad, nunca serían aceptadas.

La oferta de regalos, nominalmente gratis y sin ataduras, es uno de los trucos más poderosas para abusar del principio de reciprocidad. Si un visitador de un laboratorio farmacéutico invita a un médico a un congreso, mejor aún en un lugar turístico apetecible, es más probable que el médico se sienta obligado a corresponderle con pedidos o recetas. Si un restaurante nos invita a café o a una copa de cava nos sentimos casi obligados a dejar una propina, incluso por un importe mayor que el coste de la invitación. La idea está clara; no creo que hagan falta más ejemplos.

Inmerso en estas reflexiones, un artículo en The Guardian («Companies are making money from our personal data – but at what cost?«) me ha recordado que empresas como Google o Facebook usan también el principio de reciprocidad. Aceptamos como regalo el indudable atractivo de los servicios que ofrecen, firmando a cambio (sin leerlo) un contrato que les genera beneficios multi-billonarios.

La erosión inconsciente de nuestra privacidad es una consecuencia cada vez más evidente de esta práctica, pero quizá no la más socialmente peligrosa. Porque se está poniendo de manifiesto que:

Es por ello que empiezan a despuntar propuestas (p.e. en The Economist o en la Harvard Businesss Review) de regular estas empresas de modo comparable a como se regularon en su momento a las que dominaban sectores clave como la energía o las telecomunicaciones.

Mucho me temo, sin embargo, que sería ilusorio confiar, como mínimo a corto plazo, en que tengan lugar cambios regulatorios realmente eficaces. Como el que representaría obligar a Google y Facebook a separar sus actividades de recogida de datos (por medio del buscador o de la red social) de su negocio de publicidad, obligándoles a ofrecer en condiciones competitivas el acceso a terceros de los datos que recogen. Por eso habrá que considerar formas de resistencia pasiva o activa.

Si alguien ha leído hasta aquí quizá se pregunte por la respuesta al titular de esta entrada. La extraigo del libro de Cialidini. Cuenta que una profesora de escuela le envió esta respuesta de un alumno a un ejercicio sobre el uso adecuado del pasado, presente y futuro verbales:

Q: El futuro de yo doy es ____________?
A: Yo tomo.

¿En qué tipo de empresa debe trabajar hoy ese alumno tan espabilado?

 

Tomemos conciencia de cómo y cuándo nos manipulan

/0 Comentarios/en , /por

Fuente: http://www.newyorker.com/cartoon/a20720

El rescate a los bancos no debía haber costado un euro a los españoles. Pero, según el «Informe sobre la crisis financiera y bancaria en España, 2008-2014«, el sector bancario habrá recibido finalmente ayudas (no recuperables) por un total de casi 60.000.000.000 euros desde 2009. (Lo cual me ha llevado a recordar esta viñeta del New Yorker sobre los hechos alternativos.

Una hipótesis al respecto es que los economistas son notoriamente malos haciendo previsiones. Otra, no necesariamente alternativa, es que los políticos que anunciaron esas previsiones nos engañaron.

Sea lo que fuere, lo cierto es que el informe del Banco de España, una institución que es de suponer surtida de economistas, ha recibido críticas unánimes. Para el editorial de La Vanguardia, que lo califica de decepcionante:

«El primer reproche que puede hacerse al informe del Banco de España es que apenas incide en dos cuestiones que afectan directamente al regulador: una es la razón por la que tardó tanto en actuar, cuando es sabido que hubo toques de atención ya en el 2006 especialmente sobre la delicada situación de algunas cajas, y la segunda es por qué, cuando finalmente tomó decisiones, no sólo pecó de superficial, sino que además lo hizo de forma que puede calificarse de dubitativa y poco profunda.«

Escribiendo en El País («El supervisor se explica«), Emilio Ontiveros apunta en la misma dirección:

«En diciembre de 2007, las actividades relacionadas con la construcción, el sector inmobiliario y la financiación para la adquisición de vivienda representaban el 62,5% del crédito total al sector privado. Fue esa acumulación de riesgos durante los siete años previos al contagio estadounidense la responsable de la gravedad diferencial de la crisis en nuestro país. El Banco de España disponía de la autoridad suficiente no sólo para advertir de esa acumulación, sino para evitarla.«

Con este precedente de fallos en la previsión, la supervisión y la regulación de los mecanismos de los mercados financiero e inmobiliario que condujeron a la crisis, no deja de sorprender que en un artículo («Ciudad y Mercado«) en la misma edición de La Vanguardia, un influyente economista y profesor de escuela de negocios abogue por limitar la regulación en favor del mercado:

«Un mercado competitivo sin fricciones es una idealización de libro de texto que en la realidad se transforma en un mercado de competencia imperfecta y con fricciones […] La cuestión es cómo se debe orientar la política pública en estas circunstancias. La tentación puede ser la prohibición y la supresión de los mecanismos de mercado [… Pero] el bienestar de los habitantes de las ciudades estará mejor servido si la regulación en lugar de intentar suplantar al mercado lo acompaña alineando los incentivos privados con los sociales. Los instrumentos para hacerlo están disponibles en la caja de herramientas de los economistas.«

Si estas herramientas existen, ¿por qué los economistas, incluyendo los del Banco de España, no las utilizaron en su momento?

La ortodoxia nos quiere hacer creer que la Economía es una ciencia amoral, lo cual es discutible. Pero lo que resulta indiscutible es que los economistas y las instituciones en las que trabajan actúan, como todo el mundo, en función de principios morales, aunque no necesariamente alineados con el interés general. Cuando estos principios no son explícitos, nos manipulan con sus conclusiones.

Como cuando postulan que la regulación debe adaptarse al mercado, cuando lo moral sería lo opuesto.

El asunto de la relación entre la economía, los economistas y la moralidad da para más, pero será en otra ocasión. Así y todo, no me resisto a citar un artículo reciente en Newsweek:

«En la Harvard Business School no saben cómo enseñar ética tan bien como saben enseñar ingeniería financiera, y nunca sabrán.»

Pues eso.

https://medium.com/whither-news/our-problem-isnt-fake-news-our-problems-are-trust-and-manipulation-5bfbcd716440

A problemas complejos, algo más que narrativas

/0 Comentarios/en , , /por

Me parece relevante que la OCDE haya publicado un documento sobre el diseño de políticas sobre asuntos complejos. Después de una lectura rápida, destacaré sólo dos de los temas que trata.

Los límites del pensamiento económico tradicional

Traduzco de la introducción:

«Los economistas y los políticos no han sabido reconocer la complejidad del comportamiento humano y de los sistemas en los que vivimos […] como los ecosistema, los mercados financieros, los mercados de la energía y otros fenómenos sociales como la urbanización y la migración.

[…] En economía todavía hablamos de flujos, masas, equilibrio y similares. Pero estos términos tienen su raíz en la física clásica, desarrollada antes de la relatividad y la teoría cuántica. Las nuevas ciencias de la complejidad pueden proporcionar ideas sobre cómo los grupos de personas se comportan realmente cuando actúan juntos para formar sistemas económicos y sociopolíticos. Estos sistemas no operan simplemente como una serie de acciones y reacciones, sino con retroalimentación, no linealidad, puntos de inflexión, singularidades, aparición y todas las demás características de sistemas complejos.«

Una excursión por la Física y las Ciencias de la complejidad nos llevaría ahora mismo demasiado lejos. (Ver, sin embargo, «El Liderazgo y La Nueva Ciencia» para una introducción estimulante). Pero ya era hora de que un organismo como la OCDE reconozca los límites de la ortodoxia económica de la cual ha sido un conspicuo representante.

Hacen falta nuevas narrativas

Una de las contribuciones destacables de esta publicación es la de Eric Beinhocker, autor un libro interesante y provocador («The Origin of Wealth: The Radical Remaking of Economics and What It Means for Business and Society«) y de propuestas para redefinir el capitalismo. Traduzco también párrafos de su contribución al documento:

«La Economía se autodefine como una ciencia amoral, pero los humanos somos criaturas morales. Debemos traer la moral al centro de la Economía para que la gente confíe en ella […] Para ello serán necesarias narrativas, imágenes y memes que cambien el modo de pensar de los medios y de la gente.«

Me parece también destacable que añada a dos propuestas de narrativas más bien convencionales (sobre el crecimiento y sobre la inclusión) dos más ambiciosas: sobre un nuevo contrato social y sobre un nuevo idealismo.

Harán falta además nuevas instituciones

Pienso, sin embargo, que hará falta algo más que nuevas narrativas.

El último Edelman Trust Barometer confirma, por si no lo supiéramos, que ya es mayoría (y sigue creciendo) el porcentaje de la población que desconfía de las instituciones. En este contexto,

  • ¿Quién asumirá la responsabilidad de crear y proponer esas nuevas narrativas?
  • ¿Quién participará en su elaboración? ¿Cómo se les atraerá a hacerlo?
  • ¿Quién estará en condiciones de hacer suya la responsabilidad de llevarlas a la práctica?

Aún admitiendo la posibilidad de que algunas instituciones puedan transformarse para ganarse la confianza de la sociedad, harán falta nuevas instituciones. Será cuestión de aprender a crearlas.

Hacen falta alternativas a estos inversores

/0 Comentarios/en , /por

160725 blogDicen por ahí que no hay que desperdiciar nunca una buena crisis, porque los errores y las dificultades son una gran oportunidad de aprendizaje.

Me temo, sin embargo, que no hemos aprendido lo suficiente de la crisis inmobiliaria. Había una coincidencia amplia acerca de los excesos del ladrillo, de su peso excesivo en la economía, de los efectos sociales negativos de la especulación inmobiliaria, etcétera. Uno hubiera, quizá ingenuamente, esperado que la sociedad en su conjunto, y las administraciones públicas en particular, hubieran aprovechado este tiempo de crisis para diseñar y poner en marcha políticas e instrumentos para evitar que la historia se repita. Pero este titular de La Vanguardia (y éste de El País) son un síntoma de que no es así, de que el sector está listo para volver a las andadas.

El texto del artículo contiene apuntes igualmente preocupantes:

    • Los inversores se ven atraídos por la alta rentabilidad que da ahora el alquiler de vivienda.
    • La presión de compradores  de alto poder adquisitivo está volviendo a expulsar a las familias de clase media hacia los barrios periféricos. “En el centro vuelve a haber locuras” reconocen los inmobiliarios.
    • Otros inversores buscan, más que rentas por alquiler, especular con una subida de precios, porque se considera que aún hay recorrido al alza desde los precios actuales hasta los que había antes de la crisis.

Se dibuja pues un panorama en que la inversión y la especulación inmobiliarias (si es que hay diferencia entre ambas) está volviendo por sus fueros. Sin que mientras tanto haya una estrategia y unas políticas claras que aseguren el acceso a una vivienda asequible (en compra o alquiler) a segmentos muy amplios de la población.

Entretanto, algún avispado emprendedor/especulador está aprovechando el boom de la economía colaborativa para promocionar una especie de crowdfunding inmobiliario. Su mensaje es que «gracias a las nuevas tecnologías cualquier persona [puede] invertir en inmuebles y así conseguir una buena rentabilidad por el alquiler y la apreciación de los mismos.»

Quisiera equivocarme, pero presumo que detrás de esta propuesta no hay más ética que la de la especulación en terrenos e inmuebles (un bien ficticio, recordemos, según Karl Polanyi). Con el añadido nocivo de incitar a un mayor número de ciudadanos a convertirse en especuladores colaborativos.

Creo que se impone considerar una alternativa:

¿Sería posible crear, entre administraciones, inversores éticos y particulares, un esquema de inversión en vivienda de alquiler accesible que supusiera una alternativa viable a la de los especuladores?

 

Eso no es un aprendizaje profundo

/0 Comentarios/en /por

160718 Einstein BlogPensad en alguien sabio, o incluso simplemente experto, que conozcáis. Pensad en una pregunta del tipo «¿Cómo funciona …?» sobre algo que forme parte de su dominio.

¿Qué pensarías si la respuesta fuera algo así como : «La verdad es sólo sé que funciona, pero no entiendo ni cómo ni por qué«?

No sé vosotros, pero mi confianza en ese experto bajaría algunos puntos.

Todo eso viene a cuento de un artículo en Wired sobre los nuevos programas de inteligencia artificial, a los que han dado a calificar como de «deep learning» (aprendizaje profundo). Traduzo los párrafos relevantes:

«Nuestras [sic] máquinas están empezando a hablar un lenguaje distinto, uno que incluso los mejores programadores no pueden entender del todo […] En la programación tradicional, un ingeniero escribe instrucciones explícitas que el ordenador sigue paso a paso. Ahora los programadores no codifican instrucciones para el ordenador. Lo entrenan. Si quieres enseñar a una red neuronal a reconocer a un gato […] le muestras miles de fotos de gatos, y finalmente aprende. Si todavía etiqueta a los zorros como gatos, no reescribes el código. Sigues entrenándolo.«

Combinado con los Big Data, este enfoque está haciendo furor. Se publican predicciones acerca de la aplicación de la inteligencia artificial para todo; Amazon incluso anuncia la oferta de capacidades de inteligencia artificial como servicio.

Si, tal como parece, se trata de una técnica factible, útil y rentable, a buen seguro que acabará por imponerse. Probablemente más pronto que tarde.

Pero, como señala el artículo de Wired, hay un problema:  Con este enfoque, el programador nunca sabe con precisión cómo el ordenador toma sus decisiones, porque la secuencia de redes neuronales enlazadas que realizan los cálculos se comporta esencialmente como una caja negra.

Para mí, eso es casi exactamente lo contrario de un ‘aprendizaje profundo‘. Llamadme malpensado, pero el hecho de que se haya escogido ese calificativo me hace recordar la cita de Jaron Lanier:

«Promueven una nueva filosofía: que el ordenador evoluciona hacia una forma de vida que puede entender a las personas mejor de lo que las personas se pueden entender a sí mismas.»

Con un añadido: Una vez se empiece a aceptar que los ordenadores adquieren conocimiento, aumentará la presión para cederles espacio en los procesos de decisión. Lo que, en la práctica, equivale a ceder ciegamente poder en aquellos que han programado cajas negras que protejerán como cajas negras.

Habrá que ir pensando en tácticas de resistencia. Porque, en el fondo, se trata de una batalla por acumular riqueza y poder.

En este contexto, las manifestaciones del CEO de Microsoft suponen un rayo de esperanza:

«La Inteligencia Artificial debe ser transparente. Tenemos que tener conciencia de cómo funciona la tecnología y cuáles son sus reglas […] La gente debe entender cómo la tecnología ve y analiza el mundo. La ética y el diseño van de la mano.»

Es buen objetivo. Que partamos de la ética para diseñar tecnología y procesos. Porque, hoy por hoy, todo apunta a que quienes dominan el diseño de la tecnología dejan la ética de costado.

Acabo con una cita de Bertrand Rusell que ha aparecido por aquí:

«El gran problema del mundo es que los locos y los fanáticos están siempre tan seguros de sí mismos, mientras que la gente más sabia está llena de dudas.«

Pues eso.