Si la máquina enloquece

0
70

La era de la inteligencia artificial. Con desafíos inéditos para el hombre. El problema del trabajo

7 de octubre del 2008: vuelo QF72 de Qants, de Singapur a Perth en Australia, con 303 pasajeros a bordo. En un momento, sin previo aviso, el piloto automático inicia una vertiginosa caída hacia el océano, lanzando los pasajeros de aquí para allá entre los asientos. Los grandes aviones ya son guiados, en la mayor parte del vuelo, por sistemas automáticos de inteligencia artificial. El piloto Kevin Sullivan, trata dos veces de tomar el control y las dos veces el computador reintenta la maniobra hacia el océano. Al final, después de una verdadera y propia “lucha”, el piloto abandona el computador y toma definitivamente el mando guiando el avión hasta el aeropuerto más cercano. Balance: 11 heridos graves. Motivo: daño en los sensores de posición y del software a bordo.

24 de marzo de 2015: vuelo Germanwings 9525, de Barcelona a Dusseldorf. A un cierto momento, sin previo aviso, el copiloto Andreas Lubitz, inicia un recorrido deliberado hacia las montañas francesas donde el avión se estrella pocos minutos más tarde. Balance: 150 muertos. Motivo: grave depresión del copiloto.

Dos tragedias: una evitada, una realizada. Dos causas: daño de la máquina y “daño” del hombre. En común la falta de previsión. Sin embargo las estadísticas y los expertos confirman que, en situaciones de peligro, los sistemas software automáticos reaccionan normalmente de manera mucho más racional, más confiable y más velozmente que el hombre. Por lo tanto es más seguro. Por este motivo, la orientación prevalente es dar prioridad a la máquina ignorando los mandos del hombre cuando están en conflicto con los del computador. Es un sencillo cálculo de probabilidad. Por esto Kevin Sullivan hizo tanto esfuerzo a tomar el control.

Confianza

Cambiemos de contexto. Los automóviles con freno y parqueo asistido han reducido el número de accidentes en las calles. Dentro de poco entrarán en el circuito comercial carros que conducirán automáticamente (seguirán, más allá, las que podrán volar): los test en las calles han mostrado que la inmensa mayoría de los accidentes son causados por falta de previsión humana, no por las máquinas. Pero de todos modos hay un problema porque, intuitivamente, no nos confiamos de la tecnología. Un sondeo ha revelado que el 75% de los automovilistas no tiene intención de ceder el control a un automóvil de conducción automática. Las mujeres tienen más confianza que los hombres, excepto ¡cuando llevan los hijos al colegio!

Inteligencia

Sin embargo en los últimos 30 años, la inteligencia artificial ha hecho progresos enormes, tanto que hoy estamos en grado de construir máquinas que saben “aprender” de la experiencia. No son conducidas, entonces, un software rígido proyectado por nosotros, modifica su comportamiento adaptándolo a las realidades en las que operan. Un poco como los humanos, pero sin la capacidad de “entender” lo que hacen. El problema es que la lógica de la máquina es tan complicada que a menudo ni siquiera nosotros comprendemos por qué actúa de una cierta manera pero, ¿podemos confiar en las máquinas de las que no entendemos el comportamiento? Y si un automóvil con conducción automática debe decidir, en pocos segundos, si salvar su pasajero envistiendo peatones, o lanzarse fuera de la carretera matando al pasajero, ¿quién establecerá cuál es la decisión justa?

Turbamiento

Otro detalle: hay máquinas construidas con semejanzas humanas. Los investigadores saben, que cuando los robots son “demasiado” semejantes, salta un mecanismo de malestar e incomodidad: ¿esa “cosa” que tenemos adelante está viva? ¿Es un ser humano como nosotros? El resultado es el miedo de aquella máquina. En cambio lo opuesto son los niños y las personas ancianas que con los disturbios cognitivos se afeccionan muy fácilmente a los robots que los cuidan. Pero, ¿es justo “engañar” de esta forma a un niño (¿Cómo crecerá?) o a una persona al final de su vida, que tendría derecho a ser asistida por alguien que “entienda” sus confidencias y sus temores?

Trabajo

Un último aspecto, tal vez el más explosivo. El trabajo es dignidad, repite el Papa Francisco. Pero en una sociedad donde los robots sustituirán al hombre en casi todos sus trabajos, ¿qué quedará para los humanos? “El desempleado a la larga pierde la estima de sí y sobre todo la autonomía personal”, amonesta Stefano Zamagni. Seguramente será necesario volver a calificar a las personas para que puedan desarrollar “la infinidad de nuevos trabajos que se necesitarían en un mañana y que las máquinas no podrán desarrollar” (Pietro Ichino y Pietro Micheli). Pero esto tal vez no será suficiente. Claudio Borio, jefe economista del Banco para las Regulaciones Internacionales (BRI), hablando de los posibles desórdenes sociales derivados de la crisis de trabajo, ha afirmado: “Me espero a un cierto punto una reacción anti-robot”.

Futuro

La evolución del hombre, su futuro están estrechamente entrelazados con el de la tecnología de las máquinas. Pero es inútil comenzar batallas que ya están perdidas desde el inicio contra los robots. Es más inteligente pensar cómo gestionar la automatización difundida, a beneficio de todos los hombres y no de pocos. También para no arriesgarse a perder el “factor humano” que nos caracteriza.

Por Giulio Meazzini

DEJA UNA RESPUESTA

Please enter your comment!
Please enter your name here