El miedo a los autómatas fuera de control es uno de los miedos contemporáneos más arraigados. Hay quien sitúa su origen en aquella famosa reunión del verano de 1816 en Villa Diodati, donde bajo el cielo oscurecido por las cenizas Mary Shelley y sus compinches literarios parieron el catálogo de monstruos que aún perdura hasta nuestros días. Antes de aquel parto de vampiros y frankensteins - me contaba mi amigo Miguel A. Delgado -, la humanidad se había aterrorizado con demonios y espectros, pero el empuje romántico colocó el foco sobre lo que el hombre podría crear y las consecuencias terribles de sus creaciones. Y así fue más o menos como nacieron, casi de la mano, el miedo al autómata destructor y al científico loco.
A menudo se nos olvida pensar en por qué recelamos de los autómatas y cómo superar este sesgo
Este miedo se ha perpetuado hasta hoy en forma de máquina que se rebela contra el hombre, ya sea en forma de robot destructor tipo Terminator o maléfica inteligencia artificial tipo Hal 9000, capaz de aniquilar a los humanos. La mezcla del relato inquietante con el desarrollo exponencial de la tecnología ha llevado a especular seriamente sobre este peligro, hasta el punto de que figuras relevantes del mundo de la ciencia y tecnología como Stephen Hawking, Elon Musk o Bill Gates han expresado su preocupación. Aparte de la lógica cautela, quienes debaten sobre el asunto parecen esquivar la cuestión más importante: por qué recelamos de los autómatas y cómo superar este sesgo.
Uno de los enfoques más interesantes es el del equipo de Berkeley J. Dietvorst, quienes investigan sobre nuestra relación con los robots basados en algoritmos. Aunque nuestro temor se dirige sobre todo a las inteligencias con forma humanoide, estos autómatas no corporeizados ya rigen nuestras vidas. Miles de programas trabajan a nuestro alrededor a diario para predecir la afluencia de tráfico, la previsión meteorológica o para indicarnos nuestra posición en el espacio y el tiempo. Y si nos fiamos más de las instrucciones de nuestro GPS que de las indicaciones de un paisano, se preguntan Dietvorst y su equipo, ¿por qué no pasa la mismo con el resto de programas?
Los errores humanos nos parecen aceptables, pero los fallos de una máquina nos infunden terror
En varios experimentos con voluntarios, el investigador ha comprobado que a pesar de que muchos algoritmos son capaces de resolver problemas de manera manifiestamente mejor que los humanos, nuestro sesgo hace que les perdonemos menos los errores y que estos les resten toda fiabilidad a nuestros ojos. En un programa simulado de inversión de dinero, por ejemplo, si la máquina fallaba una de las veces, los sujetos desconfiaban inmediatamente del sistema, a pesar de que al fiarse de un asesor humano las ganancias eran menores. En otras palabras, los errores humanos nos parecen aceptables, pero los fallos de una máquina nos infunden terror.
Al mismo tiempo que comprobaban este mecanismo, los científicos también vieron que con pequeñas estrategias el miedo se podía reducir. Si dejaban a la persona manejar, aunque fuera mínimamente y de manera no significativa el algoritmo, se sentía más segura sobre su funcionamiento. En una encuesta sobre la posibilidad de recibir un tratamiento medico personalizado diseñado por un ordenador, la gente solo se fía si lo supervisa un doctor. “Esperamos que las personas pongan el punto definitivo de cordura”, asegura Holly Yanco, investigadora de la Universidad de Massachusetts Lowell. En este terreno hay estudios muy reveladores, como el que demuestra que nuestro nivel de confianza hacia un robot aumenta si previamente le damos la mano, o el que indica que nos fiamos más de un coche autónomo si le asignan un nombre y un sexo, como si el mero hecho de antropormofizarlo rebajara un poco el temor.
Es aquí donde reside la contradicción y la lógica residual que quizá debamos superar. Mientras que los robots con cuerpo despiertan nuestra desconfianza si se parecen demasiado a nosotros, los algoritmos nos parecen más fiables a medida que nos parecen más humanos. Como si hubiera algo en una persona más fiable que en el mecanismo de un semáforo, cuando me inclino a pensar que sucede precisamente al revés. Una máquina bien programada, a partir de unas leyes predeterminadas que sorteen nuestros sesgos humanos, es mucho más fiable que cualquiera de nosotros. A fin de cuentas, ¿qué puede hacer un robot? ¿Cargar a golpes contra una multitud si se lo ordenan? ¿Inmolarse en nombre de una idea o religión? ¿Odiar al vecino porque es diferente? Eso ya lo hacemos los humanos bastante bien, no veo por qué nos tienen que dar más miedo los robots.
