x

Norman AI, la primera Inteligencia Artificial psicópata

“Un hombre es asesinado a plena luz con una ametralladora”, este es el perturbador mensaje de una Inteligencia Artificial alimentada con contenido de una página de Reddit tras describir las imágenes que se le presentaron de la prueba de Rorschach. Sus creadores la bautizaron como Norman AI, la primera máquina psicópata.

 

Norman AI no fue creado psicópata, se volvió así

Lo más escalofriante y al mismo tiempo asombroso, es el algoritmo mediante el cual Norman se volvió un psicópata. Pues de acuerdo con el grupo de desarrolladores MIT Media Lab, no crearon una Inteligencia Artificial psicópata, fue lo que conoció del mundo lo que la volvió así.

Norman AI fue expuesto a información violenta y, aunque no se le mostraron imágenes de personas muriendo, las respuestas que dio en la prueba de Rorschach hacen que se nos ponga la piel de gallina.

“Un hombre es asesinado a tiros frente a su esposa que no para de gritar”, “Un hombre salta desde la ventana de un edificio”, “un hombre es jalado a una máquina batidora”. Estas escalofriantes respuestas nos hacen replantearnos la primera ley de la robótica establecida por Isaac Asimov: “Un robot no le hará daño a un ser humano” y preguntarnos si podemos confiarle nuestras vidas a una Inteligencia Artificial.

 

Psycho, la película

Norman AI fue un nombre inspirado por Norman Bates, el personaje de ficción que fue mundialmente reconocido tras la película dirigida por Alfred Hitchcok, Psycho, que retrata a un psicópata a cargo de un motel.

Este emblemático personaje creado por Robert Bloch en 1959 parece tener un extraño spin off con su versión digital en el siglo XXI.

 

La prueba de Rorschach

Probablemente ya sabes en qué consiste esta prueba psiquiátrica, pero desconoces el nombre: es cuando a una persona se le muestran laminillas de manchas de tinta e intenta describir lo que ve.

Esta prueba, para poner algo de contexto, fue creada en 1921 por Hermann Rorschach para analizar la personalidad y la funcionalidad emocional de los pacientes.

Mientras una Inteligencia Artificial estándar asimila las laminillas como un grupo de personas, un ave pequeña, una persona sosteniendo un paraguas o un pastel de boda, Norman AI asimila solo personas asesinadas.

El grupo de científicos incluso pregunta al público qué ve en la prueba de Rorschach para ayudar a Norman a “arreglarse”.

Inteligencia Artificial psicópata

“Un hombre es tiroteado a muerte”, esta es la descripción que dio la Inteligencia Artificial psicópata.

 

Evolución de una IA psicópata

En 2015 Frank Pasquale escribió The Black Box Society, que destaca los peligros de datos sueltos, los algoritmos de Black Box y el sesgo de aprendizaje automático causado por datos de origen.

En 2016 se desarrolló a Nightmare Machine, una Inteligencia Artificial que recolectaba más de 2 millones de votos de personas en todo el mundo sobre imágenes aterradoras. Es una de las primeras máquinas en tener como reto el inducir emociones extremas en humanos.

En 2017 se creó , la primer Inteligencia Artificial que escribía historias de horror aprendiendo de temas leídos en Reddit.

También en 2017, se trabajó en , una IA que puede incrementar la empatía sobre desastres tras mostrar imágenes que simulen problemas más cercanos a las personas.

 

También podría interesarte:

¿Qué opina de la primera Inteligencia Artificial psicópata?, ¿crees que debemos preocuparnos más de las máquinas al saber que pueden volverse inestables?

Comments

Deja un comentario

Tu dirección de correo electrónico no será publicada. Los campos obligatorios están marcados con *