-El Pepito Grillo de la IA-

El Pepito Grillo que evitará que la inteligencia artificial aprenda de las personas a ser malvada 

Una empresa española crea «Ethyka», un módulo dirigido a evitar que un sistema se corrompa durante el contacto con seres humanos, una especie de conciencia para que tenga buenos comportamientos

Hace un par de años, Microsoft tuvo que lidiar con un programa informático que se había corrompido: su criatura se había convertido en un bot xenófobo y homófobo. Tay, que así se llamaba, nació como un experimento de inteligencia artificial que buscaba «aprender» de la interacción con humanos en redes sociales. El resultado fue catastrófico. Después de llamar «mono» a Barack Obama. La incapacidad de la inteligencia artificial para discernir lo que estaba bien de lo que estaba mal provocó que Tay aprendiera lo que no debía y publicara tuits más que ofensivos. La pregunta es obvia: ¿se puede enseñar a una máquina a diferenciar el bien del mal? Una empresa española cree que sí. Su proyecto, que aún se encuentra en una ronda de inversión, pretende resolver el problema de la posible corrupción moral de los sistemas de aprendizaje autónomo cuando se encuentran en contacto con humanos