En los últimos días hemos conocido que Intel y Classroom tecnologies se han asociado para el desarrollo de una tecnología a través de Inteligencia Artificial (IA) y capaz de detectar las emociones de los alumnos en función de sus gestos, su lenguaje no verbal, y la manera en la que están interactuando a través de Zoom. Según ha afirmado Michael Chasen, director general de Classroom Tecnologies, se trata de proporcionar al profesor información que le facilite la comunicación con el alumnado, a partir del conocimiento de los problemas que han tenido los docentes para relacionarse con sus alumnos dentro del ámbito virtual. Este controvertido asunto viene a sumarse a la polémica que hay alrededor de la Inteligencia Artificial emocional desde que se viene implementando y que se ha recrudecido en los últimos tres años.

La Inteligencia Artificial emocional utiliza la webcam, reconocimiento facial, reconocimiento de voz, procesamiento de lenguaje natural y otras tecnologías propias de la IA para capturar datos que representan las expresiones externas de las personas con el fin de detectar sus actitudes, emociones y sentimientos.

Conocer nuestros sentimientos a través de emojis parece que va a quedar completamente obsoleto

Hemos conocido que Zoom estaría considerando incorporar IA en sus reuniones virtuales para detectar y analizar el estado de ánimo de las personas. Esta consideración ha desencadenado la apertura de una importante batalla al respecto y es que más de 25 organizaciones de derechos humanos y digitales, incluida la Unión Estadounidense de Libertades Civiles, el Centro de Información de Privacidad Electrónica o Fight for the Future, han exigido a Zoom que finalice los planes potenciales para incorporar funciones de inteligencia artificial emocional en su software, a través de una carta. En la misma, aseguran que se trata de un software discriminatorio, manipulador, potencialmente peligroso y basado en la suposición de que todas las personas usan las mismas expresiones faciales, patrones de voz y lenguaje corporal.

La validez de la IA emocional es muy cuestionada y además plantea dudas éticas. Hay investigaciones que muestran que la forma en que las personas expresan alegría, ira o sorpresa son diferentes en función de su cultura o de la situación en la que se encuentren. No se puede interpretar de manera universal lo que una persona realmente siente por una serie de expresiones faciales. Eso al margen de que podamos encontrarnos ante personas neurodivergentes (con autismo, TDAH, dispraxia, dislexia…).

Sin embargo, su uso se va extendiendo poco a poco. Hablábamos al principio de la utilización en aulas virtuales, pero podemos encontrar otros usos como, por ejemplo, la tecnología en vehículos para detectar distracciones, estados de embriaguez o ira. El problema añadido es que, detrás de ello, queda la incógnita de cuál es el destino final de los datos, aparte de su utilización para el entrenamiento de los sistemas de inteligencia artificial.

En estos momentos, Zoom se encuentra en el punto de mira por la posible inclusión de la IA emocional en sus reuniones virtuales

Desde Fight for the Future, Caitlin Seeley George señala a Zoom como líder de la industria, lo que le da la oportunidad de marcar la pauta y el ritmo de todos los nuevos desarrollos en el mercado de las reuniones de vídeo, por lo que considera imprescindible que la empresa escuche lo que los grupos de derechos civiles tienen que decir al respecto. Uno de sus principales temores es que es que, a medida que la IA emocional se vaya integrando en más tecnologías cotidianas, las personas se sentirán más cómodas con ella y, como dice George, “La gente se volverá insensible al hecho de que están bajo la vigilancia constante de estas tecnologías”.

En fin, que si Zoom no da marcha atrás, muy pronto veremos en nuestras reuniones apuntes como “Fulanito está feliz”, “Menganita siente Frustración”… o quizá, si quieren hacerse los graciosos, algo así como “ea, ea, ea, Manolo se cabrea”.

Desde luego, es complicado no pensar que las pantallas cada vez nos radiografían más, mejor, y más profundo. Pero, una vez más, encontramos la contraposición entre desarrollo tecnológico y privacidad. Porque tenemos una tecnología que cada vez es capaz de extraer más datos sobre nosotros y siempre queda la duda sobre el destino final de esos datos y la forma en la que se usan. Lo que es indudable es que estamos en un momento en el que, si hacemos caso a los más paranoicos, nos vigilan, nos escuchan y ahora, además, van a saber cómo nos sentimos. No es nada reconfortante pensar que pueda ser así, pero, es mejor no llegar a esta paranoia porque entonces no vivimos. En cualquier caso, este es un tema del que, mucho me temo, seguiremos hablando.