FICHA TÉCNICA
Título:
Sesgos y traducción automática
Miembros del equipo:
Helena Hernández Acuaviva (Artista), Agda Carvalho (Artista)
Científico:
Dra. Emilia Gómez Gutierrez (Ingeniera de Telecomunicaciones y Doctora en Informática)
Dra. Isabelle Hupont Torres (Doctora en Inteligencia Artificial)
Semilla:
IA_13 “Comportamiento humano y de máquina: HUMAINT”
Técnica:
Instalación, dos pantallas de televisión. Imagen base realizada con cámara Canon EOS Rebel T6i, video con D-ID y Premiere Pro 2021, audio con Google Docs grabado con Smart Recorder y texto extraído de Think Big Telefónica
Duración:
Video #1 1’29” Video #2 1’51”
SEMILLA
LA VISIÓN DE LOS CREADORES DE LA OBRA
Los algoritmos interfieren en nuestras decisiones diarias, habitan las redes y nos ayudan a acceder a información útil. No obstante, hoy siguen existiendo errores en estas tecnologías inteligentes. Esta obra pretende mostrar los sesgos de género que existen en las traducciones automáticas y en la manipulación de imagen y sonido (los traductores de Google o Microsoft traducen la frase “The judge told the nurse to call the engineer” como “El juez le dijo a la enfermera que llamara el ingeniero”, con un evidente sesgo de género).
“Sesgos y traducción automática” se basa en el encuentro hibrido —online desde dos continentes diferentes (América del Sur y Europa) y presencial en el Instituto Mauá de Tecnología y el Instituto de Artes de la UNESP (Brasil)— entre dos mujeres artistas e investigadoras en el campo del Arte, Ciencia y Tecnología. Nos expone la dificultad que encontramos a la hora de relacionarnos con otras personas de diferentes partes del mundo y los sesgos que existen en las aplicaciones y herramientas con inteligencia artificial (IA) implementada, que anteponen el género masculino en las traducciones automáticas y dificulta el día a día de las mujeres —lo que lleva a errores graves de expresión y comprensión textual—, a pesar de tener grandes avances en el mundo tecnológico en la actualidad.
Esta obra se compone de dos pantallas que presentan dos videocreaciones generadas por IA donde se muestran los rostros de las autoras, con fallos evidentes creados por la máquina, que repiten en bucle un mismo texto, en portugués y español, sobre la problemática mencionada extraído de Think Big Telefónica, leído por la IA implementada en Google Docs, que presentan errores al ser leídos por voces configuradas en el idioma opuesto, es decir, el texto en español es leído por una voz en portugués y viceversa.
LA VISIÓN DEL COMISARIO SOBRE LA OBRA
De unos años a esta parte hemos descubierto que el principal reto de la Inteligencia Artificial no es su modo de replicar la inteligencia humana individual, sino la manera en que incide sobre la inteligencia social. Nuestra comprensión individual está mediada por las nuevas interfaces, pero también nuestras comunidades y sociedades, que se definen y avanzan ahora a través de algoritmos. El desafío científico y tecnológico no es la subjetividad, sino la intersubjetividad, y es precisamente en este punto en el que el arte puede aportar más al desarrollo social de la IA.
El análisis de las investigadoras de la Oficina Científica de la comisión Europea Emilia Gómez Gutiérrez, Isabelle Hupont Torres y Marina Escobar Planas, centrado en la relación entre el comportamiento humano y el de las máquinas, ha servido de semilla a las artistas Helena Hernández Acuaviva y Agda Carvalho para adentrarse en los problemas de sesgo en la traducción automática: una petición en Change.org revelaba que los traductores de Google o Microsoft traducían la frase “The judge told the nurse to call the engineer” como “El juez le dijo a la enfermera que llamara al ingeniero”, con un evidente sesgo de género.
Las artistas han producido dos obras audiovisuales en las que la intuición humana se mide con la efectividad de la máquina, pero en la que se trasluce también que la Inteligencia Artificial es síntoma de realidades sociales trasladadas al mundo sintético. Los sesgos de las máquinas proceden en gran medida de los sesgos de nuestras sociedades. En la última década, los nuevos estudios de epistemología social revelan las injusticias epistémicas y hermenéuticas que privan de voz y de representación a personas con realidades diferentes de las dominantes o normativas. Junto a este camino teórico, la videocreación, entre el documento y el ensayo visual, se presenta como el medio más apropiado para hacer ver y hacer oír, y así se demuestra en las creaciones de ambas artistas, que, con sus variaciones entre el humor, la ironía y la denuncia aciaga, aportan matices inéditos al problema de condenar a las máquinas a nuestra imagen y semejanza y, así, sellar la condena de nuestra especie.
