En un mundo cada vez más digitalizado, la inteligencia artificial (AI) se ha convertido en una herramienta clave para generar imágenes y contenido, pero ¿qué tan precisa y justa es esta realidad creada por la AI?
Un reciente reportaje de The Washington Post, firmado por Nitasha Tiku, Kevin Schaul y Szu Yu Chen, pone de manifiesto una preocupante tendencia en las herramientas de imágenes de AI, revelando que estas tienden a generar clichés inquietantes y estereotipos dañinos.
Realidad creada por la AI
Cuando se encara a la Realidad creada por la AI, las mujeres asiáticas son representadas como hipersexuales; los africanos, como primitivos; los europeos, como mundanos; los líderes, como hombres y los prisioneros, como negros. Estos sesgos no son un reflejo fiel del mundo real, sino el resultado directo de los datos con los que se entrena a estas tecnologías. La información extraída de Internet para alimentar estos sistemas puede estar contaminada con pornografía, misoginia, violencia e intolerancia, creando así una realidad distorsionada.
Tambièn puedes leer: Carlos Fernando Galán de Nuevo Liberalismo es el nuevo alcalde de la ciudad de Bogotá
Stability AI, la empresa detrás del popular generador de imágenes Stable Diffusion XL, aseguró haber realizado una inversión significativa para minimizar el sesgo en su último modelo, lanzado en julio. Sin embargo, según The Washington Post, a pesar de estos esfuerzos, la herramienta sigue amplificando estereotipos occidentales obsoletos y transfiriendo clichés extraños a objetos cotidianos como juguetes y hogares.
Universidad de Stanford
Pratyusha Kalluri, investigadora de inteligencia artificial en la Universidad de Stanford, comparó la situación con un juego de «golpear al topo», en el que la herramienta responde principalmente a lo que capta más atención, perpetuando así los sesgos existentes. Christoph Schuhmann, cofundador de LAION, una organización sin fines de lucro que proporciona datos a diversas empresas, incluida Stability AI, argumenta que los generadores de imágenes tienden a reflejar el mundo desde una perspectiva occidental debido a que la mayoría de los datos provienen de regiones donde predominan usuarios de Internet blancos.
El reportaje del Post también incluye ejemplos prácticos de cómo estos sesgos de realidad creada por la AI se manifiestan en los resultados generados por Stable Diffusion XL. Al solicitar imágenes de casas en diferentes países, la herramienta proporcionó conceptos cliché y estereotipados para cada ubicación, ignorando la diversidad y la realidad contemporánea de esos lugares.
Tambièn puedes leer: China regresa por cuadragésima vez a la Antártida con expedición científica
Mismo modelo, mismo problema
OpenAI, otra empresa líder en el campo de la inteligencia artificial, admitió en documentos recientes que su último generador de imágenes, DALL-E 3, muestra una tendencia hacia un punto de vista occidental, representando de manera desproporcionada a individuos que parecen blancos, femeninos y jóvenes.
Estos sesgos en la generación de imágenes no son un problema menor. A medida que las imágenes sintéticas creadas por AI se vuelven más prevalentes en la web, existe el riesgo de que estereotipos obsoletos y ofensivos cobren nueva vida y se codifiquen en el futuro de la creación de imágenes, perpetuando ideales dañinos relacionados con el cuerpo, el género y la raza. La realidad creada por la AI dista mucho de la que observamos cotidianamente, y es imperativo abordar estos sesgos para asegurar una representación justa y precisa de nuestro mundo diverso y complejo.
 se ha convertido en una herramienta clave.){kind=link}