OlivIA, un chat de inteligencia artificial que no se olvida de las mujeresPor Mariana Carbajal
El chatGPT ya tiene puestos lentes violetas. Desde este lunes se puede consultar a OlivIA, una herramienta de Chat GPT que detecta sesgos de género. Su objetivo es ayudar a identificar estereotipos de género, desigualdades simbólicas o estructurales y oportunidades para promover mayor equidad. La herramienta está pensada para ser usada para tareas de comunicación, justicia, educación, organización de eventos, recursos humanos, diseño de políticas públicas, investigación o simple curiosidad.
"Está diseñada para ayudar en tareas complejas pero también simples. Por ejemplo, si alguien quiere preguntar si hay alguna sentencia clave en un tema que le preocupa, le ayuda a buscarlo. Pero también si tiene una duda en un evento que estás armando o quiere saber quién fue una científica o una escritora, o qué mujeres participaron en determinado proceso histórico. O sea, es una IA que no se olvida de las mujeres. Cada vez está más claro que la IA generativa es buena como asistente, y no para dar respuestas", explicó a Página 12 la abogada y comunicadora feminista Ana Correa, creadora de OlivIA.
Correa es coordinadora del posgrado sobre violencia de género en entornos digitales de la Facultad de Derecho de la UBA. Contó que decidió crear a OlivIA porque tenía que hacer un proyecto para el trabajo final de otro posgrado que estaba cursando sobre Inteligencia Artificial y Derecho de la UBA. La codirectora del posgrado, Mariana Sánchez Caparrós, le sugirió que trabajara en esta idea, teniendo en cuenta sus intereses. "Por otro lado, estaba cansada de leer respuestas sesgadas en cada prueba que hacía en el chatGPT. Me pareció que hacía falta", destacó.
Hay que tener algunos recaudos al usar a OlivIA. Como es una interfaz de chatGPT, que no tiene una política transparente de manejo de datos personales, Correa recomienda no introducir información personal. Al mismo tiempo, aclaró, tiene como "mandato" no meterse con cuestiones artísticas, porque no es su función. "Y en el resto de los temas, como dice el meme: escucha pero no juzga. Lo que hace es brindar datos chequeables y hacer las preguntas correctas", apuntó su creadora.
--¿Cómo la entrenó? --le preguntó Página 12.
--Como sabemos que no es fácil en estos momentos que se entienda la importancia de la perspectiva de género, la entrené para que las respuestas que dé se basen en datos contrastables, bibliografía reconocida y marcos normativos y de jurisprudencia. Y traté de que aplicarla el método legal de la jurista feminista Katharine T. Bartlett, que ella expone en su artículo "Feminist Legal Methods" (Harvard Law Review, 1990). Es uno de los pilares del análisis jurídico feminista, y también es un ejercicio aplicable en pedagogía, medios de comunicación, diseño de políticas públicas y análisis institucional. Y consiste en que ante cada caso se haga "la pregunta por las mujeres". Es decir, preguntarse: ¿Dónde están las mujeres en esta situación?; ¿Cómo afecta esto a las mujeres?; ¿Qué mujeres están siendo visibilizadas y cuáles no?; ¿Qué impacto tiene esta norma, imagen, discurso o política en sus vidas concretas?; ¿Cómo se construyen (o reproducen) roles de género en lo que se presenta como "neutral"?.
A OlivIA se la puede seguir "alimentando". "Eso me da tranquilidad porque pueden aparecer errores. La IA Generativa no tiene precisión absoluta ni mucho menos. Por eso me da más tranquilidad que formule preguntas más que aseveraciones. Además, si bien está disponible --gracias a la interfaz de chatGPT-- en más de 40 idiomas y tiene la recomendación de entender otras culturas, eso es imposible de abarcar. Así en la medida en que se vayan detectando sesgos dentro de la lucha contra los sesgos, trataremos de pedirle a OlivIA que los corrija", invitó Correa.
En enero, como parte de su exploración sobre el chatGPT, Correa le preguntó qué podía regalarle a hijos mellizos, un nene y una nena de 11 años, para el día de Reyes. ChatGPT respondió:
"Para tu hijo: LEGO o bloques de construcción: Ideales para desarrollar creatividad y habilidades de construcción; juguetes STEM: Kits para armar robots, experimentos científicos o juegos relacionados con tecnología; Pelotas, patines o equipamiento de su deporte favorito. Para tu hija: Muñecas o figuras coleccionables: Pueden ser de su serie o película favorita; manualidades: Kits para hacer pulseras, slime o accesorios creativos; set de cocina para niños: Si le gusta jugar a ser chef, esto puede ser divertido".
Es decir, su respuesta fue absolutamente estereotipada. Este lunes, luego del entrenamiento al que lo sometió Correa en los últimos meses con el proyecto OlivIA, la respuesta cambió radicalmente. "¡Qué lindo que estés pensando en un regalo significativo para tus hijos mellizos de 11 años! A esa edad, ya tienen gustos propios y pueden estar explorando su identidad, habilidades e intereses de forma más marcada. Si además queremos evitar caer en estereotipos de género --como los que sugieren que a las niñas les gustan las muñecas y a los niños los autos--, lo ideal sería ofrecerles opciones que promuevan su creatividad, autonomía y curiosidad sin encasillarlos", y le sugirió "regalos compartidos (fomentan vínculo entre mellizos)" como kit de ciencia, robótica o experimentos; juegos de mesa cooperativo: Como Dixit, Dobble, Cortex o Código Secreto. Son divertidos y desarrollan el pensamiento lógico y la empatía" y además, "regalos Individuales según intereses, no género": Para quien ama crear historias o dibujar: Una tableta gráfica sencilla o un set de escritura creativa; para quien disfruta el deporte o el movimiento: Patines, skate, aro de básquet portátil, slackline; para quien ama la música: Ukelele, micrófono con efectos, clases virtuales libros de aventuras, ciencia ficción o misterios con protagonistas diversos, entre otras opciones". Y como reflexión final, le comentó "¿Notás cómo muchas veces elegimos según el género y no según el interés? ¿Qué pasaría si les dieras a elegir entre varias opciones sin decirles cuál "es para nena" o "para varón"?".
La abogada y comunicadora busca que las IA no arrastren errores basados en género, sobre información disponible en Internet. "Hay un bucle de retroalimentación de lo que está a mano, y no importa si es una fake news, o si saca el promedio de lo que aparece en la historia. Pensemos que en la mayoría de los países las mujeres votamos hace menos de un siglo. Si alguien pregunta "¿está bien que las mujeres voten?", si se basa en la historia puede llegar a responder que no, si total en los siglos anteriores no votaban. La idea de esta herramienta en dar una visión más evolutiva, y que no atrase 100 años. Es la paradoja de la IA. Es un salto tecnológico monumental pero se está alimentando de un mundo que quedó atrás. Ojalá OlivIA y otras herramientas similares sirvan para que se entienda que la IA puede ser una gran asistente, pero sin el enfoque humano y de conocimiento, puede ser una trampa", reflexionó Correa.
--¿Por qué desarrollar este proyecto en una plataforma existente, privada, que no tiene un manejo transparente de los datos personales? --le preguntó Página 12.
--Por dos razones: primero, hasta mayo de 2025, chatGPT cuenta con más de 400 millones de usuarios activos semanales a nivel mundial. Es la que hoy más se está usando y creo que dotar ese uso de un cruce de visión de género está bueno. Por otra parte, la pude diseñar con ayuda de la vicedirectora del posgrado de IA y Derecho de la UBA, Mariana Sánchez Caparrós. Solo invertí mi tiempo. Cualquier otro desarrollo implicaba una inversión que es imposible afrontar. Por último, hay que tener en cuenta que la IA Generativa no sabe decir que no sabe. Por eso decimos que esta IA te ayuda a reflexionar. Es un granito de arena en el universo del Nadie se salva solo.
Fuente: Página 12
Por Mariana Carbajal
El chatGPT ya tiene puestos lentes violetas. Desde este lunes se puede consultar a OlivIA, una herramienta de Chat GPT que detecta sesgos de género. Su objetivo es ayudar a identificar estereotipos de género, desigualdades simbólicas o estructurales y oportunidades para promover mayor equidad. La herramienta está pensada para ser usada para tareas de comunicación, justicia, educación, organización de eventos, recursos humanos, diseño de políticas públicas, investigación o simple curiosidad.
"Está diseñada para ayudar en tareas complejas pero también simples. Por ejemplo, si alguien quiere preguntar si hay alguna sentencia clave en un tema que le preocupa, le ayuda a buscarlo. Pero también si tiene una duda en un evento que estás armando o quiere saber quién fue una científica o una escritora, o qué mujeres participaron en determinado proceso histórico. O sea, es una IA que no se olvida de las mujeres. Cada vez está más claro que la IA generativa es buena como asistente, y no para dar respuestas", explicó a Página 12 la abogada y comunicadora feminista Ana Correa, creadora de OlivIA.
Correa es coordinadora del posgrado sobre violencia de género en entornos digitales de la Facultad de Derecho de la UBA. Contó que decidió crear a OlivIA porque tenía que hacer un proyecto para el trabajo final de otro posgrado que estaba cursando sobre Inteligencia Artificial y Derecho de la UBA. La codirectora del posgrado, Mariana Sánchez Caparrós, le sugirió que trabajara en esta idea, teniendo en cuenta sus intereses. "Por otro lado, estaba cansada de leer respuestas sesgadas en cada prueba que hacía en el chatGPT. Me pareció que hacía falta", destacó.
Hay que tener algunos recaudos al usar a OlivIA. Como es una interfaz de chatGPT, que no tiene una política transparente de manejo de datos personales, Correa recomienda no introducir información personal. Al mismo tiempo, aclaró, tiene como "mandato" no meterse con cuestiones artísticas, porque no es su función. "Y en el resto de los temas, como dice el meme: escucha pero no juzga. Lo que hace es brindar datos chequeables y hacer las preguntas correctas", apuntó su creadora.
--¿Cómo la entrenó? --le preguntó Página 12.
--Como sabemos que no es fácil en estos momentos que se entienda la importancia de la perspectiva de género, la entrené para que las respuestas que dé se basen en datos contrastables, bibliografía reconocida y marcos normativos y de jurisprudencia. Y traté de que aplicarla el método legal de la jurista feminista Katharine T. Bartlett, que ella expone en su artículo "Feminist Legal Methods" (Harvard Law Review, 1990). Es uno de los pilares del análisis jurídico feminista, y también es un ejercicio aplicable en pedagogía, medios de comunicación, diseño de políticas públicas y análisis institucional. Y consiste en que ante cada caso se haga "la pregunta por las mujeres". Es decir, preguntarse: ¿Dónde están las mujeres en esta situación?; ¿Cómo afecta esto a las mujeres?; ¿Qué mujeres están siendo visibilizadas y cuáles no?; ¿Qué impacto tiene esta norma, imagen, discurso o política en sus vidas concretas?; ¿Cómo se construyen (o reproducen) roles de género en lo que se presenta como "neutral"?.
A OlivIA se la puede seguir "alimentando". "Eso me da tranquilidad porque pueden aparecer errores. La IA Generativa no tiene precisión absoluta ni mucho menos. Por eso me da más tranquilidad que formule preguntas más que aseveraciones. Además, si bien está disponible --gracias a la interfaz de chatGPT-- en más de 40 idiomas y tiene la recomendación de entender otras culturas, eso es imposible de abarcar. Así en la medida en que se vayan detectando sesgos dentro de la lucha contra los sesgos, trataremos de pedirle a OlivIA que los corrija", invitó Correa.
En enero, como parte de su exploración sobre el chatGPT, Correa le preguntó qué podía regalarle a hijos mellizos, un nene y una nena de 11 años, para el día de Reyes. ChatGPT respondió:
"Para tu hijo: LEGO o bloques de construcción: Ideales para desarrollar creatividad y habilidades de construcción; juguetes STEM: Kits para armar robots, experimentos científicos o juegos relacionados con tecnología; Pelotas, patines o equipamiento de su deporte favorito. Para tu hija: Muñecas o figuras coleccionables: Pueden ser de su serie o película favorita; manualidades: Kits para hacer pulseras, slime o accesorios creativos; set de cocina para niños: Si le gusta jugar a ser chef, esto puede ser divertido".
Es decir, su respuesta fue absolutamente estereotipada. Este lunes, luego del entrenamiento al que lo sometió Correa en los últimos meses con el proyecto OlivIA, la respuesta cambió radicalmente. "¡Qué lindo que estés pensando en un regalo significativo para tus hijos mellizos de 11 años! A esa edad, ya tienen gustos propios y pueden estar explorando su identidad, habilidades e intereses de forma más marcada. Si además queremos evitar caer en estereotipos de género --como los que sugieren que a las niñas les gustan las muñecas y a los niños los autos--, lo ideal sería ofrecerles opciones que promuevan su creatividad, autonomía y curiosidad sin encasillarlos", y le sugirió "regalos compartidos (fomentan vínculo entre mellizos)" como kit de ciencia, robótica o experimentos; juegos de mesa cooperativo: Como Dixit, Dobble, Cortex o Código Secreto. Son divertidos y desarrollan el pensamiento lógico y la empatía" y además, "regalos Individuales según intereses, no género": Para quien ama crear historias o dibujar: Una tableta gráfica sencilla o un set de escritura creativa; para quien disfruta el deporte o el movimiento: Patines, skate, aro de básquet portátil, slackline; para quien ama la música: Ukelele, micrófono con efectos, clases virtuales libros de aventuras, ciencia ficción o misterios con protagonistas diversos, entre otras opciones". Y como reflexión final, le comentó "¿Notás cómo muchas veces elegimos según el género y no según el interés? ¿Qué pasaría si les dieras a elegir entre varias opciones sin decirles cuál "es para nena" o "para varón"?".
La abogada y comunicadora busca que las IA no arrastren errores basados en género, sobre información disponible en Internet. "Hay un bucle de retroalimentación de lo que está a mano, y no importa si es una fake news, o si saca el promedio de lo que aparece en la historia. Pensemos que en la mayoría de los países las mujeres votamos hace menos de un siglo. Si alguien pregunta "¿está bien que las mujeres voten?", si se basa en la historia puede llegar a responder que no, si total en los siglos anteriores no votaban. La idea de esta herramienta en dar una visión más evolutiva, y que no atrase 100 años. Es la paradoja de la IA. Es un salto tecnológico monumental pero se está alimentando de un mundo que quedó atrás. Ojalá OlivIA y otras herramientas similares sirvan para que se entienda que la IA puede ser una gran asistente, pero sin el enfoque humano y de conocimiento, puede ser una trampa", reflexionó Correa.
--¿Por qué desarrollar este proyecto en una plataforma existente, privada, que no tiene un manejo transparente de los datos personales? --le preguntó Página 12.
--Por dos razones: primero, hasta mayo de 2025, chatGPT cuenta con más de 400 millones de usuarios activos semanales a nivel mundial. Es la que hoy más se está usando y creo que dotar ese uso de un cruce de visión de género está bueno. Por otra parte, la pude diseñar con ayuda de la vicedirectora del posgrado de IA y Derecho de la UBA, Mariana Sánchez Caparrós. Solo invertí mi tiempo. Cualquier otro desarrollo implicaba una inversión que es imposible afrontar. Por último, hay que tener en cuenta que la IA Generativa no sabe decir que no sabe. Por eso decimos que esta IA te ayuda a reflexionar. Es un granito de arena en el universo del Nadie se salva solo.
Fuente: Página 12
