Por: Susanna Ray, redactora de Microsoft.
Gran parte de lo que la IA sabe sobre el mundo proviene de datos que la mayoría de la gente nunca ve y de procesos técnicos que determinan qué se incluye o se oye.
A medida que la IA se vuelve cada vez más influyente en la vida diaria, una nueva plataforma pretende ayudar a las comunidades a participar en esa base que se ha comenzado a construir entre bastidores para asegurar que se representen con precisión y justicia, en especial en imágenes. Llamado Community Library Creator, el esfuerzo de investigación de Microsoft ofrece a los grupos una manera estructurada de ayudar a moldear cómo aparecen en las imágenes generadas por IA.
«No existe una verdad fundamental sobre cómo deberían representarse las personas», dice Anja Thieme, investigadora principal en Microsoft con formación en psicología social e interacción humano-ordenador. «Debe definirse y negociarse colectivamente.»
Las comunidades construyen sus propias bibliotecas en lugar de depender de datos irregulares que existen en línea, a través de la nueva herramienta para ayudarles a definir cómo es una buena representación y construir los datos alrededor de ella de manera que los modelos y sistemas de IA puedan aprender para reflejar mejor su existencia.
¿Qué es una biblioteca comunitaria?
Una biblioteca comunitaria es una colección de imágenes o vídeos creados por un grupo de personas con experiencias compartidas — como una discapacidad, identidad o perspectiva vivida — que trabajan juntos a través de organizaciones de defensa para mostrar cómo quieren ser representados en la IA. Cada imagen se acompaña de descripciones que explican qué es lo que importa sobre ella, para añadir contexto que ayuda a los sistemas de IA a entender no solo cómo es algo, sino también lo que representa desde la perspectiva de la comunidad.
El software Community Library Creator, desarrollado por Thieme y su equipo junto con el equipo de Accesibilidad de Microsoft, proporciona las herramientas y la estructura necesarias para guiar ese proceso. Pero las decisiones sobre qué incluir, enfatizar o cambiar vienen de la propia comunidad. El resultado es un recurso que puede utilizarse para ayudar a los sistemas de IA a aprender de experiencias vividas más diversas, no solo de patrones en datos extraídos de internet.
¿Por qué necesitamos bibliotecas comunitarias?
La manera en que se retrata a las personas moldea cómo se les entiende en el mundo y qué oportunidades tienen a su alcance. Y a medida que las imágenes generadas por IA se vuelven más comunes, esas representaciones son cada vez más establecidas por estos sistemas.
Los modelos de IA aprenden patrones a partir de grandes colecciones de imágenes y texto, y pueden repetir cualquier laguna o distorsión que exista en esos datos. La gran cantidad de imágenes en internet de enanos místicos, por ejemplo, puede llevar a que los sistemas de IA generen que personas con enanismo tengan orejas puntiagudas u otras características fantásticas, dice Thieme. Y las personas con diferencias de extremidades aparecen en internet, de manera principal, en entornos médicos o deportivos, lo que significa que la IA no tiene el contexto necesario para mostrarlas en otras situaciones típicas, como trabajar o quedar para tomar un café con amigos.
En lugar de dejar la formación a los ingenieros o a lo que exista en internet, estas bibliotecas ofrecen a las comunidades una forma de moldear de manera activa tanto los datos como los estándares de evaluación que dirigen el desarrollo de la IA. Eso importa porque la representación no es solo técnica, dice Thieme, sino que debe definirse por las personas a las que afecta, basándose en experiencias vividas que otros no pueden replicar por completo.
Los miembros de grupos de defensa utilizan Community Library Creator para anotar imágenes y destacar detalles importantes para comprender sus experiencias y perspectivas de vida.
Community Library Creator incluye un proceso de evaluación en el que los miembros de la comunidad revisan imágenes generadas por IA y valoran qué tan bien reflejan la representación deseada por su comunidad.
En la herramienta Community Library Creator, los miembros de grupos de defensa revisan imágenes y explican por qué representan a su comunidad y qué quieren que otros entiendan sobre las personas y experiencias representadas.
¿Cómo funcionan en realidad las bibliotecas comunitarias?
Las bibliotecas comunitarias pueden construirse mediante el proceso estructurado que los investigadores de Microsoft crearon para la plataforma, basándose en principios de diseño inclusivo para ayudar a definir algo abstracto —la representación— más fácil.
Empieza de forma sencilla: los miembros de la comunidad eligen un pequeño conjunto de imágenes que resultan significativas y explican el por qué a través del método paso a paso del Community Library Creator. Esas reflexiones les ayudan a centrarse en temas clave —como la vida familiar, el trabajo o las rutinas cotidianas— que representan sus experiencias compartidas.
A partir de ahí, seleccionan una colección más amplia de imágenes o vídeos organizados en torno a esos temas, al añadir descripciones detalladas que explican qué es importante en cada escena. Una comunidad de personas negras con albinismo, por ejemplo, podría destacar elementos como llevar gorros para protegerse del sol o sentarse cerca de su trabajo debido a las discapacidades visuales comunes a su condición — detalles que ayudan a los sistemas de IA a comprender mejor su vida diaria y qué hace únicas las experiencias de su comunidad.
Cada biblioteca pretende recopilar unas 400 imágenes «del mundo real» de miembros de la comunidad, para capturar una variedad de experiencias con un enfoque en la calidad sobre la cantidad, dice Thieme.
Esas imágenes y anotaciones se convierten en material de formación. Los prompts generados desde la biblioteca se utilizan para crear imágenes con IA, que los miembros de la comunidad revisan y califican según lo bien que encajen con la representación deseada. Con el tiempo, esas valoraciones crean un bucle de retroalimentación, para brindar a los sistemas de IA una visión más clara de lo que significa «bueno», según la definición de la comunidad, dice Thieme.
¿Quién es el propietario de los datos y qué ocurre una vez que se construye una biblioteca comunitaria?
Una parte clave del modelo es que la propia comunidad, a través de la organización de defensa que construyó la biblioteca, la posee y decide si y cómo se comparten los datos, incluido si los pone a disposición de investigadores y desarrolladores en una plataforma como Hugging Face, o si impone límites a su uso.
Eso también significa que la comunidad mantiene la supervisión. Las imágenes se recopilan con consentimiento, y si alguien quiere que sus datos se eliminen más adelante, la comunidad puede hacer ese cambio. Habilitar ese tipo de control no es habitual en la IA hoy en día, dice Thieme, y requirió trabajar en contratos y procesos internos para garantizar que fuera posible.
En un ámbito donde gran parte de los datos actuales de IA se extraen de enormes cantidades de información en línea, con poca visibilidad sobre su origen y sin forma de rastrearlo, ese enfoque devuelve el control a las personas representadas — no solo en cómo se representan, sino en cómo se utilizan sus datos.
«Es poner a las personas, sus datos y sus derechos en primer lugar», dice Thieme, «y creo que necesitamos ver esto mucho más en general en el ámbito de la IA.»
¿Qué sigue con estas bibliotecas? ¿Cómo podrían moldear el futuro de la IA?
Por ahora, el Community Library Creator es una herramienta que se utiliza de manera controlada con organizaciones específicas de defensa. Thieme y Cecily Morrison co-lideran un equipo — que incluye ingenieros e investigadores en áreas como diseño, accesibilidad, aprendizaje automático e interacción humano-ordenador — que trabajan en los controles de ingeniería, seguridad y legales necesarios para expandirse a más comunidades.
Las bibliotecas son una forma de ampliar quién puede moldear la IA en primer lugar — no solo los sistemas en sí, sino los datos y criterios que definen el éxito detrás de ellos. A medida que avance el trabajo, las bibliotecas podrían involucrar a más comunidades y ayudar a entrenar y evaluar futuros modelos de IA.
«En verdad intentamos ampliar la participación en la IA y quién tendrá voz en la configuración del futuro», dice Thieme. «Abrimos caminos y brindamos herramientas para que otros tengan la oportunidad de crear el futuro de la IA. Eso es, para mí, lo más importante.»
Descubran más sobre cómo las comunidades ayudan a moldear la IA: Por qué una mejor IA empieza con las personas que a menudo echa de menos
Imagen principal: Fotos de bibliotecas comunitarias creadas por organizaciones de defensa que trabajan con la herramienta Community Library Creator de Microsoft. La plataforma ayuda a las comunidades a definir cómo quieren ser representadas y a aportar datos de entrenamiento para sistemas de IA. Fotos proporcionadas por Black Albinism, Kilimanjaro Blind Trust Africa (KBTA), Ottobock y Sociedad de Baja Estatura Kenia (SSSK).
Susanna Ray escribe sobre la IA y la tecnología, con relatos que muestran su impacto real y examinan cómo la innovación transforma el trabajo, los negocios y la sociedad. Antes, reportó para Bloomberg News y otras grandes organizaciones internacionales de noticias en EE. UU. y en el extranjero, donde cubría temas que iban desde política y gobierno hasta negocios y aviación. Sigan su trabajo en Microsoft Source.