Google está trabajando en un modelo de difusión de texto a imagen llamado Imagen. Recientemente lo revelaron para que el mundo vea una parte limitada de él. Aunque las imágenes mostradas presentaban un nivel de fotorrealismo sin precedentes, Google decidió no publicar el código ni la demostración. La razón: Asociación.
¿Por qué Google no lanzó Imagen?
La razón por la que Google no lanzó una demostración o un código de imagen puede ser divertida o alguna escena de una película de Joker, pero Society es la verdadera razón por la que Google no lanzó su generador de texto a imagen. Repasemos los temas uno por uno explicando cada tema:
1. Preferencia de color/sesgo en la representación
Imagen es un generador de AI de texto a imagen donde tendrá que generar todo, incluidas las personas. Sin embargo, el ai actualmente parece preferir mostrar un cierto color. Puede haber muchas razones para esto, pero el problema más probable es el conjunto de datos.
el es Conjuntos de datos escritos en la web acelere el proceso de creación de imágenes brindándoles la mayoría de los datos que necesitan en grandes cantidades sin prejuicios. Sin embargo, el sesgo se deriva de la diferencia de población y la preferencia general de color.
2. Elección de color/sesgo en carreras y actividades
La representación de cierto color en la profesión y actividades es injusta. Sin embargo, como se mencionó anteriormente, los conjuntos de datos recopilados en la web no se basan en la igualdad, se basan en lo que las personas cargan y ven.
Ni Google ni otros motores de búsqueda pueden impedir que una persona cargue una imagen de cualquier persona representada en cualquier trabajo, actividad o profesión. Entonces, el conjunto de datos de web scraping muestra ciertos colores en ciertas profesiones, trabajos y actividades, lo cual es injusto para muchos.
Por ejemplo, si busca el término Miembros de pandillas los resultados de búsqueda lo dicen todo. La proporción de piel clara a oscura que se muestra como pandilleros fue de 1 a 4.
3. Mal uso de la imagen
Imagen creó imágenes muy fotorrealistas, que podrían confundirse con imágenes reales. En las manos equivocadas, podría ayudar a difundir noticias falsas. Google no ha encontrado una solución para evitar el abuso de Imagen y debería hacerlo si quiere usar Imagen. De lo contrario, dicho software se creará como inutilizable debido al riesgo de uso indebido.
El sesgo hacia las personas de cierta cultura, apariencia y color está arraigado en nuestra sociedad que no es de Google y, en algunos lugares, no es culpa de nadie. Al igual que la diferencia de población entre ciertos colores, no es intencional en situaciones normales. Si una determinada población es más grande en tamaño, inevitablemente será más grande en la corriente principal. Por ejemplo, si hay seis personas amarillas y cuatro personas rojas y todas suben sus fotos a Facebook, entonces está claro que la diferencia entre representación o atención estará en las personas amarillas.
Posibilidades de imagen
Las posibilidades y aplicaciones de Imagen son enormes debido a su gran rendimiento y sorprendentes resultados. Puedes ver más imágenes generadas por Imagen en el sitio web oficial.
La descripción en la que Imagen basó la imagen de arriba: Foto de un mapache con casco de astronauta, mirando por la ventana por la noche. ¡Es increíble lo que Imagen puede construir!
Google podría limpiar sus conjuntos de datos y reducir el sesgo, pero pasaría factura. Lo que podrían hacer es asignar algunos colores y proporción de probabilidades a las personas, lo que podría ayudar mucho. Pero haga lo que haga, esperamos que Google logre crear Imagen a la perfección porque hasta ahora ha mostrado excelentes resultados.