1 of 6

2 of 6

Summary

Compara embeddings de 100 años de texto con el censo de USA
Muestra que embeddings trackea cambios ocupacionales y demográficos en el tiempo
Data

Vectores de word2vec entrenados por Google News Dataset
Para textos históricos, usa vectores entrenados por Google sobre Google Books + Corpus del Historical American English (COHA)
GLoVe sobre corpus del NYT

“We integrate word embeddings trained on 100 y of text data with the US Census to show that changes in the embedding track closely with demographic and occupation shifts over time.”

“For contemporary snapshot analysis, we use the standard Google News word2vec vectors trained on the Google News dataset (24, 25). For historical temporal analysis, we use previously trained Google Books/Corpus of Historical American English (COHA) embeddings, which are a set of nine embeddings, each trained on a decade in the 1900s, using the COHA and Google Books (26). As additional validation, we train, using the GLoVe algorithm (27), embeddings from the New York Times Annotated Corpus (28) for every year between 1988 and 2005. We then collate several word lists to represent each gender† (men, women) and ethnicity‡ (White, Asian, and Hispanic), as well as neutral words (adjectives and occupations). For occupations, we use historical US census data (29) to extract the percentage of workers in each occupation that belong to each gender or ethnic group and compare it to the bias in the embeddings.”

3 of 6

Pasos

Computar la distancia entre palabras asociadas a “mujer” (she, her) y palabras para ocupaciones (carpinterx, abogadx)
Lo mismo para hombre - ocupación
Métrica Distancia mujeres vs distancia promedio para hombres
Compara diferencia en embeddings con diferencia real según censo

4 of 6

Sesgo en ocupaciones

El sesgo ocupacional por género en los embeddings sigue de cerca el sesgo real según el censo

5 of 6

Sesgo temporal

Análisis por década usando el dataset COHA, 1910-1990.
Cambios en embeddings refleja cambios según censo

6 of 6

Estereotipos de género y étnicos