Representation Bias, wie von Suresh et al. beschrieben, bezieht sich auf Verzerrungen, die entstehen, wenn die Daten, die zur Ausbildung eines Modells verwendet werden, nicht die tatsächliche Verteilung oder Vielfalt der realen Welt widerspiegeln. Dies kann dazu führen, dass das Modell bestimmte Gruppen oder Merkmale über- oder unterrepräsentiert, was zu unfairen oder ungenauen Vorhersagen führt. Solche Verzerrungen können in verschiedenen Kontexten auftreten, beispielsweise in der Gesichtserkennung, der Sprachverarbeitung oder in anderen Anwendungen der Künstlichen Intelligenz, wo die Trainingsdaten nicht repräsentativ für die Zielpopulation sind.