Som jag förstod det är mycket av tekniken vi gör helt enkelt inte anpassad efter mörkare hud. Blev bland annat tipsad om en jättebra Youtube-film som visade hur färgfilm togs fram, där vi tog fram film som skulle passa vita personer bättre.
Sen handlar det också om hur deras Benchmark:s ser ut. Om algoritmerna får träna sig mycket mer i att känna igen vissa ansikten som vita män exempelvis blir de också mycket bättre på att känna igen dessa. Får den lite data kring mörkhyade, och mörkhyade kvinnor i synnerhet har algoritmerna mycket svårare att uppfatta dessa.
Och utvecklarna kommer inte märka att ansiktsigenkänningen känner igen hörkhyade kvinnor betydligt sämre om benchmarken inte testar skillnader mellan olika grupper specifik. Företagen hade inte brutit ner testen själva så då såg ju siffrorna bättre ut, och i testerna fanns det inte en speciellt stor representation av mörkhyade kvinnor så problemet syntes extra lite.
IBM var ju snabba på att förbättra algoritmerna så fort de blev uppmärksammade på det så så svårt kan det inte vara att att lösa rent tekniskt.
