Το 2015, όταν δεν μπορούσαμε ακόμη να διανοηθούμε τη δυνατότητα ύπαρξης του «ChatGPT», η τεχνητή νοημοσύνη είχε ήδη επηρεάσει σε μεγάλο βαθμό τα άτομα που αναζητούσαν εργασία.
Εκείνη τη χρονιά, η Amazon συνειδητοποίησε ότι οι αλγόριθμοι της μηχανικής μάθησης, που είχαν σκοπό να επιταχύνουν τη διαδικασία πρόσληψης, ήταν προκατειλημμένοι κατά των γυναικών.
Συγκεκριμένα, κατά λάθος διέγραψαν βιογραφικά που εμπεριείχαν τη λέξη «γυναικεία». Για παράδειγμα, εάν μια υποψήφια είχε συμμετάσχει σε «γυναικείο σκακιστικό κλαμπ», σύμφωνα με δημοσίευμα του Reuters.
Οι αλγόριθμοι εκπαιδεύτηκαν για να αναζητούν υποψηφίους με χαρακτηριστικά παρόμοια με αυτών που είχε προσλάβει προηγουμένως η Amazon, αναπαράγοντας προϋπάρχουσες ανισότητες μεταξύ των φύλων.