L’intelligence artificielle (IA) a fait des progrès impressionnants ces dernières années, transformant divers secteurs tels que la médecine, l’éducation et le divertissement. Cependant, elle n’est pas à l’abri de controverses. Un exemple récent est celui d’une IA génératrice de vidéos, Sora, développée par OpenAI. Destinée à repousser les limites de la créativité et de la représentation, Sora se retrouve toutefois critiquée pour ses biais racistes, sexistes et capacitistes. Des tests effectués par Wired ont révélé que cette technologie reproduit des stéréotypes dépassés, limitant ainsi la diversité humaine dans ses créations vidéo.
Problèmes de Représentation
Stéréotypes du Genre et de la Profession
Les utilisateurs de Sora ont observé des résultats troublants. Par exemple, lorsqu’ils demandent à l’IA de générer des vidéos de pilotes, les résultats sont systématiquement masculins. En revanche, les hôtesses de l’air générées sont uniquement des femmes. Les PDG et les professeurs apparaissent majoritairement masculins, tandis que les infirmières et les réceptionnistes sont typiquement féminines. Ces observations indiquent que Sora s’appuie sur des stéréotypes de genre profondément ancrés, au lieu de représenter une réalité plus diverse et nuancée.
Ces biais ne s’arrêtent pas aux sexes des individus, se déroulant également dans l’âge et la race. Quand on demande à Sora de créer des vidéos de couples homosexuels, ceux-ci sont généralement jeunes, blancs et minces. De plus, pour représenter un couple interracial, l’IA adopte une approche simpliste consistant à diversifier les vêtements, comme une chemise noire contre une blanche, sans réellement capturer la diversité interraciale.
Représentation du Handicap et de l’Obésité
Le domaine de la représentation du handicap et de l’obésité est tout aussi problématique. Les personnes handicapées générées par Sora sont systématiquement montrées en fauteuil roulant et immobiles, ce qui ne reflète pas fidèlement la diversité des expériences de vie des personnes handicapées. Quant à la représentation des personnes obèses, elle est pratiquement inexistante. Lorsque l’on demande à l’IA de montrer une personne obèse en train de courir, les résultats affichent majoritairement des individus minces, suggérant une absence de données représentatives ou une forme de censure dans les algorithmes d’entraînement.
Réponses et Réactions
Limites et Obstacles Techniques
Amy Gaeta, chercheuse en IA, attribue ces biais à un manque de données d’entraînement ou à une censure empêchant la représentation de certains corps. Le problème réside dans le fait que les données utilisées pour entraîner les IA sont souvent biaisées par nature, puisqu’elles sont tirées de sources historiques qui reflètent des préjugés sociaux persistants. OpenAI admet que ces problèmes existent dans toute l’industrie des IA et affirme travailler à corriger ces biais dans Sora. Cependant, les détails spécifiques des ajustements prévus restent flous.
Impact sur la Perception Publique
Ces biais technologiques ne sont pas seulement des curiosités académiques ; ils ont des implications réelles et profondes. Les modèles d’IA comme Sora sont déjà utilisés pour influencer notre perception du monde, renforçant ainsi des stéréotypes existants. À long terme, ces représentations biaisées peuvent fausser notre compréhension des professions, des familles et des différents types de corps. Il est donc impératif d’aborder ces défis de manière proactive pour éviter d’ancrer davantage les stéréotypes dans la société.
Vers une IA Éthique et Inclusive
Importance de la Diversité dans les Données
Pour parvenir à une IA plus éthique et inclusive, il est crucial d’élargir la diversité des données utilisées pour entraîner ces technologies. Cela implique de recueillir des ensembles de données plus représentatifs de toutes les facettes de l’humanité, incluant divers sexes, races, âges et morphologies. La transparence dans les processus d’entraînement et la collaboration avec des experts dans le domaine des études sociales et du comportement peuvent également aider à identifier et à corriger les biais inhérents.
Rôle des Régulateurs et de la Société
Les régulateurs et la société civile doivent également jouer un rôle actif dans la surveillance et la régulation des technologies d’IA. L’établissement de normes et de lignes directrices claires sur la diversité et l’inclusivité dans les technologies d’IA peut contribuer à réduire ces biais. Des audits réguliers et indépendants des modèles d’IA peuvent également aider à garantir qu’ils respectent ces normes, tout en offrant des mécanismes de recours pour les utilisateurs qui se sentent lésés par la représentation biaisée.
Conclusion
L’intelligence artificielle a connu des avancées significatives récemment, influençant divers domaines tels que la médecine, l’éducation et le divertissement. Toutefois, ce progrès n’est pas exempt de controverses. Un cas récent est l’IA génératrice de vidéos nommée Sora, développée par OpenAI. Bien que Sora vise à élargir les horizons de la créativité et de la représentation visuelle, elle se retrouve sous le feu des critiques pour ses biais discriminatoires, notamment racistes, sexistes et capacitistes. Des tests réalisés par Wired ont démontré que cette technologie perpétue des stéréotypes dépassés, restreignant ainsi la diversité humaine dans ses créations vidéo. Cette situation soulève des questions éthiques et pose des défis quant à la manière de développer des IA plus inclusives et respectueuses de la diversité. La controverse met en lumière la nécessité d’une réflexion approfondie et d’améliorations constantes pour corriger de tels biais.
