Conseil du statut de la femme
Dans son avis rendu public en septembre 2023, le Conseil du statut de la femme met en relief les risques que des systèmes d’intelligence artificielle reproduisent et accentuent des inégalités entre les femmes et les hommes. Ces risques découlent notamment des données à partir desquelles les systèmes sont entraînés et du fait que les équipes responsables de leur conception sont majoritairement masculines.
Des cadres éthiques font certes valoir l’importance d’un développement responsable de l’intelligence artificielle, mais ils ne sont pas contraignants. C’est d’ailleurs pourquoi des projets législatifs sont à l’étude dans différentes régions du monde.
Le Conseil demande au gouvernement québécois d’agir pour que l’utilisation de l’intelligence artificielle soit en phase avec la quête d’égalité entre les femmes et les hommes. Son analyse pointe plusieurs pistes d’action à sa portée, à titre de législateur, de subventionnaire et d’utilisateur de l’intelligence artificielle au sein de l’administration publique québécoise.
Consulter l’avis sur l’intelligence artificielle : des risques pour l’égalité entre les femmes et les hommes
« L’égalité entre les femmes et les hommesdoit faire l’objet d’une préoccupation prioritaire dès la conception d’un SIA et tout au long de son cycle de vie […]. »
Le Conseil constate que le gouvernement du Québec est résolument engagé dans l’essor de l’intelligence artificielle. Il relève notamment des mesures financières pour encourager les entreprises à concevoir et à implanter des systèmes ainsi qu’une stratégie d’intégration de l’intelligence artificielle dans l’administration publique. Soulignant le devoir d’exemplarité du gouvernement et sa responsabilité dans la quête d’égalité entre les sexes, le Conseil demande aux ministres responsables de telles activités de veiller à l’adoption de bonnes pratiques afin que soient pris en compte les risques de reproduction des inégalités entre les femmes et les hommes. À ce sujet, il réfère notamment aux choix de données, aux évaluations des incidences ainsi qu’aux exigences de transparence et d’explicabilité.
2) Le Conseil du statut de la femme recommande au ministre de l’Économie, de l’Innovation et de l’Énergie d’exiger des entreprises qui demandent un financement public pour développer ou utiliser des SIA qu’elles adoptent, aux fins du projet financé, de bonnes pratiques (comme celles en matière de choix de données, d’évaluations des incidences et d’exigences de transparence et d’explicabilité) pour réduire les risques de reproduction et d’accentuation des inégalités entre les femmes et les hommes.
3) Le Conseil du statut de la femme recommande au ministre de la Cybersécurité et du Numérique de veiller à ce que les appels d’offres gouvernementaux visant l’intégration de SIA dans l’administration publique exigent des entreprises qu’elles adoptent de bonnes pratiques (comme celles en matière de choix de données, d’évaluations des incidences et d’exigences de transparence et d’explicabilité) pour réduire les risques de reproduction et d’accentuation des inégalités entre les femmes et les hommes.
« Les enjeux éthiques et sociauxque ces outils comportent commandent […] de tenir compte de considérations du domaine des sciences humaines et sociales. »
Le Conseil souligne qu’il importe que la conception et l’implantation de SIA au Québec bénéficient de l’expertise de disciplines comme l’éthique, le droit et la sociologie, pour mieux appréhender les risques de reproduction et d’accentuation des inégalités entre les femmes et les hommes. Il fait valoir aux ministres concernés que cette contribution des sciences humaines et sociales est requise dans les entreprises et organisations qui souhaitent implanter des SIA ou qui s’affairent à les mettre au point. Il signale aussi qu’elle doit trouver sa place dans la formation des personnes appelées à travailler en IA.
4) Le Conseil du statut de la femme recommande à la ministre de l’Enseignement supérieur d’inciter les milieux d’enseignement concernés à inclure aux programmes d’études liés à la mise au point de SIA (ex. : informatique) des contenus sur les enjeux sociaux de l’IA, notamment pour ce qui est des risques de reproduction et d’accentuation des inégalités entre les femmes et les hommes.
5) Le Conseil du statut de la femme recommande au ministre de l’Économie, de l’Innovation et de l’Énergie d’exiger des entreprises qui demandent un financement public pour développer ou utiliser des SIA qu’elles recourent, aux fins du projet financé, à des expertises en sciences humaines et sociales.
6) Le Conseil du statut de la femme recommande au ministre de la Cybersécurité et du Numérique de :
Au Québec, seulement 19 % des postes professionnels en intelligence artificielle sont occupés par des femmes.* *Selon TECHNOCompétences (2021)
Les femmes occupent moins de 20 % des postes du secteur de l’intelligence artificielle. Leur participation en IA demeure essentielle parce qu’elles sont davantage susceptibles de prendre en compte les réalités féminines et parce qu’elles composent la moitié de la société que l’IA transforme considérablement.
Le Conseil recommande aux ministres concernés de poursuivre leurs actions visant à améliorer la représentation des femmes en sciences, technologies, ingénierie et mathématiques.
7) Le Conseil du statut de la femme recommande au ministre de l’Économie, de l’Innovation et de l’Énergie d’exiger des entreprises du secteur de l’IA qui bénéficient d’un financement public qu’elles disposent de mesures favorisant le recrutement et le maintien en emploi de femmes.
8) Le Conseil du statut de la femme recommande au ministre de la Cybersécurité et du Numérique de :
9) Le CSF recommande au ministre de l’Éducation, à la ministre de l’Enseignement supérieur et au ministre de l’Économie, de l’Innovation et de l’Énergie de poursuivre leurs efforts en vue de favoriser la diversification des choix de carrière et de maintenir leur soutien aux organisations qui mènent des activités en vue d’accroître le nombre de filles et de femmes dans les STIM.
L’avis du Conseil est produit dans un contexte de grande mouvance, marqué par le rythme effréné des avancées technologiques et une multiplicité d’actions pour faire face à leurs enjeux éthiques et sociaux. Fidèle à sa mission, il demeure vigilant sur les moyens mis en place pour arrimer l’IA à la valeur d’égalité entre les femmes et les hommes.
Recevez toutes les publications du Conseil en vous abonnant à notre liste de diffusion.
