L’IA génère des inquiétudes tant sur le plan sociologique qu’humain. L’IA générative soulève encore plus de problématiques et préoccupe. La question du climat est mise en avant. On parle d’IA responsable et plusieurs dispositifs sont mis en place
L'intelligence artificielle (IA) et la digitalisation sont exposés à des risques sociaux importants pouvant se matérialiser par des pertes d'emplois, des problèmes de sécurité accrus ou une discrimination croissante. L'IA générative (IAg) pourrait conduire à une automatisation massive des tâches qui impliquerait potentiellement des pertes d'emplois dans les secteurs les plus impactés. Il existe un risque majeur d'incompatibilité entre les bénéfices financiers (court terme) induits par le développement et le déploiement de l'IA, en particulier avec l'IAg, et sa contribution à l’humanité. Une récente étude de l'Institut de recherche Capgemini a révélé que 72 % des consommateurs s'inquiétaient de l'usage inapproprié de la technologie IAg.
Selon l'AI Incidents Monitor (AIM) de l'OCDE, ces risques ont considérablement augmenté depuis le début de 2023. L’IAg est également exposée à des risques environnementaux sur toute sa chaîne de valeur, et son usage croissant devrait conduire à une augmentation des émissions de carbone. Les constructions de nouvelles infrastructures de centres de données questionnent également la capacité des réseaux énergétiques nationaux à répondre à la hausse attendue de la demande d'électricité liée à l'IA et à fournir suffisamment d'électricité renouvelable. Par ailleurs, nous devons également tenir compte du besoin important de minéraux et métaux rares, et de la génération de déchets électroniques qui résulteraient de la production d’infrastructures et d'applications liées à l’IAg.
Pour les investisseurs, il n'y a aucune solution clé en main pour faire face aux multiples risques posés par l'adoption rapide de l’IA et de l’IAg. Les outils d'engagement et de stewardship seront les plus efficaces. Afin d’atténuer les risques sociaux et environnementaux posés par ces technologies, les investisseurs attendent des entreprises (qui les développent ou les utilisent) la mise en place de pratiques responsables d'IA.
Les organisations doivent établir des principes clairs sur la manière dont elles appliquent l’IAg, et mettre en place des garde-fous afin d'en assurer la mise en œuvre en toute sécurité et éviter notamment les biais, la discrimination, la désinformation et les atteintes à la vie privée. Si les impacts environnementaux de l’IA peuvent s’atténuer avec la réduction de la consommation d'énergie des utilisateurs finaux, l'efficacité énergétique des centres de données ou encore la décarbonisation du réseau électrique, les investisseurs restent préoccupés quant à la capacité du secteur de la technologie à atteindre ses objectifs en matière de climat. Les développeurs et les utilisateurs de l'IA devront investir de manière substantielle dans la génération d'énergie renouvelable additionnelle.
