Course à l'IA : « Les entreprises ne peuvent pas se permettre de sacrifier l'éthique »
ENTRETIEN. En 2018, Irene Solaiman avait mené le déploiement de GPT-2, l'ancêtre du GPT-3 et ChatGPT, alors qu'elle travaillait pour OpenAI. Désormais chercheuse sur l'impact social de l'IA et directrice de la politique chez la plateforme d'intelligence artificielle Hugging Face, Irene Solaiman vient de publier un article de recherche dans lequel elle alerte les entreprises sur les garde-fous éthiques à mettre en place avant de lancer un service d'IA. Une vigilance nécessaire à l'heure où les géants de la tech, à commencer par Microsoft et Google, s'engagent dans une course à l'IA.
Publié le 25-02-2023 par François Manens
LA TRIBUNE - ChatGPT a-t-il révolutionné la façon dont les chercheurs voient les modèles de langage ?
IRENE SOLAIMAN - ChatGPT relève du jamais vu par sa viralité. Mais je ne dirais pas que la technologie elle-même est sans précédent. Plus généralement, même si les modèles de langage deviennent plus puissants, c'est surtout la façon dont les utilisateurs interagissent avec qui a changé. Quand j'ai commencé à travailler sur les modèles de langage il y a quelques années, il fallait avoir un certain niveau de compétence informatique pour envoyer des requêtes, mais ce n'est plus le cas aujourd'hui. L'IA s'est démocratisée, il faut donc des interfaces qui améliorent l'accessibilité. Le problème, c'est que donner plus d'accessibilité mène à plus de potentiels usages malveillants et c'est pourquoi il nous faut intégrer des protections pour garantir que l'usage de la technologie reste éthique.
Dans votre article, vous écrivez : « puisqu'un système ne peut pas être entièrement sans danger et dépourvu de biais pour tous les groupes de personnes, et qu'il n'existe aucun standard clair pour déterminer si un système est suffisamment sûr pour une diffusion publique, des discussions supplémentaires doivent être menées avec toutes les parties prenantes ». Ce constat signifie-t-il que les modèles de langages sont condamnés à être défaillants ?
Je demande toujours pour qui nous construisons ces modèles, et à qui y donne-t-on accès. Un dicton dans le milieu est « garbage in, garbage out » [si o
Lire la suiteLes dernières actualités
Publié le 02/05/2024 à 10:42:31
Microsoft va investir des sommes gigantesques dans l'IA et le cloud en Asie du Sud-EstPublié le 02/05/2024 à 10:42:27
E-commerce : les sites chinois comme Shein ou Temu font de l'ombre aux plateformes européennes de commerce en lignePublié le 02/05/2024 à 10:42:23
Japon : la faiblesse du yen fait le bonheur des touristesPublié le 02/05/2024 à 10:42:19
Crise de l'agriculture : réunion cruciale entre Emmanuel Macron et les syndicats agricolesPublié le 02/05/2024 à 10:42:15
Malgré le rebond de l'inflation, la Fed maintient ses taux échangés et écarte une haussePublié le 02/05/2024 à 10:42:11
Le système de santé français en quête de remèdesPublié le 02/05/2024 à 10:42:10
Malgré la chute des ventes de Dacia, Renault progresse plus vite que Stellantis en FrancePublié le 02/05/2024 à 10:42:06
Sous-marins : les 13 campagnes à l'exportation de Naval GroupPublié le 02/05/2024 à 10:42:02
Investissements étrangers : la France reste championne d’Europe de l’attractivité économiquePublié le 02/05/2024 à 10:41:55
Construction en bois : comment la France veut rattraper son retard en 2030Publié le 01/05/2024 à 10:42:11
Fermeture de l'A13 : les covoitureurs ne paieront que la moitié du péage de l'A14Publié le 01/05/2024 à 10:42:11
Vers l'irréversibilité de la construction du porte-avions de nouvelle générationPublié le 01/05/2024 à 10:42:11
Pourquoi la trajectoire de 1% de croissance promise par le gouvernement est possiblePublié le 01/05/2024 à 10:42:07
Meta visé par Bruxelles : le crash-test du DSA contre l'ingérence étrangère à la veille des électionsPublié le 01/05/2024 à 10:42:02
L’IA, vorace en énergie, va-t-elle faire flamber la facture énergétique ?Publié le 01/05/2024 à 10:42:02
Arnaud Lagardère ou la longue chute d’un héritier du capitalisme françaisPublié le 01/05/2024 à 10:42:01
Nucléaire : EDF et le sud-coréen KHNP en finale pour le juteux marché des EPR tchèquesPublié le 01/05/2024 à 10:42:01
Réformes : ce que contient la feuille de route du gouvernement envoyée à Bruxelles pour 2024Publié le 01/05/2024 à 10:41:56
Les vins de Bordeaux en croisade contre « les prix inadmissibles »Publié le 01/05/2024 à 10:41:53
Automobile : l'Etat compte s'immiscer dans les tensions entre constructeurs et fournisseurs