OpenAI (ChatGPT) dissout l’équipe dédiée aux risques futurs liés à une « super IA »
Après le départ de ses deux responsables, l'équipe d'OpenAI chargée de la sécurité d'une potentielle super intelligence artificielle (IA) a été dissoute et ses membres intégrés à d'autres groupes de recherche de l'entreprise.
Publié le 18-05-2024 par latribune.fr
L'annonce a suscité des inquiétudes. Après le départ de ses deux responsables, l'équipe d'OpenAI (ChatGPT) chargée de la sécurité d'une potentielle super intelligence artificielle (IA) a été dissoute et ses membres intégrés à d'autres groupes de recherche de l'entreprise. OpenAI a confirmé cette information vendredi à l'AFP, précisant que le changement de structure avait commencé il y a plusieurs semaines. L'inventeur de ChatGPT assure que les chercheurs chargés de la sûreté des modèles d'IA pourront ainsi travailler de concert avec les ingénieurs qui développent ces modèles.
Mais les deux responsables de l'ancienne équipe viennent de quitter la société star de la Silicon Valley. Jan Leike a expliqué vendredi sur X, anciennement Twitter, qu'il démissionnait à cause de désaccords fondamentaux avec les dirigeants sur les priorités de l'entreprise : l'innovation ou la sécurité. « Nous avons atteint un point de rupture », a indiqué l'ingénieur qui chapeautait l'équipe chargée du « Superalignement », c'est-à-dire de s'assurer qu'une future IA générale, aussi intelligente que les humains, soit alignée sur nos valeurs.
OpenAI promet une IA générale « sûre et bénéfique »
Sam Altman, le cofondateur et patron de l'entreprise basée à San Francisco, s'est dit « très triste de voir (Jan Leike) partir ». « Il a raison, nous avons encore beaucoup à faire (pour la recherche sur l'alignement et la sécurité), et nous sommes déterminés à le faire », a-t-il ajouté, promettant un message plus lon
Lire la suiteLes dernières actualités
Publié le 09/06/2024 à 11:02:54
La Fed devrait maintenir ses taux directeurs mardi, à rebours de la Banque centrale européennePublié le 09/06/2024 à 10:43:52
Élections européennes : les Français commencent à se rendre aux urnesPublié le 09/06/2024 à 10:43:47
Proche-Orient : au Liban-Sud, la guerre qui ne dit pas son nomPublié le 09/06/2024 à 10:43:43
Rachel Picard, la transfuge du railPublié le 09/06/2024 à 10:43:39
Marylise Léon (CFDT) : « Nous ferons tout pour combattre la réforme de l'assurance chômage »Publié le 09/06/2024 à 10:43:34
Aide à l'Ukraine : des Mirage et des questionsPublié le 09/06/2024 à 10:43:30
Emmanuel Macron et Joe Biden restent unis derrière l’UkrainePublié le 09/06/2024 à 10:43:25
Bruno Cautrès et Marc Lazar (enseignants à Sciences-Po) : « Les partis nationaux-populistes ont imposé les termes du débat européen »Publié le 09/06/2024 à 10:43:21
Avec les européennes, l’heure de vérité pour Emmanuel MacronPublié le 09/06/2024 à 10:43:20
Européennes : un scrutin sur fond de guerrePublié le 09/06/2024 à 10:43:13
Luca de Meo (directeur général de Renault) : « La fragmentation de l’Europe nous tue »Publié le 08/06/2024 à 11:02:57
Élections européennes : de la Slovaquie à la Lettonie en passant par l'Italie, les citoyens européens appelés aux urnes ce samediPublié le 08/06/2024 à 11:02:53
Sécheresse, maladie du dragon jaune : pourquoi les prix du jus d'orange explosentPublié le 08/06/2024 à 10:43:26
Voitures électriques : les ventes ne décollent pas sur le marché de l'occasionPublié le 08/06/2024 à 10:43:26
Alimentée par les dépenses militaires de l'Etat, l'inflation reste élevée en RussiePublié le 08/06/2024 à 10:43:19
Sondage Européennes : LFI termine en dynamique, les écolos plongentPublié le 08/06/2024 à 10:43:19
Billets de trains : le TGV est trop cher et les Ouigo moins attractifs, selon la Fédération des usagersPublié le 08/06/2024 à 10:43:12
On achève bien les élections européennes...Publié le 08/06/2024 à 10:43:04
Logistique urbaine : « Quand on laisse penser que la livraison est gratuite, c'est une catastrophe » (Christelle Savignat, La Poste)Publié le 07/06/2024 à 11:02:54
Russie : le Français arrêté pour espionnage inculpé de collecte de renseignements militaires