Le CEO d’OpenAI, Sam Altman, a quitté le Comité de Sécurité de l’entreprise (Safety and Security Committee), un groupe interne créé pour superviser les décisions critiques concernant l’IA en matière de sécurité. Le comité, désormais « indépendant », est présidé par Zico Kolter, professeur à Carnegie Mellon, et comprend d’autres personnalités notables telles que le CEO de Quora, Adam D’Angelo, et le général retraité de l’armée américaine, Paul Nakasone (qui a travaillé pour le Pentagone). Le Comité affirme sans surprise que ce départ ne changera rien à sa ligne de conduite : « Dans le cadre de son travail, le Comité de Sécurité continuera de recevoir des rapports réguliers sur les évaluations techniques des modèles actuels et futurs, ainsi que des rapports sur le suivi post-lancement en cours », a écrit OpenAI dans un communiqué. « Nous renforçons nos processus et pratiques de lancement de modèles pour établir un cadre intégré de sécurité avec des critères de réussite clairement définis pour les lancements de modèles. » A noter que le départ d’Altman fait suite aux préoccupations soulevées par des sénateurs américains concernant les politiques d’OpenAI et à une réduction du personnel axé sur les risques à long terme liés à l’IA.
Malgré le départ d’Altman, des doutes subsistent quant à la capacité du comité à prendre des décisions difficiles qui pourraient affecter les objectifs commerciaux d’OpenAI. L’entreprise a considérablement augmenté ses efforts de lobbying depuis quelques mois, et d’anciens membres du conseil d’administration ont exprimé des doutes sur la capacité d’OpenAI à s’autoréguler face à la pression du profit. La grande crainte, c’est que les motivations financières ne finissent par l’emporter sur une gouvernance efficace et responsable.
![icone [the Sequence]](https://is1-ssl.mzstatic.com/image/thumb/Purple118/v4/54/ab/26/54ab269c-f144-bed8-5746-a3dd70e161c2/AppIcon-1x_U007emarketing-85-220-0-8.png/128x128bb.jpg "Application [the Sequence]")
Un commentaire pour cet article :