1. Contexte et faits marquants
L'univers de l'intelligence artificielle, souvent présenté comme un horizon de progrès infini, est secoué par une onde de choc venue de l'intérieur. Jacob Coxon, un ingénieur et chercheur dont le parcours l'a mené au cœur des géants OpenAI et Anthropic, notamment comme contributeur clé de GPT-4o, a fait retentir un signal d'alarme retentissant. Par un message poignant publié sur X, il a annoncé sa démission, assénant une vérité amère : « Aucune des deux entreprises n'agit de façon responsable ».
Pour ce scientifique de 27 ans, la quête effrénée d'une superintelligence artificielle (ASI), capable de s'améliorer en continu, se déroule sans aucune garantie de contrôle, menaçant l'existence même de l'humanité. Son cri d'alarme dépeint un scénario où les laboratoires d'IA, pris dans une course sans précédent, foncent tête baissée vers un avenir incertain, potentiellement sombre.
2. Analyse, technologies et enjeux
Au cœur de l'inquiétude de Jacob Coxon réside la concurrence acharnée qui anime les laboratoires d'IA. La peur de voir un rival prendre de l'avance pousse chacun à accélérer le développement de capacités toujours plus complexes, ignorant les risques inhérents. « Aucune autre activité humaine ne présente ce niveau de danger », martèle-t-il, soulignant la singularité et la gravité de cette course mondiale.
Malgré la reconnaissance tacite des risques par les acteurs majeurs, la cadence ne faiblit pas. Coxon appelle instamment à une coordination mondiale entre les laboratoires, suggérant même une interdiction temporaire de développement des capacités des modèles si la course actuelle ne ralentit pas. Il pointe du doigt l'ironie du cas d'Anthropic, une entreprise co-fondée par Dario et Daniela Amodei après leur départ d'OpenAI, précisément en raison de désaccords sur la sécurité et l'alignement de l'IA. Bien qu'Anthropic ait bâti sa réputation autour de principes éthiques et ait mis en place une Responsible Scaling Policy pour encadrer les risques, elle se retrouve aujourd'hui sous les mêmes accusations d'irresponsabilité. Ses propres évaluations publiques des risques de modèles comme Mythos et ses promesses de pauses de développement ne semblent pas suffire à rassurer le chercheur.
Cela met en lumière une tension fondamentale : les meilleures intentions de sécurité peuvent être érodées par la pression impitoyable du marché et la crainte constante de prendre du retard technologique.
3. Perspectives et conclusion
Les propos de Jacob Coxon culminent dans un avertissement glaçant : certains laboratoires eux-mêmes estiment que « l'IA pourrait nous tuer d'ici la fin de la décennie ». Cette déclaration, loin d'être une simple spéculation, est le fruit de trois années de recherche intensive sur le pré-entraînement au sein des entités les plus avancées du domaine. Son message est clair : nous nous dirigeons vers une superintelligence (ASI) que nous pourrions ne pas contrôler, avec des conséquences cataclysmiques.
Face à ce qu'il perçoit comme une dérive inéluctable, Jacob Coxon a pris une décision radicale : il quitte définitivement le secteur de l'IA. Son geste, loin d'être anodin, est un cri d'alarme personnel et professionnel, un renoncement total à un domaine qu'il juge trop périlleux en l'état actuel des choses. Ses révélations forcent à une réflexion urgente : la quête de la performance technologique doit-elle primer sur la prudence et la sécurité de l'humanité ? La réponse à cette question déterminera l'avenir de l'IA, et peut-être le nôtre.