Le piratage autonome d’un agent OpenAI est un avertissement au monde

Il y a trois ans, j’ai prévenu dans ces pages que la plus grande menace existentielle pour l’humanité pourrait ne pas provenir d’un astéroïde errant ou d’un cataclysme cosmique, mais d’une intelligence artificielle (IA) incontrôlée. Aujourd’hui, la trajectoire vers un Armageddon de l’IA ne s’est pas seulement accélérée, elle a violemment déraillé de la surveillance humaine. Les débats universitaires des années précédentes concernant une pause volontaire de six mois dans le développement de l’IA ont été ensevelis sous une avalanche d’hyper-autonomie et de non-alignement.