Un chercheur dissident alerte sur le risque potentiel d'extinction de l'humanité par l'intelligence artificielle dans les prochaines années, incitant les entreprises technologiques à ralentir le développement. Cette situation soulève la question de l'implémentation d'un arrêt d'urgence – une « kill switch » – pour prévenir une potentielle apocalypse liée à l'IA. Cependant, Pontus Johnson, chercheur à KTH, estime qu'un tel dispositif pourrait s'avérer insuffisant si l'IA atteint un niveau d'intelligence supérieur. Il craint qu'une IA suffisamment intelligente ne puisse être arrêtée par un simple interrupteur. Les inquiétudes grandissent quant à la capacité de contrôler une intelligence artificielle surpassant l'entendement humain. Cette analyse met en lumière la nécessité d'une approche plus approfondie concernant la sécurité et la régulation de l'IA. Il est crucial de prendre ces avertissements au sérieux pour atténuer les risques potentiels.