一位离职研究人员警告称，人工智能可能在几年内导致人类灭亡，科技公司也表示需要减缓发展速度。这引发了关于“紧急停止”机制，即“kill switch”，是否能够阻止人工智能末日的讨论。来自皇家理工学院（KTH）的研究员蓬图斯·约翰逊认为，如果技术变得足够智能，“紧急停止”机制可能不足以发挥作用。他指出，未来的AI可能能够规避或禁用这种安全措施。科技行业的专家们正在积极探讨如何安全地发展人工智能，以避免潜在的灾难性后果。目前，控制AI发展的速度和方向是关键挑战。 如何确保AI始终与人类价值观保持一致，是当前讨论的核心问题。