인간 수준의 지능을 갖춘 범용인공지능(AGI) 시대가 빠르면 수년 내 열릴 것이란 전망이 나오는 가운데, AGI를 넘어선 초지능 인공지능(AI)의 위험을 경고하는 목소리가 커지고 있다. 이미 AI가 일자리를 뺏어가면서 기업들이 대규모 감원에 나서는 상황에서 인간 지능을 능가하는 초지능 AI가 등장하면 인류의 존립 자체가 위협받을 수 있다는 게 비관론자들의 주장이다.