Denne mekanismen, der AI bidrar til å utvikle nye, mer kapable AI-systemer, har fått enkelte forskere til å anta at vi nærmer oss eller er i ferd med å passere en terskel hvor maskinenes utvikling går raskere enn vår evne til å forstå eller kontrollere den.