Після повернення до Берліна пристав до німецького руху Спротиву, обіцяючи змовникам створити широку мережу антигітлерівського руху в складі кримінальної поліції, але жодних активних дій так і не прийняв. Після невдалого замаху 20 липня 1944 року сприяв арешту низки офіцерів, тим самим намагаючись відвести від себе підозру. Проте, після того, як був заарештований його колега Вольф-Генріх фон Гелльдорф, 25 липня несподівано зник. Через 2 дні, 27 липня 1944 року, біля ставку на північ від Берліна було знайдено автомобіль А. Небе та передсмертну записку дружині. 21 серпня було офіційно оголошено про його зникнення й об'явлено винагороду в 50 000 марок за інформацію про місцеперебування. Тоді ж Небе був виключений з лав НСДАП, а у вересні — з лав СС. 16 січня 1945 року був виданий своєю коханкою й заарештований.