Nach dem Scheitern des Münchener Putsches vom November 1923 und dem Verbot der NSDAP betätigte sich Ernst in verschiedenen anderen rechtsextremen, staatsfeindlichen Organisationen. So war er zwischen 1924 und 1926 Mitglied im Frontbann, einer Auffangorganisation der verbotenen SA, und in der Organisation „Ulrich von Hutten“ des Freikorpsführers Gerhard Roßbach. Infolge seiner Konflikte mit dem Gesetz wurde Ernst zu dieser Zeit wegen Geheimbündelei, Landfriedensbruchs und Gefangenenbefreiung angeklagt.