OAS a fost înființată ca răspuns la decizia lui de Gaulle de a organiza un referendum pe tema autodeterminării în Algeria. Organizația a fost fondată în Spania în ianuarie 1961 de către foștii ofițeri Pierre Lagaillarde (cel care a condus în 1960 asediul Algerului), generalul Raoul Salan (care a luat parte la ) și Jean-Jacques Susini alături de alți membri ai armatei franceze, printre care Yves Guérin-Sérac și foști membri ai Legiunii Străine care au luate parte la conflictele din Indochina (1946-1954). "OAS-Métro", aripa din Franța metropolitană, era condusă de căpitanul Pierre Sergent. Sub acești ofițeri a fost unificate toate grupurile ani-FLN precum "Organisation de Résistance de L'Algérie Française". Deși mișcarea era fundamentată pe convingeri anticomuniste și autoritare, printre membrii săi existau și foști comuniști, respectiv indivizi care considerau că apără legăturile fraterne dintre algerieni și "colons" în fața FLN. În Franța, Organizația Armata Secretă a derulat un program de recrutare cu precădere în rândul grupurilor politice fasciste în timp ce în Algeria membrii erau mult mai diverși (i.e. un grup de evrei algerieni conduși de Jean Guenassia au început să lupte împotriva FLN ca urmare a unor atacuri săvârșite în cartierul evreiesc din Oran). Unii algerieni din OAS considerau că misiunea organizației era una de rezistență, în interiorul acesteia existând foști membri din rezistența franceză și colaboratori ai regimului de la Vichy.