Abd ar-Rahmān predigte in drei verschiedenen Moscheen in New York und war dadurch schnell von einer Gruppe treuer Gefolgsleute umgeben. Im Juli 1992 entzogen ihm die amerikanischen Behörden die Green Card, weil er diese aufgrund falscher Angaben erhalten hatte. Am 18. März 1993 wurde von den amerikanischen Behörden seine Ausweisung entschieden, doch legte ʿAbd ar-Rahmān gegen den Ausweisungsbescheid Berufung ein, so dass er sich weiter im Lande aufhalten durfte. Um die gleiche Zeit geriet er mit seinen Gefolgsleuten in das Visier der Ermittlungen des FBI, das nach den Tätern des Bombenanschlags auf das World-Trade-Center am 26. Februar 1993 suchte. ʿAbd ar-Rahmān soll eine Fatwa erlassen haben, die zur Gewalt gegen das US-Militär aufrief. Auch soll es Pläne für weitere Großanschläge gegeben haben.