Nach dem Aufenthalt im Fernen Osten war Bersin unter dem Decknamen "Grischin" von Juli 1936 bis Juli 1937 oberster sowjetischer Militärberater im Spanischen Bürgerkrieg in Madrid. An der Stelle von Unschlicht wurde Semjon Urizki mit der stellvertretenden Leitung der GRU betraut. Bersin unterstand in Spanien ein getarntes, aus Spezialisten bestehendes Expeditionskorps der Roten Armee mit einer Stärke von 2.000 Soldaten. De facto war er während seines Aufenthaltes der Befehlshaber der republikanischen Truppen. Bersin reorganisierte die republikanischen Streitkräfte und bewirkte die Ernennung des Generals José Miaja zum Oberbefehlshaber. Ihm gelang Ende 1936 und im Januar und Februar 1937 die erfolgreiche Verteidigung der spanischen Hauptstadt Madrid gegen Offensiven der Truppen Francos. (→Belagerung von Madrid) Im März 1937 erstellte Bersin einen Bericht an Woroschilow, in dem er sich über die Terrormaßnahmen des NKWD in Spanien beklagte, für deren Durchführung Alexander Orlow verantwortlich war. (→Andreu Nin) Gegenüber den GRU-Angehörigen wurde von Seiten Stalins und Woroschilows beteuert, dass die von Bersin geschilderten Maßnahmen falsch seien; tatsächlich wurde dem NKWD-Agenten Orlow weiterhin freie Hand gelassen. Nachdem sein Stellvertreter Urizki durch das NKWD verhaftet worden war, musste Bersin eilig über Paris in die Sowjetunion zurückreisen.