Vanaf het voorjaar van 1941 begon Schulze-Boysen geheime militaire informatie aan de buitenlandse inlichtingendienst van het Russische Volkscommissariaat voor de Staatsveiligheid door te spelen. Tegelijkertijd bouwde hij met Arvid Harnack een verzetsgroep op, die na de oorlog de Schulze-Boysen/Harnack-groep werd genoemd en waartoe ten slotte meer dan honderdvijftig nazi-tegenstanders behoorden. Ze verspreidden brochures, schilderden slogans op gebouwen en hielpen vervolgden. Een kleiner deel verzamelde informatie voor de Russische inlichtingendienst. Via Alexander Korotkov, de plaatsvervanger van de NKGB in de Russische ambassade te Berlijn, probeerde Schulze-Boysen voor de aanstaande Duitse inval in de Sovjet-Unie te waarschuwen. In 1941 werd Schulze-Boysen nog tot "Oberleutnant" bevorderd.