Доласком Врховног штаба НОВ и ПОЈ на Вис, Ранковић се посветио раду на стварању партизанске тајне службе — Одељења за заштиту народа (ОЗНА), која је формирана 13. маја 1944. у Дрвару. Како је почетком 1944, након Другог заседања АВНОЈ-а и савезничке конференције у Јалти, партизанском покрету била обезбеђена подршка Савезника, осетила се потреба за стварањем јединствене организације која би се бавила обавештајним и контраобавештајним радом на ослобођеној и неослобођеној територији, као и у партизанским јединицама. За начелника ОЗНЕ Југославије постављен је Ранковић, а за његовог заменика Светислав Стефановић Ћећа. У раду на стварању службе помогли су им совјетски обавештајци Савели Буртаков и Арсени Тишков Тимофејев, који су били чланови совјетске војне мисије при НОВЈ, указујући им на систем рада совјетског Народног комесаријата унутрашњих послова (НКВД). ОЗНА се састојала из четири одсека (касније су формирана још два) и имала је повереништва за сваку будућу федералну јединицу. Ранковић је лично бирао своје сараднике, па је су за начелнике одсека постављени — Максимилијан Баће, Павле Пекић, Јефто Шашић и Мијат Вулетић, а на челу покрајинских повереништава су се налазили — Иван Мачек (Словенија), Иван Стево Крајачић (Хрватска), Угљеша Даниловић (БиХ), Слободан Пенезић Крцун (Србија), Вељко Милатовић (Црна Гора) и Бане Андрејев (Македонија). Још пре формирања ОЗНЕ, у Словенији и Хрватској су постојале обавештајне службе, па је Ранковић највећу пажњу посветио формирању ОЗНЕ у другим деловима Југославије, а посебно у Србији, као и формирању њене оружане формације — Корпуса народне одбране Југославије (КНОЈ), на чијем се челу налазио Јован Вукотић.