Diskussionerna inleddes förra veckan i ett försök att lösa den politiska raden i Stormont.
Krisen utlöstes när polisen sa att de trodde att IRA-medlemmar hade varit inblandade i mordet på en före detta IRA-man i Belfast förra månaden.
Nordirlands sekreterare Theresa Villiers sade att det skulle vara "mycket svårt" att finna en lösning i förhandlingarna.
Men hon tillade att parterna hade "inrättat en solid grund för att föra diskussionerna framåt med större intensitet" denna vecka.
Hon sade att "inverkan av paramilitära organisationer" stod på dagordningen för måndagens förhandlingsrunda.
Det är en av de viktigaste frågorna som har lagts fram under partiövergripande förhandlingar.
Stormonts finanser - en viktig faktor är genomförandet av välfärdsreformen - är den andra huvudfrågan som parterna försöker lösa.
Villiers hade sagt att öppningsveckan för samtal hade varit "användbar och intensiv" och att hon uppmuntrades att parterna hade visat ett engagemang för att hantera effekterna av och arvet från paramilitär verksamhet.
I augusti trodde polisen att IRA-medlemmar hade deltagit i mordet på Kevin McGuigan Sr.
Chefskonstapel George Hamilton sa att IRA fortfarande fanns, men tillade att organisationen inte var engagerad i terrorism.
Skadorna ledde till ett sammanbrott i förtroendet mellan Sinn F??i och fackliga partier.
Ulster Unionists drog sig tillbaka från Nordirlands styrande verkställande, med tre demokratiska unionist (DUP) ministrar också senare avgå, och DUP ledare Peter Robinson kliva åt sidan som första minister.
Unionister gick med på att delta i samtalen när regeringen beordrade en oberoende översyn av paramilitära grupper i Nordirland tidigare denna månad.
Samtalen mellan Nordirlands fem viktigaste politiska partier har flyttats in i en andra vecka, med fokus på paramilitära grupper.