Theresa Villiers och Charlie Flanagan deltog båda i ett möte för att se över genomförandet av Fresh Start-avtalet som förhandlades fram i november förra året.
Både den brittiska och den irländska regeringen sade att den drivkraft som skapades genom avtalet måste bibehållas.
Foster blev Nordirlands första kvinnliga första minister på måndagen.
Den demokratiska fackföreningsledaren tog över efter Peter Robinson, som bekräftade sin avgång i Nordirlands församling.
Foster är den yngsta person som innehar den högsta befattningen i Nordirlands politik.
Foster talade efter torsdagens möte och sade att hon var "helt glad" över hur Fresh Start-avtalet hade genomförts.
"Bra framsteg har gjorts och vi kommer att fortsätta att göra dessa framsteg", tillade hon.
Hon sade att arvet från Nordirlands problem hade diskuterats och att det fanns ett behov av att tala med offrens grupper.
Tidigare sade Nordirlands sekreterare Theresa Villiers att "betydande framsteg" hade gjorts sedan Fresh Start-avtalet ingicks, men "väsentliga utmaningar" kvarstod.
Hon tillade: "Arbetet fortsätter med offrens företrädare och andra för att hitta en väg framåt för att ta itu med arvet från Nordirlands förflutna."
Arlene Foster har haft sina första möten sedan hon blev förste minister med Nordirlands sekreterare och Irlands utrikesminister.