Reglerna kommer också att gälla för mindre högre tjänstemän som ändå skulle kunna vålla en bank allvarlig skada.
Det kommer två år efter det att en parlamentskommission föreslog en omskakning av den brittiska banksektorn i kölvattnet av finanskrisen.
Ordningen kommer att träda i kraft från och med mars.
De nya reglerna följer ett offentligt rop efter en rad skandaler inom industrin, inklusive Libor riggning och växelkurs fastställande.
Kansler George Osborne sade i sitt årliga Mansion House tal förra månaden: " Allmänheten frågar med rätta varför det är så att efter så många skandaler, och sådana kostnader för landet, så få personer har drabbats av straff i domstolarna."
Bank of England guvernör, Mark Carney, sade vid samma tillfälle att "ålder av oansvarighet" var över när han lade fram nya planer för fängelsestraff för oseriösa bankirer och handlare som manipulerar marknader för att förlängas från sju till tio år.
Tidigare idag berättade den tidigare UBS- och Citigroup-handlaren Tom Hayes, som anklagas för att ha manipulerat Libor-priset, för en domstol vid sin rättegång att högre chefer visste vad han gjorde.
"Jag agerade med fullständig öppenhet." Mina chefer visste, min managers manager visste. I vissa fall var verkställande direktören [huvuddirektören] medveten om det", sade han.
Mr Hayes är den första person som åtalas för Libor-skandalen som kostade Barclays Bank en sedan rekord 290 miljoner pund 2012 innan Royal Bank of Scotland 390 miljoner pund för sin del i skandalen.
Financial Conduct Authority (FCA) och Prudential Regulatory Authority (PRA) - en del av Bank of England - sade att deras nya regler skulle placera "bevisbördan" på de bästa bankdirektörerna i incidenter av oegentligheter inom deras företag.
Reglerna ersätter befintliga arrangemang som kräver att tillsynsmyndigheterna bevisar att ledande befattningshavare var ansvariga för förseelser.
FCA:s verkställande direktör Martin Wheatley sade: " I dag har vi klargjort regler som kommer att inbädda personlig ansvarsskyldighet i kulturen i staden. Nya uppföranderegler kommer att ge ytterligare drivkraft till att förbättra standarderna i hela branschen."
I PRA:s regelbok finns en förteckning över nyckelpersoner som ska ställas till svars, inklusive ledande befattningshavare, finansdirektörer, ordförande och ledande icke-oberoende styrelseledamöter.
Det betyder att höga banktjänstemän kommer att bli föremål för ett nytt "presumtion of responsibility", vilket innebär att de kommer att göra sig skyldiga till tjänstefel om reglerna bryts i en del av en bank under deras kontroll.
PRA kommer att överväga vad de visste eller borde ha vetat om överträdelsen, granska mötesprotokoll, e-post och telefonsamtal.
Bankirer kommer att undvika straff om de kan visa att de vidtagit rimliga åtgärder för att undvika att regler bryts, t.ex. förebyggande åtgärder, inklusive översyner av verksamheten.
Ett certifieringssystem kommer att omfatta personal som ger investeringsrådgivning samt näringsidkare som lämnar riktmärken, t.ex. för interbanklåneräntan Libor.
FCA sade att det var samråd om att utvidga den senare till att omfatta en bredare omfattning av näringsidkarnas verksamhet.
Tillsynsmyndigheterna föreslår också ett nytt åtgärdspaket för att formalisera bankernas förfaranden för whistleblowing.
British Bankers' Association (BBA) verkställande direktör Simon Hills sade: "Detta nya ramverk kommer att bidra till att återställa förtroende och förtroende för banksektorn skadas av händelserna under det senaste årtiondet.
"En bankindustri som sätter guldstandarden för ansvarsskyldighet är bra för både kunder och investerare och för dem som tjänar i den."
Stadsmyndigheterna har publicerat slutgiltiga regler som gör toppbankschefer ansvariga för sina anställdas tjänstefel - om de inte kan visa att de vidtagit åtgärder för att stoppa det.