Fyra angripare sågs komma in på kontoret, följt av kraftig skottlossning och flera explosioner.
Fem säkerhetsvakter - däribland en polischef - var bland de döda och 26 regeringstjänstemän bland de skadade.
En talesman för talibanerna sa att de utförde attacken.
Belägringen upphörde sju timmar efter det började och alla fyra beväpnade män dödades av de afghanska nationella säkerhetsstyrkorna som hade omringat området.
Polisen sa att de räddade generalåklagaren från hans kontor, vilket bara är 200m (650ft) från kontoret av guvernören i Balkh provinsen.
Guvernörens medhjälpare berättade för BBC att guvernören, Atta Muhammad Nur, var hemma när attacken började men fördes till hans kontor för att övervaka situationen.
I ett uttalande sett av BBC sade den talibanske talesmannen Zabihullah Mujahid: "Breaking News: Detta självmord vid tolvtiden [attacker] stormade kontoret för advokaten och appellationsdomstolen i Balkhprovinsen. Kraftiga offer för fienden, striden fortsätter."
Talibanerna har tidigare riktat in sig på Afghanistans rättssystem. I juni 2013 sprängde gruppen en bilbomb framför Afghanistans högsta domstol och dödade 17 och skadade 39.
I december 2014 mördades Atiqullah Raufi, chef för sekretariatet vid Afghanistans högsta domstol, av talibanska beväpnade män i västra Kabul.
Anfallet i Mazar-e-Sharif kommer en dag efter att en amerikansk soldat dödades i en eldstrid mellan amerikanska och afghanska trupper i östra Afghanistan.
Vapnen klädda i militära uniformer har stormat justitieministerns kontor i den norra afghanska staden Mazar-e-Sharif, dödat minst 10 personer och skadat mer än 65 personer.