Regeringen ägde ursprungligen 41 % av aktierna efter att ha plöjt in 20 miljarder pund i banken under finanskrisen 2008.
Det började sälja Lloyds aktier 2013, och den senaste försäljningen innebär att det nu har samlat in mer än £ 8 miljarder.
Förra helgen sa David Cameron att de konservativa skulle erbjuda upp till 4 miljarder pund av Lloyds aktier till privata investerare om han vann det allmänna valet.
Premiärministern sa att det skulle "hjälpa oss att återvinna miljarder mer för att betala ner statsskulden". Arbetarpartiet sade att Tories hade meddelat planerna flera gånger tidigare.
I den senaste försäljningen sålde regeringen 742 miljoner aktier som, till torsdagens slutkurs, skulle ha samlat in 586 miljoner pund till statskassan. Den faktiska summan kan vara något lägre eftersom regeringen skulle ha sålt sina aktier under hela dagen, under vilken Lloyds aktier steg stadigt på eftermiddagen för att nå en avslutande hög på 78,99 pence.
Försäljningen innebär att statens aktieinnehav har minskat med ytterligare 1 % och nu minskat till 20.95 %.
"Dagens tillkännagivande visar de ytterligare framsteg som gjorts i att återföra Lloyds Banking Group till fullt privat ägande och göra det möjligt för skattebetalarna att få sina pengar tillbaka," ett uttalande från Lloyds sade.
"Detta återspeglar det hårda arbete som gjorts under de senaste fyra åren för att omvandla gruppen till en enkel, lågrisk- och kundfokuserad bank som har åtagit sig att hjälpa Storbritannien att blomstra."
Regeringen har sålt fler aktier i Lloyds, vilket höjer cirka £ 586 miljoner och tar sin andel i banken till under 21%.