Sachverhalt:
A.
Mit Strafbefehl vom 7. August 2015 sprach die Staatsanwaltschaft Abteilung 3 Sursee X._ der mehrfachen üblen Nachrede und des Ungehorsams gegen eine amtliche Verfügung schuldig. Mit Bezug auf den Vorwurf des Missbrauchs einer Fernmeldeanlage stellte sie das Verfahren infolge Verjährung ein. Sie überband X._ die gesamten Verfahrenskosten und sprach ihm für den eingestellten Teil des Verfahrens eine Entschädigung, nicht aber eine Genugtuung oder Auslagenersatz zu. Die dagegen erhobene Beschwerde (Verfahren KG 2N 15 111) wies das Kantonsgericht Luzern am 21. Dezember 2015 ab, soweit es darauf eintrat.
Das Bundesgericht hiess die Beschwerde von X._ am 2. Mai 2016 insoweit gut, als es die Sache hinsichtlich der Auflage von Verfahrenskosten zur Begründung an die Vorinstanz zurückwies. Im Übrigen wies es die Beschwerde ab (Urteil 6B_129/2016).
B.
In seiner Stellungnahme zum bundesgerichtlichen Urteil stellte X._ ein Ausstandsgesuch gegen zwei am Verfahren beteiligte Kantonsrichter und den Gerichtsschreiber. Mit Beschluss vom 6. Juli 2016 trat das Kantonsgericht auf das Gesuch nicht ein. Die Beschwerde hiess es gut, soweit sie noch zu beurteilen war, und wies die Sache zur neuen Entscheidung über die Kosten im Untersuchungsverfahren an die Staatsanwaltschaft zurück. Die Kosten des Neubeurteilungsverfahrens nahm es auf die Staatskasse und sprach X._ eine Parteientschädigung zu. Hingegen auferlegte es ihm für das erste Beschwerdeverfahren (KG 2N 15 111) eine reduzierte Gebühr von Fr. 800.-- sowie die Kosten seiner Verteidigung.
C.
Mit Beschwerde in Strafsachen beantragt X._, ihm sei für das Beschwerdeverfahren KG 2N 15 111 eine angemessene Parteientschädigung auszurichten und die Gerichtsgebühr sei vollständig zu Lasten des Staates, eventuell der Privatklägerin zu verlegen. Eventualiter sei die Sache zur Neubeurteilung an das Kantonsgericht zurückzuweisen, wobei zwei Richter sowie der Gerichtsschreiber in den Ausstand zu treten hätten. X._ ersucht um aufschiebende Wirkung der Beschwerde.
D.
Die Oberstaatsanwaltschaft des Kantons Luzern beantragt die Abweisung der Beschwerde. Die Vorinstanz beantragt, auf die Beschwerde sei nicht einzutreten; eventualiter sei sie abzuweisen, soweit darauf einzutreten sei.

Erwägungen:
1.
1.1.
1.1.1. Die Kosten des Rechtsmittelverfahrens tragen die Parteien nach Massgabe ihres Obsiegens oder Unterliegens. Als unterliegend gilt auch die Partei, auf deren Rechtsmittel nicht eingetreten wird oder die das Rechtsmittel zurückzieht (<ref-law>). Ob bzw. inwieweit eine Partei im Sinne dieser Bestimmung obsiegt oder unterliegt, hängt davon ab, in welchem Ausmass ihre vor der zweiten Instanz gestellten Anträge gutgeheissen werden (Urteil 6B_814/2015 vom 30. November 2015 E. 3.3 mit Hinweisen).
1.1.2. Gemäss <ref-law> hat die beschuldigte Person, wenn sie ganz oder teilweise freigesprochen oder das Verfahren gegen sie eingestellt wird, unter anderem Anspruch auf Entschädigung ihrer Aufwendungen für die angemessene Ausübung ihrer Verfahrensrechte. Die Strafbehörde kann die Entschädigung herabsetzen oder verweigern, wenn die beschuldigte Person rechtswidrig und schuldhaft die Einleitung des Verfahrens bewirkt oder dessen Durchführung erschwert hat (<ref-law>). Die Grundsätze zur Auflage von Verfahrenskosten trotz Freispruch oder Verfahrenseinstellung gemäss <ref-law> gelten auch bei der Beurteilung, ob eine Entschädigung (oder Genugtuung) im Sinne von <ref-law> herabzusetzen oder zu verweigern ist. Der Kostenentscheid präjudiziert die Entschädigungsfrage. Bei Auferlegung der Kosten ist grundsätzlich keine Entschädigung auszurichten. Umgekehrt hat die beschuldigte Person Anspruch auf Entschädigung, soweit die Kosten von der Staatskasse übernommen werden (<ref-ruling> E. 2.4.2 S. 357; Urteile 6B_877/2016 vom 13. Januar 2017 E. 5.4; 6B_1247/2015 vom 15. April 2016 E. 1.3 mit Hinweisen).
1.2.
1.2.1. Der Beschwerdeführer verlangt hinsichtlich des mit Beschluss vom 21. Dezember 2015 abgeschlossenen kantonalen Beschwerdeverfahrens KG 2N 15 111 die Auflage der gesamten Kosten an den Staat bzw. an die Privatklägerin. Diese habe das Strafverfahren wegen Missbrauchs einer Fernmeldeanlage, welches schliesslich eingestellt worden sei, durch unzählige umfangreiche Eingaben und Beweisanträge aufgebauscht und verzögert.
Dem Beschwerdeführer kann nicht gefolgt werden. Die Vorinstanz erwägt zutreffend, dass das Bundesgericht ihren Beschluss lediglich im Kostenpunkt aufgehoben, die Beschwerde aber in allen anderen Punkten abgewiesen hat (vgl. oben lit. A). So unterlag der Beschwerdeführer mit seinen Anträgen um Ausrichtung einer höheren Parteientschädigung, einer Genugtuung sowie von Auslagenersatz für ein Privatgutachten auch vor Bundesgericht. Ebenso mit einem Ausstandsbegehren (vgl. Urteil 6B_129/2016 vom 2. Mai 2016 E. 2, 4-6). Entgegen seiner Auffassung ist es daher nicht zu beanstanden und verletzt die Vorinstanz kein Bundesrecht, wenn sie die vom Beschwerdeführer in jenem Verfahren zu tragende Gerichtsgebühr lediglich von Fr. 1500.-- auf Fr. 800.-- reduziert. Es besteht auch kein Anlass, in ihr Ermessen einzugreifen, soweit sie von einer Kostenauflage an die Privatklägerin absieht. Der Beschwerdeführer weist selber darauf hin, dass deren Auffassung weitgehend entsprochen und ihre Anträge zumeist gutgeheissen wurden. Es kann daher nicht gesagt werden, sie hätte das Verfahren damit unnötig aufgebauscht.
1.2.2. Nicht zu folgen ist dem Beschwerdeführer auch insoweit, als er im Zusammenhang mit der Verweigerung einer Parteientschädigung für das erste Beschwerdeverfahren eine Verletzung der Begründungspflicht rügt. Die Vorinstanz legt vielmehr dar, weshalb sie ihm trotz teilweisem Obsiegen keine Parteientschädigung zuspricht. Sie erwägt, er habe die Kosten seiner Verteidigung selber zu tragen, weil sich seine Ausführungen zum grössten Teil auf die seiner Ansicht nach zu tiefe Anwaltskostenentschädigung bezogen hätten und er insoweit auch vor Bundesgericht unterlegen sei. Gleiches gelte für die Rügen bezüglich Genugtuung und Auslagenersatz. Die Vorinstanz nennt somit die wesentlichen Gesichtspunkte, auf die sie ihren Entscheid stützt. Es war dem Beschwerdeführer denn auch ohne Weiteres möglich, sich über die Tragweite des Entscheids Rechenschaft zu geben und ihn in voller Kenntnis der Sache an das Bundesgericht weiterzuziehen. Eine Verletzung des rechtlichen Gehörs liegt nicht vor (vgl. dazu <ref-ruling> E. 3.2.4 S. 41; <ref-ruling> E. 2.2 S. 183; <ref-ruling> E. 2.2 S. 84; je mit Hinweisen).
1.2.3. Demgegenüber ist der Einwand des Beschwerdeführers in der Sache berechtigt. Wie dargestellt, folgt die Entschädigungsfrage in der Regel dem Kostenentscheid. Die Vorinstanz macht nicht geltend und es ist nicht ersichtlich, dass der Beschwerdeführer die Einleitung des Verfahrens rechtswidrig und schuldhaft bewirkt oder dessen Durchführung erschwert hätte. Für die Verweigerung einer zumindest teilweisen Parteientschädigung besteht daher kein Raum. Es leuchtet auch nicht ein und ist widersprüchlich, dass die Vorinstanz dem Beschwerdeführer zwar eine stark reduzierte Gerichtsgebühr auferlegt, ihm aber trotz teilweisem Obsiegen im Kostenpunkt keine Parteientschädigung zuspricht. Damit verletzt sie die Grundsätze der Kostenverlegung (oben E. 1.1.2). Die Vorinstanz hat die mit der Kostenauflage zusammenhängenden Aufwendungen des beschwerdeführerischen Anwalts soweit wie möglich auszuscheiden und ihm eine angemessene Parteientschädigung auszurichten. Dabei kommt ihr aber ein erhebliches Ermessen zu. Bei der Bemessung darf sie insbesondere dem Umstand Rechnung tragen, dass sich der Beschwerdeführer in seinen Eingaben hauptsächlich zur Parteientschädigung und nur kurz zur Kostenauflage geäussert hat. Er befasst sich in der sechzehn Seiten umfassenden Beschwerde vom 31. August 2015 gerade einmal auf einer halben Seite und in der Stellungnahme vom 2. November 2015 auf wenigen Zeilen mit der Frage der Verfahrenskostenauflage.
Die Beschwerde ist insoweit gutzuheissen.
1.3. Als offensichtlich unbegründet erweist sich hingegen die Rüge, die am bisherigen Verfahren beteiligten Kantonsrichter sowie der Gerichtsschreiber seien befangen oder das Verfahren sei nicht mehr offen. Derlei Gründe sind bei objektiver Betrachtung nicht ersichtlich. Wie die Vorinstanz zutreffend erwägt, kann solches nicht darin erblickt werden, dass die involvierten Gerichtspersonen im bisherigen Verfahren mehrmals - nach Ansicht des Beschwerdeführers systematisch - zu seinen Ungunsten entschieden haben. Gleiches gilt für den Umstand, dass die Entscheide fehlerhaft gewesen sein sollen. Dies war im ordentlichen Verfahren zu rügen. Auch die nunmehr geltend gemachten Verfahrensfehler vermögen weder einzeln noch in ihrer Gesamtheit eine Befangenheit zu begründen oder die systematische Benachteiligung des Beschwerdeführers aufzuzeigen. Dies gilt etwa, wenn er vorbringt, die Vorinstanz stelle aktenwidrig fest, dass einer Verfügung der Staatsanwaltschaft entnommen werden könne, eine sichergestellte Daten-CD enthalte "offenbar den gesamten Telefon- und E-Mailverkehr der Privatklägerin". Es leuchtet, unabhängig der Frage, ob diese Feststellung zutrifft, oder ob die CD lediglich einen Teil des Datenverkehrs der Privatklägerin enthält, nicht ein, weshalb dies eine Voreingenommenheit der Vorinstanz begründen soll. Gleiches gilt, wenn sie feststellt, die Ermittlungshandlungen der Staatsanwaltschaft mit Bezug auf den Vorwurf des Missbrauchs einer Fernmeldeanlage seien nicht besonders intensiv gewesen. Ebenso wenig erscheint die Vorinstanz als befangen, weil sie dem Beschwerdeführer wahrheitswidrig unterstellt habe, er verfüge über Fachkenntnisse in der Informatik. Sie begründet damit vielmehr nachvollziehbar, dass er angesichts seiner ausführlichen persönlichen Eingaben keine anwaltliche Vertretung während den Einvernahmen benötigt habe. Der Beschwerdeführer zeigt zudem nicht auf, dass die Feststellung unwahr wäre. Dasselbe gilt für die angeblich aktenwidrige Unterstellung "ungebührlichen Benehmens und [von] Drohungen" im Vorverfahren, welche die Vorinstanz dokumentiert (vgl. Beschluss vom 21. Dezember 2015 E. 5.8 S. 8). Sie legt ebenfalls detailliert dar, dass es aufgrund von wiederholten Anwaltswechseln und zahlreichen Terminverschiebungen zu Verfahrensverzögerungen kam, welche nicht zu entschädigen seien. Dies ist sachlich begründet und nicht zu beanstanden. Dass die Vorinstanz die Verzögerungen als unnötig bezeichnet, ist weder herabsetzend gegenüber dem Beschwerdeführer persönlich, noch zeigt es eine negative Grundhaltung des Gerichts ihm gegenüber. Im Übrigen bezieht sich das Wort "unnötig" nicht nur auf die vermeintlich oder tatsächlich gesundheitsbedingten Terminverschiebungen, sondern auch auf die diversen Anwaltswechsel. Ein objektiver Eindruck von Befangenheit entsteht schliesslich nicht dadurch, dass das Bundesgericht den Beschluss vom 21. Dezember 2015 lediglich im Kostenpunkt als ungenügend begründet kritisierte. Von wiederholten krassen Amtspflichtsverletzungen, welche die im Verfahren involvierten Personen nicht mehr als unvoreingenommen erscheinen liessen, kann keine Rede sein.
2.
Die Beschwerde ist teilweise gutzuheissen. Der Beschluss des Kantonsgerichts Luzern vom 6. Juli 2016 ist aufzuheben und die Sache zu neuer Entscheidung an die Vorinstanz zurückzuweisen. Im Übrigen ist die Beschwerde abzuweisen, soweit darauf eingetreten werden kann. Der Beschwerdeführer wird im Umfang seines Unterliegens kostenpflichtig; dem Kanton Luzern sind keine Verfahrenskosten aufzuerlegen (Art. 66 Abs. 1 und 4 BGG). Hingegen hat er dem Beschwerdeführer im Umfang von dessen Obsiegen eine Parteientschädigung auszurichten (Art. 68 Abs. 1 und 2 BGG). Mit dem Entscheid in der Sache wird das Gesuch um aufschiebende Wirkung gegenstandslos.

Demnach erkennt das Bundesgericht:
1.
Die Beschwerde wird teilweise gutgeheissen. Der Beschluss des Kantsonsgerichts Luzern vom 6. Juli 2016 wird aufgehoben und die Sache zu neuer Entscheidung an die Vorinstanz zurückgewiesen. Im Übrigen wird die Beschwerde abgewiesen, soweit darauf eingetreten wird.
2.
Die Gerichtskosten werden dem Beschwerdeführer im Umfang von Fr. 2'000.-- auferlegt.
3.
Der Kanton Luzern hat dem Beschwerdeführer eine Parteientschädigung von Fr. 1'000.-- zu bezahlen.
4.
Dieses Urteil wird den Parteien und dem Kantonsgericht Luzern, 1. Abteilung, schriftlich mitgeteilt.
Lausanne, 2. Juni 2017
Im Namen der Strafrechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Denys
Der Gerichtsschreiber: Matt