Document ID: /fineweb-2-swissfilter-quality_10-filterrobots/filtered/03123.jsonl.gz/343

Der Spannungsfolger war nicht die Lösung. Zwar stellte sich ein ganz kleine Verbesserung der Genauigkeit ein, die aber die Präzision merklich verbesserte.
Im nächsten Schritt versuchte ich einen Fehler in der Masseverbindung auszuschliessen, indem ich die Masse der Spannungsquelle direkt an den Masseanschluss des AD Converters verband. Auch dies führte nicht zu eine Verbesserung. Zum Glück, weil ein falsche Masseführung wäre nicht leicht zu beheben gewesen.
Beim nächsten Versuch änderte ich den Taktvorteiler des AD. Diesen hatte ich wie im Datenblatt gefordert:
Zitat
By default, the successive approximation circuitry requires an input clock frequency between 50kHz and
200kHz to get maximum resolution. If a lower resolution than 10 bits is needed, the input clock frequency to the
ADC can be higher than 200kHz to get a higher sample rate.
Bei meinem Takt von 16MHz benutzte ich den /128 Teiler was dann 125kHz für den AD Takt entspricht und dieser liegt amit unter den geforderten 200kHz. Versuchsweise reduzierte ich den Vorteiler und zuerst auf /64 und dann gar auf /32 und die Abweichungen verkleinerten sich ein wenig. Bei noch höheren Clockraten begannen die Werte einzelner Messungen stark zu schwanken und der Fehler stieg bei kleinen Spannungen unbrauchbar an.
Was mich dann etwas sicherer machte war der Umstand, das sich auch das Gain leicht veränderte (30V zeigte einen leicht höheren Wert). Wenn ich den Abweichfehler durch die Kalibrierung in der Mitte verteile. Aber mit den kleinen Spannungen bin ich nach wie vor unzufrieden. Bevor ich nun weitere Vesruche zur Verbesserung starte, muss ich meine Software auf einen einzelnen Kanal reduzieren um sicher zu stellen, dass sich Fehler nicht von anderen Kanälen auf die Messung auswirken. Die aktuelle Software scant alle benutzten Kanäle ab und wechselt nach jeder Messung den Mux. Da ich im Augenblick die interne 2.56V Referenz benutze könnte ich mir vorstellen, wenn ich keine andere Fehlerquelle mehr ausmachen kann, bei kleinen Spannungen die 1.1V Referenz zu nutzen. Dies würde dann einen um den Faktor 2.328 höheren binären Wert liefern. Zwar sagt das Datenblatt, dass bei Benutzung der internen Referenz der erste AD Wert unbrauchbar sei und wenn ich die Referenz im Betrieb umschalte, müsste ich daneben jeweils die erste Messung nach dem Umschalten verwerfen.
Tja, vielleicht wäre die Differenzmessung die ideale Lösung gewesen, aber die HW steht und würde ich eine Differenzwandlung anstreben, hätte ich zuwenig AD EIngänge zur Verfügung.