вся математика через BigDecimal. начал коррекцию расчетов. пока не стабильно