Machine learning techniques for adaptive polynomial and neural network digital predistorters
Authors:   , López Bueno David 
Published: March 2024

(English) The power amplifier (PA) is a core element in the radio transmitters to support the required mobile and fixed broadband communication link ranges. However, the PA is a power-hungry and nonlinear by nature device. Under spectrally efficient wideband modulated waveforms with high peak-to-average power ratio, the PA energy efficiency is significantly decreased since back-off operation is needed to meet the transmission quality requirements. Moreover, when employing highly efficient amplification architectures, like Doherty, load modulated balanced amplifier (LMBA) or envelope tracking (ET) PAs, the added distortion is left as an issue to be addressed at system level by a linearizer. In this context, the closed-loop adaptive digital predistorter (DPD) is a key component of the digital front-end (DFE) to counteract the PA nonlinear response under varying conditions and to cope with the inherent trade-off between linearity and efficiency.

According to the fifth generation (5G) and beyond communication technologies and the proposed radio transmitter and PA architectures, the DPD may have to deal with strong nonlinearities and memory effects, in-phase and quadrature (IQ) modulator imbalances and DC offsets, additional PA supply or load modulation distortion, and multi-antenna PA input and output cross talk and beam-dependent effects. Such impairments degrade the radio access network (RAN) energy efficiency, capacity, and the number of potential RAN users due to the increased in-band and out-of-band distortion. The adaptive DPD can overcome such
undesired effects but faces relevant obstacles. At every new generation of mobile communication systems, the signal bandwidth is increased and the DPD needs to be operated at higher speed. The DPD challenges are twofold. On the one hand, combining massive bandwidth operation together with handling complex multi-dimensional effects may increase exponentially the complexity of the DPD and make it both commercially unaffordable and energy inefficient due to the increased cost and power consumption at the DFE and data conversion stages. On the other hand, the adaptive DPDs need significantly larger training periods to compensate for all the undesired effects.

In line with the above-mentioned challenges, the research presented in this dissertation aims at guaranteeing best DPD linearity versus efficiency trade-off in complex nonlinear scenarios, by leveraging on efficiently deployed machine learning (ML) and artificial intelligence (AI) techniques to reduce the computational complexity of DPD modeling and identification at the DFE, guaranteeing well-conditioned and robust DPD estimation, and drastically reducing the DPD training times while meeting performance requirements. To accomplish that, several newly applied and customized ML feature selection and feature extraction dimensionality reduction techniques are combined with new training data length reduction schemes, to ensure both reduced DPD behavioral modeling matrices and input datasets in single-antenna and multi-antenna adaptive polynomial and neural network DPD architectures, respectively. To validate the benefits of these contributions in accordance with the previous goals, all these techniques have been deployed and thoroughly benchmarked under adverse conditions in realistic laboratory test
benches.

(Català) L'amplificador de potència (PA) és un element central als radiotransmissors necessari per abastar les distàncies d'enllaç a les comunicacions sense fils de banda ampla mòbil i fixa. No obstant, el PA és un dispositiu d’elevat consum energètic i de comportament no lineal per naturalesa. Quan s’utilitzen formes d’ona de banda ampla i gran eficiència espectral que presenten elevada relació de potència de pic a potència mitjana, l’eficiència energètica del PA decreix significativament atès que és necessari operar el dispositiu amb un marge de guarda per complir amb els requisits de qualitat de transmissió. Addicionalment, quan s’utilitzen arquitectures d’amplificació altament eficients basades en PAs de tipus Doherty, modulació de càrrega d’amplificador balancejat (LMBA) o modulació d’envoltant (ET), la distorsió afegida es deixa com un problema a resoldre a nivell de sistema per un linealitzador. En aquest context, el predistorsionador digital (DPD) adaptatiu de llaç tancat és un element clau del capçal digital de processament ràdio (DFE) per contrarestar la resposta no lineal del PA en condicions variables i superar el compromís inherent entre linealitat i eficiència.

D’acord amb les tecnologies de comunicació de cinquena generació (5G) i les arquitectures de transmissor i PA proposades, el DPD pot haver de tractar amb fortes no linealitats i efectes de memòria, desajustaments de modulador en fase i quadratura (IQ) i desviacions de nivell de contínua, distorsió addicional per modulació d’alimentació o càrrega del PA, efectes d’acoblament creuat a l’entrada i sortida dels PAs en sistemes multiantena, així com efectes que poden dependre de l’apuntament dels feixos de l’antena. Aquestes imperfeccions degraden l’eficiència de la xarxa d’accés ràdio (RAN), la seva capacitat i el nombre d’usuaris a causa de l’augment de distorsió generada dins de banda i fora de banda. El DPD adaptatiu pot combatre aquests efectes no desitjats però s’enfronta a obstacles rellevants. A cada nova generació de sistemes de comunicacions mòbils l’amplada de banda de senyal s’incrementa i el DPD necessita operar a majors velocitats. Els reptes imposats al DPD són doblement exigents. D’una banda, combinar amplades de banda de senyal massives amb haver de modelar efectes complexes multidimensionals pot
augmentar exponencialment la complexitat del DPD i fer-lo comercialment inviable i energèticament ineficient donat l’increment en cost i consum al DFE i a les etapes de conversió de senyal. D’altra banda, els DPD adaptatius necessiten períodes
d’entrenament significativament més grans per compensar tots els efectes complexes no desitjats.
D’acord amb els reptes esmentats, la recerca presentada en aquesta dissertació té com a objectiu garantir el millor compromís entre linealització del DPD i eficiència assolida en escenaris amb no linealitats complexes, mitjançant tècniques eficientment desplegades d’aprenentatge màquina (ML) i d'intel·ligència artificial (AI) necessàries per reduir la complexitat computacional del modelat i la identificació DPD al DFE, garantir una estimació DPD ben condicionada i robusta, i reduir dràsticament els temps d’entrenament del DPD, sense deixar d’acomplir els requisits de qualitat de transmissió. Per aconseguir-ho, en aquesta tesi s’apliquen de forma innovadora tècniques adaptades de reducció de dimensionalitat ML basades en selecció i extracció de característiques (features), i es combinen amb nous esquemes de reducció de llargada de les dades d’entrenament DPD, per garantir tant la reducció de les matrius de modelat comportamental DPD polinomial com els datasets d’entrada a predistorsionadors adaptatius basats en xarxes neuronals, tant per arquitectures monoantena com multiantena. Per validar els beneficis d'aquestes contribucions d'acord amb els objectius anteriors, totes aquestes tècniques s'han desplegat i avaluat
minuciosament sota condicions adverses en bancs de proves de laboratori propers a condicions reals.