[en] Several recent works on recommender algorithms have called for shifting the focus away from the study of their effects, such as the emergence of prediction biases or filter bubbles, to look at how they are designed. We propose here to answer this call thanks to a qualitative study based on interviews with about thirty developers. We show that the conditions of production of these algorithms are very closely linked to their use. Deployed on platforms with a large number of users, thus allowing a permanent observation of their functioning, algorithmic code evolves in a hybrid way that continuously depends on the work of developers and the actions of users. Simply put, the use of algorithmic thirty developers. We show that the conditions of production of these algorithms are very closely linked to their use. Deployed on platforms with a large number of users, thus allowing a permanent observation of their functioning, algorithmic code evolves in a hybrid way that continuously depends on the work of developers and the actions of users. Simply put, the use of algorithmic guidance guides its own evolution – whether it is introducing new variables, new algorithmic processes and, above all, choosing between numerous variants through tests that quantify user reactions in real time in the light of essentially commercial objectives. From this point of view, code development is to a large extent a semi-autonomous evolutionary process in which user testing is the main arbiter: developers introduce mutations, users implicitly produce performance calculations, expressed in standard business terms (audience, sales). By emphasizing the crucial importance of the choice of these metrics, once the choices concerning the architecture of a given platform are made, we call on future research to frame the question of algorithmic policy primarily in terms of the definition of these two dimensions –performance and platform design – rather than opening up further the black box of code and its design.

[fr] Plusieurs travaux récents sur les algorithmes de recommandation ont appelé à s'éloigner de l'étude de leurs effets, tels que l'émergence de biais de prédiction ou de bulles de filtres, pour se pencher sur la manière dont ils sont conçus. Nous proposons ici de répondre à cet appel grâce à une étude qualitative basée sur des entretiens avec une trentaine de développeurs. Nous montrons que les conditions de production de ces algorithmes sont très étroitement liées à leur utilisation. Déployés sur des plateformes auprès d'un grand nombre d'utilisateurs, permettant ainsi une observation permanente de leur fonctionnement, leur code évolue en effet d'une manière hybride qui dépend continuellement du travail des développeurs et des actions des utilisateurs. Simplement dit, l'utilisation du guidage algorithmique guide sa propre évolution – qu'il s'agisse d'introduire de nouvelles variables, de nouveaux processus algorithmiques et, surtout, de choisir entre de nombreuses variantes par le biais de tests quantifiant en temps réel les réactions des utilisateurs à l'aune d'objectifs essentiellement commerciaux. De ce point de vue, le développement du code obéit dans une large mesure à un processus évolutionnaire semi-autonome dont les tests auprès des utilisateurs sont le principal arbitre: les développeurs introduisent des mutations, les utilisateurs produisent implicitement le calcul de la performance, exprimés en termes commerciaux standards (audience, ventes). En soulignant l'importance cruciale du choix de ces métriques, une fois effectués les choix concernant l'architecture d'une plateforme donnée, nous appelons les futures recherches à formuler la question de la politique des algorithmes principalement sous l'angle de la définition de ces deux dimensions – performance et design des plateformes – plutôt que d'ouvrir davantage la boîte noire du code et de sa conception.