Portable Acceleration of CMS Computing Workflows with Coprocessors as a Service
Authors:   The CMS Collaboration, Hayrapetyan A. , Tumasyan A. , Adam W. , Andrejkovic J. W. , Bergauer T. , Chatterjee S. , Damanakis K. , Dragicevic M. , Hussain P. S. , Jeitler M. , Krammer N. , Li A. , Liko D. , Mikulec I. , Schieck J. , Schöfbeck R. , Schwarz D. , Sonawane M. , Templ S. , Waltenberger W. , Wulz C.-E. , Darwish M. R. , Janssen T. , Mechelen P. Van , Bols E. S. , D’Hondt J. , Dansana S. , De Moor A. , Delcourt M. , Faham H. El , Lowette S. , Makarenko I. , Müller D. , Sahasransu A. R. , Tavernier S. , Tytgat M. , Onsem G. P. Van , Putte S. Van , Vannerom D. , Clerbaux B. , Das A. K. , De Lentdecker G. , Favart L. , Gianneios P. , Hohov D. , Jaramillo J. , Khalilzadeh A. , Khan F. A. , Lee K. , Mahdavikhorrami M. , Malara A. , Paredes S. , Thomas L. , Bemden M. Vanden , Velde C. Vander , Vanlaer P. , De Coen M. , Dobur D. , Hong Y. , Knolle J. , Lambrecht L. , Mestdach G. , Amarilo K. Mota , Rendón C. , Samalan A. , Skovpen K. , Bossche N. Van Den , Linden J. van der , Wezenbeek L. , Benecke A. , Bethani A. , Bruno G. , Caputo C. , Delaere C. , Donertas I. S. , Giammanco A. , Jaffel K. , Jain Sa. , Lemaitre V. , Lidrych J. , Mastrapasqua P. , Mondal K. , Tran T. T. , Wertz S. , Alves G. A. , Coelho E. , Hensel C. , De Oliveira T. Menezes , Moraes A. , Teles P. Rebello , Soeiro M. , Júnior W. L. Aldá , Pereira M. Alves Gallo , Filho M. Barroso Ferreira , Malbouisson H. Brandao , Carvalho W. , Chinellato J. , Da Costa E. M. , Da Silveira G. G. , De Jesus Damiao D. , De Souza S. Fonseca , De Souza R. Gomes , Martins J. , Herrera C. Mora , Mundim L. , Nogima H. , Pinheiro J. P. , Santoro A. , Sznajder A. , Thiel M. , Pereira A. Vilela , Bernardes C. A. , Calligaris L. , Tomei T. R. Fernandez Perez , Gregores E. M. , Mercadante P. G. , Novaes S. F. , Orzari B. , Padula Sandra S. , Aleksandrov A. , Antchev G. , Hadjiiska R. , Iaydjiev P. , Misheva M. , Shopova M. , Sultanov G. , Dimitrov A. , Litov L. , Pavlov B. , Petkov P. , Petrov A. , Shumka E. , Keshri S. , Thakur S. , Cheng T. , Javaid T. , Yuan L. , Hu Z. , Liu J. , Yi K. , Chen G. M. , Chen H. S. , Chen M. , Iemmi F. , Jiang C. H. , Kapoor A. , Liao H. , Liu Z.-A. , Sharma R. , Song J. N. , Tao J. , Wang C. , Wang J. , Wang Z. , Zhang H. , Agapitos A. , Ban Y. , Levin A. , Li C. , Li Q. , Mao Y. , Qian S. J. , Sun X. , Wang D. , Yang H. , Zhang L. , Zhou C. , You Z. , Lu N. , Bauer G. , Gao X. , Leggat D. , Okawa H. , Lin Z. , Lu C. , Xiao M. , Avila C. , Trujillo D. A. Barbosa , Cabrera A. , Florez C. , Fraga J. , Vega J. A. Reyes , Guisao J. Mejia , Ramirez F. , Rodriguez M. , Alvarez J. D. Ruiz , Giljanovic D. , Godinovic N. , Lelas D. , Sculac A. , Kovac M. , Sculac T. , Bargassa P. , Brigljevic V. , Chitroda B. K. , Ferencek D. , Mishra S. , Starodumov A. , Susa T. , Attikis A. , Christoforou K. , Konstantinou S. , Mousa J. , Nicolaou C. , Ptochos F. , Razis P. A. , Rykaczewski H. , Saka H. , Stepennov A. , Finger M. , Finger M. , Kveton A. , Ayala E. , Jarrin E. Carrera , Abdelalim A. A. , Salama E. , Mahmoud M. A. , Mohammed Y. , Ehataht K. , Kadastik M. , Lange T. , Nandan S. , Nielsen C. , Pata J. , Raidal M. , Tani L. , Veelken C. , Kirschenmann H. , Osterberg K. , Voutilainen M. , Bharthuar S. , Brücken E. , Garcia F. , Kallonen K. T. S. , Kinnunen R. , Lampén T. , Lassila-Perini K. , Lehti S. , Lindén T. , Martikainen L. , Myllymäki M. , Rantanen M.m. , Siikonen H. , Tuominen E. , Tuominiemi J. , Luukka P. , Petrow H. , Besancon M. , Couderc F. , Dejardin M. , Denegri D. , Faure J. L. , Ferri F. , Ganjour S. , Gras P. , de Monchenault G. Hamel , Lohezic V. , Malcles J. , Rander J. , Rosowsky A. , Sahin M. Ö. , Savoy-Navarro A. , Simkina P. , Titov M. , Tornago M. , Barrera C. Baldenegro , Beaudette F. , Perraguin A. Buchot , Busson P. , Cappati A. , Charlot C. , Chiusi M. , Damas F. , Davignon O. , De Wit A. , Alves B. A. Fontana Santos , Ghosh S. , Gilbert A. , de Cassagnac R. Granier , Hakimi A. , Harikrishnan B. , Kalipoliti L. , Liu G. , Motta J. , Nguyen M. , Ochando C. , Portales L. , Salerno R. , Sauvan J. B. , Sirois Y. , Tarabini A. , Vernazza E. , Zabi A. , Zghiche A. , Agram J.-L. , Andrea J. , Apparu D. , Bloch D. , Brom J.-M. , Chabert E. C. , Collard C. , Falke S. , Goerlach U. , Grimault C. , Haeberle R. , Bihan A.-C. Le , Meena M. , Saha G. , Sessini M. A. , Hove P. Van , Beauceron S. , Blancon B. , Boudoul G. , Chanon N. , Choi J. , Contardo D. , Depasse P. , Dozen C. , Mamouni H. El , Fay J. , Gascon S. , Gouzevitch M. , Greenberg C. , Grenier G. , Ille B. , Laktineh I. B. , Lethuillier M. , Mirabito L. , Perries S. , Purohit A. , Donckt M. Vander , Verdier P. , Xiao J. , Bagaturia I. , Lomidze I. , Tsamalaidze Z. , Botta V. , Feld L. , Klein K. , Lipinski M. , Meuser D. , Pauls A. , Röwert N. , Teroerde M. , Diekmann S. , Dodonova A. , Eich N. , Eliseev D. , Engelke F. , Erdmann J. , Erdmann M. , Fackeldey P. , Fischer B. , Hebbeker T. , Hoepfner K. , Ivone F. , Jung A. , Lee M.y. , Mausolf F. , Merschmeyer M. , Meyer A. , Mukherjee S. , Noll D. , Nowotny F. , Pozdnyakov A. , Rath Y. , Redjeb W. , Rehm F. , Reithler H. , Sarkar U. , Sarkisovi V. , Schmidt A. , Sharma A. , Spah J. L. , Stein A. , Da Silva De Araujo F. Torres , Vigilante L. , Wiedenbeck S. , Zaleski S. , Dziwok C. , Flügge G. , Ahmad W. Haj , Kress T. , Nowack A. , Pooth O. , Stahl A. , Ziemons T. , Zotz A. , Petersen H. Aarup , Martin M. Aldaya , Alimena J. , Amoroso S. , An Y. , Baxter S. , Bayatmakou M. , Gonzalez H. Becerril , Behnke O. , Belvedere A. , Bhattacharya S. , Blekman F. , Borras K. , Campbell A. , Cardini A. , Cheng C. , Colombina F. , Rodríguez S. Consuegra , Silva G. Correia , De Silva M. , Eckerlin G. , Eckstein D. , Banos L. I. Estevez , Filatov O. , Gallo E. , Geiser A. , Giraldi A. , Guglielmi V. , Guthoff M. , Hinzmann A. , Jafari A. , Jeppe L. , Jomhari N. Z. , Kaech B. , Kasemann M. , Kleinwort C. , Kogler R. , Komm M. , Krücker D. , Lange W. , Pernia D. Leyva , Lipka K. , Lohmann W. , Mankel R. , Melzer-Pellmann I.-A. , Morentin M. Mendizabal , Meyer A. B. , Milella G. , Mussgiller A. , Nair L. P. , Nürnberg A. , Otarid Y. , Park J. , Adán D. Pérez , Ranken E. , Raspereza A. , Lopes B. Ribeiro , Rübenach J. , Saggio A. , Scham M. , Schnake S. , Schütze P. , Schwanenberger C. , Selivanova D. , Sharko K. , Shchedrolosiev M. , Ricardo R. E. Sosa , Stafford D. , Vazzoler F. , Barroso A. Ventura , Walsh R. , Wang Q. , Wen Y. , Wichmann K. , Wiens L. , Wissing C. , Yang Y. , Santos A. Zimermmane Castro , Albrecht A. , Albrecht S. , Antonello M. , Bein S. , Benato L. , Bollweg S. , Bonanomi M. , Connor P. , Eich M. , Morabit K. El , Fischer Y. , Garbers C. , Garutti E. , Grohsjean A. , Haller J. , Jabusch H. R. , Kasieczka G. , Keicher P. , Klanner R. , Korcari W. , Kramer T. , Kutzner V. , Labe F. , Lange J. , Lobanov A. , Matthies C. , Mehta A. , Moureaux L. , Mrowietz M. , Nigamova A. , Nissan Y. , Paasch A. , Rodriguez K. J. Pena , Quadfasel T. , Raciti B. , Rieger M. , Savoiu D. , Schindler J. , Schleper P. , Schröder M. , Schwandt J. , Sommerhalder M. , Stadie H. , Steinbrück G. , Tews A. , Wolf M. , Brommer S. , Burkart M. , Butz E. , Chwalek T. , Dierlamm A. , Droll A. , Faltermann N. , Giffels M. , Gottmann A. , Hartmann F. , Hofsaess R. , Horzela M. , Husemann U. , Kieseler J. , Klute M. , Koppenhöfer R. , Lawhorn J. M. , Link M. , Lintuluoto A. , Maier S. , Mitra S. , Mormile M. , Müller Th. , Neukum M. , Oh M. , Presilla M. , Quast G. , Rabbertz K. , Regnery B. , Shadskiy N. , Shvetsov I. , Simonis H. J. , Toms M. , Trevisani N. , Cube R. F. Von , Wassmer M. , Wieland S. , Wittig F. , Wolf R. , Zuo X. , Anagnostou G. , Daskalakis G. , Kyriakis A. , Papadopoulos A. , Stakia A. , Kontaxakis P. , Melachroinos G. , Panagiotou A. , Papavergou I. , Paraskevas I. , Saoulidou N. , Theofilatos K. , Tziaferi E. , Vellidis K. , Zisopoulos I. , Bakas G. , Chatzistavrou T. , Karapostoli G. , Kousouris K. , Papakrivopoulos I. , Siamarkou E. , Tsipolitis G. , Zacharopoulou A. , Adamidis K. , Bestintzanos I. , Evangelou I. , Foudas C. , Kamtsikis C. , Katsoulis P. , Kokkas P. , Kioseoglou P. G. Kosmoglou , Manthos N. , Papadopoulos I. , Strologas J. , Bartók M. , Hajdu C. , Horvath D. , Márton K. , Sikler F. , Veszpremi V. , Csanád M. , Farkas K. , Gadallah M. M. A. , Kadlecsik Á. , Major P. , Mandal K. , Pásztor G. , Rádl A. J. , Veres G. I. , Raics P. , Ujvari B. , Zilizi G. , Bencze G. , Czellar S. , Molnar J. , Szillasi Z. , Csorgo T. , Nemes F. , Novak T. , Babbar J. , Bansal S. , Beri S. B. , Bhatnagar V. , Chaudhary G. , Chauhan S. , Dhingra N. , Kaur A. , Kaur A. , Kaur H. , Kaur M. , Kumar S. , Sandeep K. , Sheokand T. , Singh J. B. , Singla A. , Ahmed A. , Bhardwaj A. , Chhetri A. , Choudhary B. C. , Kumar A. , Kumar A. , Naimuddin M. , Ranjan K. , Saumya S. , Baradia S. , Barman S. , Bhattacharya S. , Dutta S. , Dutta S. , Sarkar S. , Ameen M. M. , Behera P. K. , Behera S. C. , Chatterjee S. , Jana P. , Kalbhor P. , Komaragiri J. R. , Kumar D. , Pujahari P. R. , Saha N. R. , Sharma A. , Sikdar A. K. , Verma S. , Dugad S. , Kumar M. , Mohanty G. B. , Suryadevara P. , Bala A. , Banerjee S. , Chatterjee R. M. , Dewanjee R. K. , Guchait M. , Jain Sh. , Jaiswal A. , Karmakar S. , Kumar S. , Majumder G. , Mazumdar K. , Parolia S. , Thachayath A. , Bahinipati S. , Kar C. , Maity D. , Mal P. , Mishra T. , Bindhu V. K. Muraleedharan Nair , Naskar K. , Nayak A. , Sadangi P. , Saha P. , Swain S. K. , Varghese S. , Vats D. , Acharya S. , Alpana A. , Dube S. , Gomber B. , Kansal B. , Laha A. , Sahu B. , Sharma S. , Vaish K. Y. , Bakhshiansohi H. , Khazaie E. , Zeinali M. , Chenarani S. , Etesami S. M. , Khakzad M. , Najafabadi M. Mohammadi , Grunewald M. , Abbrescia M. , Aly R. , Colaleo A. , Creanza D. , D’Anzi B. , De Filippis N. , De Palma M. , Florio A. Di , Elmetenawee W. , Fiore L. , Iaselli G. , Louka M. , Maggi G. , Maggi M. , Margjeka I. , Mastrapasqua V. , My S. , Nuzzo S. , Pellecchia A. , Pompili A. , Pugliese G. , Radogna R. , Ramirez-Sanchez G. , Ramos D. , Ranieri A. , Silvestris L. , Simone F. M. , Sözbilir Ü. , Stamerra A. , Venditti R. , Verwilligen P. , Zaza A. , Abbiendi G. , Battilana C. , Bonacorsi D. , Borgonovi L. , Campanini R. , Capiluppi P. , Castro A. , Cavallo F. R. , Cuffiani M. , Dallavalle G. M. , Diotalevi T. , Fanfani A. , Fasanella D. , Giacomelli P. , Giommi L. , Grandi C. , Guiducci L. , Meo S. Lo , Lunerti L. , Marcellini S. , Masetti G. , Navarria F. L. , Perrotta A. , Primavera F. , Rossi A. M. , Rovelli T. , Siroli G. P. , Costa S. , Mattia A. Di , Potenza R. , Tricomi A. , Tuve C. , Assiouras P. , Barbagli G. , Bardelli G. , Camaiani B. , Cassese A. , Ceccarelli R. , Ciulli V. , Civinini C. , D’Alessandro R. , Focardi E. , Kello T. , Latino G. , Lenzi P. , Lizzo M. , Meschini M. , Paoletti S. , Papanastassiou A. , Sguazzoni G. , Viliani L. , Benussi L. , Bianco S. , Meola S. , Piccolo D. , Chatagnon P. , Ferro F. , Robutti E. , Tosi S. , Benaglia A. , Boldrini G. , Brivio F. , Cetorelli F. , De Guio F. , Dinardo M. E. , Dini P. , Gennai S. , Gerosa R. , Ghezzi A. , Govoni P. , Guzzi L. , Lucchini M. T. , Malberti M. , Malvezzi S. , Massironi A. , Menasce D. , Moroni L. , Paganoni M. , Pedrini D. , Pinolini B. S. , Ragazzi S. , de Fatis T. Tabarelli , Zuolo D. , Buontempo S. , Cagnotta A. , Carnevali F. , Cavallo N. , Fabozzi F. , Iorio A. O. M. , Lista L. , Paolucci P. , Rossi B. , Sciacca C. , Ardino R. , Azzi P. , Bacchetta N. , Bisello D. , Bortignon P. , Bragagnolo A. , Checchia P. , Dorigo T. , Gasparini U. , Lusiani E. , Margoni M. , Marini F. , Meneguzzo A. T. , Migliorini M. , Passaseo M. , Pazzini J. , Ronchese P. , Rossin R. , Sgaravatto M. , Simonetto F. , Strong G. , Tosi M. , Triossi A. , Ventura S. , Yarar H. , Zanetti M. , Zotto P. , Zucchetta A. , Zumerle G. , Zeid S. Abu , Aimè C. , Braghieri A. , Calzaferri S. , Fiorina D. , Montagna P. , Re V. , Riccardi C. , Salvini P. , Vai I. , Vitulo P. , Ajmal S. , Bilei G. M. , Ciangottini D. , Fanò L. , Magherini M. , Mantovani G. , Mariani V. , Menichelli M. , Moscatelli F. , Rossi A. , Santocchia A. , Spiga D. , Tedeschi T. , Asenov P. , Azzurri P. , Bagliesi G. , Bhattacharya R. , Bianchini L. , Boccali T. , Bossini E. , Bruschini D. , Castaldi R. , Ciocci M. A. , Cipriani M. , D’Amante V. , Dell’Orso R. , Donato S. , Giassi A. , Ligabue F. , Figueiredo D. Matos , Messineo A. , Musich M. , Palla F. , Rizzi A. , Rolandi G. , Chowdhury S. Roy , Sarkar T. , Scribano A. , Spagnolo P. , Tenchini R. , Tonelli G. , Turini N. , Venturi A. , Verdini P. G. , Barria P. , Basile C. , Campana M. , Cavallari F. , Mendez L. Cunqueiro , Re D. Del , Marco E. Di , Diemoz M. , Errico F. , Longo E. , Meridiani P. , Mijuskovic J. , Organtini G. , Pandolfi F. , Paramatti R. , Quaranta C. , Rahatlou S. , Rovelli C. , Santanastasio F. , Soffi L. , Amapane N. , Arcidiacono R. , Argiro S. , Arneodo M. , Bartosik N. , Bellan R. , Bellora A. , Biino C. , Borca C. , Cartiglia N. , Costa M. , Covarelli R. , Demaria N. , Finco L. , Grippo M. , Kiani B. , Legger F. , Luongo F. , Mariotti C. , Markovic L. , Maselli S. , Mecca A. , Migliore E. , Monteno M. , Mulargia R. , Obertino M. M. , Ortona G. , Pacher L. , Pastrone N. , Pelliccioni M. , Ruspa M. , Siviero F. , Sola V. , Solano A. , Staiano A. , Tarricone C. , Trocino D. , Umoret G. , Vlasov E. , Belforte S. , Candelise V. , Casarsa M. , Cossutti F. , De Leo K. , Ricca G. Della , Dogra S. , Hong J. , Huh C. , Kim B. , Kim D. H. , Kim J. , Lee H. , Lee S. W. , Moon C. S. , Oh Y. D. , Ryu M. S. , Sekmen S. , Yang Y. C. , Kim M. S. , Bak G. , Gwak P. , Kim H. , Moon D. H. , Asilar E. , Kim D. , Kim T. J. , Merlin J. A. , Choi S. , Han S. , Hong B. , Lee K. , Lee K. S. , Lee S. , Park J. , Park S. K. , Yoo J. , Goh J. , Yang S. , Kim H. S. , Kim Y. , Lee S. , Almond J. , Bhyun J. H. , Choi J. , Jun W. , Kim J. , Ko S. , Kwon H. , Lee H. , Lee J. , Lee J. , Oh B. H. , Oh S. B. , Seo H. , Yang U. K. , Yoon I. , Jang W. , Kang D. Y. , Kang Y. , Kim S. , Ko B. , Lee J. S. H. , Lee Y. , Park I. C. , Roh Y. , Watson I. J. , Ha S. , Yoo H. D. , Choi M. , Kim M. R. , Lee H. , Lee Y. , Yu I. , Beyrouthy T. , Maghrbi Y. , Dreimanis K. , Gaile A. , Pikurs G. , Potrebko A. , Seidel M. , Veckalns V. , Strautnieks N. R. , Ambrozas M. , Juodagalvis A. , Rinkevicius A. , Tamulaitis G. , Norjoharuddeen N. Bin , Yusuff I. , Zolkapli Z. , Benitez J. F. , Hernandez A. Castaneda , Acosta H. A. Encinas , Maríñez L. G. Gallegos , Coello M. León , Quijada J. A. Murillo , Sehrawat A. , Palomo L. Valencia , Ayala G. , Castilla-Valdez H. , Ledesma H. Crotte , De La Cruz-Burelo E. , La Cruz I. Heredia-De , Lopez-Fernandez R. , Herrera C. A. Mondragon , Hernández A. Sánchez , Barrera C. Oropeza , García M. Ramírez , Bautista I. , Pedraza I. , Ibarguen H. A. Salazar , Estrada C. Uribe , Bubanja I. , Raicevic N. , Butler P. H. , Ahmad A. , Asghar M. I. , Awais A. , Awan M. I. M. , Hoorani H. R. , Khan W. A. , Avati V. , Grzanka L. , Malawski M. , Bialkowska H. , Bluj M. , Boimska B. , Górski M. , Kazana M. , Szleper M. , Zalewski P. , Bunkowski K. , Doroba K. , Kalinowski A. , Konecki M. , Krolikowski J. , Muhammad A. , Pozniak K. , Zabolotny W. , Araujo M. , Bastos D. , Da Cruz E Silva C. Beirão , Boletti A. , Bozzo M. , Camporesi T. , Da Molin G. , Faccioli P. , Gallinaro M. , Hollar J. , Leonardo N. , Niknejad T. , Petrilli A. , Pisano M. , Seixas J. , Varela J. , Wulff J. W. , Adzic P. , Milenovic P. , Dordevic M. , Milosevic J. , Rekovic V. , Aguilar-Benitez M. , Maestre J. Alcaraz , Bedoya Cristina F. , Cepeda M. , Cerrada M. , Colino N. , De La Cruz B. , Peris A. Delgado , Valle A. Escalante Del , Val D. Fernández Del , Ramos J. P. Fernández , Flix J. , Fouz M. C. , Lopez O. Gonzalez , Lopez S. Goy , Hernandez J. M. , Josa M. I. , Moran D. , Perez C. M. Morcillo , Tobar Á. Navarro , Dengra C. Perez , Yzquierdo A. Pérez-Calero , Pelayo J. Puerta , Redondo I. , Ferrero D. D. Redondo , Romero L. , Navas S. Sánchez , Gómez L. Urda , Escobar J. Vazquez , Willmott C. , de Trocóniz J. F. , Gonzalez B. Alvarez , Cuevas J. , Menendez J. Fernandez , Folgueras S. , Caballero I. Gonzalez , Fernández J. R. González , Cortezon E. Palencia , Álvarez C. Ramón , Bouza V. Rodríguez , Rodríguez A. Soto , Trapote A. , Villalba C. Vico , Vischia P. , Bhowmik S. , Fernández S. Blanco , Cifuentes J. A. Brochero , Cabrillo I. J. , Calderon A. , Campderros J. Duarte , Fernandez M. , Gomez G. , García C. Lasaosa , Rivero C. Martinez , Arbol P. Martinez Ruiz del , Matorras F. , Cuevas P. Matorras , Ramos E. Navarrete , Gomez J. Piedra , Scodellaro L. , Vila I. , Garcia J. M. Vizan , Jayananda M. K. , Kailasapathy B. , Sonnadara D. U. J. , Wickramarathna D. D. C. , Dharmaratna W. G. D. , Liyanage K. , Perera N. , Wickramage N. , Abbaneo D. , Amendola C. , Auffray E. , Auzinger G. , Baechler J. , Barney D. , Martínez A. Bermúdez , Bianco M. , Bilin B. , Anuar A. A. Bin , Bocci A. , Botta C. , Brondolin E. , Caillol C. , Cerminara G. , Chernyavskaya N. , d’Enterria D. , Dabrowski A. , David A. , De Roeck A. , Defranchis M. M. , Deile M. , Dobson M. , Forthomme L. , Franzoni G. , Funk W. , Giani S. , Gigi D. , Gill K. , Glege F. , Gouskos L. , Haranko M. , Hegeman J. , Huber B. , Innocente V. , James T. , Janot P. , Laurila S. , Lecoq P. , Leutgeb E. , Lourenço C. , Maier B. , Malgeri L. , Mannelli M. , Marini A. C. , Matthewman M. , Meijers F. , Mersi S. , Meschi E. , Milosevic V. , Monti F. , Moortgat F. , Mulders M. , Neutelings I. , Orfanelli S. , Pantaleo F. , Petrucciani G. , Pfeiffer A. , Pierini M. , Piparo D. , Qu H. , Rabady D. , Gutiérrez G. Reales , Rovere M. , Sakulin H. , Scarfi S. , Schwick C. , Selvaggi M. , Sharma A. , Shchelina K. , Silva P. , Sphicas P. , Leiton A. G. Stahl , Steen A. , Summers S. , Treille D. , Tropea P. , Tsirou A. , Walter D. , Wanczyk J. , Wang J. , Wuchterl S. , Zehetner P. , Zejdl P. , Zeuner W. D. , Bevilacqua T. , Caminada L. , Ebrahimi A. , Erdmann W. , Horisberger R. , Ingram Q. , Kaestli H. C. , Kotlinski D. , Lange C. , Missiroli M. , Noehte L. , Rohe T. , Aarrestad T. K. , Androsov K. , Backhaus M. , Calandri A. , Cazzaniga C. , Datta K. , De Cosa A. , Dissertori G. , Dittmar M. , Donegà M. , Eble F. , Galli M. , Gedia K. , Glessgen F. , Grab C. , Hits D. , Lustermann W. , Lyon A.-M. , Manzoni R. A. , Marchegiani M. , Marchese L. , Perez C. Martin , Mascellani A. , Nessi-Tedaldi F. , Pauss F. , Perovic V. , Pigazzini S. , Reissel C. , Reitenspiess T. , Ristic B. , Riti F. , Seidita R. , Steggemann J. , Valsecchi D. , Wallny R. , Amsler C. , Bärtschi P. , Brzhechko D. , Canelli M. F. , Cormier K. , Heikkilä J. K. , Huwiler M. , Jin W. , Jofrehei A. , Kilminster B. , Leontsinis S. , Liechti S. P. , Macchiolo A. , Meiring P. , Molinatti U. , Reimers A. , Robmann P. , Cruz S. Sanchez , Senger M. , Stäger F. , Takahashi Y. , Tramontano R. , Adloff C. , Bhowmik D. , Kuo C. M. , Lin W. , Rout P. K. , Tiwari P. C. , Yu S. S. , Ceard L. , Chao Y. , Chen K. F. , Chen P. s. , Chen Z. g. , De Iorio A. , Hou W.-S. , Hsu T. h. , Kao Y. w. , Khurana R. , Kole G. , Li Y.y. , Lu R.-S. , Paganis E. , Su X.f. , Thomas-Wilsker J. , Tsai L. s. , Wu H. y. , Yazgan E. , Asawatangtrakuldee C. , Srimanobhas N. , Wachirapusitanand V. , Agyel D. , Boran F. , Demiroglu Z. S. , Dolek F. , Dumanoglu I. , Eskut E. , Guler Y. , Guler E. Gurpinar , Isik C. , Kara O. , Topaksu A. Kayis , Kiminsu U. , Onengut G. , Ozdemir K. , Polatoz A. , Tali B. , Tok U. G. , Turkcapar S. , Uslan E. , Zorbakir I. S. , Yalvac M. , Akgun B. , Atakisi I. O. , Gülmez E. , Kaya M. , Kaya O. , Tekten S. , Cakir A. , Cankocak K. , Komurcu Y. , Sen S. , Aydilek O. , Cerci S. , Epshteyn V. , Hacisahinoglu B. , Hos I. , Kaynak B. , Ozkorucuklu S. , Potok O. , Sert H. , Simsek C. , Zorbilmez C. , Isildak B. , Cerci D. Sunar , Boyaryntsev A. , Grynyov B. , Levchuk L. , Anthony D. , Brooke J. J. , Bundock A. , Bury F. , Clement E. , Cussans D. , Flacher H. , Glowacki M. , Goldstein J. , Heath H. F. , Kreczko L. , Paramesvaran S. , Robertshaw L. , Nasr-Storey S. Seif El , Smith V. J. , Stylianou N. , Pass K. Walkingshaw , White R. , Ball A. H. , Bell K. W. , Belyaev A. , Brew C. , Brown R. M. , Cockerill D. J. A. , Cooke C. , Ellis K. V. , Harder K. , Harper S. , Holmberg M.-L. , Linacre J. , Manolopoulos K. , Newbold D. M. , Olaiya E. , Petyt D. , Reis T. , Salvi G. , Schuh T. , Shepherd-Themistocleous C. H. , Tomalin I. R. , Williams T. , Bainbridge R. , Bloch P. , Brown C. E. , Buchmuller O. , Cacchio V. , Montoya C. A. Carrillo , Chahal G. S. , Colling D. , Dancu J. S. , Das I. , Dauncey P. , Davies G. , Davies J. , Negra M. Della , Fayer S. , Fedi G. , Hall G. , Hassanshahi M. H. , Howard A. , Iles G. , Knight M. , Langford J. , Holgado J. León , Lyons L. , Magnan A.-M. , Malik S. , Mieskolainen M. , Nash J. , Pesaresi M. , Radburn-Smith B. C. , Richards A. , Rose A. , Savva K. , Seez C. , Shukla R. , Tapper A. , Uchida K. , Uttley G. P. , Vage L. H. , Virdee T. , Vojinovic M. , Wardle N. , Winterbottom D. , Coldham K. , Cole J. E. , Khan A. , Kyberd P. , Reid I. D. , Abdullin S. , Brinkerhoff A. , Caraway B. , Dittmann J. , Hatakeyama K. , Hiltbrand J. , McMaster B. , Saunders M. , Sawant S. , Sutantawibul C. , Wilson J. , Bartek R. , Dominguez A. , Escamilla C. Huerta , Simsek A. E. , Uniyal R. , Hernandez A. M. Vargas , Bam B. , Chudasama R. , Cooper S. I. , Gleyzer S. V. , Perez C. U. , Rumerio P. , Usai E. , Yi R. , Akpinar A. , Arcaro D. , Cosby C. , Demiragli Z. , Erice C. , Fangmeier C. , Madrazo C. Fernandez , Fontanesi E. , Gastler D. , Golf F. , Jeon S. , Reed I. , Rohlf J. , Salyer K. , Sperka D. , Spitzbart D. , Suarez I. , Tsatsos A. , Yuan S. , Zecchinelli A. G. , Benelli G. , Coubez X. , Cutts D. , Hadley M. , Heintz U. , Hogan J. M. , Kwon T. , Landsberg G. , Lau K. T. , Li D. , Luo J. , Mondal S. , Narain M. , Pervan N. , Sagir S. , Simpson F. , Stamenkovic M. , Yan X. , Zhang W. , Abbott S. , Bonilla J. , Brainerd C. , Breedon R. , De La Barca Sanchez M. Calderon , Chertok M. , Citron M. , Conway J. , Cox P. T. , Erbacher R. , Jensen F. , Kukral O. , Mocellin G. , Mulhearn M. , Pellett D. , Wei W. , Yao Y. , Zhang F. , Bachtis M. , Cousins R. , Datta A. , Avila G. Flores , Hauser J. , Ignatenko M. , Iqbal M. A. , Lam T. , Manca E. , Prado A. Nunez Del , Saltzberg D. , Valuev V. , Clare R. , Gary J. W. , Gordon M. , Hanson G. , Si W. , Wimpenny S. , Branson J. G. , Cittolin S. , Cooperstein S. , Diaz D. , Duarte J. , Giannini L. , Guiang J. , Kansal R. , Krutelyov V. , Lee R. , Letts J. , Masciovecchio M. , Mokhtar F. , Mukherjee S. , Pieri M. , Quinnan M. , Narayanan B. V. Sathia , Sharma V. , Tadel M. , Vourliotis E. , Würthwein F. , Xiang Y. , Yagil A. , Barzdukas A. , Brennan L. , Campagnari C. , Incandela J. , Kim J. , Li A. J. , Masterson P. , Mei H. , Richman J. , Sarica U. , Schmitz R. , Setti F. , Sheplock J. , Stuart D. , Vámi T. Á. , Wang S. , Bornheim A. , Cerri O. , Latorre A. , Mao J. , Newman H. B. , Spiropulu M. , Vlimant J. R. , Wang C. , Xie S. , Zhu R. Y. , Alison J. , An S. , Andrews M. B. , Bryant P. , Cremonesi M. , Dutta V. , Ferguson T. , Harilal A. , Liu C. , Mudholkar T. , Murthy S. , Palit P. , Paulini M. , Roberts A. , Sanchez A. , Terrill W. , Cumalat J. P. , Ford W. T. , Hart A. , Hassani A. , Karathanasis G. , MacDonald E. , Manganelli N. , Perloff A. , Savard C. , Schonbeck N. , Stenson K. , Ulmer K. A. , Wagner S. R. , Zipper N. , Alexander J. , Bright-Thonney S. , Chen X. , Cranshaw D. J. , Fan J. , Fan X. , Gadkari D. , Hogan S. , Kotamnives P. , Monroy J. , Oshiro M. , Patterson J. R. , Reichert J. , Reid M. , Ryd A. , Thom J. , Wittich P. , Zou R. , Albrow M. , Alyari M. , Amram O. , Apollinari G. , Apresyan A. , Bauerdick L. A. T. , Berry D. , Berryhill J. , Bhat P. C. , Burkett K. , Butler J. N. , Canepa A. , Cerati G. B. , Cheung H. W. K. , Chlebana F. , Cummings G. , Dickinson J. , Dutta I. , Elvira V. D. , Feng Y. , Freeman J. , Gandrakota A. , Gecse Z. , Gray L. , Green D. , Grummer A. , Grünendahl S. , Guerrero D. , Gutsche O. , Harris R. M. , Heller R. , Herwig T. C. , Hirschauer J. , Horyn L. , Jayatilaka B. , Jindariani S. , Johnson M. , Joshi U. , Klijnsma T. , Klima B. , Kwok K. H. M. , Lammel S. , Lincoln D. , Lipton R. , Liu T. , Madrid C. , Maeshima K. , Mantilla C. , Mason D. , McBride P. , Merkel P. , Mrenna S. , Nahn S. , Ngadiuba J. , Noonan D. , Papadimitriou V. , Pastika N. , Pedro K. , Pena C. , Ravera F. , Hall A. Reinsvold , Ristori L. , Sexton-Kennedy E. , Smith N. , Soha A. , Spiegel L. , Stoynev S. , Strait J. , Taylor L. , Tkaczyk S. , Tran N. V. , Uplegger L. , Vaandering E. W. , Zoi I. , Aruta C. , Avery P. , Bourilkov D. , Cadamuro L. , Chang P. , Cherepanov V. , Field R. D. , Koenig E. , Kolosova M. , Konigsberg J. , Korytov A. , Matchev K. , Menendez N. , Mitselmakher G. , Mohrman K. , Madhu A. Muthirakalayil , Rawal N. , Rosenzweig D. , Rosenzweig S. , Wang J. , Adams T. , Kadhim A. Al , Askew A. , Bower S. , Habibullah R. , Hagopian V. , Hashmi R. , Kim R. S. , Kim S. , Kolberg T. , Martinez G. , Prosper H. , Prova P. R. , Wulansatiti M. , Yohay R. , Zhang J. , Alsufyani B. , Baarmand M. M. , Butalla S. , Elkafrawy T. , Hohlmann M. , Verma R. Kumar , Rahmani M. , Yanes E. , Adams M. R. , Baty A. , Bennett C. , Cavanaugh R. , Franco R. Escobar , Evdokimov O. , Gerber C. E. , Hofman D. J. , Lee J.h. , Lemos D. S. , Merrit A. H. , Mills C. , Nanda S. , Oh G. , Ozek B. , Pilipovic D. , Pradhan R. , Roy T. , Rudrabhatla S. , Tonjes M. B. , Varelas N. , Ye Z. , Yoo J. , Alhusseini M. , Blend D. , Dilsiz K. , Emediato L. , Karaman G. , Köseyan O. K. , Merlo J.-P. , Mestvirishvili A. , Nachtman J. , Neogi O. , Ogul H. , Onel Y. , Penzo A. , Snyder C. , Tiras E. , Blumenfeld B. , Corcodilos L. , Davis J. , Gritsan A. V. , Kang L. , Kyriacou S. , Maksimovic P. , Roguljic M. , Roskes J. , Sekhar S. , Swartz M. , Abreu A. , Alcerro L. F. Alcerro , Anguiano J. , Baringer P. , Bean A. , Flowers Z. , Grove D. , King J. , Krintiras G. , Lazarovits M. , Mahieu C. Le , Marquez J. , Minafra N. , Murray M. , Nickel M. , Pitt M. , Popescu S. , Rogan C. , Royon C. , Salvatico R. , Sanders S. , Smith C. , Wang Q. , Wilson G. , Allmond B. , Ivanov A. , Kaadze K. , Kalogeropoulos A. , Kim D. , Maravin Y. , Natoli J. , Roy D. , Sorrentino G. , Rebassoo F. , Wright D. , Baden A. , Belloni A. , Chen Y. M. , Eno S. C. , Hadley N. J. , Jabeen S. , Kellogg R. G. , Koeth T. , Lai Y. , Lascio S. , Mignerey A. C. , Nabili S. , Palmer C. , Papageorgakis C. , Paranjpe M. M. , Wang L. , Bendavid J. , Cali I. A. , D’Alfonso M. , Eysermans J. , Freer C. , Gomez-Ceballos G. , Goncharov M. , Grosso G. , Harris P. , Hoang D. , Kovalskyi D. , Krupa J. , Lavezzo L. , Lee Y.-J. , Long K. , Novak A. , Paus C. , Rankin D. , Roland C. , Roland G. , Rothman S. , Stephans G. S. F. , Wang Z. , Wyslouch B. , Yang T. J. , Crossman B. , Joshi B. M. , Kapsiak C. , Krohn M. , Mahon D. , Mans J. , Marzocchi B. , Pandey S. , Revering M. , Rusack R. , Saradhy R. , Schroeder N. , Strobbe N. , Wadud M. A. , Cremaldi L. M. , Bloom K. , Claes D. R. , Haza G. , Hossain J. , Joo C. , Kravchenko I. , Siado J. E. , Tabb W. , Vagnerini A. , Wightman A. , Yan F. , Yu D. , Bandyopadhyay H. , Hay L. , Iashvili I. , Kharchilava A. , Morris M. , Nguyen D. , Rappoccio S. , Sfar H. Rejeb , Williams A. , Alverson G. , Barberis E. , Dervan J. , Haddad Y. , Han Y. , Krishna A. , Li J. , Lu M. , Madigan G. , Mccarthy R. , Morse D. M. , Nguyen V. , Orimoto T. , Parker A. , Skinnari L. , Wang B. , Wood D. , Bhattacharya S. , Bueghly J. , Chen Z. , Dittmer S. , Hahn K. A. , Liu Y. , Miao Y. , Monk D. G. , Schmitt M. H. , Taliercio A. , Velasco M. , Agarwal G. , Band R. , Bucci R. , Castells S. , Das A. , Goldouzian R. , Hildreth M. , Ho K. W. , Anampa K. Hurtado , Ivanov T. , Jessop C. , Lannon K. , Lawrence J. , Loukas N. , Lutton L. , Mariano J. , Marinelli N. , Mcalister I. , McCauley T. , Mcgrady C. , Moore C. , Musienko Y. , Nelson H. , Osherson M. , Piccinelli A. , Ruchti R. , Townsend A. , Wan Y. , Wayne M. , Yockey H. , Zarucki M. , Zygala L. , Basnet A. , Bylsma B. , Carrigan M. , Durkin L. S. , Hill C. , Joyce M. , Ornelas M. Nunez , Wei K. , Winer B. L. , Yates B. R. , Addesa F. M. , Bouchamaoui H. , Das P. , Dezoort G. , Elmer P. , Frankenthal A. , Greenberg B. , Haubrich N. , Kopp G. , Kwan S. , Lange D. , Loeliger A. , Marlow D. , Ojalvo I. , Olsen J. , Shevelev A. , Stickland D. , Tully C. , Malik S. , Bakshi A. S. , Barnes V. E. , Chandra S. , Chawla R. , Das S. , Gu A. , Gutay L. , Jones M. , Jung A. W. , Kondratyev D. , Koshy A. M. , Liu M. , Negro G. , Neumeister N. , Paspalaki G. , Piperov S. , Scheurer V. , Schulte J. F. , Stojanovic M. , Thieman J. , Virdi A. K. , Wang F. , Xie W. , Dolen J. , Parashar N. , Pathak A. , Acosta D. , Carnahan T. , Ecklund K. M. , Manteca P. J. Fernández , Freed S. , Gardner P. , Geurts F. J. M. , Li W. , Colin O. Miguel , Padley B. P. , Redjimi R. , Rotter J. , Yigitbasi E. , Zhang Y. , Bodek A. , de Barbaro P. , Demina R. , Dulemba J. L. , Garcia-Bellido A. , Hindrichs O. , Khukhunaishvili A. , Parmar N. , Parygin P. , Popova E. , Taus R. , Goulianos K. , Chiarito B. , Chou J. P. , Gershtein Y. , Halkiadakis E. , Heindl M. , Houghton C. , Jaroslawski D. , Karacheban O. , Laflotte I. , Lath A. , Montalvo R. , Nash K. , Routray H. , Salur S. , Schnetzer S. , Somalwar S. , Stone R. , Thayil S. A. , Thomas S. , Vora J. , Wang H. , Acharya H. , Ally D. , Delannoy A. G. , Fiorendi S. , Higginbotham S. , Holmes T. , Kanuganti A. R. , Karunarathna N. , Lee L. , Nibigira E. , Spanier S. , Aebi D. , Ahmad M. , Bouhali O. , Eusebi R. , Gilmore J. , Huang T. , Kamon T. , Kim H. , Luo S. , Mueller R. , Overton D. , Rathjens D. , Safonov A. , Akchurin N. , Damgov J. , Hegde V. , Hussain A. , Kazhykarim Y. , Lamichhane K. , Lee S. W. , Mankel A. , Peltola T. , Volobouev I. , Whitbeck A. , Appelt E. , Chen Y. , Greene S. , Gurrola A. , Johns W. , Elayavalli R. Kunnawalkam , Melo A. , Romeo F. , Sheldon P. , Tuo S. , Velkovska J. , Viinikainen J. , Cardwell B. , Cox B. , Hakala J. , Hirosky R. , Ledovskoy A. , Neu C. , Lara C. E. Perez , Karchin P. E. , Aravind A. , Banerjee S. , Black K. , Bose T. , Dasu S. , De Bruyn I. , Everaerts P. , Galloni C. , He H. , Herndon M. , Herve A. , Koraka C. K. , Lanaro A. , Loveless R. , Sreekala J. Madhusudanan , Mallampalli A. , Mohammadi A. , Mondal S. , Parida G. , Pétré L. , Pinna D. , Savin A. , Shang V. , Sharma V. , Smith W. H. , Teague D. , Tsoi H. F. , Vetens W. , Warden A. , Afanasiev S. , Andreev V. , Andreev Yu. , Aushev T. , Azarkin M. , Babaev A. , Belyaev A. , Blinov V. , Boos E. , Borshch V. , Budkouski D. , Chadeeva M. , Chekhovsky V. , Chistov R. , Demiyanov A. , Dermenev A. , Dimova T. , Druzhkin D. , Dubinin M. , Dudko L. , Ershov A. , Gavrilov G. , Gavrilov V. , Gninenko S. , Golovtcov V. , Golubev N. , Golutvin I. , Gorbunov I. , Gribushin A. , Ivanov Y. , Kachanov V. , Karjavine V. , Karneyeu A. , Kim V. , Kirakosyan M. , Kirpichnikov D. , Kirsanov M. , Klyukhin V. , Kodolova O. , Korenkov V. , Kozyrev A. , Krasnikov N. , Lanev A. , Levchenko P. , Lychkovskaya N. , Makarenko V. , Malakhov A. , Matveev V. , Murzin V. , Nikitenko A. , Obraztsov S. , Oreshkin V. , Palichik V. , Perelygin V. , Petrushanko S. , Polikarpov S. , Popov V. , Radchenko O. , Savina M. , Savrin V. , Shalaev V. , Shmatov S. , Shulha S. , Skovpen Y. , Slabospitskii S. , Smirnov V. , Snigirev A. , Sosnov D. , Sulimov V. , Tcherniaev E. , Terkulov A. , Teryaev O. , Tlisova I. , Toropin A. , Uvarov L. , Uzunian A. , Vorobyev A. , Voytishin N. , Yuldashev B. S. , Zarubin A. , Zhizhin I. , Zhokin A. 
Published: September 2024

Computing demands for large scientific experiments, such as the CMS experiment at the CERN LHC, will increase dramatically in the next decades. To complement the future performance increases of software running on central processing units (CPUs), explorations of coprocessor usage in data processing hold great potential and interest. Coprocessors are a class of computer processors that supplement CPUs, often improving the execution of certain functions due to architectural design choices. We explore the approach of Services for Optimized Network Inference on Coprocessors (SONIC) and study the deployment of this as-a-service approach in large-scale data processing. In the studies, we take a data processing workflow of the CMS experiment and run the main workflow on CPUs, while offloading several machine learning (ML) inference tasks onto either remote or local coprocessors, specifically graphics processing units (GPUs). With experiments performed at Google Cloud, the Purdue Tier-2 computing center, and combinations of the two, we demonstrate the acceleration of these ML algorithms individually on coprocessors and the corresponding throughput improvement for the entire workflow. This approach can be easily generalized to different types of coprocessors and deployed on local CPUs without decreasing the throughput performance. We emphasize that the SONIC approach enables high coprocessor usage and enables the portability to run workflows on different types of coprocessors.