En bygning som er laget med det formålet å huse fysiske servere kalles et datasenter; dette har ofte spesialbygget kjøling og strenge rutiner for fysisk tilgangskontroll. Slike bygninger kan huse tusenvis av servere. I «vanlige» bygninger kan man også snakke om serverrom, som er enkeltrom som er bygget om til å huse servere. Disse er langt mindre enn datasentre, og har kanskje et par titalls servere.