قبل از پیدایش رایانش ابری، سازمان‌ها مجبور بودند، زیرساخت‌های مورد نیاز خود را به شکل درون سازمانی پیاده‌سازی کنند. چنین زیرساختی به سرورها، آرایه‌های ذخیره‌سازی و تجهیزاتی مانند روترها و فایروال‌ها نیاز داشت. علاوه بر این، مکان‌هایی که این تجهیزات در آن‌ها پیاده‌سازی شوند، زیاد نبود و هزینه خریداری این تجهیزات نیز زیاد بود. به طور معمول، سازمان‌هایی که بودجه کافی داشتند، برای پیاده‌سازی یک مرکز داده گران‌قیمت به ملزومات زیر نیاز داشتند:
رک‌هایی برای نگهداری سرورها و تجهیزات شبکه
منابع انرژی اضافی و باتری‌های پشتیبان یا ژنراتورها
سیستم‌های سرمایشی و تهویه عظیم برای جلوگیری از داغ شدن بیش از حد تجهیزات
پیاده‌سازی شبکه در مرکز داده و خارج از آن و متصل کردن این شبکه‌ها به یکدیگر و اینترنت.
سازمان‌هایی که فضای کافی برای استقرار تجهیزات نداشتند، مجبور بودند فضای فیزیکی موردنیاز مرکز داده را (colo) اجاره کنند. به بیان دقیق‌تر، شرکت‌ها سراغ سازمان‌های بزرگ‌تری مثل اپراتورهای مخابراتی می‌رفتند و از آن‌ها فضایی برای استقرار رک‌ها اجاره می‌کردند. از آن‌جایی که مشتریان کولو تنها به اندازه نیازشان فضایی را اجاره می‌کردند، خواه چند واحد رک، یک رک کامل یا حتی چند رک این گزینه ارزان‌تر از ساخت و نگهداری از یک مرکز داده بود. البته هنوز هم برخی شرکت‌ها بر مبنای چنین رویکردی مرکز داده خود را پیاده‌سازی می‌کنند.