Cloud- of legacy-infrastructuur wordt vaak gebruikt voor vroege AI-ontwikkeling of proof of concept, maar wanneer AI op productieschaal wordt gebruikt, moeten data scientists infrastructuur die geoptimaliseerd is voor AI overwegen.
Overwegingen zijn onder andere:
Grootte van dataset en groei
Kosten en beschikbaarheid van krachtige GPU's, opslag en netwerken
Vereisten voor beveiliging, controle, bestuur en eigenaarschap van data.
Vaak biedt een hybride of on-prem oplossing betere en snellere resultaten met lagere totale eigendomskosten.