文法的に間違っていないとすると、`-ing` は進行形・動名詞・現在分詞形容詞用法・分詞構文のいずれかです。
`serving` を現在分詞形容詞用法だと考えると、『エンジンを提供するスケーラブルな Traffic Server 』 ではないでしょうか？