בעלי ניבי החרב הופיעו במגוון גדלים: מיצורים קטנים כשועל ועד גדולים מהאריה והטיגריס. חלקם דמו לחתולים הגדולים, ואילו אחרים לא הזכירו צורת חתול כלל. גפיהם היו קצרות יחסית אצל רוב המינים, במיוחד האחוריות וכפותיהן. צווארם היה ארוך יחסית, ואילו לעתים קרובות גבם וזנבם היו קצרים. רבים מהם ניחנו במבנה גוף חסון במיוחד שהתבטא בעיקר ב, בצווארם, כתפיהם, גפיהם ובגבם. בהשוואה לבעלי חיים בגודל דומה, בעלי ניבי החרב היו חזקים יותר, מה סייע להם להיאבק עם טרף ביתר קלות.