Сфенакодон был близким родственником диметродона, что заметно по большому и узкому черепу. У обоих существ были длинные тела и четыре короткие конечности, на которых они передвигались.

Некоторые ученые считают, что у сфенакодона были исключительно сильные мышцы спины, которые делали его ловким и даже позволяли прыгать.

Имя «сфенакодон» означает «клиновидный зуб». Во рту этого хищника было полно острых как бритва зубов, которыми было так легко рвать добычу.

Острые кости, выступающие из позвонков, образовали гребень на спине. Есть по крайней мере два известных вида сфенакодонов, которые отличаются длиной гребня.