Allison 1965-ben Joe Mercer segítőjeként kezdett el a Manchester Citynél, az edzőpárossal a klub 1966-ban a másodosztályú, két évvel később pedig az élvonalbeli bajnokságot nyerte meg. 1969-ben FA-kupa-győztes, 1970-ben KEK-győztes lett a City. Az 1972–1973-as idényben már menedzserként ténykedett a csapat élén, amelyhez az 1979–1980-as szezonban tért vissza.
Összesen 11 klubnál dolgozott, Anglián kívül a török Galatasaray, a portugál Sporting CP, a Vitória Setúbal és a Farense, valamint a kanadai Toronto City munkáját irányította, és volt kuvaiti szövetségi kapitány is. Utolsó munkája a Bristol Rovers irányítása volt az 1992–1993-as idényben.