Het is een standvogel die slechts korte zwerfbewegingen maakt na het broedseizoen. In het voorjaar is hij zeer luidruchtig in zijn territorium.
De Zwarte Specht leeft in grote, zowel naald-, loof- als gemengde bossen. Buiten het broedseizoen ook in schaars beboste tot open landschappen met alleen bomenrijen. Hij maakt zijn hol in grote, zelfs levende bomen als grove den, eik en beuk.