县人。
幼年当过粮坊学徒，后流落山东，因犯杀人罪潜逃京津地区。一八九六年参加袁世凯的北洋新军随营学堂，结业后任排长。一九零六年入保定军官学校第一期，毕业后一直在北洋军中任职。一九一一年任第三镇十一协二十二标标统。
辛亥革命爆发后，张敬尧率一营为先遣队开往武昌进行血腥镇压，因“杀敌骁勇”提升为团长。
一九一三年二次革命期间，张敬尧率部从湖北进攻江西，镇压革命，又擢升旅长兼南昌卫戍区司令。一九一四年段祺瑞出任河南都督，张敬尧随段祺瑞开往河南镇压白朗起义军，因镇压起义“有功”，被升为陆军第七师师长，调驻北京。
一九一五年八月，张敬尧联合北洋军界四十四人召开军警大会，鼓吹拥护袁世凯称帝。护国战争爆发后，张敬尧被袁世凯任命为第二路军司令，晋升陆军上将，率部进军四川镇压护国运动。
一九一七年段祺瑞出任国务总理后，任命张敬尧为苏鲁豫皖边境督办。南北战争北军攻占长沙后，又被任命为湖南督军。