为在华北敌后开展平原游击战争，使山地与平原游击战争更好地结合，1938年4月下旬，八路军第129师和第115师各一部深入冀南平原，协同当地中共组织领导的抗日武装，发展冀南和开创鲁西北抗日根据地。5月初，中国共产党冀中组织领导的河北游击军和人民自卫军合编为八路军第3纵队，并开创了冀中抗日根据地。同月，第120师和晋察冀军区各一部合编为第4纵队，挺进冀东，协同中国共产党冀热边特委领导冀东20万人民群众举行抗日武装起义，开创了冀东抗日根据地。中共山东省委领导各地抗日武装起义组建起来的各支基干部队，于6月进行初步整编，统一使用八路军山东人民抗日游击支队的番号，创建山东抗日根据地。7月，第115师一部组成的第5支队和第129师一部组成的津浦支队挺进冀鲁边区，会同当地中共组织领导的抗日武装，开创冀鲁边抗日根据地。8月，第120师大青山支队挺进绥远（今内蒙古中部）大青山地区，协同当地蒙、汉人民游击队，开创大青山抗日根据地。9月中旬，第115师主力在山西汾离公路三战三捷，打退进犯黄河河防的日军，巩固了晋西南抗日根据地。9～11月，晋察冀军区部队在第120师和第129师配合下，挫败了日军5万余人的多路围攻，保卫了晋察冀抗日根据地。与此同时，八路军为配合正面战场国民党军作战，继续对平汉、津浦、平绥、同蒲等铁路线展开广泛的破袭战，一度使平汉路北段的交通中断，有力地打击和牵制了日军。
八路军自挺进敌后至1938年10月，经过1年多的英勇奋战，完成了在华北敌后的战略展开，创建了晋察冀、晋绥、晋冀豫、山东等大块抗日根据地。部队由出征时的3万余人发展到万人，除原有的3个师5个旅共14个团外，新增的旅或相当于旅的纵队、支队达20多个，为进一步巩固和扩大华北各抗日根据地打下了基础。为加强前方指挥机关的领导，中共中央军委于同年8月任命傅钟（后为罗瑞卿）、陆定一为八路军野战政治部正、副主任，12月任命左权为八路军前方总部参谋长。
粉碎日伪军“扫荡”，巩固、发展抗日武装和抗日根据地
1938年10月下旬，日军侵占广州、武汉后，由于其国力、兵力不足和中国的持久抗战，不得不停止战略进攻，改变速战速决方针，转为以保守占领区为主，对国民党采取以政治诱降为主、军事打击为辅的政策；逐步转移其主要力量打击中国共产党领导的抗日武装和抗日根据地，并以华北为重点，进行大规模“扫荡”。与此同时，国民党顽固派开始实行消极抗日、积极反共的政策，并不断与八路军进行军事摩擦。
根据抗日战争进入战略相持阶段的新形势和中共六届六中全会确定的巩固华北、发展华中和华南的战略方针，针对华北日军先取平原，后攻山区的战略企图，八路军各师主力陆续向平原地区挺进。1938年12月，第129师主力挺进冀南，第120师主力挺进冀中，第115师主力挺进山东。与此同时，中共领导的山东各抗日游击支队，统一编为八路军山东纵队，与到达山东的第115师部队一起巩固与扩大山东抗日根据地。1939年2月，八路军总部以第4纵队为基础组成冀热察挺进军，执行巩固平（今北京）西、坚持冀东、开辟平北的任务。第115师第344旅旅直一部进入冀鲁豫边区，3月，与当地武装合编为冀鲁豫支队，创建冀鲁豫边抗日根据地。第129师主力在冀南抗日根据地军民的支援下，粉碎了日伪军3万余人的“扫荡”，巩固了冀南抗日根据地。不久，当日军转向“扫荡”山区根据地时，第129师主力返回太行山区。第120师主力开赴冀中，协同第3纵队粉碎日伪军的围攻，初步巩固并扩大了冀中抗日根据地。12月，国民党顽固派掀起第一次反共高潮，晋西北形势紧张，第120师主力奉命于翌年2月返回晋西北。第115师主力于1939年3月到达鲁西地区后，大力发动群众和开展游击战争，接着进入泰山以西和鲁南地区，打开了鲁西、鲁南的抗战局面。8月，为统一山东地区八路军的指挥，组成了八路军第1纵队指挥机构。
1939年12月，在八路军对日伪军进行艰苦的反“扫荡”作战之际，国民党顽固派掀起第一次反共高潮，派兵首先进攻陕甘宁边区的八路军留守兵团，接着进攻晋西和晋西北、晋东南以及冀南等地的八路军和山西新军。八路军和山西新军遵循中共中央、中央军委确立的“人不犯我，我不犯人；人若犯我，我必犯人”和“有理、有利、有节”的反摩擦斗争原则，展开自卫反击，打退国民党顽军的进攻，保卫了抗日根据地，维护了抗日民族统一战线。此后，山西新军进行整编（仍保留晋绥军番号），加入八路军的战斗序列。
八路军在斗争中不断发展壮大，1939年总兵力达到27万余人。由于部队新成员骤增，军政素质亟待提高，八路军总部决定从2月开始，利用战斗间隙进行两期共8个月的整军，建立健全各项规章制度，加强纪律，增强团结，进行战术技术训练，提高战斗力。遵照中共中央和中央军委关于大量吸收知识分子和加强干部培养的指示，先后在各师、旅建立教导团、教导大队或随营学校，抗日军政大学大部陆续由延安迁至华北敌后，在山东、晋察冀、晋绥、太行、太岳等抗日根据地建立了分校。八路军后勤部除原有的供给部、卫生部外，又成立了财经部和军事工业部，负责筹措经费和组织领导武器弹药的维修和生产，各军区和师、旅也建立了财经和军工生产部门，并在流动修械所的基础上相继建立了兵工厂。
1940年2月，为统一太行山南部地区八路军和山西新军的指挥，成立八路军第2纵队。4月，第2纵队奉命东进，与冀鲁豫支队会合，成立冀鲁豫军区。5月，第2纵队主力奉命南下豫皖苏边区，7～8月与新四军第6支队编成八路军第4、第5纵队。尔后，第4纵队执行向西防御、坚持豫皖苏边区的抗战任务；第5纵队执行东进开辟淮海地区，并与渡江北上的新四军共同完成开辟苏北的战略任务。1941年1月皖南事变后，第4、第5纵队分别编为新四军第4、第3师。
1940年秋，八路军在粉碎日伪军对各抗日根据地春、夏季“扫荡”之后，8月20日至1941年1月，对日伪军发动了有105个团的兵力参加的百团大战。仅前3个半月就进行了1800余次战役战斗，共歼灭日伪军4万余人，提高了中国共产党和八路军的声望，鼓舞和坚定了全国人民夺取抗战胜利的信心。
1938年10月～1940年底，八路军共粉碎日伪军1000人至1万人的“扫荡”94次，1万～5万人的大“扫荡”10次，同时打退国民党顽固派第一次反共高潮。1940年11月，成立晋西北军区（贺龙兼任司令员，关向应兼任政治委员），统一指挥第120师部队和在晋西北的山西新军。此时八路军发展到40万余人，共辖6个战略单位（军区），8个二级军区，44个军分区，40个旅和相当于旅的纵队、支队，170多个团和相当于团的支队、总队。