崇祯八年，各路农民军被官军围困于河南。为了冲出包围圈，十三家农民军首领，在河南荥阳举行了军事会议，决定分兵出击，打破官军的围剿计划。会后，张献忠和李自成在闯王高迎祥的率领下，向东挺进。这支东路军的主力就是张献忠的部队。他的部队作战勇猛，连破河南的固始和安徽的霍邱等州县，直指明朝的中都凤阳。
张献忠部队，在大雾弥漫的清晨包围了凤阳城。不到半天，就全歼了守卫凤阳的两万官军，击毙守将朱国正等人，俘获了凤阳知府颜容暄，并当着百姓的面，历数他的罪行后，处以死刑。张献忠把胜利品和府库里的粮食，分给当地的贫苦农民，又叫农民和四乡百姓，砍光皇陵的几十万株松柏，还拆除了周围的建筑物和朱元璋出家的寺庙，然后掘了皇帝的祖坟，同时将凤阳富户杀的一干二净。
崇祯皇帝得知消息后，立即穿上丧服，跑到太庙放声大哭；并下令朝廷官员素衣素食办理公务，表示哀悼。崇祯帝撤了兵部尚书的职，砍了凤阳巡抚和巡按御史的头，又把早已革职闲住的五省督师拉出来定了死罪。尽管如此严厉，官军仍然挡不住张献忠部队的进攻。
张献忠攻下凤阳，又挥师南下，接连攻克合肥等地，一直沿长江打到江苏的仪征，一路所向披靡。后来又回师向西，经过霍山，同马守应部会师于湖北麻城。
接着，从湖北进入河南，又进入陕西，由商洛打回关中。张献忠转战千里，忽东忽西，选择官军的薄弱环节，打破了官军企图在中原围歼农民军的战略计划。张献忠回到关中后，与高迎祥在凤翔会合。
又在陕西与明朝兵部尚书洪承畴统率的官军进行了几次战斗，洪承畴手下的大将，如曹文昭等人都被农民军斩杀，官军损失惨重。农民军遂转而直插河南。
崇祯九年（1636年）初，农民军已发展壮大到几十万人，在河南会合时，常连营百里，而当时张献忠的部队就有十万人以上。同年九月，闯王高迎祥遇伏被俘，被凌迟处死。
李自成等大部转战于潼关以西地区，张献忠所部遂成为潼关以东地区官军攻击的主要目标。张献忠所部转战于鄂、豫、皖时，多次打败官军。攻进河南时一举占领徐州，杀了左良玉的哥哥。
次年三月，在安庆家店的战斗中又击毙明将潘可大等人。但是，由于流民军各部缺乏统一部署和协同行动，每部各自为战，到了崇祯十一年（1638年）春，各路农民军均连遭挫折。
特别是崇祯十年（1637年）四月，明大学士杨嗣昌策划了“四正”、“六隅”、“十面张网”的围剿战略，李自成在陕西遭到几次失败，刘国能等也在河南归顺朝廷，都给张献忠的队伍带来了巨大的困难。张献忠在进袭南阳的战斗中被左良玉军击败，本人也受了伤，幸被部下孙可望力救脱险，遂带部队退居谷。
在官军的强大攻势下，为了保存实力，张献忠在谷城接受了兵部尚书熊文灿的“招抚”。受“招抚”后，张献忠拒绝接受改编和调遣，不接受官衔，保持了独立性。他把四万人的部队分布在总部谷城的四郊，分四营，各设一员大将率领。在休整期间，集草屯粮，打造军器，招兵买马，训练士卒。