自从一八五三年底，张乐行接受赖汉英的建议，开始把以往散在各处的小捻并为大捻，再从各股大捻中选出全捻的总领袖。经过半年的准备，捻党在雉河集大汇合，祭告天地，宣布起义，并放弃了以前曾想象的“大汉”名号，转尔正式接受太平天国皖省自卫军的番号，张乐行被公推为自卫军总指挥。
皖省自卫军下面又划分为五个旗，张乐行自己为黄旗总首领，龚德树为白旗总首领，侯伟为红旗总首领，王贯三为黑旗总首领，韩万为蓝旗总首领。五旗之下又各设五边，每边有首领分统，各旗小的几千人，大的几万人，全部人马近十万。
从一开始张乐行公布的为各旗共同遵守的行军纪律来看，这只军队本身就不同于别的游民军队：
一、兵到之处，污淫妇女立斩。
二、强奸幼童立斩。
三、掳掠妇女幼童隐藏不献者立斩。
四、不遵号令约束者斩。
五、小卒无理持械敢拒首领者斩。
六、临阵时故意漏下，支吾打粮，私自下乡找寻财物，淫人妇女者斩。
七、无号令私自打粮者斩。
八、对敌时私自逃走者斩。
九、起身听三声号炮齐集；未放炮而先行〔者〕斩，既放炮而后行者斩。
十、营中私自放火者斩。
十一、行路时故意下路者斩。
十二、行路各守分队炮车，先行后行者杖四十。一、扎下营盘，外更、门更，排班轮流；有错更者杖四十。
十三、营中无故伤人命者，一命一抵。
十四、借宿朋友家，本宅非吃食物件，妄取一物，杖四十。
十五、私造谣言者斩。
十六、虚报军情，酌议定罪。
十七、守营妄动者斩。