黄维纲，1897年出生于河南省项城，明末甲申之变（清军入关）时，为了躲避战祸逃到河南，随母姓易姓为黄。黄维纲的父亲黄恪济是位私塾先生，黄恪济娶妻王氏，育有黄维纲、黄萍兄妹二人。
1905年9月2日，清政府发布"上谕"，宣布"自丙午(1906年)科为始，所有乡会试一律停止。各省岁科考试亦即停止"。科举都废除了，黄维纲也就可以不再背负父辈的希望去赶考了，黄维刚转头就进了项城县立小学堂。
1911年12月，黄维纲考入开封陆军小学堂第六期。
1915年，黄维刚升入清河第一陆军预备学校第三期，著名的“猪将”刘峙就是在这个学校读过书。
1917年初从清河第一陆军预备学校毕业，毕业生们下部队入伍训练半年后，1917年秋，升入保定陆军军官学校第七期，编在步兵科第16连。1917年秋入学的这批保定军校生由留级生和福建北伐学生军的学生组成，共计191人，而这一期唯二两个名将：福建学生军的陈长捷、河南籍的黄维刚。
1919年8月，黄维纲从保定军校毕业。
段祺瑞于1918年筹备建立的西北边防军，编制已经有了三个师以及一独立团，部队规模超5万人。保定陆军军官学校最开始就是皖系掌控的军校，自西北边防军成立之后，保定军校五期至七期的毕业生只要一毕业，基本上就是去西北边防军任职，在这种大背景下，黄维纲一毕业就被分至西北边防军担任作训教官，不久后升参谋。
后来西北边防军解散，黄维纲又到了冯玉祥的西北军中任职。中原大战时，黄维纲担任总司令部少将参谋处长。
1920年7月，直皖战争以皖系失败告终，西北边防军也随着皖系的失败被遣散、收编，1922年，直奉大战以后，冯玉祥率兵进逼河南，驱逐赵倜，冯玉祥自任河南总督，而没地方去的黄维纲就在这时候投身冯玉祥的部队任连长。
黄维纲为人正直，富有爱国思想和民族气节。平时治军严谨，与官兵同甘共苦，作战时身先士卒，指挥有方。
1924年，冯玉祥发动北京政变，推翻“猪仔总统”曹锟执掌的政府，冯玉祥所部扩充为国民军第一军，黄维纲顺势升为第一师（鹿钟麟）第一旅（韩复榘)第二团(丁汉民)的营长。
1925年底，国民一军扩军达十五万人，韩复榘升任陆军第一师师长，丁汉民升任第三混成旅旅长，黄维纲也水涨船高的升任第七团团长。
1926年9月，冯玉祥率领国民军在绥远五原宣誓集体加入中国国民党、参加国民革命，国民军在军制上仿效苏军，实行“三三制”，即一军辖三师，一师辖三旅，一旅辖三营，取消团一级编制，原来的旅长变成师长，团长变旅长，所有团以上军官直接官升一级。一直到1927年6月，国民革命联军改编为国民革命军第二集团军，黄维纲依然在韩复榘的第六军任旅长。
1927年12月3日，韩复榘率军东下，占领徐州车站。33集团军的军报“七七周报特刊”提到了：黄维纲参加北伐战争，转战苏鲁豫冀，勇略冠时，徐州之役以一旅破直鲁军万众，臂部被创...”。黄维纲的英勇表现得到冯玉祥了的通电表彰。
张学良入关后，他收编反蒋联军的残部为东北边防军。张自忠为保西北军血脉，联系驻晋西北军各部共同受编，这些部队整编成为东北边防军第3军，1931年1月16日，宋哲元通电就职。
黄维纲原兵力三千人左右，打了败仗以后，士兵开小差、擅自离队的不少，所以张学良将黄维纲剩下的官兵编为一个团，番号为东北边防军第3军第2师(张自忠)第4旅(童玉振)第2团。好在张自忠深知一个有完整军事修养的军校生对一支部队起到的作用不是旧式军人和半路出家的将领能比拟的，所以张自忠对黄维纲颇为倚重。
不久，东北边防军第3军改番号为陆军第29军，所属师、旅、团番号随之更改，黄维纲的第2团变为第223团，隶属第38师（师长张自忠）第112旅，驻山西娘子关、平定一带。
1931年7月18日，石友三在张学成（
日伪东北自卫军总司令、张学良堂弟
）等人的鼓动下，他
在顺德通电
接受汪精卫广州国民政府的任命，
就任广州政府委任的第五集团军总司令，
出兵反对张学良，出兵后的石友三遭到蒋介石和张学良的南北夹击。7月23日宋哲元等华北将领通电声讨石友三。7月31日，石友三的部队全军覆灭，石友三逃往山东德州。
8月15日，宋哲元自晋南向河北开拔调防，16日，宋哲元到北平拜谒少帅张学良。9月18日，日军找借口炮轰沈阳北大营，“九一八事变”爆发。
19日，日军侵占沈阳。
20日，宋哲元联名自己麾下的七名将领通电全国：宣布29军与日作战，"宁为战死鬼，不为亡国奴"！
宋哲元拥护张学良、宣布抗日的行为得到了张学良的回报。张学良给了宋哲元察哈尔省的地盘，黄维纲移驻察哈尔的张家口、蔚县、阳原一带。
1932年年底，黄维纲转任38师112旅旅长，下辖3个团。
黄维纲为人正直，富有爱国思想和民族气节。平时治军严谨，与官兵同甘共苦，作战时身先士卒，指挥有方。1933年1月1日，日军进犯山海关，进窥热河。张学良决心抵抗，向冀热边区增派部队，二十九军奉命向冀东的三河、蓟县和宝坻地区集结。
3月，
热河日军铃木服部两旅团1万余人，由平泉向喜峰口进犯，3月11日，黄维纲的112旅进驻撒河桥
，抗击进犯日军，在与日军交战中，他赤膊上阵，指挥战士，反复冲杀，迫使日军溃退。14日，112旅再次击败日军，喜峰口之战中，
黄维纲一直在第一线督战，绝不准部队后退一步，并派人烧掉换防时搭建的临时桥梁，以示决不撤退、血战到底的决心。
1935年，华北局势微妙，国民政府为稳定华北和西北地区的驻军，特颁发当年的参战者宋哲元等四十九位各级军官以青天白日勋章，黄维纲也在其列。
1938年3月上旬，日军板垣师团围攻临沂，战况吃紧
，
3月15日，黄维纲亲临前线指挥夜袭日军，他赤膊指挥战斗，率军鏖战至16日子夜二时，号称“铁军”的板垣师团，再无抵抗能力，遗尸千余具，仓惶向临沂北50华里的汤头溃退。中国作战军队，乘胜追击到董官屯、白塔、鲁村与汤头之敌对峙。
3月25日，38师回援临沂，38师向敌侧背发动攻击，日军亦全力反扑。38师在毫无凭借的情况下，前仆后继，浴血奋战，虽伤亡相继，但士气旺盛，勇往直前，以血肉相拼搏，激战到3月31日，日寇终于向北溃退。黄维纲指挥的两次临沂战斗，歼灭板垣师团和板本旅团的兵力过半，为以后台儿庄大捷打下了基础。而经过这两次战役，黄维纲所率的38师辖三个旅，战前全师15000人，战斗结束后，剩下不足3000人。
1938年9月，38师转移到河南信阳一带整补，不久，38师奉调开赴潢川阻击西进之敌，38师在左、180师在右，从宴家河起至淮河止，两支部队沿潢水左岸布阵，阻击日军前进，使其多次进攻均不得逞。9月底，武汉还是失守了。
1940年5月，
1940年5月，日军为了控制长江交通、切断通往重庆运输线，集结30万大军发动
枣宜会战
。
黄琪翔、汤恩伯、张自忠三支集团军分别担任正面和左右翼作战。汤恩伯为了保存实力，在战争打响后，擅自不战而退。将枣阳暴露在日军的铁蹄之下，张自忠所率的74师及手枪营和骑兵一部只有
1500余人，他们被近6000名日寇包围在南瓜店以北的沟沿里村，
双方因众寡悬殊，
5月16日下午4时，张自忠所部全军覆没，张自忠
将军为国捐躯。
5月17日，38师的便衣队路遇张自忠副官马孝堂，得知张自忠牺牲的消息后，黄维纲立即自己脱下上衣带着贴身的警卫便衣队，一个个持着短枪去杀回
沟沿里村，终于
找回张自忠的遗体，将张自忠将军的遗体带回。
5月22日，冯治安继任张自忠为总司令，为了对五十九军将领表示安抚，冯治安上报李文田为集团军副总司令，张克侠为参谋长，黄维纲继任五十九军军长。
自“七七”事变抗战以来，黄维纲追随张自忠将军转战南北，很少离开部队，以致积劳致疾，生活不能自理。此事连蒋介石都惊动了，蒋介石对张克侠说：黄军长
如需药品，我全力当供给。
大病只是稍稍好转，黄维纲就又继续到前线参与军事训练和指挥战斗，直至病情加重，突然高热昏迷，经抢救无效，不幸于1943年8月3日病逝于湖北南漳抗战前线安家集金华寺防地，时年仅四十六岁。
黄维纲将军随殓的只有：日军战刀一把，经他批注的孙子兵法一部，冯玊祥所赠的金笔、手表各一支。