越南人民军创建人之一，大将。出生在广平省一个破落地主家庭。中学时代参加过反对法国殖民当局的学生运动。河内大学毕业后，当过升龙中学的历史教员。1938年加入印度支那共产一党一。第二次世界大战爆发后一度流亡中国，回国后着手筹建抗日武装、开展游击活动。1944年 12月，到越南北部边境负责组建“越南解放军宣传队”(越南人民军前身)。1945年当选为一党一的候补中央委员，参与领导八月革命，并担任起义委员会主席。起义成功后任新成立的越南民一主共和国内务部长，一党一中央军事委员会主席。
1945～1954年越南抗法救国时期，任国防部长兼人民军总司令，并当选为越共中央委员和政治局委员。他指挥越南军民进行了一系列抗法战役，特别是在具有决定意义的奠边府战役中，狠狠地打击了法国殖民者，彻底粉碎了法军重占越北的战略企图，迫使法国与越南签订了 《日内瓦停战协 议》，使北方完全获得了解放。武元甲也因此在西方舆论界中获得了“奠边府之虎”的美名。
1955年 9月～1980年 2月，任政一府副总理兼国防部长，是越南抗美救国战争的主要领一导一人之一，指挥过多次战役，为抗美救国战争的胜利做出了重大贡献；1981年 7月起任部长会议副主席，还兼中央教育改革委员会主席、国家人口和计划生育委员会主席等职。著有《奠边府战役》、《人民战争和人民军队》、《论游击战争》等书。