黄百韬是淮军将领后代，早年被张宗昌收在麾下。北伐时期，黄百韬随第六军军长徐源泉投靠蒋介石，蒋介石听闻徐源泉手下一个团长对北伐军作战非常厉害，北伐军损失惨重，于是招来一见。见面蒋介石一愣，原以为作战这么厉害的人，一定是个五大三粗、胡子拉茬的军人。结果却是个清秀身材高挑的年轻人，很像年轻时候的自己。问了几个军事问题，黄百韬不急不慢地缓答如流，蒋介石心中暗喜，有意栽培他。
随后蒋介石解除杂牌军军官兵权的惯例，1928年，把黄送到陆军大学学习，增加其嫡系SE彩。黄百韬以第一名成绩力压杜聿明、鹿钟麟等人毕业，调任军委会中将高参。抗战爆发后，黄百韬发表一篇军事价值很高的论文，受到何应钦的赏识，并推荐他到第三战区担任顾祝同的参谋长。虽然三战区所有的作战计划都是出自黄百韬之手，但是在幕后是不可能有成名机会的，只有一线官兵才令人瞩目。
抗战胜利前二年，顾祝同看到战区稳定，于是派出亲信掌控一线部队。培养自己的基干部队，黄百韬下放到25军任军长。初次接手25军，25军的战斗力太弱，部队由川军、部分东北军组成。25军虽然和日军也有交手，但基本是你来我往，平分秋SE，没有太多过于出彩的地方。但25军经过黄百韬的训练，战力大幅上升。黄百韬给这支部队注入的绝对不是武器装备，而是一种企业文化，是一种系统新的东西，有一个完善的运作模式，25军剧烈蜕变中。
但此时抗战已经结束了，顾祝同利用权力给25军换了一水的日系装备，战斗力又升了一个段位。进入解放战争，25军整编成25师。别的国民党主力部队纷纷败北的请况下，25师倒成了一个例外，几乎是胜无不胜，黄师长威名远扬。国民党是一个讲资历的部队，由于作战给力，黄百韬又是多年的中将，往往同级部队都受他指挥。如豫东战役黄百韬就指挥同级的64师、95师、72师、交警5纵队、快速2纵队，孟良崮战役指挥74师、83师。
华东地区，国军嫡系打不过粟裕、许世友的解放军，调25军。中原地区白崇禧打不过刘邓大军，也是调25军，只因25军可以抗衡。所以大家常常可以看到这样一个现象，一个杂牌甲级部队却总是去援救嫡系部队。如胡琏在南麻被包围，黄百韬的25军把它救出来了。李弥的8军被包围了，也是黄百韬救出来了。甚至邱兵团的主力72师也是黄百韬在豫东救出来的，五大主力之首的74军就不说了，也是差点救下来了。这点蒋介石也看出来了，黄百韬实力非凡，得到重用出任7兵团司令也就正常了。
黄百韬没能在抗战中出名，究其原因还是没有自己的部队。而黄百韬其实起初是有部队的，是国民党第41师123旅旅长。被剥夺实权的原因是：在忠堡战役中，与红军贺龙、任弼时作战，因战功升任41师师长。但是过程中，是选择守忠堡，完成占领军事目标。还是救援上级中将师长张振汉，中红军的围点打援计这两种选择。实际草作上，旅长黄百韬救援上级并没有投放主力，仅派出一个团营救，二个团用于防守，主力放在守战略目标点上。导致师长张振汉被俘虏，41师损失4000人。
黄百韬因功升任41师的师长，但原41师张振汉的部下不干了。一是黄百韬是杂牌，二是黄百韬救援师长张振汉没尽力，因此闹到上面。黄百韬在41 师也就呆不住了，只能接受蒋介石的回炉深造，去了陆军大学三期。就这样黄百韬失去了军权，也失去了在抗战中创造丰功伟绩的机会。
