胡惟庸位极人臣的速度不可谓不快，真的称得上是扶摇直上。当上左相后的胡惟庸头脑还是清醒的，他知道朱元璋虽晋升他为中书左丞相，但并不信任他，还曾对独掌兰台的自己人涂节如是分析——大明三十六功臣，荣遇隆恩无过于魏国公（徐达），陛下对他是解衣衣之，推食食之，推诚置腹无话不说，又以子女婚姻为约，以示荣宠。可即便如此，魏国公进了中书省，陛下不还是在他的头上安放了一个韩国公吗。涂大人觉得陛下对本相的信任，能比得过魏国公吗，陛下这是要看一看胡惟庸到底是什么心肝。
所以被拜为左相后，面对群臣上门送礼庆贺，胡惟庸一律拒绝，甚至连门都不让进，还让奴仆对前来祝贺的臣子说，这祸从贪起，念由心生，胡大人是要做干干净净的宰相，还望各位大人成全。即使是一条船上的淮西帮也照样拒绝，当朱亮祖代表淮西前来送红包时，尽管房中只有他们两人，但还是没收好处。因为他知道不信任他的朱元璋安擦了锦衣卫在他府上，因此，必须小心谨慎。
位极人臣后的他不仅小心谨慎，还照常事事顺承圣意。他知道朱元璋害怕权臣握兵哪天造反，想自掌亲军，就在上朝时引用《资治通鉴》里唐太宗与臣子论无为而治之道里的“君但知南牙政事……”等话语，启奏成立亲军都督府，恢复南衙北衙之制，以天子自掌亲军。还知道朱元璋不想长期把兵权给功臣，想从功臣手上要回兵权，给到自己儿子，以此巩固朱家天下，便奏请朱元璋令年长诸王即刻就藩。
