胡俨,字若思,南昌人。从小十分好学,对天文、地理、律历、医学、占卜方面的书籍,无不博览。洪武年间,他以举人身份被授予华亭县教谕,能以师道自任。母亲去世,他守孝期满后,改到长垣任教谕,请求给予便地养家,后又改到余干县任职。批准学官请求便地即是从胡俨开始。

建文元年他受推荐任为桐城县知县。他主持开凿桐陂水,灌溉田地,使百姓获利。县境有虎伤人,胡俨斋戒沐浴后向神灵祷告,老虎便逃走了。桐城县人把他供祀在朱邑祠。四年(1402),副都御史练子宁把他推荐给朝廷,说:“胡俨具有的知识足以通达天人,他的才智足以参佐帷幄。”等他被召来时,燕王的部队已渡过了长江。

成祖即位后,说:“胡俨懂得天文,就让钦天监考考他。”考完之后,钦天监官员上奏说胡俨确实通象纬、气候之学。不久又因解缙的推荐,授予胡俨翰林检讨之职,与解缙等人一同在文渊阁当值。升为侍讲,再升为左庶子。父亲去世,守孝期满后胡俨又出来任职。胡俨在内阁时,受皇上顾问,他从不与人争先,但稍嫌戆直。永乐二年(1404)九月,他被任为国子监祭酒,便不再参预机务。当时国子监用法严峻,国子生请事假回家的,也被判戍边。胡俨到任后,立即上奏废除了这条规定。七年,皇上幸临北京,召胡俨到行在所。第二年北征,命胡俨以祭酒兼侍讲,掌管翰林院事务。辅佐皇太孙留守北京。十九年胡俨改任北京国子监祭酒。

当时,海内统一已近五十年,皇上正内兴礼乐,外怀要荒之地,公卿大夫彬彬然多是文学之士。胡俨作为馆阁宿儒,朝廷大著多出自他之手,重修《太祖实录》、《永乐大典》、《天下图志》,他都担任总裁官。他主持国学二十余年,以身率教,一行一动都有师法。洪熙改元后,他以病请求退休,仁宗赐给敕书,奖励慰劳他,进升他为太子宾客,仍兼祭酒。他退休后,朝廷免除他子孙的赋税徭役。

宣宗即位后,以礼部侍郎之衔召胡俨,胡俨推辞归家。在家二十年,方岳重臣都以师礼对待他。胡俨与他们交谈,从不曾说到他个人的事。他自处淡泊,岁时的衣食才刚够需要。当初他任湖广考官时,看到杨溥的文章,非常惊异,在其上题写道“:此文作者必能为董子之正言,而不为公孙之阿曲。”世人都认为他知人。正统八年(1443)八月他去世,终年八十三岁。