江湛字徽深,守丧以孝顺闻名。喜爱文义,善于弹棋鼓琴,兼明算术。担任彭城王刘义康的司徒主簿、太子中舍人。司空檀道济为他的儿子求娶江湛的妹妹,没有答应,刘义康下了指示,又不听从。当时的人们推重他的立有志向。刘义康兴盛,人们都争着自求交好,只有江湛自己疏远,坚决要求外出,于是让他做了武陵内史。随王刘诞担任北中郎将、南徐州刺史,以江湛为长史、南东海太守,把政治事务委托给他。

元嘉二十五年(448),被征为侍中,让他担任机密工作。调任左卫将军。当时更改选任学校官员,由太尉江夏王刘义恭兼任国子祭酒,江湛兼任博士。

转任吏部尚书。他家里十分贫寒,不经营财利,馈赠财物的人挤满门槛,可是他一点也不接受。他没有双套衣服和多余的粮食,曾经有一次被皇上召见,正遇上洗衣服,他便自称有病挨了一两天,衣服干了,然后才起身。有一次牛饿了,驾车人找他要草,江湛过了好大一阵才说:“可以让它喝水。”在选录人才的职位上,对他颇有考核苛严的讥讽,但他公平无私,不接受请客送礼,谈论者因此对他非常称赞。

起初,皇上大举北侵,全朝廷的人都认为不可以这样做,只有江湛赞成他。等魏太武帝到了瓜步,让江湛兼任领军,军事处置,全部委任给他。魏朝派遣使者前来求婚,皇上召太子刘劭以下的人集中讨论。众人都说应该答应,江湛认为答应了没有什么益处。刘劭生气地对江湛说:“现在三位王爷被困在那边,怎么能够随便地坚持异议。”声色十分严厉。散会以后大家都出去了,刘劭让自己的仪仗和随从推挤他,差点摔倒。刘劭后来宴集,没有邀请江湛,皇上便为刘劭的长子刘伟之代聘江湛的第三个女儿为婚,想以此来使他们和解。皇上即将废除刘劭,让江湛撰写诏书的草稿。刘劭入宫杀害皇帝,江湛正在上省值勤,听到叫声便藏在旁边的小屋里。刘劭派人找他,舍中的官吏骗他们说“不在这里”。兵士杀了舍中的官吏,才见到了江湛。江湛靠着窗户被害,神色不屈。五个儿子江恁、江恕、江敬心、江孙心、江法寿都被杀死。起初,江湛家里多次见到怪异现象,在尚未遇难的前不几天,他所睡的床上忽然有几斗血。孝武帝即位,追赠为左光禄大夫、开府仪同三司,谥号为忠简公。