汉武帝的小舅子大将军卫青，群臣都尊奉下拜，唯独汲黯不拜，有人劝汲黯，他却说：“大将军和我平等行礼，不是更提高了他的声誉吗？”卫青听了反而更加尊重汲黯了。武帝虽受到汲黯顶撞，不太高兴，但是每次汲黯求见，总是穿戴整齐，以礼相待。
是凡君王开始对一个人敬鬼神而远之时，他的官运也就到此为止了。据司马迁《史记·乐篇》记载：汉武帝曾经在渥洼水中得到一匹神马。尤为喜欢马的武帝一时高兴，便即兴以神马作了一首祭祀太一神的《天马歌》。后来汉武帝派李广利伐大宛获得了一种叫“蒲梢”的千里马，武帝又作了一首《西极天马歌》。由于太一是当时至尊的神明，因而太一祭祀是非常庄重的事情。时任中尉的汲黯因此谏言：“但凡王者创作乐歌，上以承继先祖，下以教化万民。现在陛下得到马就写诗作歌，并在宗庙中演奏，先帝及百姓难道能明白这种音乐吗？”武帝听后沉默不悦。于是丞相公孙弘说：“汲黯诽谤陛下创作的诗歌，罪当诛杀。”汲黯没有被杀，却被免官回乡闲居，数年后淮阳国多事，召为淮阳太守，武帝对他说：“淮阳官民矛盾很深，我只好借助您。您安睡在那里治理吧。”这是指汲黯早年治理东海时，以黄老之术，无为而治，只理大政，不问小事，从不扰民，境内气象清平。汲黯崇仰道家学说，治理官府和处理民事，喜好清静少事，把事情都交托自己挑选出的得力的郡丞和书史去办。他治理郡务，不过是督查下属按大原则行事罢了，并不苛求小节。他体弱多病，经常躺在卧室内休息不出门。一年多的时间，淮阳郡便清明太平，他为淮阳太守十年，死于任所。这就是历史上著名的“卧理淮阳”的故事。[4]