汲黯在东海郡，管理当地民政，一切都以清净无为为主，选拨政府工作人员，授给他们很大权力。汲黯只掌握大的方向，不去考察细枝末节。他身体不好，经常犯病，每天躺在床上，很少升堂问事。几年过后，东海郡井井有条，经济繁荣，人民安康。刘彻知道之后，擢升汲黯当首都长安警察总监，地位相当于部长。汲黯到任后，处理事情不求表现，只求安定，顾全大体，不拘泥于法律条文。
但汲黯性情倨傲憨直，不能容忍别人的过失，指责对方不考虑场合，常常让人难堪，对刘彻也是如此。当时刘彻正多方招聘儒家学士，常说：“我想如何如何。”汲黯顶撞说：“陛下内心充满了私欲，外表假装仁义。怎么学会了尧舜那一套？”刘彻恼羞成怒，脸色铁青，起身就走。朝会草草结束，大臣们非常恐慌，担忧汲黯被罚。刘彻回到后宫，对左右说：“太过分了，汲黯简直就像个傻瓜。”有些大臣也责备汲黯，汲黯说：“天子设置三公九卿，是要大家当一个正直的辅佐之臣。岂可以阿谀奉承，察言观色，陷主上于不义？而且我身居此位，如果爱惜我的生命，岂不侮辱政府！
汲黯身弱多病，请了三个月长假。（汉政府法令：三个月不能恢复，即行免职），刘彻屡次延长他的假期，而病仍不能痊愈。后来，汲黯又病倒，庄助代他请假，刘彻问：“汲黯这个人怎么样？”庄助说：“教汲黯当一个普通官员，他的成绩不会超过别人。然而，如果命他辅佐幼主，坚持立场，毫不动摇。”刘彻说：“是的，古代有一种直臣，汲黯相当接近了。”
皇后陈娇使用巫蛊之术，被刘彻发觉，下令监察官张汤，彻底追究。张汤残酷审问，扩大打击，网罗了三百多人，女巫楚服在街市斩首。刘彻任命张汤当中级国务官，跟赵禹共同制定法律，所定律令严苛精密，执法人员只可限于条文，不需掺杂情理。官员们互相监督纠察，汉政府用法残酷，从此开始。
公元前130年，汉政府征召熟悉儒家学说的知识分子，到长安考试。当时，参加考试的有一百多人，考官把甾川国（山东寿光）公孙弘排在最末，刘彻看到试卷之后，非常欣赏公孙弘，把他擢升到第一名。任命为博士，在金马门外，听候随时询问。齐国人辕固，年纪九十多岁，也被选为贤良，征召到长安。公孙弘对他心怀敌意，但表面非常尊敬。辕固忠告他说：“公孙先生，你应该一本正义发言，不要弯曲自己的人格，阿世取荣。”而一些儒家学派知识分子，嫉妒恐惧，纷纷污蔑辕固。辕固大为失望，以年老为由，辞职回家。
公孙弘在金殿朝会，提出意见时，只列举事实跟理由，让刘彻自己选择决定。避免面对面争执。刘彻发现他行为谨慎厚重，又有辩才，熟悉法律，具有行政能力，而又善于运用儒家学派的学说，大为欣赏。一年以后，擢升他当西长安市长。公孙弘对任何事情，在皇帝面前，都不坚持。常跟汲黯要求刘彻单独召见，都由汲黯先开口，而由公孙弘补充。刘彻非常满意，对于他们的建议，都能听从。于是，公