1954年9月，在第一届全国人民代表大会上，任命贺龙为：
国务院副总理、国防委员会副主席和国家体育运动委员会主任。
贺龙对中国的体育事业极为认真负责，贺龙担任体委会主任之后，为了扩充体委会的干部队伍，他曾把青年团中央书记胡耀邦和团中央组织部部长路金栋请到家中。
贺龙对他们说：“体委刚成立，需要加强。我们这里也是做青年人的工作的，任务很繁重，要靠各方面的支持。耀邦啊，这也是你的事哟！从你那里调点儿人，你给一些吧？”
胡耀邦说：“我们来您这儿之前，已经选了一些档案，请您亲自挑选。”
于是，路金栋便把一打档案放到了贺龙面前。
贺龙看到档案，高兴极了，便风趣地说：“为了感谢你们的支持，我今天请客，是刚刚从新疆运来的最好的哈蜜瓜。”
此外，贺龙对于机关的饮食也格外的关心。早在体委机关的炉灶刚刚搭起之时，贺龙就到食堂检查。
当贺龙发现伙食办得不太好，便对蔡树藩和荣高棠说：“吃得不行啊！我们在四川的时候，就那么几个钱，吃得不错嘛！”
荣高棠说：“体委机关的管理工作存在不少问题。可是现在又没有懂行的人来抓。”
贺龙说：“你们为什么不早反映？可以把金鑑萍调来。如果你们赞成的话，就发电报，让他快点儿来报到。”
金鑑萍抗日战争时期曾在联防军司令部做行政管理和后勤工作，是管家理财的好手。
这时，他参加赴西藏慰问团刚刚返回重庆，便接到了体委的加急电报。于是，他便马不停蹄地乘飞机赶到体委报到。
不久，他便担任了国家体委办公厅副主任。体委的伙食果然从此变得好了起来。
1954年10月下旬，贺龙和宋任穷、蔡树藩、刘秉林、王凌、武岳松等人携带家眷，乘坐民众轮，从重庆出发，顺江而下，取道武汉，之后又换上火车北上。
当时，在同一搜船上，和贺龙一起出发的还有几名干部，他们都是在西南行政区撤销后，准备到北京各部门报到的人员，只是没有一个人去体委。
由于体委缺少干部力量，贺龙一上船，便打上了他们的主意。贺龙首先看上了准备到内务部上任的蔡树藩，于是贺龙便向蔡树藩发动了进入体委的“攻势”，结果立见奇效。
蔡树藩早在1922年就参加了工人运动，是一位湖北籍的老战士，在他的履历表上并没有从事体育工作的记录，但他深深的被贺龙描绘的体育前景所吸引与折服。
贺龙一到北京，立刻便同蔡树藩的老上级邓小平谈妥，让蔡树藩由内务部副部长改任国家体委副主任。
武岳松曾是西南军区保卫科的干部，在贺龙身边做过保卫工作。贺龙自然也不会放过这位熟人，一下船，就把他拉到了体委。
不久，武岳松便担任了新建的北京体育馆副馆长。后来，又担任干部司副司长。
女将王凌原是去地质部的，但在贺龙的游说下，她也来到体委工作，担任了办公厅副主任。
贺龙还邀请老朋友、起义将领、西南行政委员会副主席卢汉来体委共同建设体育事业，卢汉欣然点头。
另外，中共西南局宣传部的一位副部长张非垢，准备到外文出版社担任社长。
由于贺龙欣赏他的才华，觉得体委必须有几个秀才，便动员他也到体委工作。
张非垢盛情难却，便又动员同去外文出版社的女将张彩珍说：“去体委吧，这是贺老总的命令。我也是文人进武庙。”
之后，贺龙又多方游说，从西南调来李梦华，从中南调来陈先，从华北调来曹建纯，从西北调来董念黎……
后来，曹建纯任群众体育指导司副司长，董念黎任教育司副司长。
1954年11月1日，国务院正式任命蔡廷锴、蔡树藩、卢汉、黄琪翔、荣高棠为国家体委副主任。
不久，中共中央组织部又任命张非垢担任国家体委秘书长、黄中为副秘书长。
1956年，张非垢和黄中晋升为国家体委副主任。这一年，张非垢只有38岁，在国务院系统的副部级干部中是最年轻的。
中华人民共和国体育运动委员会就这样建立起来了。其机构包括：办公厅、训练司、群众体育指导司、运动竞赛司、教育司、国际联络司、编审司、计划财务司和民族形式体育研究会等。
另外，贺龙又陆续调来韩复东、李达、赵正洪、任思治等一批干部。
此后，著名体育家董守义先生，也被贺龙加以重任。
在解放前，董守义曾担任过中华全国体育协进会总干事等职。1947年被选为国际奥林匹克委员会委员。
新中国成立后，国家体委组建之初，曾安排董守义在运动竞赛司工作，但当时并没有明确的职务。
对此，董守义颇有一些意见，他说：“顾问没有顾问的地位，作为‘字典’也不常翻。”
当贺龙得知此事后，便立即同董守义进行了一次长谈，向他征求了对体委和其本人工作的意见。
之后，贺龙便提名董守义担任了政协全国委员会委员，兼中央体育学院教授。
为了进一步发挥董守义的才能和作用，贺龙和体委领导同志又委任他为中华全国体育总会副主席和国家体委运动技术委员会主任。
而董守义为新中国体育事业也做出极大的贡献。他在国际奥林匹克委员会议上，为争取中华人民共和国在国际体育组织中的合法席位作了极大的努力。
1959年12月29日，贺龙在体委委员会议上曾表扬董守义说：董先生参加几次国际奥委会，表现很好，是站在社会主义国家立场发言的。
后来，据薛明回忆当时的情景说：
“贺龙对国家体委这个班子是满意的，很喜欢。用他的话说，是来自五湖四海的、团结的班子。他们都很年轻，懂专业，有朝气，工作效率高，事业心强，没有官僚主义；有文有武：打仗的，打球的，又有秀才，又有搞管理工作的。他们相处很亲切、自然，形成了一个拳头。”
