石勒，初名?，上党武乡（今山西高官治武乡县附近羯人。羯人与匈奴人在晋人眼里是没区别的，本来羯人是属于迁居汉地匈奴人的一族。石勒出身奴隶，为人力耕，就是耕种田地的奴隶和耕牛差不太多。在晋朝，每个人的身份是不能变换的，人口是不能迁徙的，军人便世代从军，士族则世代为官，生在哪就老实在哪里待着，一旦离开就是流民，奴隶就更惨了。不过在那个时候，战争不断，军户是越打越少，世家的人口是越来越多，流民也越来越多。
作为奴隶的石勒经常被主家卖来卖去，正巧碰到司马腾换防去邺城，临走时他打算抓些奴隶带去冀州换钱花。石勒刚好在这群奴隶里，被两个一组的带上枷锁押去冀州。直到在邺城附近遇到汲桑，因为石勒会相马，便入伙为盗。史书记载有人专门给石勒免除奴籍，这个需要细品。汲桑、石勒后来加入公师藩的阵营，打着为成都王司马颖复仇的旗号讨伐司马腾，进攻邺城。
这时司马腾又进封新蔡王，永嘉元年(37年)五月，司马颖原来的部将公师藩以安葬司马颖为借口，用车载着司马颖的牌位，与征虏将军张泓原来的将领李丰等准备攻打邺城。司马腾心想:“我在并州七年，匈奴人也好、鲜卑人也好都打不过我，区区几个小贼寇，不值得忧虑。”司马腾来到中原是彻底忘记被刘渊打的满地找牙的事了。当时邺城被王浚洗劫过，府库资金匮乏，但司马腾仍然过着十分奢靡的生活。而且他本人生性吝啬，对手下人没有任何赏赐，民心尽失。等到李丰等人到来，没有人给司马腾出力，司马腾守不住，只能孤身逃跑，路上被李丰所杀。后来李丰这股人马被苟晞击败，汲桑、石勒本打算带领残兵去投奔刘渊的，但是汲桑半路被司马腾从并州带来的乞活军截杀，石勒两手空空只好逃回上党老家。
石勒站位是很高的，他当然知道单枪匹马投奔刘渊的话，他什么都不是。回到老家，石勒忽悠张?督的兵众数千人，又火并乌丸人张伏利度的二千兵众，归顺了刘渊。刘渊加封带兵入伙的石勒督山东征讨诸军事，把张伏利度的部众交给石勒指挥。石勒从一个奴隶做起，得到第一个正式任命的官职和部众。
永嘉二年（公元38年九月，刘渊派刘聪、王弥、石勒进攻洛阳。刘聪是刘渊亲儿子，嫡系部队目标只有洛阳，期间刘聪两次战败。然而石勒这边，刘渊本来对他也不抱希望，于是石勒便在冀州自由发展。永嘉三年（公元39年四月，石勒等人进攻邺城、汲郡（今河南省新乡卫辉市附近、顿丘（今河南濮阳市清丰县附近等地，守将基本都是望风而逃。刘渊称帝，派遣使者授予石勒持节、平东大将军，仍为校尉、都督、平晋王。石勒率军进攻邺城，占领邺城，后进攻赵郡（今河北省邯郸市附近。不久，刘渊又授予石勒安东大将军、开府，设置左右长史、司马、从事中郎。在短短的时间里，石勒得到开府置幕僚的权利。石勒又进攻钜鹿（今河北省邢台附近、常山（今河北石家庄附近，兵众达到十余万，势力范围基本包括了现在的河北省。石勒将冀州士族中的名人贤士集中在一起，称为君子营，任用张宾作为首席谋士。
石勒继续从常山向北进军，分别派遣诸将领进攻中山、博陵、高阳诸县（均在今河北省保定市附近，投降的达数万人。这已经到了王浚的地界了，王浚派部将率鲜卑十余万步骑兵讨伐石勒，在飞龙山（今河北省石家庄鹿泉市南大破石勒，石勒部战死万余人。石勒只好退驻魏郡黎阳，击败从洛阳北上支援的朝廷军队，稳定住自己的大本营。后来刘渊加封石勒为镇东大将军，封汲郡公，仍为持节、都督、平晋王，石勒坚决辞让汲郡公爵。实际此时的石勒也没什么大本营，只能够依靠归附的坞堡提供的粮草来养活他的部曲。当然在冀州，黄河以北一带，石勒没有大规模杀降或者毁城的劣迹，在张宾的指导下对人友善、用人为贤，好名声是彻底打出去了，不论胡人、汉人，大家都是比较认同他的。无奈这里被司马家糟蹋的太深，像样的城市基本绝迹，遍布华北平原的是一个接一个的坞堡（类似现在的福建土楼，大家以此聚集，相互自保。
永嘉四年（公元31年，刘聪称帝，加封石勒为征东大将军、并州刺史、汲郡公，持节、开府、都督、校尉、王不变。石勒坚决辞让将军之职，刘聪同意了。
十月，刘聪派儿子刘粲率兵四万进攻洛阳，这是“大汉”第三次进攻洛阳了。石勒将辎重留在重门（河南省新乡辉县市附近，率骑兵二万在大阳(今山西省运城市平陆县)与刘粲会师，在渑池（今河南省三门峡市渑池县击败晋军，于是到达洛川。刘粲出兵轘辕（今河南省偃师东南，石勒出兵成皋关（虎牢关，今河南省荥阳市西北，在仓垣（今河南省开封市西北围攻陈留太守王赞，但是被王赞击败。于是退兵驻扎在文石津（今河南省新乡延津县北。石勒渡过黄河离开冀州后，黄河以北的坞堡又被王浚控制，石勒本打算回去与王浚决战，但是前锋刚派出去没多久就大败而归，为了保存实力，石勒领着他这帮人马去攻击黄河以南的坞堡。
石勒黄河北面打不过王浚的鲜卑铁骑，然而在黄河南面瞬间变得无敌。襄城（今河南省许昌襄城县附近、南阳（今河南省南阳市附近、襄阳（今湖北省襄阳市附近等地先后被攻陷。石勒不光善于攻城，更善于攻心，只要投奔过来的统统授予官职，这一带的流民纷纷补充为石勒的兵源，归附的坞堡为石勒提供粮草，自此石勒军势更加旺盛。