石勒的祖先是匈奴别部羌渠（康居）部落的后裔，祖父名叫耶奕于，父亲周曷朱（又名乞翼加），都曾为部落小头目。石勒健壮而有胆量，雄武而好骑射。曷朱性格凶狠粗暴，胡人们多不亲近。于是，让石勒代替自己监理群胡。后石勒曾被中原人掠为奴隶，为师欢奴。师欢感到石勒相貌奇特，免除了他的奴隶身份。

元熙元年（304年），司马颖的将领公师藩（阳平人）自称将军，在赵魏起兵，人马多达数万。石勒与汲桑率领数百骑投奔了他。汲桑让石勒以石为姓，以勒为名。此后石勒转战各处，屡败晋军，声名渐盛。

元熙三年（307年），王弥在青州和徐州掳掠，自称征东大将军，在高都大败晋军。太傅司马越派鞠羡任东莱太守以讨伐王弥，但为王弥所杀。苟晞后率兵进攻并大败王弥，王弥投奔匈奴汉国皇帝刘渊，拜为镇东大将军、青徐二州州牧、都督缘海诸军事，封为东莱公。 刘渊署王弥为司隶校尉，加侍中、特进。

永凤元年（308年），刘渊称帝，遣使授石勒持节、平东大将军、平晋王。刘聪进攻壶关时，石勒自率七千精锐为前锋都督，杀晋将黄秀；接着，又进攻邺、赵郡、巨鹿、常山，攻杀晋军数万人，不少散落游荡的胡人地方武装来附。

晋朝幽州刺史王竣派遣鲜卑头领段务勿尘（段匹磾之父）等鲜卑、晋朝联军共十余万，把石勒打得败走黎阳。石勒转而进寇信都，杀掉晋朝冀州刺史王斌。接着，东袭鄄城，杀晋兖州刺史袁孚，乘胜而进，连陷广宗、清河、平原、阳平诸县，降九万多人。武德之战，石勒攻杀晋冠军将军梁巨，坑杀抵抗的降卒一万多人，威震河北。“河北诸堡垒大震，皆请降送子于石勒”。

王弥先随刘曜攻河内，与石勒会军攻临漳。不久，又和刘曜、石勒攻破魏郡、汲郡、顿丘，陷五十余壁。王、石二人又合军攻陈郡，大破东海王司马越的晋军。

光兴二年（311年）四月，晋东海王司马越以讨贼死，二十多万晋朝将兵拥司马越之棺向东撤退，准备到东海（山东郯城）归葬。石勒闻讯，于五月间亲率轻骑倍道兼行，在苦县宁平城（河南鹿邑县）包围了大军，“大败晋兵，纵骑围而射之，将士十余万人相践如山，无一人得免者。”晋太尉王衍、襄阳王司马范等皆成为石勒的阶下囚。

王衍劝说石勒称帝。石勒勃然色变，振衣而起，斥责王衍说：“君名盖四海，身居重任，少壮登朝，至于白首，何得言不豫世事！使天下破坏如此，正是君罪所致！”于是命令士兵在半夜里推倒墙壁把他压死。石勒全歼西晋主力后又会同刘曜、王弥之众攻破洛阳。

刘聪继位后，又进石勒征东大将军、并州刺史等。石勒配合刘聪的儿子刘粲攻襄阳，陷江西垒壁三十余所，欲有雄据江汉之志。谋士张宾有远谋，劝石勒北还。石勒忘乎所以，不听。不久，晋琅琊王司马睿派王导率军讨石勒。由于粮草不继、军中瘟疫流行，石勒损兵折将，伤亡大半，最终听从张宾之策，裹粮卷甲，折军北还。