裕固族的历史源远流长，可追溯到古代的回纥部落。回纥这个名称来源于突厥语，意指“团结”和“联合”，他们自称为这样一个民族。公元745年，回纥建立了自己的汗国，其疆域涵盖了从贝加尔湖南至阴山北、兴安岭西至阿尔泰山东的一片广阔的蒙古草原。在接下来的几个世纪里，这个汗国成为草原上各游牧部落的中心，逐渐形成了一個统一的回纥民族。
然而，公元840年，由于天灾和外敌的共同压力，这个汗国最终解体。分散的人群向西和南迁徙，其中一部分到了今天甘肃省张掖市附近，被称为甘州回给，也就是裕固人的祖先。这支人群在895年占领了甘州城，并建立了独立政权，但到了1208年，在西夏军队的进攻下，该政权也随之崩溃。一些人退居敦煌以南、柴达木盆地以北地区，以罗布泊和若羌为界，他们自称为撒里畏兀尔，即含义是“沙漠中的黄色人”，因此在汉文史料中又被称作黄头回纥。
1226年的蒙古征服使得撒里畏兀尔再次改变命运，而1368年的元朝灭亡后，明朝设立了安定、阿端、曲充三卫来管理这一地区。一段时间之后，一些塔里木盆地叶尔羌汗国的人们向东扩张并推行伊斯兰教，同时那些信仰藏传佛教的人们则向祁连山麓迁移，与当地汉藏等族融合，最终形成今日所见到的裕固族社会结构。此刻，他们已经与周围环境融合成为了一个新的文化整体。
