13世紀(jì)，蒙古人興起于漠北高原，他們征服了亞洲和東歐，建立了蒙古帝國(guó)。天山以南及中亞廣大地區(qū)是成吉思汗次子察合臺(tái)的封地，察合臺(tái)死后，蒙古宗王為了爭(zhēng)奪繼承權(quán)，引起了長(zhǎng)期的軍事紛爭(zhēng)。從14世紀(jì)末到16世紀(jì)末的兩百年間，察合臺(tái)的封地(察合臺(tái)汗國(guó))分裂為許多互不統(tǒng)屬的小王國(guó)和“地面”，相互征戰(zhàn)。為了躲避戰(zhàn)亂，人們紛紛外逃。其時(shí)的蒙古貴族是封建農(nóng)奴主，他們大量掠奪貧民為奴，在自己的部落、莊園里從事勞動(dòng)，充實(shí)自己的軍隊(duì)，刀郎人就產(chǎn)生于這些難民和奴隸。(在察合臺(tái)時(shí)期，“刀郎”一詞是“集中”、“成堆地聚在一起”的意思。)他們不堪忍受欺侮，為了反抗壓迫剝削和躲避戰(zhàn)爭(zhēng)的災(zāi)難，就逃到葉爾羌河下游平原荒無(wú)人煙的大漠胡楊林里，聚在一起過(guò)著自由自在的迂徙流浪生活，于是就有了“刀郎”的稱(chēng)謂。

刀郎人反抗壓迫，爭(zhēng)取自由幸福的信念，吸引了不同地方不同民族的窮苦人加入他們的行列，“刀郎”不斷壯大。初時(shí)的刀郎人是蒙古杜格拉特部與維吾爾人融合而成，后來(lái)的刀郎人已并不限于某個(gè)民族的人了，而是各民族下層階級(jí)的組合，并成了反抗統(tǒng)治者而自立的人的代名詞。

在漫長(zhǎng)的歲月中，刀郎人在遠(yuǎn)離人世的荒漠曠野、原始胡楊林中狩獵游牧，或從事落后的農(nóng)耕，與大目然作著不息的抗?fàn)?，過(guò)著艱苦的生活。在閉塞的環(huán)境里，刀郎人形成了獨(dú)特的生活習(xí)俗、語(yǔ)言、文化、藝術(shù)和心理特征。到清朝初年，已與其他維吾爾人迥然有別?！按说然厝?，以遷徙為常，性與各城有異"，已成為“回子中別一種了”(椿園《西域風(fēng)土記》)。