Согласно преданию, в древние времена эту гору заселили калмыки, захватившие казахские земли. Однако местность оказалась крайне неудобной для проживания, отдыха и ночлега. Причиной тому стали многочисленные сурки, которые ночами пронзительно свистели и мешали покою.
Калмыки называли сурка «тарбыға», а гору — «тай». Поэтому они начали называть эту возвышенность «Тарбыга-тай», что можно перевести как «Гора сурков». Со временем название трансформировалось в «Тарбагатай» и сохранилось до наших дней.
Эта легенда ярко отражает связь природы, языка и исторического восприятия народа.