Tháp là công trình tưởng nhớ ngài Po Klong Garai, một vị vua được người Chăm suy tôn như vị thần thủy lợi. Xung quanh thân thế vua Po Klong Garai và tòa tháp cổ mang tên ông là những truyền thuyết nhuốm màu huyền bí được người Chăm lưu truyền suốt hàng trăm năm.

Theo đó, mẹ vua Po Klong Garai là người không rõ lai lịch, được hai vợ chồng già nhặt về từ một bọc vải trên đập Nha Trinh. Bà mang thai vì uống nước trên một tảng đá lớn trong rừng rồi sinh ra một người con xấu xí, khắp mình ghẻ lở và đặt tên là Po Ong.

Lớn lên, Po Ong kiếm sống bằng cách đi chăn trâu. Một lần, khi đang Po Ong ngủ thì một con rồng hiện ra và quấn quanh người cậu. Trong chốc lát, mọi vết ghẻ lở biến mất, Po Ong hóa thân thành chàng trai tuấn tú.

Sau đó một thời gian, vua của người Chăm lúc bấy giờ băng hà, con voi trắng trong cung chạy ra ngoài, tới quỳ phục trước Po Ong và cõng ông về triều. Từ đó, dân chúng tôn ông lên làm vua, lấy tên Po Klong Garai.

Lúc bấy giờ, quân Chân Lạp thường xuyên quấy nhiễu dân chúng ở vùng Pandurangga (Phan Rang - Tháp Chàm ngày nay), quê hương ông. Đích thân vua Po Klong Garai mang quân đến đánh tan kẻ xâ‌m lượ‌c bằng tai thao lược của mình.

Trong thời gian trị vì, vua Po Klong Garai đã cho xây dựng nhiều công trình thủy lợi để phục vụ cho nông nghiệp, chấn chỉnh binh ngũ và chỉ cho dân tại đây nhiều ngành nghề để phát triển kinh tế, giúp đời sống hưng thịnh, nông nghiệp phát triển, mùa màng bội thu.

Vào một năm Sửu theo Chăm lịch, vua Po Klong Garai trở về Panduranga xem địa thế để xây tháp kỷ niệm thuở hàn vi của mình. Khi đi ngang qua vùng Balhul thì bị tướng Hakral của Chân Lạp đem quân đến quấy phá.

Vua Po Klong Garai không muốn xảy ra cuộc đổ máu vô ích nên thách tướng Hakral thi tài xây tháp, ai xây xong trước sẽ thắng. Nhân thấy khó đánh thắng vua Po Klong Garai bằng sức mạnh quân sự, Hakral đã chấp thuận.

Vua Po Klong Garai xây tháp trên đồi Balhla (đồi Trầu ngày nay), còn tướng Hakral xây ở vùng Balhul. Kết cục, bên vua Po Klong Garai với sự tài trí của mình đã hoàn thành trước, tướng Hakral thua cuộc đành rút quân về. Và tháp Po Klong Garai đã hình thành như vậy...