Theo truyền thuyết của dân tộc Bana, Kon Tum ban đầu chỉ là một làng của người Bana. Thuở ấy, vùng đồng bào dân tộc Bana (nay thuộc thành phố Kon Tum) có làng người địa phương ở gần bên dòng sông Đăkbla với tên gọi Kon Trang – OR. Lúc ấy, làng Kon Trang – OR rất thịnh vượng với dân số khá đông. Bấy giờ, giữa các làng luôn gây chiến với nhau để chiếm đoạt của cải và bắt người về làm nô lệ. Hai con trai của Ja Xi – một trong số những người đứng đầu làng Kon Trang – OR tên là Jơ Rông và Uông không thích cảnh chiến tranh đã làm nhà ở riêng gần chỗ có hồ nước, cạnh dòng Đăkbla. Vùng đất này rất thuận lợi cho phương thức sống định cư, nên dần dần có nhiều người đến ở, mỗi ngày một phát triển thêm đông, lập thành làng mới có tên gọi là Kon Tum. Từ đó, Kon Tum trở thành tên gọi chính thức cho một làng mới lập của người Bana, cạnh dòng Đăkbla, nơi có nhiều hồ nước trũng. Theo tiếng Kinh, Kon Tum có nghĩa là Làng Hồ (Kon là làng, Tum là hồ, ao, bàu nước,.). Phát huy những thuận lợi về điều kiện tự nhiên với sự cần cù lao động của con người, vùng đất Kon Tum ngày càng phát triển thịnh vượng, không chỉ một làng mà nhiều làng, bao quát cả vùng đất đai rộng lớn. Vùng đất này khi thành lập thị xã cũng mang tên gọi chính thức là Kon Tum. Khi đơn vị hành chính cấp tỉnh được thành lập, Kon Tum vẫn chính thức được dùng làm tên gọi của tỉnh. Đây là vùng địa lý hành chính được hình thành sớm nhất ở Tây Nguyên.