Nhiều bạn đi ngang qua Hồ Con Rùa cứ thắc mắc tại sao hồ lại có tên là Hồ Con Rùa nhưng không thấy rùa đâu.
Kiến trúc hồ con Rùa có 5 cột trụ tụ lại thành hình cái tháp, khu trung tâm là một con rùa bằng kim loại, trên lưng có đội 1 bia đá
(theo như lời kể thì trên bia khắc tên các nước viện trợ cho chính quyền Sài Gòn).
Hình dáng tháp cao này giống như hình một thanh gươm (hoặc cây đinh),đóng xuống hồ nước để giữ chặt đuôi rồng. (Có người lại bảo là tháp như hình đôi bàn tay xòe ra nhận tiền viện trợ của nước ngoài)
Sau năm 1975, chính quyền cho đục bỏ các dòng chữ trên tấm bia. Đường Duy Tân thay tên thành đường Phạm Ngọc Thạch còn đường Trần Quý Cáp đổi thành đường Trần Cao Vân/Võ Văn Tần. Vào đầu năm 1976 (hay 1978), tấm bia và con rùa bị phá hủy trong một vụ nổ, tuy con rùa không còn nhưng người dân vẫn quen gọi là Hồ Con Rùa, thay cho tên gọi chính thức.
Tuy nhiên, dù mất con rùa, thì tên “Hồ con Rùa” vẫn còn đó, nằm giữa trung tâm Sài Gòn hoa lệ như một chứng nhân của lịch sử.