Bendungan dari waduk dibangun antara pertemuan Bengawan Solo dan Sungai Keduang.
Juli 1981 Waduk ini mulai diisi. Kemudian diresmikan Presiden Soeharto pada tanggal 17 November 1981.
Pembangunan Waduk Gajah Mungkur menelan biaya yang jika dikurskan dengan rupiah mencapai Rp 69,5 Miliar waktu itu.
Pada tahun 1987 terjadi musim kemarau Panjang, sehingga Pola operasi PLTA Waduk ini harus disesuaikan atas izin Gubernur Jawa Tengah, agar kebutuhan air tetap dapat terpenuhi.
Musim kemarau panjang juga kembali terjadi 10 tahun kemudian.
Kini Waduk Gajah Mungkur dapat dimanfaatkan baik untuk irigasi, mengatasi banjir.
Selain itu Waduk Gajah Mungkur, juga bis dipergunakan untuk tujuan pariwisata, pembangkit listrik tenaga Air, kolam untuk memancing, tersedia pula wahana olahraga,
Saat sedang musim kemarau, Dasar Waduk ini dapat dilihat dan dimanfaatkan masyarakat untuk menanam tanaman semusim seperti jagung (**)