Dahulu kala ada bekas tapak Gajah di dusun Sitorang dan itulah dasarnya desa ini di buat menjadi desa Bakal Gajah.
Berdirinya Desa Bakal Gajah 1950 merupakan salah satu Desa dari 15 (Lima belas) Desa yang ada di Kecamatan Silima Pungga Pungga Kabupaten Dairi, dengan luas wilayah 400 Ha, ketinggian 750 m di atas permukaan laut, Kordinat Bujur : 99,214767 dan Koordinat Lintang : 1,992378 dengan suhu rata-rata 25 º C dan dengan jumlah penduduk pada Tahun 2020 sebanyak 221 KK, 720 Jiwa.
Dalam pelaksanan pemerintahan di Desa Bakal Gajah, telah terjadi beberapa pergantian Kepala Desa yang dapat dilihat pada tabel dibawah ini :
| NO | NAMA KEPALA DESA | PERIODE | KETERANGAN |
| 1 | Rade Sitorus | 1950-1966 | Kepala Desa |
| 2 | Israel Sitorus | 1966-1976 | Kepala Desa |
| 3 | Kadir Sitorus | 1976 – 1996 | Kepala Desa |
| 4 | Jason Panjaitan | 1996 – 2000 | Kepala Desa |
| 5 | Sahala Napitupulu | 2000 – 2001 | Pj.Kepala Desa |
| 6 | Sahala Napitupulu | 2001 – 2003 | Kepala Desa |
| 7 | Ronal Nainggolan | 2003-2006 | Pj.Kepala Desa |
| 8 | Ronal Nainggolan | 2006-2008 | Kepala Desa |
| 9 | Santy Nainggolan | 2008-2010 | Pj.Kepala Desa |
| 10 | Daud Manurung | 2010-2016 | Kepala Desa |
| 11 | Santy Nainggolan | 2017 | Pj.Kepala Desa |
| 12 | Humitar Sitorus | 2018 – 2023 | Kepala Desa |
Pada tahun 2000 Desa Bakal Gajah menjadi 4 Dusun, Adapun nama Dusun tersebut adalah sebagai berikut :
- Dusun I Bakal Gajah
- Dusun II Bakal Gajah
- Dusun III Sitorang
- Dusun IV Bakal Batu