Baba Mahmudoğlu 1940-cı ildə Qazax rayonunun Muğanlı kəndində doğulub.1956-cı ildə orta məktəbi qızıl medalla bitirərək Neft Akademiyasına daxil olub.

Tələbəlik vaxtı yoldaşları onu Seyid Şuşinskinin yanına aparıb və Baba Mahmudoğlu Seyid Şuşinskinin dərslərində iştirak edib.

Həmin vaxt o, Süleyman Abdullayev, Əlibaba Məmmədov, Nəriman Əliyev, Nəzakət Məmmədova, Zeynəb Xanlarova ilə birgə Asəf Zeynallı adına Musiqi Məktəbində muğamları öyrənib.

Sonra Səid Rüstəmovun rəhbərliyi ilə fəaliyyət göstərən orkestrlə televiziyaya çıxıb. Daha sonra Əhməd Bakıxanovun, Baba Salahovun ansamblı ilə ekranda görünməyə başlayıb.

Əhsən Dadaşovun ansamblında isə bir qədər sonra oxumaq hüququ alıb.

1962-ci ildə Azərbaycan Dövlət Akademik Opera və Balet Teatrında stajor kimi fəaliyyətə başlayan B.Mahmudoğlu sonralar bu teatrın muğam bölməsinin solisti olub. “Leyli və Məcnun”da Məcnun, “Aşıq Qərib”də Aşıq Qərib, “Əsli və Kərəm”də Kərəm, “Koroğlu”da təlxək, “Şah İsmayıl”da Şah İsmayıl, “Xanəndənin taleyi”də Mir Seyid obrazlarını yaradıb. 1992-ci ildə xalq artisti fəxri adını alıb.

Prezident təqaüdçüsü olan sənətkar 2005-ci ilin payızında uzun illər çalışdığı teatrdan təqaüdə çıxıb.

2005-ci ilinin noyabrında xəstələnib, insult keçirib. Bir müddət sonra özünü yaxşı hiss etsə də, 2006-cı ilin yayında vəziyyəti yenidən pisləşib və həkimlər ona rayonda yaşamağı məsləhət görüblər. Bu səbəbdən B.Mahmudoğlu ilin təxminən beş ayını Şamaxı rayonunun Çuxuryurd kəndində keçirib. Daha sonra Bakıya qayıdıb.

Sənətkar sağlığında öz ansanblını yaratmışdır ki, bu ansanblla o bir çox xarici səfərlərdə çıxış etmiş və Azərbaycan musiqisinin gözəlliyini digər xalqların nümayəndələrinə ən gözəl şəkildə çatdırmışdır. Həmin ansanbl hal-hazırda sənətkarın adını daşıyır. Sənətkarın vəfatından sonra bu ansanblın yenidən fəaliyyət göstərməsi üçün sənətkarın dostu və qarmon ifaçısı Əhsən Rəhmanlı bu ansanbla rəhbərlik etmiş və bu günə qədər də həmin ansanblın ifasında bir çox ifaçilarla lent yazıları yazmaqla və televiziya verlişlərinə dəvət almaqla ansanblın yaşaması üçün bütün imkanlardan istifadə etməkdədir.

2006-cı il dekabrın 6-da Azərbaycanın xalq artisti Baba Mahmudoğlu 66 yaşında vəfat edib.