Qori müəllimlər seminariyasında Şərq dillərindən dərs deyən Qayıbzadə sonralar Tiflis mədrəsəsində şəriət dərsləri və Azurbaycan dilini tədris edir. 1879-cu ildə Qori müəllimlər seminariyasının Azərbaycan şöbəsinin açılışı Qayıbzadənin həyatında ən böyük sevinc olur.

1879-1884-cü illərdə o, seminariyada dərs deyir, burada təhsil alan azərbaycanlı tələbələrə dəstək olmağa çalışır.

1884-cü ildə Rusiyanın rəsmi dairələri Mirzə Hüseyn Qayıbzadəyə Zaqafqaziya sünni müsəlmanlarının müftisi vəzifəsini tutmağı təklif edirlər. Çox götür-qoydan sonra Qayıbzadə razılığını verir. O deyirdi: "Mən heç bir vaxt ruhani olmamışam və heç bir dini ayin icra etməmişəm. Lakin mənə təklif olunan vəzifəni qəbul edirəm. Çünki bu vəzifədə xalqıma daha böyük fayda verə biləcəyimi güman edirəm".

Tutduğu yüksək vəzifədən istifadə edən Qayıbzadə təhsil sahəsində böyük işlər görmüşdür. Onun ilk tədbiri Rusiya imperiyası maarif naziri qraf İ.D.Delyanovun 1884-cü il aprel əmrinə qarşı mübarizəsi olmuşdur. Belə ki, şovinist nazir həmin əmrdə yazırdı: "Məhəmməd dininə mənsub olanlar ali tipli xalq məktəblərinə ən zəruri hallarda buraxılsın və institutu bitirən müsəlman müəllimlərinə şəhər məktəblərində işləmək hüququ verilməsin". Şəxsi nüfuzu və vəzifə səlahiyyətlərindən istifadə edən Qayıbzadə bu əmrin icrasına qarşı çıxır, Azərbaycanlı tələbələrin ali məktəblərə qubul etdirilməsinə nail olurdu.

Azərbaycanlıların təhsil alması sahəsində Qayıbzadəyə ən yaxın köməkliyi dostu, bütün Qafqazın şiə müsəlmanlarının başçısı şeyxülislam Əbdüssəlam Axundzadə göstərmişdir.

Qafqazın azərbaycanlılar yaşayan bir çox bölgələrində onlarca kənddə ibtidai məktəb açılmışdı. Qayıbzadə məvacibinin əsas hissəsini Azərbaycanlıların Rusiya məktəblərində təhsil almasına sərf edirdi. Belə ki, 5 il ərzində o öz hesabına 43 nəfər azərbaycanlı seminaristi oxutmuşdu. Onların arasından Rəşid bəy Əfəndiyev, Firidun bəy Köçərli, Teymur bəy Bayraməlibəyov, Məmmədağa Vəkilov, Səfərəli bəy Vəlibəyov və başqaları kimi Azərbaycanın bir çox görkəmli elm və mədəniyət xadimləri çıxmışdır.

Seminariya tələbələri Mirzə Hüseyn Qayıbzadədən Azərbaycanın bölgələrindən folklor nümunələri yığıb gətirmək tapşırığı almış, onları alman dilinə tərcümə etdirib A.Berje vasitəsilə Avropada nəşr etdirmək mümkün olmuşdur. M.H.Qayıbzadə "Azərbaycanda məşhur olan şüəranın əşarına məcmuə” əsərinin müəllifidir ki, burada bir çox Azərbaycan şairlərinin əsərləri toplanmışdır.

Rus dilində olan dərslikləri Azərbaycan dilinə tərcümə etdirən Qayıbzadə özü də bir neçə dərsliyin müəllifidir. Bunlardan "Ariflərin şəriət qanunları" kitabında o, islam dininin əsaslarından bəhs edir. "Yeniyetmələr üçün elmin əsasları" və "Dünyəvi hesab  elminin məsələləri" əsasən kənd  məktəbləri üçün nəzərdə tutulmuşdur. "Nümunəyi-ləhceyi-Azərbaycan" isə o zaman ən geniş yayılmış əlifba kitabı idi. "Tövsiyənamə" əsərində Qayıbzadə təbabət elminin əsasları, ağır xəstəliklərə qarşı hansı profilaktik təbdirlərin görülməsi barəsində ətraflı məlumat verirdi.

Qori seminariyasının Azərbaycan şöbəsində ilahiyyat dərsinin tədrisinə Rusiya məmurlarından icazə almasını Qayıbzadə ən böyük uğurlarından sayırdı. Öz vətəndaşlıq mövqeyinə görə məmurlar tərəfindən təqib olunan Seyid Əzim Şirvani köməklik üçün Qayıbzadəyə müraciət  etdikdə o, S.Ə.Şirvaninin təqiblərdən yaxa qurtarması və işlə təmin olunmasında əlindən gələni etmiş və ədalətin bərpasına nail olmuşdu.

1901-ci ildə Bakıda H.Z.Tağıyevin qızlar gimnaziyası açılanda ona ilk təbrik teleqramı göndərənlərdən biri də Qayıbzadə olmuşdur.

Maarif sahəsindəki fəaliyyətinə və o cümlədən də bir sıra çox qiymətli dərsliklər yazılmasına görə Rusiya və İran ordenləri ilə təltif edilən Qayıbzadənin ən böyük mükafatı xalqın ona böyük hörmət və məhəbbəti idi.

Mirzə Hüseyn Qayıbzadə 1917-ci ildə Tiflis şəhərində vəfat etmiş və dostu Mirzə Fətəli Axundzadənin yanında dəfn olunmuşdur.

Müstəqil Azərbaycan Respublikasının qurulması bir çox tarixi həqiqətləri bərpa etməyə və o cümlədən də Qayıbzadənin fəaliyyətini layiqincə qiymətləndirməyə imkan verdi.