Қасым қажы 1870 жылы қазіргі Павлодарское ауыл орналасқан өңірде дүниеге келді. 1912 жылына дейін Қасым Мұстафаұлы ұжымшар мектебінде молда-ұстаз болды, кейін өз үйінің ауласында «Жәдид мектебі» атты уездік мектеп-медресені ашты. Сол жерде ол жәдидизм деген жаңа оқыту әдісін қолданды.
1915 жылы қызы Сәниямен бірге Сәбит Дөнентаевтің «Уақ-түйек» атты әндер жинағын Үфе қаласында өз қаражатына басып шығарды. Қазақ әдебиетінің көрнекті өкілдерінің бірі болған жерлес ақынымыз Сәбит Дөнентаев сол медреседе Қасым қажыдан хат таныды.
1917 жылдың басында Қасым қажы Павлодар қаласындағы «Ғалым» атты тұңғыш қазақ мұғалімдері мен зиялыларының қоғамын құруға ат салысты. Содан соң Павлодар уезінің бірінші ауданында мешіттердің есепшісі болып тағайындалды. 1927 жылы Файзулла деген ұлы дүниеге келді (ҚазКСР-ның халық әртісі, театр режиссері Бәйтен Омаров).
Қасым Мұстафаұлы Ертісбаев 30-шы жылдарға дейін Шәукен аулында тұрды. Сол кезеңде Керекуге жататын Тереңкөл, Мұздыкөл, Майкөл, Ұрық ауылдарынан 48 адам Мекке қажылық жасады, солардың ішінен Қасым қажы да болды.
Қуғын-сүргін басталысымен Қажы қажы өзінің барлық діни кітаптарын, Кереку округінің тарихи құжаттарын алып, Ресейдің Алтай өлкесіндегі Новосібір қаласына көшеді. Репрессиялардың кесірінен Қасым қажының қызы Сәния «халық жауының баласы» деп аталып қудаланбау үшін інісі Файзулланың атын өзінің күйеуі Уәлихан Омаровтың атына жаздырады және оған Бәйтен Омаров деген ат береді. Ол дін өкілінің баласы ретінде қуғынға ұшырамасын деп, және руды жалғастыратын, тым болмаса, біреу қалсын деп Бәйтен ағаның өмірін сақтап қалады.
Қасым қажы өзі ұйымдастырған медресеге Ресей, Орта Азия діни семинарияларында білім алған адамдарды, жәдидтер ережелері мен көзқарасын жақтайтындарды ұстаздық етуге тартқан. Сондай адамдардың бірі Мүбәрак Уәлиұлы (1897-1933 ж.ж.) болды.
Қасым қажы медресесінде білім алған адамдардың ішінде белгілі қазақ ақын-жазушысы, публицист Сәбит Дөнентаев та болған.
Қасым қажы қашудан, қуғыннан шаршап, отанға оралған кезде ГПУ агенттері оны теміржол вокзалында тұтқынға алып, халық арасында «Ақ түрме» деген атпен белгілі Павлодар абақтысына қамады. Қасым Мұстафаұлы атылмады, бірақ 1932 жылдың 11 наурызында өз өлімімен сол түрмеде ажал құшты.
2010 жылы ПМПУ зерттеушісі Әсет Жәнісов Қасым қажының өмірбаяны жайлы «Заманның көрнекті тұлғасы» атты кітапты жазып шығарды.
2006 жылы облыстық «Сарыарқа самалы» газетінде жарық көрген «Қасым қажыны білетіндер бар ма?» мақаласынан кейінгі Қасым қажының өмірнамасын мүмкіндіктерінше толық қалпына келтіру үшін бірқатар іздену, зерттеу жұмыстарын жүргізді.
1997 жылы Бәйтен Омаров Алматыдан Павлодарға келіп, алғаш рет ата-жұрты Павлодар ауылы болып табылатынын, Мүкаррам (Мүкаш) Мүбарәкұлымен кездескеннен кейін білді.
2008 жылы Павлодар ауылында Қасым қажы Мұстафаұлы атындағы ауылдық мешіт Қасым қажының немересі, Алматылық кәсіпкер Қанат Омаров әкесі Бәйтен Омаровтың өсиетімен өз қаражатына салды.
Мешіттің алғашқы бас имамы болып Омаров Әбдімутали (қазір Ақсу қалалық мешітінің бас имамы) тағайындалды. Келесі жылында Әбдімүтәли ағамыздың қолдау-көмегі арқылы ұрпақтары мешіт жанына медресе ғимаратын салып бітірді.
Бұл мешіттің салынып бітуіне Павлодар ауылының сол кездегі әкімдігі де көп қолдаулар көрсетті.
Қасым қажы Мұстафаұлының немере ұлы Қанат Омаровтың демеуімен салынған Қасым қажы ата мешіті ауыл тұрғындарына діни қызмет көрсеткеніне биыл 10 жыл толып, осыған орай Павлодар ауылының тұрғындары Павлодар облысының өкіл-имамы Жолдас Бертімұратов қолдауымен, «Әбу Бәкір Сыддық» медресесінің директоры Серікбол Аршабаевтың ат салысуымен және де «Қасым қажы» мешіттің бас имамы Ермек Сыздықтың ұйымдастыруымен 29 қыркүйек күні 10-жылдық мерейтой аталып өткелі жатыр.