V starších treťohorách, koncom oligocénu (stupeň kišcel, pred 28 mil. rokov) územie Cerovej vrchoviny zalialo more Parathetys. Jeho hĺbka mohla dosahovať 300 – 500 m. Usadeniny z tohto mora (vápnité prachovce, ílovce a jemnozrnné pieskovce tzv. čížskeho súvrstvia) však na povrch v súčasnosti nevystupujú. Na rozhraní oligocénu a miocénu (stupeň eger, pred 23 mil. rokov) došlo k novému zaliatiu územia morom. Aj z tohto obdobia pochádzajú prachovce, ktoré však už patria k tzv. lučenskému súvrstviu. Na území Cerovej vrchoviny vytvárajú podložie pieskovcov a vystupujú na povrch v severnej a východnej časti CHKO. Poslednými sedimentmi ustupujúceho mora sú piesky a pieskovce tzv. fiľakovského súvrstvia (stupeň egenburg, 20 mil. rokov), ktoré majú hrúbku okolo 250 m. Tvoria základnú stavebnú jednotku Cerovej vrchoviny, kde v nich rozlišujeme nasledovné vrstvy:
– tachtianske vrstvy – sú najviac rozšírené, pozostávajú z nezvrstvených rozpadavých pieskovcov s pevnými pieskovcovými lavicami s obsahom vápnitého tmelu. Skameneliny sa v nich vyskytujú len veľmi ojedinele
– jalovské vrstvy – tvoria ich taktiež pieskovce s pevnými lavicami, avšak s charakteristickým veľkým šikmým zvrstvením. Obsahujú zuby žralokovitých rýb, sporadicky aj úlomky lastúrnikov. Najviac sú rozšírené v okolí Chrámca a Drne (kde je ich najreprezentatívnejšia časť územne chránená ako prírodná pamiatka Jalovské vrstvy, ale nachádzame ich aj v západnej časti Cerovej vrchoviny pod bazaltovými prúdmi a pokrovmi, ako aj v nadloží tachtianskych vrstiev v PP Čakanovský profil
– lipovianske pieskovce – podobné pieskovce, avšak s malým šikmým zvrstvením a miestami s bohatou faunou najmä lastúrnikov
– čakanovské vrstvy – sivé prachovce a jemnozrnné pieskovce s obsahom fauny tenkostenných lastúrnikov. Usadili sa v hlbšom morskom prostredí, ako predchádzajúce.
Horniny Fiľakovského súvrstvia sú nestabilné a náchylné na eróziu.
V staršom miocéne, koncom stupňa egenburg (19. mil. rokov) došlo k ústupu mora a nastúpila suchozemská sedimentácia. Materiál sa ukladá do riečnych nív a nížinných jazier. Sedimenty uložené v týchto podmienkach vytvorili bukovinské súvrstvia. Prevažnú časť súvrstvia tvoria štrky, piesky a pestré íly s rodacitovými tufmi, ktoré sú bohaté na odtlačky rastlín a zuhoľnatených alebo prekremenených kmeňov stromov. Toto súvrstvie máme možnosť vidieť v PP Čakanovský profil, ale aj v štrkovni v Šiatorskej Bukovinke.
Z nadložného šalgotarjánskeho súvrstvia (spodný miocén, stupeň otnang, 18. mil. rokov) sa v Cerovej vrchovine nachádzajú len jeho spodné, tzv. pôtorské vrstvy, od Čakanoviec po Šiatorskú Bukovinku. V nich sa nachádzajú tenšie uhoľné sloje.
V strednom miocéne (stupeň baden, 13 mil. rokov) došlo ku prieniku andezitovej magmy pod povrch, ktorá tam aj utuhla. Táto je odkrytá v kameňolomoch na Šiatore a v Karanči. Predstavuje porfyrický pyroxenicko-amfibolický andezit s granátom a biotitom. Následkom pôsobenia horúcich roztokov je bohatý aj na hydrotermálne minerály.
V období vrchného pliocénu a pleistocénu (3-0,1 mil. rokov) po výzdvihu územia došlo k veľkému odnosu materiálu a pozostatkov po sedimentoch z tohto obdobia je málo. Zachovali sa pod belinským lávovým prúdom. Predstavujú riečne štrky belinských vrstiev. Pod lávovým pokrovom Medvedej (v kameňolome Mačacia) sa zachovali eolické (vetrom naviate) piesky.
Koncom treťohôr a začiatkom štvrtohôr po zlomoch vzniknutých následkom roztiahnutia zemskej kôry, vystúpila na zemský povrch láva v piatich fázach a vytvorila cerovú bazaltovú formáciu. Začiatky sopečnej činnosti sa datujú na 5 miliónov rokov v období pliocénu, kým vek poslednej fázy (v okolí Fiľakova a Hodejova) sa dá predpokladať na cca 400 tis. Rokov (pleistocén). Bazaltový vulkanizmus sa vyznačoval veľkým počtom menších sopiek, ktoré často sledovali zlomové línie. Prevládali vulkány maarového typu, kde kráter bol situovaný oveľa nižšie ako okolitý terén, ale vytvárali sa aj väčšie troskové kužele. Kvartérne uloženiny predstavujú zvyšky riečnych nánosov a sedimentov, ktoré sa zachovali vďaka výzdvihu územia začiatkom štvrtohôr v podobe terás nad tokom Belina. V dolinách ostatných tokov sa vyskytujú len ojedinele. Terasy sú pokryté sprašami a sprašovými hlinami. Cerová vrchovina je v zmysle geomorfologického členenia Slovenska súčasťou Matransko – slanskej oblasti. Do CHKO Cerová vrchovina patria časti oddielov Fiľakovskej brázdy, Petrovskej vrchoviny a Hajnáčskej vrchoviny. Prírodná pamiatka Lipovianske pieskovce ako bodový objekt CHKO patrí do Mučínskej vrchoviny. Najvyšším vrchom Cerovej vrchoviny je Karanč (725 m) , ktorý rovnako ako Šiator (660 m) predstavuje lakolit (andezitová magma bola vytlačená pod zemský povrch kde utuhla, po výzdvihu územia boli tieto telesá obnažené). Najnižšie položené miesta v CHKO Cerová vrchovina sa nachádzajú v pieskovcovej časti v okolí Janickej vodnej nádrže s nadmorskou výškou 167 m. Cerová vrchovina je názorným príkladom inverzného reliéfu. Tento sa viaže na vulkanickú časť pohoria, predovšetkým na Hajnáčsku vrchovinu. Tu, sa po erupciách sopiek, do dolín vyliala láva, dná dolín a potokov sa okrem lávy zaplnili aj popolom a ďalšími produktmi sopečnej činnosti a vytlačené toky začali erodovať medzidolinové chrbty. Z týchto, vodou odnesených chrbtov sa stali doliny a z bývalých dolín, ktoré zaliala láva, sú dnes vyvýšené miesta. Sopečnú činnosť dokumentujú v tejto časti Cerovej vrchoviny rôzne zachovalé, ale stále čitateľné anorganické útvary. Nájsť tu možno učebnicové príklady erózne rozrušených sopečných kužeľov (Ragáč, 536 m), kde sú zachované aj zvyšky dutín po výfukoch a výbuchoch sopečných plynov a pár, vypreparovaných sopúchov ako je napr. Hajnáčsky hradný vrch a Soví hrad, (lávových pokrovov (Pohanský hrad, 578 m), ktorý sa nad okolie vypína ako stolová hora. Okraj tejto čadičovej plošiny sa rozpadáva a vytvára z veľkých blokov kamenné moria a sute po celom jej obvode.
V nich sa nachádza 31 pseudokrasových jaskýň a rôzne zaujímavé útvary ako skalné veže, kamenná ulička, brána a pod. Lávové prúdy (Belinský, Ragáčsky) vytvárajú v súčasnosti úzke dlhé chrbty, častokrát po okrajoch tiež rozrušené s krajinársky príťažlivými formami mikroreliéfu. Zvyšky maarov nachádzame na Fiľakovskom hradnom vrchu , pri Hodejove a pri Hajnáčke (Kostná dolina). V Kostnej doline pri Hajnáčke boli nájdené skamenené zvyšky cicavcov z konca treťohôr. Patria medzi ne nálezy tapírov, mastodontov, nosorožcov, pandy, nepárnokopytníkov a dokonca aj primáta z čeľade Cercopithecidae. Pozoruhodné sú aj lokality viažúce sa na sedimentárnu časť geologickej stavby Cerovej vrchoviny. Pôsobivým doplnkom vulkanickej časti CHKO je jej východná časť budovaná pieskovcami. Jej povrch je rozčlenený početnými dolinkami, z ktorých sa prudko dvíhajú vrchy. Tieto vytvárajú úzke chrbty, ktoré vybiehajú na severe do Rimavskej kotliny . Cerovú vrchovinu odvodňujú dva toky. Západnú časť potok Belina a východnú potok Gortva. Medzi nimi sa po chrbtoch vrchov tiahne významná rozvodnica medzi povodím Dunaja a Tisy. Potok Belina a jej prítoky odvádzajú vody Cerovej vrchoviny do prítokov Dunaja a potok Gortva s prítokmi zase do Tisy.