清真寺占地面积5000余平方米，建筑面积1500平方米。主体建筑为东西轴线三进院落，每进院落都有自己独具的功能和艺术特色。康熙四十九年(1710)，复建大门、仪门、影壁。大门面东，高10米，飞檐吻兽，四角风铃，四周砖雕精美别致。两边为青砖八字墙，各有一角门。大门上额嵌康熙四十九年(1710)青州知府张连登题写的“清真寺”石匾。原大门外8米处有一束腰大影壁，上有砖雕刻“大清康熙四十九年(1710)匠作脱成立”。大门内10米处为仪门，砖木结构，面阔3间，有6扇屏风式大门，制作精湛，梁柱雕刻着阿文、经文及多种花卉图案，正中门额之上悬挂着原全国政协副主席杨静仁题写的“民族平等”匾额。原大门、二门“文革”中均被毁，现大门、二门均是在原址上重建的略有东移。仪门南北各有房屋3间，南曰“赞育堂”，取“赞天地之化育”之意；北曰“翼真堂”，为受聘来寺开阿文大学之阿訇的住处，自清末至民初先后有马士成、王静斋、张耀亭、刘玉起等外地多名大阿訇受聘来寺主教。进二门迎面是大半米高的大月台，两侧有配殿，各面阔五楹，拔台出厦，花格门窗。北配殿曰“北讲堂”，清嘉庆十九年(1814)甲戌武状元丁殿祥所建，并题书“道衍精一”匾额。北配殿门柱上原有楹联一副：“百岁光阴容易度过形迹如雪泥鸿爪；五时功课殷勤持守进修似秋水马蹄”。南配殿曰南讲堂1962年曾遭火焚，1997年又在原址上重建，正中悬青州回族书法家丁忠义题写的匾额“正教真诠”，此殿有时当作书画展室，遇有重要活动或节日便当作临时接待室。

  南北讲堂中间的月台之上为大礼拜殿。前殿面阔五楹进深10米，中殿面阔三楹进深8米，后殿面阔三楹进深6米，纵深总计24米。前、中、后三殿连体构成“主”字形结构，总面积350平方米，可容数百人礼拜。大殿门上旧有匾额，分别是“道合儒宗”、“无声无臭”、“亘古清正”，后均丢毁夷尽。今之三匾为近年新刻制，正中为时任山东省民委民族处处长丁乐春题写的“清真正教”，南为现青州市伊协会长马忠辉题写的“认主独一”，北为当地乡老赵毓枢题写的“教衍真谛”。大殿正门两旁原有楹联一副，上联是“灵颖麦加道统何曾中古盼”，下联是“地名安乐真人原自西方来”。大礼拜殿为传统宫殿式建筑，殿内木柱林立，给人以庄严肃穆之感。殿之西首有一圣龛，为穆民们礼拜时标示正向。大殿整体显示“主”字形，前、中、后三殿为其三横，凸出部位为其一点，中轴线主道为其一竖，此正符合伊斯兰教“认主独一”、礼拜殿即主的天房之含义。后殿亦称后窑殿，是两层阁楼式建筑，二楼为望月楼，四面有圆窗，近可俯视寺院，亦可眺瞰远方。望月楼西外墙上嵌有明嘉靖二十五年(1546)衡藩宁阳王题的“清真教寺”石刻一方，落款处镌有“皇明宗室”、“衡王图书”两方印章，历400余年风雨，现仍不失原貌。据传，建造此大殿时，为防鸟类栖息殿内，鸟粪污殿，专门用避雀木，是真是假暂且不论，反正极少有鸟类在此殿上宿。礼拜殿南侧有南屋3间，曰“三畏轩”，取自“畏天命，畏圣人，畏大人之言”之意，现临时当作接待室之用。三畏轩对面北屋3间，曰“经伦堂”解放后一直当作账房用。最西南角有房屋6间，为沐浴室。后阁楼以西，原有清真寺的西大门，全木质结构，高、阔各六、七米，正中悬挂“清真教寺”大匾额，系抗战前任青岛市长的回族人马福祥题写，“文革”初期东西大门被全部拆除，现西大门为2004年重建。寺之南另辟二院，西为女寺，为女穆民活动之场所。20世纪末，建起穆斯林殡仪馆后，女寺房舍部分改作他用。原东南之院落，有北屋、南屋、东屋等房舍10余间，过去为该寺的经学堂，属寺之产业，民国期间改为回民小学。直至20世纪70年代，小学并入他处，产权由该寺收回，今为穆斯林殡仪馆的前院，临时作停车场用。寺之北院，原有一大洼池，系建寺取土形成的一处大湾，面积约1.5市亩，属寺之地产，解放初期逐被填平，建了民房。

  解放前，寺内有豆松114株(有谓取古兰经共114章之意，故植114株)，另有丁香、黄杨、胡梅、银杏等珍稀树种。寺内炎夏清爽、四季清香。100多株豆松至“文革”前仍存数十株，现已荡然无存。现仅存1株百年古树，形似冬青，直径20余厘米，倚墙而生，自成一景，但不知其名。“十年动乱”，寺中碑碣及建筑物毁坏严重，寺藏古字画、文物、珍贵家具等均毁之殆尽。最为可惜的是，原大殿前一个近2米高的檀香木巨型香炉，在“文革”中被焚之一炬。十年浩劫，使古寺大伤元气。近年来，政府数次拨款及群众集资捐款，对寺内所有建筑基本都重修一遍，彩绘一新。新立碑碣10余方，新植柏树数株，寺之面貌焕然一新。现青州市伊斯兰教协会、青州市民族书画院均设于此，并经常举办少数民族书画展览，清真寺已成为一处既服务于穆民，又服务于社会的重要场所之一。除城里清真寺外，为方便穆民正常的宗教活动，还分别在农村穆民集居区建有云河清真寺、坡子清真寺、黄峪清真寺和草庙清真寺等多处小型清真寺，以方便穆民礼拜。   （有令衡）
 

清真寺大门





清真寺望月楼





重建后的西大门