淘淘松花江奔流不息地在哈尔滨地界穿流。在江南岸的不远处，自东向西绵延着长长的高岗，民间百姓视之为哈尔滨风水宝地象征的“卧龙”。成为地名“南岗”的来源。在高岗东部的“龙头”之处，坐落着既大气恢弘又肃穆典雅的建筑群，这就是哈尔滨文庙。关于文庙的修建及其建筑特色，有着一段历史传说。

19世纪末20世纪初，由于沙俄在中国东北修建中东铁路，打破了哈尔滨以分散的自然村落占主导地位的田园牧歌式的自然经济，蒸汽机替代了世代的农耕、渔猎生活。铁路通车后，沙俄把哈尔滨辟为铁路“总埠”，后又非法成立“哈尔滨自治公议会”，攫取哈埠的经济、市政、文化、宗教等特权。此后，大量的外国侨民纷纷涌入，建厂开店，设立教堂，多元文化在哈尔滨迅速生成。特别是圣·尼古拉大教堂就修建在南岗中间，即“卧龙”的拦腰之处，虎视着四周；中东铁路管理局也建在了龙脊之上。哈尔滨成为欧美列强角逐和利益均沾的乐园，有权有势有钱人的天堂。这使得当时的一些爱国文人志士深感忧虑。

从清政府到民国时期的北京政府以及哈尔滨的人民一直没有放弃过对哈主权的收回。早在1905年，清政府就“朱批准奏”在哈添设滨江关道，但仅局限于办理吉、黑两省铁路交涉事宜并督征关税。俄国“十月革命”爆发后，北京政府加紧了收回主权的步伐，1921年设立东省特别区市政管理局，接管中东铁路沿线各地市政；1922年设东省特别区行政长官，行使军警、外交、行政、司法权；直至1926年，解散了俄人把持的市公议会，成立了哈尔滨特别市市政局，实现了中国人在哈尔滨完全行使主权。

当时的哈尔滨城区内，处处充斥着“洋味”，仅外国领事馆就有20多个，各种西洋教堂也多达20多座，外国人最高峰时突破了20万。西洋的文化教育、宗教法律等冲击着传统的中华文化。在这种特殊的历史背景下，时任东三省保安总司令的张学良少帅以及东省特别区行政长官张焕相、继任长官张景惠等积极倡导，决定在哈尔滨修建一座文庙，“以孔子之教为诏国之本”，意在用中华传统文化来抗击外来文化。于是召集各界人士开会，商议建庙规划和筹款，成立了文庙筹备委员会。倡议得到了各方响应。政府投资和中外商贾及各界人士捐款，共募集资金73万元银币。

文庙建在现在南岗区文庙街25号。这条街过去是片空地，后以文庙而得名。在选址上，组织者特请了风水大师指点，反复估算测量，最终定在了南岗的东部，即“卧龙”的龙头之处。一条大直街横贯头与尾。在大直街的北面已建造了极乐寺，街南面的文庙建成后，寺与庙犹如龙的双眼，炯炯放光。同时，按照中国传统的风水说法，太阳从东边升起，东居上方、西为下方，文庙和极乐寺一起，扼住了通往西方的风水。也寓意中华文化必定在西方文化之上。    

为将哈尔滨文庙打造成为哈埠具有标志性的东方建筑风格，达到以其独特雄伟壮观的气势，屹立在以西欧建筑风格为主要基调的哈尔滨建筑群体之中，当年的组织者不惜花重金在全国各地招募杰出的设计者。其中著名的有江苏省吴县的陆士基、张象昺以及俄籍犹太建筑师日丹诺夫等。组织者还决定选运全国最佳的建材，如河北生产的成吨重的汉白玉，江苏生产的彩绘颜料等。据说有100匹马因长途跋涉而累死在途中。

文庙即孔庙，又称先师庙、夫子庙、圣庙等，是祭祀孔子和讲学传道的场所。自公元前478年以孔子故宅三间立庙开始，到清朝末期，全国已有文庙1500多座。普遍采用主要建筑坐北朝南、沿着轴线贯通，庭院划分为九进、三进院落等形式。

哈尔滨文庙的建造采用了“大祀”的规格，自1926年兴建，至1929年落成，历时三年。总占地面积约2.3万平方米，建筑面积5674平方米，是哈埠唯一的典型仿清代建筑风格的古建筑群。其主体建筑物使用了清代最尊贵的黄琉璃瓦，即“皇顶”，它是帝王或经皇帝特别恩准的人物所用的建筑规格。屋顶款式也使用了最高等级的“庑殿顶”与“重檐庑殿顶”。彩绘为清代创造的金钱大点金的“金龙和玺”彩绘。两侧的配殿规格低于主殿，用“灰陶瓦”，屋顶为“歇山顶”、“卷棚悬山式”等款式。彩绘为“旋子彩绘”、“雅五墨”、“黄式彩绘”等。整个庙宇为三进院落结构，南北通深276.37米，东西面阔85.6米。南与北沿着中轴线，层层递进，一气贯通。从南端的万仞墙向北，经泮池、泮桥、棂星门、大成门，至第二进院落主殿大成殿，最后收尾于第三进院落的崇圣祠。两侧有牌楼、石碑、配殿、掖门、耳房等，都是对称配列的。

文庙的第一座建筑是“万仞宫墙”，也称“屏垣”，其名取自于《论语·子张篇》“夫子之墙数仞”，赞扬孔子的学问与道德博大精深。按传统习惯，文庙的正门应开在正南方。而哈尔滨文庙没有正门，是用长44.85米，高5.9米、上面镶有彩釉琉璃雕花砖的黄瓦红墙所取代。在我国历史上有一种约定俗成，即无论何地修建孔庙，都须由当地的状元前来祭孔，然后方可修建庙的正门。而哈尔滨文庙建于近代，封建科举制度已废除，不会再有状元了，所以用万仞宫墙取代了正门。进出文庙，只能走两侧的偏门。进庙，须走东侧的牌楼“