哈尔滨市建筑艺术馆成立于1997年，是在索菲亚教堂综合整治基础上组建的，以对外宣传、弘扬哈尔滨独特的建筑文化为主。索菲亚教堂始建于1907年3月，原是沙俄修建中东铁路的随军教堂，占地面积721平方米，通高53.35米，平面呈拉丁十字布局，是典型的拜占庭风格建筑。哈尔滨解放后，苏联政府将教堂产权移交给哈尔滨市政府。1960年教堂关闭后，曾作为哈一百的仓库、话剧院的练功房等。文革期间，教堂遭到严重破坏，建筑主体破损，教堂内壁画、乐钟、十字架丢失。1986年，教堂被哈尔滨市政府列为市级一类保护建筑，1996年11月被国务院列为国家级重点文物保护单位。1997年6月，哈尔滨市委、市政府对教堂及其周边地区进行综合整治，命名为哈尔滨市建筑艺术馆。
    2000年，市政府组织了哈尔滨市建筑艺术广场扩建、中心休闲广场建设及城市建设规划展示馆建设工程。建筑艺术广场扩建和中心休闲广场建设工程于2000年10月1日竣工投入使用。扩建后的建筑艺术广场面积由6000平方米增至10000平方米，中心广场面积36154平方米。城市建设规划展示馆建设工程于2001年7月1日竣工对外开放，地下展馆总建筑面积3972平方，是哈市首次建设的现代化展馆，共分展览、演示、接待、办公、沙盘控制、展品贮备等六个区域。位于展馆中央的是1：600的哈尔滨城市建设规划沙盘，总面积396平方米，表现市区面积142.56平方公里，涵盖了南岗、道里、道外、动力、香坊、太平六个行政区域。目前，《哈尔滨城市建设规划展》正在馆内展出，共分“历史名城”、“建设历程”、“规划明天”三个部分，系统展示了哈尔滨历史文化名城风貌、现代化大都市嬗变历程，以及城市未来发展前景。