这座巴洛克风格的建筑和维也纳众多的建筑一样，出自费舍·冯·埃尔拉赫之手。图书收藏的最早记载是在14世纪。到了16世纪，这座图书馆已经初具规模了。1920年，图书馆收归国有。如今，奥地利国家图书馆藏书24万卷，是世界最著名的图书馆之一。国家图书馆中最值得一看的是豪华大厅，它被众多的评论家称为世界第一美图书馆。这部巴洛克风格的杰作长78米，宽14米，高19米。大理石的柱子和五彩缤纷的天顶装饰令人啧啧称叹。大厅内最珍贵的藏书是从欧根亲王图书馆搬迁过来的16000卷烫金封面的精装古书。