古代埃及和罗马人都擅长制造小型的彩色玻璃制品。古代腓尼基在玻璃制造业中也占有重要地位，其中心产地是西顿和安条克等地。在公元4-5世纪的早期基督教教堂中，一些木质窗框中镶嵌有经雕琢过的雪花石膏，类似玻璃般的效果。公元7世纪，英国的教堂和修道院已经出现了彩绘玻璃窗。公元675年，圣本笃·波斯哥［］从法国引进工匠，为在芒克威尔茅斯建造的圣彼得修道院窗户进行着色。公元8世纪以后，伊斯兰世界的一些清真寺和公共空间也开始以彩色玻璃装饰，基本以纯粹的几何设计为主，包含花卉和文字图案，不表现人物形象和宗教偶像。

在西方建筑当中，特别是教堂，彩绘玻璃是最为常见的，这也是艺术的精华所在。因此人们在参观欧洲和北美的教堂的时候，都会被彩绘玻璃的美和丰富多彩的故事所吃惊与着迷，巴黎圣母院、圣礼拜堂、沙特尔大教堂、科隆大教堂……让人神往！
英国哥特式教堂的高耸立面与玻璃设计相结合，风格独特而鲜明。而玫瑰窗从相对简单的窗户发展而来，圆形的窗户嵌入彩色玻璃绘画，透光形式绚丽。彩绘玻璃花窗作为教堂采用的一种重要的布道方式，通过人物形象的描绘，向广大识字率低的民众传达《圣经》故事以及历史传奇。
到中世纪，欧洲各地无数天主教教堂中都可以发现彩色玻璃窗。但是，直到12世纪，这些窗户还是相对简单，规模较小，并用厚铁框架勾勒出轮廓。这是因为罗马式建筑（一种以厚壁和圆形形式为特征的风格）主导着建筑品味。