色谱法起源于20世纪初,1906年俄国植物学家米哈伊尔·茨维特用碳酸钙填充竖立的玻璃管,以石油醚洗脱植物色素的提取液,经过一段时间洗脱之后,植物色素在碳酸钙柱中实现分离,由一条色带分散为数条平行的色带。由于这一实验将混合的植物色素分离为不同的色带,因此茨维特将这种方法命名为Хроматография,这个单词最终被英语等拼音语言接受,成为色谱法的名称。汉语中的色谱也是对这个单词的意译。
茨维特并非著名科学家,他对色谱的研究以俄语发表在俄国的学术杂志之后不久,第一次世界大战爆发,欧洲正常的学术交流被迫终止。这些因素使得色谱法问世后十余年间不为学术界所知,直到1931年德国柏林威廉皇帝研究所的库恩将茨维特的方法应用于叶红素和叶黄素的研究,库恩的研究获得了广泛的承认,也让科学界接受了色谱法,此后的一段时间内,以氧化铝为固定相的色谱法在有色物质的分离中取得了广泛的应用,这就是今天的吸附色谱。