关于苔藓植物的来源问题，尚无一致的意见，有人认为起源于绿藻，其理由为：含有相同的光合作用色素；相同的贮藏淀粉；精子均具有2条等长的顶生鞭毛；孢子萌发时所形成的原丝体，与丝藻也很相似；绿藻的卵囊与精子囊的构造可与苔藓植物的颈卵器和精子器相比拟。

另一种观点是由裸蕨类植物退化而来，裸蕨类出现于志留纪，而苔藓植物出现于泥盆纪中期，要比裸蕨晚数千万年。从进化顺序上说，它们很可能起源于同一祖先。但是，上述两种观点至今还缺乏足够的证据，有待于今后进一步研究。由于苔藓植物的配子体占优势，孢子体依附在配子体上，但配子体构造简单，没有真正的根，没有输导组织，喜欢荫湿，在有性生殖时，必须借助于水，因而在陆地上难于进一步适应和发展，这都表明它是由水生到陆生的过渡类型。