垢は煩悩垢の略で、根本煩悩から出て、その相が特に汚れているものをいいます。その垢を無にするのですから、当然心は清浄な状態になります。

ここから転じて、無垢は汚れのない、混じり気のないという意味で使われるようになりました。