玛瑙的形成距今很遥远，在亿万年前，岩浆由于地壳剧烈运动而流动上升，在上升过程中会遇到地下水，炽热岩浆和地下水构成气液混合物，在岩流中就会逐渐形成大小不一、形状不同的气泡，气泡慢慢形成空洞。后来岩浆继续上升，此时受地球的压力减小，岩流里的气泡变大并且会移动，在到达一定的高度时岩浆不再流动，气泡也会固定下来，气泡的外形也就不再变化，后来随着温度的下降，最外层的二氧化硅逐渐变成了不透明、不透气、非常致密的阴晶石，这就是玛瑙的形成。
有气体，液体和二氧化硅胶体存在于壳内，后来温度再次下降，二氧化硅胶体形成玉髓，存在于壳的内壁上。这时，壳内的混合物中如果含有淡微粒就会形成玛瑙的黑色条带；含有氧化锰玛瑙的形成褐色条带；含有钙和镁玛瑙的形成浅白或浅灰色条带。根据温度不同，这些含有色素离子的矿物，先后开始结晶，层次不同、颜色各异的纹饰由此形成，这就是晶腺，而玛瑙的形成就是带有晶腺构造的二氧化硅集合体。如果二氧化硅胶体再次冷却，压力减少，因而结晶速度就会减慢，这样就会形成石英颗粒和水晶晶簇。剩余的液态成分主要是水，这样就会形成空洞内含水的玛瑙，而这就是水胆玛瑙的形成，这里面的水我们又叫它原生矿物水，这种成因的水胆玛瑙并不多见，只占全部水胆玛瑙的干分之几。
我们平时见到的大部分水胆玛瑙的形成是火山爆发时，形成了玛瑙的空洞，地下水从外壳封闭不严或有沙眼的小孔内渗了进去，后来钙质或泥质物又包裹住了外壳，甚至有的胶结得十分坚硬，以致里面的水不会再漏出来，因而形成了水胆玛瑙。而这种水胆玛瑙的特点是胆内水多，分布较为广泛。
而我们知道都玛瑙的形成，由于受地层的压力或地壳变动及地质构造作用的影响，玛瑙球体出现了裂隙，地下水就沿着裂隙渗入到了玛瑙内部，后来裂隙又被泥沙和黏土封闭，经过岁月流逝，泥沙和黏土沉积为岩，里面的水很难漏出，而这也是水胆玛瑙的形成。
