镁棒在热水器中起到保护金属内胆和加热管、软化水质的作用。镁棒的主要作用是吸附热水器中的离子，尤其是钙和镁离子，从而减缓水碱和水垢在内胆和加热管上的沉积。家用储水式电热水器通常采用牺牲阳极的方法，利用镁棒释放镁离子来降低水碱、水垢对内胆的腐蚀。当搪瓷内胆出现局部裂纹时，镁阳极与金属内胆之间通过水形成较小的电阻，镁阳极开始输出电流，流向暴露在外的金属内胆处产生一种极化膜，修补破损的搪瓷，使金域内胆绝缘防止腐蚀。
此外，镁棒还能起到绝缘作用，避免内胆因接触水而产生腐蚀。一旦镁棒消耗完毕，如果没有及时更换，就容易导致内胆或加热管腐蚀穿孔，从而影响热水器的使用寿命。因此，定期检查和更换镁棒是保持热水器正常运行的重要措施。