如果女方不抚养子女的话，可以由男方向人民起诉变更抚养权。根据我国相关规定，拥有抚养权的一方不尽抚养子女的义务，虐待子女或者继续让子女与其生活对子女的身心健康由不利影响的，另一方起诉变更抚养权应当予以支持。父母和子女的关系是不会因为离婚而被消除的，父母双方无论抚养权在哪一方，都应当保护好孩子的健康成长。
【本文关联的相关法律依据】
《最高人民关于适用《中华人民共和国民法典》婚姻家庭编的解释(一)》
第五十六条具有下列情形之一，父母一方要求变更子女抚养关系的，人民应予支持：
(一)与子女共同生活的一方因患严重疾病或者因伤残无力继续抚养子女;
(二)与子女共同生活的一方不尽抚养义务或有虐待子女行为，或者其与子女共同生活对子女身心健康确有不利影响;
(三)已满八周岁的子女，愿随另一方生活，该方又有抚养能力;
(四)有其他正当理由需要变更。
第五十七条父母双方协议变更子女抚养关系的，人民应予支持。
(4)有其他正当理由需要变更的。