谢玖出身于屠夫家庭，她的父亲谢氏以宰羊为业。谢玖虽然出身贫贱，貌美贤惠，仪容端庄，因此受选入宫，封为才人。

晋惠帝司马衷当太子时，准备纳妃。司马衷的父亲晋武帝司马炎担心他年纪还小，不懂得男女闺房之事，就派谢玖去做为司马衷侍寝的对象，教司马衷懂得男女之事。不久谢玖便有孕。

但是后来娶进宫的太子妃贾南风妒暴酷虐，曾经亲手持画戟，猛刺怀孕妃子的腹部，使得胎儿和手中的戟几乎同时落地，惨不忍睹。身怀六甲的谢玖很害怕，便经晋武帝同意回到西宫，生下一个儿子，取名司马遹。

司马遹长到三四岁时，司马衷还不知道自己有儿子的事。有一次，司马衷入朝时，看见司马遹与其他皇子一起在殿上玩耍，司马衷拉着各位皇子的手，接着临到司马遹，晋武帝说：“这是你的儿子！”