后，被授为翰林院庶吉士。翌年三月，李自成攻入北京，张家玉身为明臣却主动投书给李自成愿为大顺新臣。结果李自成入京只几十天就被清军赶出北京城，见李自成难成大事，张家玉便又改投在南京即位的弘光帝，不过他到南京后却被史可法以曾变节投降李自成的罪名逮捕下狱。?

弘光元年。因史可法在江北四镇的无能之举，清兵轻易攻破明军四镇驻防的淮河防线并一举攻入南京。张家玉这一次没有再变节，而是逃至福州被继位的隆武