律师分析：
不可以要回离职证明，应该重新履行离职手续。
如果当事人在新公司属于试用期，还没有到社保备案，或者还没有签订劳动合同，当事人可以与单位协商，经过单位同意，直接要回上一家公司的离职证明。
如果当事人在新公司虽然属于试用期，但单位已经到社保备案，或者办理相关入职手续，通就应该履行离职手续，取得目前单位出具的离职证明。离职手续，当事人可以提前向单位申请离职，也可以与单位协商，如果单位有违法的，可以直接离职。
劳动者提前三十日以书面形式通知用人单位，可以解除劳动合同。劳动者在试用期内提前三日通知用人单位，可以解除劳动合同。如果单位不予当事人依法办理离职手续的，或者故意刁难的，当事人可以向劳动行政部门申诉。
【法律依据】：
《中华人民共和国劳动合同法》
第三十六条 用人单位与劳动者协商一致，可以解除劳动合同。
第三十七条 劳动者提前三十日以书面形式通知用人单位，可以解除劳动合同。劳动者在试用期内提前三日通知用人单位，可以解除劳动合同。
第五十条 用人单位应当在解除或者终止劳动合同时出具解除或者终止劳动合同的证明，并在十五日内为劳动者办理档案和社会保险关系转移手续。
劳动者应当按照双方约定，办理工作交接。用人单位依照本法有关规定应当向劳动者支付经济补偿的，在办结工作交接时支付。用人单位对已经解除或者终止的劳动合同的文本，至少保存二年备查。
