不可以。即便单位被劳动仲裁，按照法律规定，在与劳动者解除劳动关系时也应当出具解除劳动关系的证明。以下为你详细分析：

    法律依据

   《中华人民共和国劳动合同法》第五十条明确规定，用人单位应当在解除或者终止劳动合同时出具解除或者终止劳动合同的证明，并在十五日内为劳动者办理档案和社会保险关系转移手续。

    不出具证明的后果

    行政责任 ：根据《劳动合同法》第八十九条规定，用人单位违反本法规定未向劳动者出具解除或者终止劳动合同的书面证明，由劳动行政部门责令改正。

    赔偿责任 ：如果因为用人单位不出具解除劳动关系证明，给劳动者造成损害的，应当承担赔偿责任。例如导致劳动者无法及时入职新单位，造成工资收入损失；影响劳动者享受失业保险待遇等，用人单位都需要进行相应赔偿。

    劳动仲裁背景下的影响

   在劳动仲裁过程中，是否出具解除劳动关系证明也是重要的争议点和审查内容。如果单位不出具，可能会被认定为违反法律规定的行为，这对于单位在仲裁中的立场是极为不利的，仲裁机构很可能会支持劳动者要求单位出具证明以及赔偿损失的诉求。

   所以，无论是否处于劳动仲裁阶段，单位都有义务为劳动者出具解除劳动关系的证明。