你在公司干了一年多，却还没有签订劳动合同，社会保险也没有按规定缴纳，公司的做法既违法也侵害了你的合法权益，是不能够接受的。
由于你与公司间形成的是事实劳动关系，可以随时解除，有权要求公司支付《劳动合同法》第八十二条规定的二倍的工资（最多11个月），补缴欠缴的社会保险费，而不是要求公司给你开所谓的离职证明。
由此产生的纠纷属于劳动争议，可以通过向劳动争议仲裁委员会提出仲裁申请的方式予以解决。
未给你缴纳住房公积金，可以向住房公积金管理中心举报，请求干预并查处，以期你的问题得到解决。