关于行政处罚刑事责任之间的关系问题，法律规定了以下方面：
行政机关实施行政罚的，有下列情形之一的，由上级行政机关或者有关部门责令改正，可以对直接负责的主管人员和其他直接责任人员依法给予行政处分：
（一）没有法定的行政处罚依据的；
（二）擅自改变行政处罚种类、幅度的；
（三）违反法定的行政处罚程序的；
（四）违反本法第十八条关于委托处罚的规定的。
行政机关对当事人进行处罚不使用罚款、没收财物单据或者使用非法定部门制发的罚款、没收财物单据的，当事人有权拒绝处罚，并有权予以检举。上级行政机关或者有关部门对使用的非法单据予以收缴销毁，对直接负责的主管人员和其他直接责任人员依法给予行政处分。
行政机关违反本法第四十六的规定自行收缴罚款的，财政部门违反本法第五十三条的规定向行政机关返还罚款或者拍卖款项的，由上级行政机关或者有关部门责令改正，对直接负责的主管人员和其他直接责任人员依法给予行政处分。
行政机关将罚款、没收的违法所得或者财物截留、私分或者变相私分的，由财政部门或者有关部门予以追缴，对直接负责的主管人员和其他直接责任人员依法给予行政处分；情节严重构成犯罪的，依法追究刑事责任。
执法人员利用职务上的便利，索取或者收受他人财物、收缴罚款据为己有，构成犯罪的，依法追究刑事责任；情节轻微不构成犯罪的，依法给予行政处分。
行政机关使用或者损毁扣押的财物，对当事人造成损失的，应当依法予以赔偿，对直接负责的主管人员和其他直接责任人员依法给予行政处分。
行政机关违法实行检查措施或者执行措施，给公民人身或者财产造成损害、给法人或者其他组织造成损失的，应当依法予以赔偿，对直接负责的主管人员和其他直接责任人员依法给予行政处分；情节严重构成犯罪的，依法追究刑事责任。
行政机关为牟取本单位私利，对应当依法移交司法机关追究刑事责任的不移交，以行政处罚代替刑罚，由上级行政机关或者有关部门责令纠正；拒不纠正的，对直接负责的主管人员给予行政处分；徇私舞弊、包庇纵容违法行为的，比照刑法第一百八十八条的规定追究刑事责任。
执法人员玩忽职守，对应当予以制止和处罚的违法行为不予制止、处罚，致使公民、法人或者其他组织的合法权益、公共利益和社会秩序遭受损害的，对直接负责的主管人员和其他直接责任人员依法给予行政处分；情节严重构成犯罪的，依法追究刑事责任。