行政处罚与刑罚处罚是分别针对不同的违法者所采取的两种性质互异的制裁措施，违反行政法者应受行政制裁，违反刑法者应受刑事制裁。对偷税罪的行政处罚与刑罚的适用衔接问题，在当前刑法及行政法理论界中普遍认为，应当适用合并适用的原则，即当同一税收违法行为既违反行政法规范又触犯刑律而发生行政处罚与刑罚处罚的并合时，原则上应该予以合并适用(即既要追究其刑事责任，给予刑罚处罚，又要追究其行政法律责任，适用行政处罚)。只有这样，才能全面追究犯罪分子的法律责任，有效地打击犯罪和预防犯罪。比如，对偷税、抗税的犯罪人，仅予以刑罚处罚并不能挽回犯罪人给国家造成的损失及其应履行的法定义务，还必须由有关行政机关责令其补缴税款，或停止其发票的供应及使用等。
但应该指出的是，行政处罚与刑罚处罚应当合并适用与实际上是否合并适用不可混同。由于实际情况复杂，有时会出现某些不能合并或者无须合并适用的情况，如人民法院已判处罚金后，税务机关就不能再处罚款;税务机关罚款后，量刑时可折抵罚金。因此，行政处罚与刑罚处罚的合并适用只是一般原则，在具体对偷税罪合并适用时应视不同情况采用不同的方法予以衔接。在税务执法工作实践中，主要有以下几种主要情况：法人或其他组织有税收违法犯罪行为的，如果人民法院依法追究了单位的刑事责任和直接责任人员的刑事责任，税务机关还可对该法人或其他组织依法适用税务行政处罚，主要是指能力罚如停售发票和责令限期改正税收违法行为等。某些犯罪情节轻微，法律规定可以免予刑事处分的，根据全国人大的相关规定，人民法院免刑后，税务机关应依法给予犯罪者以相应的行政处罚。