法律分析：一、哪些部门有罚款的权力
有权实施行政处罚的机关有三类:
1、具有法定行政处罚权的行政机关
具有法定行政处罚权的行政机关主要是依法履行外部行政管理职能，依法得到明确授权，代表国家在某一领域内行使行政管理权限的行政机关。包括各级人民政府以及公安、工商、税务、土地、审计、卫生等部门。
2、法律、法规授权的具有管理公共事务职能的组织
工商所、税务所、公安派出所等行政机关的派出机构依相应法律、法规享有一定的行政处罚权，他们必须在授权法规定的行政处罚的种类、幅度范围内实施行政处罚。超过授权法规定的处罚种类、幅度、数额的限制，该行政处罚无效。如《税收征收管理法》第四十九条规定，税务所可对个体工商户及未取得营业执照而从事经营的单位、个人实施罚款数额在一千元以下的行政处罚。
3、受行政机关委托行使一定行政处罚权的受托组织
根据行政管理的实际的需要，行政机关依照法律、法规、规章的规定，可以在其法定权限内符合法定条件的组织实施行政处罚，如《治安管理处罚法》规定在农村没有公安派出所的地方，对违反治安管理行为处以警告、五十元以下罚款的，可以由公安机关委托乡(镇)人民政府裁决。
二、行政处罚决定机关自作出重大行政处罚有哪些
重大行政处罚内容
(1)没收违法所得、没收非法财物;
(2)责令停产停业;
(3)暂扣或者吊销许可证、暂扣或者吊销执照;
(4)行政扣留。
《行政处罚法》第三条“公民、法人或者各其他组织违反行政管理秩序的行为，应当给予行政处罚的，依照本法由法律、法规或者规章规定，并由行政机关依照本法规定的程序实施。”这里首先一个问题是，什么情况要给予行政处罚。不是所有违法行为都给予行政处罚，也就是说要划清行政责任与刑事责任和民事责任的界限。
因此在实际生活中如果不想被行政处罚罚款，那么就需要按相关的规定按章办事，不能出现违法相关规定的行为，否则的话一旦被查到，那么就可能会有对应的处罚，如果罚款一旦被确认，那么想要免除的话基本上是不可能的，如果不履行相关部门会强制执行。
法律依据：《税收征收管理法》第四十九条规定，税务所可对个体工商户及未取得营业执照而从事经营的单位、个人实施罚款数额在一千元以下的行政处罚。
