张贴小广告需要处罚，但是处罚机关是城市人民政府市容环境卫生行政主管部门或者其委托的单位，而不是公安机关。《城市市容和环境卫生管理条例》第三十四条规定：“有下列行为之一者，城市人民政府市容环境卫生行政主管部门或者其委托的单位除责令其纠正违法行为、采取补救措施外，可以并处警告、罚款：（一）随地吐痰、便溺，乱扔果皮、纸屑和烟头等废弃物的；（二）在城市建筑物、设施以及树木上涂写、刻画或者未经批准张挂、张贴宣传品等的”因此，对张贴小广告的行为可以采取警告和罚款的处理方式。
《市容环境卫生条例》第四十三条规定：任何人不得擅自在公共场所散发、悬挂、张贴宣传品、广告，不得在建筑物、构筑物等处刻画、涂写、喷涂标语及宣传品、广告。违反规定的，责令清除，没收非法财物和违法所得，并处100元上1000元以下罚款；情节严重的，处1000元以上1万元以下罚款。擅自利用或者组织张贴、涂写、刻画、喷涂、散发标语、宣传品和广告进行宣传的，没收非法财物和违法所得，并处1元以上10万元以下罚款；情节严重的，处10万元以上50万元以下罚款。
相关知识
在违法张挂、张贴、涂写、刻画、喷涂、散发的标语、宣传品和广告中标明其通信工具号码的，城市管理综合执法部门通知违法行为人到指定地点接受处理，并通知电信部门暂停该通信工具号码的使用，有关电信部门应当在接到通知后予以暂停使用。违法行为人接受处理的，城市管理综合执法部门应当及时通知有关电信部门予以恢复使用。暂停及重新开通号码等所需费用由违法行为人承担。
标语、宣传品和广告的内容违反公安、工商行政、卫生等方面法律、法规的，城市管理综合执法部门的执法人员应当及时移送主管部门进行处理。公安、工商行政、卫生等行政管理部门对于标语、宣传品和广告的内容违反法律、法规的，应当依法处理；构成犯罪的，依法追究刑事责任。
