От таких пятен не просто избавится, снимайте старую шпаклевку аккуратно. После почистить ржавчину, обработайте арматуру и покрасьте хорошенько.