Скорее всего, древесина, из которой была собрана дверная коробка, изначально была некачественная. Или под воздействием сырости, если таковая имеет место, она «разрыхлилась». Такое явление, достаточно ярко выражено у сосны. Древесина просто сыплется. Если замена шурупов, которыми привинчены петли – не помогла, и они все равно не держат, то не поможет даже замена их на больший размер. Тут видимо не избежать ремонта, или замены дверной коробки.