Для этого достаточно обработать маску фильтром Filter => Other => Maximum, который увеличивает размер белых областей маски.
Существуют и иные способы обработки маски слоя при помощи различных фильтров, в частности фильтров размытия. В разделе «Удаление ореолов при помощи маски» приводится более детальное описание этой техники.