За последнее время я перечитала n-ное количество уроков по работе с масками и решила написать тьюториал для сфш. Поскольку работа моя, личная, не перевод и не компиляция, comments, конечно, are love)
Урок очень подробный, с принт скринами и прочими пояснениями, чтобы даже те, кто видит фш впервые в жизни, смогли разобраться. Кто у нас очень умный опытный, пропускайте куски)
И ещё. Мне лениво было искать/вспоминать/писать rus/eng названия ко всем инструментам и функциям, поэтому ко всему есть Prt Sc, чтобы не было вопросов. Если они всё же будут, позднее дополню урок переводами.

Что такое маска и как её накладывать?

Маска – это специальный чёрно-белый слой, который располагается поверх вашего рабочего слоя для того, чтобы спрятать некоторые его части. По сути, идея та же самая, как с полосками для французского маникюра.
Хотя "поверх" – это, конечно, громко сказано, поскольку на самом деле выглядит это так:

Вот этот белый прямоугольник и означает, что на наш слой наложена маска.
Накладывается маска очень просто: в палитре слоёв мы кликаем на кнопку и видим, что у нас появился белый прямоугольник, о котором я говорила ранее и палитра цветов изменилась с цветной на чёрно-белую.
>> 
Или – кому удобнее ползать по меню – идем в Слой >> Layer Mask >> Reveal all. Можно нажать и Hide All, но тогда ваша картинка "спрячется", а прямоугольник станет не белым, а чёрным.

Собственно, с этими двумя режимами – видимым и невидимым - мы и будем работать.

Для чего нужны маски?

I. для вырезания части изображения, когда задний фон насыщен мелкими деталями.
Да-да, для этого можно использовать Лассо или Перо , но это долго и не всегда удобно (Волшебная палочка в случае нашей картинки, конечно, не подойдёт вообще, поскольку слишком много деталей и многие из них похожи по оттенкам цвета).
Почему маска удобнее старых, добрых, любимых лассо, перо и даже ластика ? Потому что после того, как ты закончил обрисовку контура и при этом "накосячил", при работе с этими инструментами нельзя отменить действие и нужно всё начинать сначала. Ну, или - в случае пера - с той точки, которая ещё отображается в истории. Что же касается маски, мы не стираем изображение на самом деле, мы его просто прячем и если вдруг нам захочется что-то изменить, нужно будет только лишь отредактировать слой-маску.
Итак, приступим.

Далее идёт большой раздел по подготовке изображения. Мастера, вы знаете, что делать
Для начала выберите изображение, которое хотите видеть на вашем аватаре и задний фон для него. Я буду работать с этой фотографией Кайли и этой текстурой, сделанной Downgirl.
 
При помощи инструмента Прямоугольная область выделяем часть изображения, которую хотим видеть на аватаре (она будет обведена пунктирной рамкой), и кадрируем картинку, идём в Изображение >> Кадрировать.

Изменяем размер изображения до нужного нам, идём в Изображение >> Размер изображения или просто набираем на клавиатуре  Alt+Ctrl+I b и в появившемся окне выставляем нужные нам параметры.

После уменьшения моё изображение стало немного размытым, поэтому я придам ему немного больше резкости. Фильтр >> Резкость >> Контурная резкость. Обычно параметров Эффект 35, Радиус 1, Порог 0 бывает достаточно, но на этот раз мне этого показалось мало, и я продублировала действие.

Копируем изображение на задний фон, который мы к тому времени уже кадрировали та, как нам нравится. Для этого правой кнопкой мыши кликаем на Заднем плане, выбираем из меню Создать дубликат слоя и в новом окне выбираем название нашего заднего фона. У меня это Безимени-2.

Чтобы мне было удобнее объяснять, я поменяю названия слоёв на Слой 0 и Слой 1 и удалю нижний прозрачный слой. Кстати, название слоя меняется так: правой кнопкой мыши кликаем на нужном нам слое и в меню выбираем Layer properties, а в новом окне забиваем название в графу имя.

Теперь моя палитра слоёв и история выглядят так:

Удостоверьтесь, что в палитре слоёв выбран именно тот слой, что вы будете вырезать, и нажмите кнопку . Слой-маска добавился. Как мы помним, мы это видим по белому прямоугольнику в графе слоя и палитре цветов, изменившейся на чёрно-белую.

Дальше мы выбираем кисточку (с мягкими или жесткими краями – это уже как вам удобно) и "закрашиваем" всё то, что не хотим видеть на аватаре. В палитре цветов при этом должен быть выбран чёрный цвет, но, когда бы будете "красить", вы увидите, как изображение будет пропадать, являя нам задний фон, а в графе слоя белый прямоугольник будет постепенно заполняться чёрным цветом.

Ну вот, в итоге у меня получилось так:

Но, допустим, я была не очень аккуратна и где-то в процессе "стерла" пол-лица Кайли, этого не заметив.

Ужас, да? Теперь мне придётся начинать всё с самого начала? Нет, не придётся. Помните, что я говорила про то, что маска удобнее ластика? Так вот. Я меняю цвет кисти с чёрного на белый и перекрашиваю маску в изначальный цвет, наблюдая, как изображение магическим образом появляется снова.

То есть при работе со слоем-маской чёрный цвет заставляет изображение пропадать, белый – появляться. Ну, а что касается серого (любого его оттенка) – он заставляет изображение пропадать частично, уходя в непрозрачность, и действуя как на чёрный, так и на белый цвет слоя-маски.

Если вы совершенно точно уверены, что вам больше не понадобится всё то, что окружает выбранный вами кусочек изображения и сейчас скрыто маской, то вы можете удалить эти области. Для этого нужно кликнуть правой кнопкой мыши на изображении маски в графе слоя и выбрать из меню "Применить слой-маску".
>>

II. для возможности использовать слои-заливки и корректирующие слои только на той части изображения, что хочется вам.

По сути, в любой корректирующий и слой-заливку уже встроена функция маски (видите знакомый белый прямоугольник?), поэтому маска действует на них все.
Маску можно наложить и группу слоёв сразу. Для этого нужно создать новую группу, нажав кнопку в палитре слоев, перенести в неё колорку или создать новую и, встав на графу группы, нажать кнопку маски .

Это очень удобно для создания аватаров с несколькими совмещёнными изображениями с разными колоризациями. Как, например, это:

Чтобы колорирующая группа окрашивала только передний план (в моём случае Кайли), нужно кликнуть правой кнопкой мыши на изображении маски, выбрать из меню "добавить слой маску к выделенной области", затем сделать инверсию выделенного фрагмента (кликнуть правой кнопкой мыши на изображении внутри пунктирной рамки, выбрать из меню Инверсия выбранной области), встать на графу группы, кликнуть значок маски и, не снимая выделения, закрасить чёрным задний план.
>> >>

III. на deviantart, например, маски можно часто встретить в разделе "текстуры". Выглядят они, ну, вот хотя бы так:

Применяются по-разному. И как обычные текстуры:

И для создания таких интересных эффектов:

Как - смотрим по истории. Если не сумеете разобраться, я объясню позже.

На сегодня всё. Ещё что вспомню – дополню.
Create&enjoy