Урок взят с сайта http://rukurs.com/.

Шаг 1
Откройте вашу фотографию и дублируйте фоновый слой. Выберите ваш фоновый слой и залейте его любым цветом, которым вы хотели бы видеть вашу рамку. Моя рамка будет белой. 
Шаг 2
Теперь сделайте прямоугольное выделение, так же как будто вы хотите обрезать лишние края. Та часть, которая будет находиться за выделением и есть наша будущая рамка. 
Шаг 3
Инвертируйте ваше выделение (ctrl+shift+i), и нажмите клавишу q, чтобы применить быструю маску. 
Шаг 4
Теперь пришло то самое время, когда можно поэкспериментировать с фильтрами. Я использовала в качестве фильтра для рамки Fragment (Фрагмент) . Чтобы применить этот фильтр, зайдите в Filter → Pixelate → Fragment (Фильтр → Оформление → Фрагмент), нажмите ОК, и примените его еще четыре раза (можно просто нажать 4 раза сочетание клавиш ctrl+f). 
Шаг 5
После того как вы примените фильтр, нажмите на клавишу q, чтобы превратить маску в выделение, и теперь достаточно нажать на клавишу Del. Теперь у вас должно получиться что-то вроде этого: 
Вы можете поэкспериментировать с различными фильтрами и цветами, чтобы добиться разных эффектов.