Как работают опции: «3 by 3 average», «11 by 11 average» и пр. Magic Wand Tool в Adobe Photoshop?

Алгоритм работы этого инструмента очень простой.
Скажем, у вас есть очень сильно пожатая JPEG-ом картинка, где сплошной цвет в каком-то месте стал из-за артефактов сжатия вовсе не сплошным. А вам нужно получить усредненный цвет для этой области (например, для заливки какой-то другой части изображения). Вот берете и включаете один из этих режимов. Работает точно также как обычная пипетка в один пиксель, только итоговый цвет получается путем поканального сложения значений R,G,B (если вы работаете в RGB-пространстве) и деления результата на число пикселей. То же самое может быть нужно, если вы хотите получить эквивалентный сплошной цвет из сканированного изображения того, что напечатано на принтере или журнальной иллюстрации, потому что там цвета получаются наложением сеток точек разных размеров (растров) и обычной однопиксельной пипеткой вы цвет не получите.

Вообще, вы ставите вопрос неверно: вы пытаетесь изучить абстрактные функции программы, а не идете от конкретной задачи.

NxN Average берет усредненную информацию из матрицы NxN пикселей, в противовес извлечения точной информации из одного пикселя.

Мне кажется вопрос не все поняли конкретно... Думаю человек пытался понять как это использовать.)
Грубо говоря, это влияет на область, которую вы обработаете тем или иным инструментом. Особенно когда вам нужно чётко выделить конкретный оттенок, либо сделать эффект в пределах какого-то оттенка, среднего значения цвета.