Как провести конвертацию изображения в текстовый формат?

Сама идея перевода изображения в монохром( а это я так понял тебе изначально надо ), это примерно так:
Пишу на c# Так как с ++ не очень знаком.

Color _pixelColor = img.GetPixel(x, y);
int _MonoNum = (_pixelColor.R + _pixelColor.G + _pixelColor.B)/3;
if (MonoNum<128) //if black color
{
matrix[x, y] = Convert.ToInt32("1"); 
}
else //white color
{
matrix[x, y] = Convert.ToInt32("0");
}

И не забывай что это все в циклах:

for (int x = 0; x < GlobalConst.width; x++)
for (int y = 0; y < GlobalConst.height; y++)

Примерно такая суть, а потом матрицу уже записываешь в файл, работы по сути на 15 минут. Советую еще посмотреть метод GetPixel на MSDN там про него все написано, а пользоваться тебе именно им нужно, если конечно не предстоит работать с большим разрешением.

Для начала обрати внимание, что BMP-изображения хранятся построчно снизу-вверх (но все-таки слева-направо). Там есть 4х байтное выравнивание. Какая битность у входящего изображения? Есть ли альфа-канал?

Удобнее всего работать с 4х-канальным изображением (RGBA), где на каждый канал - 1 байт. Таким образом выравнивание нас не заботит, можно читать вот такие структуры одна за одной:

struct BmpPixel
{
   unsigned char Blue;
   unsigned char Green;
   unsigned char Red;
   unsigned char Alpha;
};

В bmp-файле идет сначала заголовок файла, затем, заголовок изображения, потом буфер с данными. В первом узнаешь размер всего файла для чтения, во втором - характеристики изображения (как именно читать, сколько каналов, длинна строки и их количество). Это есть на MSDN.

Об остальном уже сказали. От себя могу посоветовать не преводить в грейкейл, а тупо складывать значение каналов (с альфой тоже можно подумать, например, умножить на три и вычесть из суммы каналов).