Задание достаточно простое. Самое главное - всё привести к одной системе счисления и уже в ней работать. Так как ответ должен быть в 16-ричной системе, самое оптимальное - перевести всё в эту систему. При этом 2ичная и 8ричная переводятся примитивно просто, Ну а 10ричная - стандартным алгоритмом последовательного деления на 16.

При этом нужно очень хорошо знать

1. Все цифры 16ричной системы и их двоичное представление.

2. Таблицу сложения цифр 16ричной системы.

Поехали...

1.  10110011(2)+111110000(2)= 1011 0011(2) + 1 1110 0000(2) = В3h + 1E0h = 293h

2. 1231(8)+211(8)= 001 010 011 001(2) + 010 001 001(2) = 0010 1001 1001(2) + 1000 1001(2) = 299h + 89h = 322h

3. 4265h + 136h = 439Bh

4. 573(10) - 573(8) = 23Dh - 17Bh = C2h

Вот и всё.

Замечание1 Надеюсь понятен алгоритм перевода 2-16, а именно двоичное число СПРАВА группируется на четвёрки и потом каждая четвёрка заменяется 16ричной цифрой.

Замечание2 Перевод 8-16 также прост - сначала каждая 8ричная цифра заменяется двоичной тройкой, потом полученная последовательность перегруппируется на четверки и каждая четвёрка заменяется цифрой.

Замечание3 h в конце числа - это признак того, что число 16ричное.

Повторюсь, таблицу сложения в 16ричной системе нужно знать(ну или для начала, написать её и держать перед глазами). 

Успехов!