Я не знаю, как решаются такие задания - теория вероятности для меня сущий кошмар, плюс условие, мягко говоря, некорректное и неполное (по крайней мере, на мой неопытный взгляд).  Но если решать методом "ткнул-попал", получается так:
Оценку "два" или "кол" поступающий получить не может - тогда его просто не допустят до поступления в ВУЗ.
Соответственно, он может получить за экзамен оценки "три", "четыре" или "пять". 
 А далее подбор.
Набрать 17 или больше 17ти баллов в сумме за 4 экзамена он может следующими способами:

пятерки за все экзамены (в сумме 20 баллов);

три четверки и одну пятерку (в сумме 17 баллов);
две четверки и две пятерки (18 баллов);

три пятерки и одну тройку (18 баллов);

три пятерки и одну четверку (19 баллов); 

одну четверку, одну тройку и две пятерки (17 баллов).

На этом варианты исчерпаны. Соответственно, набрать 17 баллов для поступления в ВУЗ он может 6-ю способами.
Может быть, для решения таких задач есть какая-то формула, но мне о ней неизвестно.