Попытаюсь помочь, но непонятно, причём тут плоскость, если она не задаётся никак. И непонятна размерность пространства, в котором нужно решать задачу.

Опишу случай 3-мерного пространства, то есть решу задачу

В пространстве заданы своими координатами 3 точки А, В, С. Определить, принадлежит ли точка А отрезку ВС.

В такой формулировке нет неясностей. Всё понятно.

Немного теории

1. Точка А будет принадлежать отрезку ВС, если

а) она будет лежать на прямой ВС

б) она делит этот отрезок внутренним образом.

На оба этих вопроса овечает аналитическая геометрия, так,

а) уравнение прямой в пространстве описывается следующей формулой

X   - Xb         Y - Yb        Z - Zb

----------  =   --------- =  -----------

Xс - Xb         Yс-Yb        Zс - Zb

Поэтому, если мы вместо (X,Y,Z) подставим координаты точки А и получим верные равенства, значит точка А лежит на прямой ВС 

б) Точка А делит отрезок ВС внутренним образом, если

|BA|

------ = k, при этом к>0

|AC|

Ну вот, в принципе и всё. Формула длины отрезка, думаю, тебе известна, это всего-навсего трехмерная теорема Пифагора.

Программа тоже должна эти два этапа проходить, при этом на второй переходить, если успешно пройден первый.

Текст писать не буду, он примитивен.

Если я что-то не так понял, и, например, все 3 точки лежат в одной плоскости, то всё упрощается, так как координата Z исчезает, но теория остаётся прежней.

Если же у тебя одномерный случай, то есть все три точки лежат на числовой прямой, то и координата Y исчезает, а вместе с ней и этап а).

Но теория в целом и алгоритм остаётся прежним, поэтому лучше сразу написать программу для трехмерного пространства.

Вот и всё, если возникнут вопросы, пиши в личку.

Ну и последнее, выставленные очки мне совершенно ни к чему, поэтому, чтобы их себе сэкономить, можешь внимательно изучить мой текст, а затем отметить его как нарушение.

Успехов!