Родился в семье сельского учителя. С детских лет, будучи от природы любознательным, он увлекался археологией, собирал археологическую коллекцию. Это определило его жизненный путь. 6 января 1920 г. на Байкале семёновскими казаками уничтожены 31 заложник, в том числе среди погибших был отец А. П. Окладникова учитель П. С. Окладников, служивший в Иркутске прапорщиком 56-го Сибирского пехотного полка. Окончив в 1925 году школу, он поступил в Иркутский педагогический институт и занимался в кружке профессора Б. Э. Петри совместно с будущими известными учёными Г. Дебецом и М. Герасимовым. Уже в 1926 году вышла его первая научная работа «Неолитические стоянки на Верхней Лене». В 1928 году он сделал открытие Шмикинских петроглифов. Подающего научные перспективы Окладникова в 1934 году пригласили в аспирантуру Государственной академии материальной культуры в Ленинграде. Его кандидатская диссертация подводила итог археологических раскопок на Ангаре «Неолитические могильники в долине Ангары» (1938 г.).

В 1939—1940 гг. совместно с Н. Синельковым и М. Гремяцким вёл раскопки в Средней Азии в долине Тешик-Таш, где обнаружил останки (скелет) и стоянку палеолитического человека, доказав что древний человек жил в глубинной Азии. За открытие стоянки учёные получили Сталинскую премию каждый.

Докторская диссертация была посвящена «Очеркам истории Якутии от палеолита до присоединения к Русскому государству» (1947).

Потом последовали раскопки на побережье Охотского моря, впервые в науке.

Вторым по значимости после Тешик-Таш было открытие Улалинской стоянки древнего человека в Горно-Алтайске 5 июля 1961 года. За восемь лет до открытия Улалинской стоянки А. П. Окладников сетовал, что совершенно не изветны на территории Горного Алтая памятники палеолита. До сих не обнаружены в горном районе и памятники неолита". Как бы заочно полемизируя с Потаповым, Окладников писал: «Раньше привыкли думать, что Сибирь была безлюдной пустыней, что первобытный человек мог освоить южные области планеты». Обитателей Улалинки А. П. Окладников назвал «троглодитами». В вопросе же датировки учёные разошлись. Специалист в области геологии, профессор Тюменского университета Л. Рагозин познакомился с Окладниковым в Омске на праздновании 100 — летия Западно-Сибирского отделения Русского Географического общества. Рагозин сказал: «Вашим находкам на Улалинке не менее ста тысяч лет! Много больше!» Весной 1976 года Рагозин приехал в Горно-Алтайск и «облазил все окрестности» города, не говоря уже о стоянке.

Последнюю в своей жизни экспедицию летом 1981 года А. П. Окладников вновь совершил на Улалинскую стоянку.