Градът е един от най-старите градове в Мала Азия – основан е през 7 век пр.н.е. с гръцкото име Ангира или Анкира (Αγκυρα, т.е. котва). Разположен е на кръстопът на оживени търговски пътища, свързващи Европа и Азия.
През 1071 г., след поражението на византийската армия в битката при Манцикерт, Анкара преминава под контрола на селджуците. През 1118 г. византийците съумяват временно да си върнат контрола над Ангира, но през 1176 г. го загубват отново, и то завинаги.
През 1402 г. в близост до Анкара се води битка между Тимур и султан Баязид I, влязла в историята като Битка при Ангора. Армията на султана е разгромена, а той самият попада в плен на Тимур. От събитията страда и градът, и неговите околности, но по време на управлението на Мурад II градът постепенно се възстановява и започва да расте.
През 1912 г. съставът на населението е следният: турци – 32 692, арменци – 12 019, гърци – 3154 души.
При избухването на Балканската война в 1912 година двама души от Анкара са доброволци в Македоно-одринското опълчение.
От края на 1919 г. в Анкара е разположен щабът на вожда на турската война за независимост Мустафа Кемал Ататюрк. През април 1920 г. в Анкара е свикано Великото народно събрание, на което е образувано национално правителство. Анкара остава провинциален град до 13 октомври 1923, когато е обявена за столица на Турция.