Родился 8 июля 1938 года в Ленинграде, в семье профессора Политехнического института.
Окончил Ленинградский химико-технологический институт.
Окончил Школу-студию при МХАТ (1965).
В 1965-1977 годах — актёр театра "Современник".
С 1977 года — артист МХАТ имени Горького (с 1989 года — имени А.П. Чехова).
В школьные годы Андрей тяготел к техническим наукам, но в старших классах увлёкся театром, стал посещать драматический кружок, где играл главные роли в спектаклях. Тем не менее, после окончания школы Андрей Мягков поступил в Ленинградский химико-технологический институт. После окончания института он был направлен на работу в институт пластических масс.
В 1961 году в Ленинград приехали преподаватели Театрального училища имени Немировича-Данченко в поисках талантливой молодежи. Мягков решил попробовать свои силы и, успешно пройдя три отборочных тура, был принят на учёбу.
Закончил Мягков Школу-студию МХАТ в 1965 году и был принят в труппу театра "Современник".
Одной из первых работ актёра на сцене "Современника" стала роль Дядюшки в спектакле "Дядюшкин сон" по Ф.М. Достоевскому. Именно в этой роли его заметил Элем Климов и предложил главную роль в картине "Похождения зубного врача. Так состоялся дебют Мягкова в кино.
Но первой серьёзной ролью молодого артиста стала роль Алёши Карамазова в картине Ивана Пырьева "Братья Карамазовы", вышедшей на экраны 1969 году. В театре в это время Мягков был занят в спектаклях "На дне" (Барон), "Обыкновенная история", "Балалайкин и К".
В 1977 году Андрей Мягков перешёл из "Современника" во МХАТ.
В 1975 году на экраны вышел фильм Эльдара Рязанова "Ирония судьбы, или С лёгким паром". Мягков в роли Жени Лукашина очаровал своей игрой всю страну, и популярность актёра тогда была просто фантастической. Другой прекрасной ролью Мягкова у Эльдара Рязанова стал Новосельцев в комедии "Служебный роман", вышедшей в 1977 году. Вместе с Алисой Фрейндлих они составили великолепный актёрский дуэт.
В числе других фильмов с участием Мягкова заметными событиями кинематографа стали "Дни Турбиных" (1976), "Гараж" (1980), "Гонки по вертикали" (1983), "Жестокий романс" (1984).
В 1990-х годах Мягков снимался мало, отдавая предпочтение театральной и преподавательской деятельности в Школе-студии. Среди его работ в этот период можно отметить драматическую ленту Глеба Панфилова "Мать" (1990), комедию Леонида Гайдая "На Дерибасовской хорошая погода, или На Брайтон-Бич опять идут дожди" (1992), политический детектив Дмитрия Астрахана "Контракт со смертью" (1998).
Народный артист РСФСР (1986).
С 1964 года женат на актрисе Анастасии Вознесенской.