Михаил Михайлович Козаков родился 14 октября 1934 года в Ленинграде в семье писателя Михаила Козакова (1897—1954) и редактора "Издательства писателей в Ленинграде" Зои Никитиной. Во время войны он был эвакуирован в Пермский край.
С 1945 года учился в Ленинградском хореографическом училище. В 1952 году Михаил Козаков поступил в школу-студию МХАТ. Учась на последнем курсе, дебютировал в кино, снявшись в роли Шарля Тибо в политической драме Михаила Ромма "Убийство на улице Данте". Дебют оказался удачным, и вскоре актёр начал активно сниматься в ярких острохарактерных ролях, причём в картинах различных жанров.
С 1956 по 1959 год работал в Театре имени Маяковского. Михаил Козаков работал в разные годы в театре "Современник", во МХАТе, Театре на Малой Бронной, в Ленкоме.
В 1967 году Козаков стал лауреатом Государственной премии СССР. А в 1980 году ему было присвоено звание народного артиста РСФСР.
В 1978 году Михаил Козаков дебютировал как режиссёр, поставив на телевидении фильм "Безымянная звезда", сыграв также одну из главных ролей вместе с Анастасией Вертинской и Игорем Костолевским.
В 1991 году Михаил Козаков с семьёй переехал в Израиль. В течение четырёх лет играл на иврите в Тель-Авивском камерном театре; кроме того, создал русскую труппу (антрепризу), с которой подготовил четыре спектакля.
В 1996 году артист вернулся в Россию и организовал собственную труппу под названием "Русская антреприза Михаила Козакова".
18 февраля 2010 года президент России Дмитрий Медведев подписал указ о награждении Михаила Козакова орденом Почёта за заслуги в развитии отечественной культуры и искусства, многолетнюю плодотворную деятельность.
скончался 22 апреля 2011 года в израильской клинике. Ранее у актера был обнаружен рак легких.