О детстве и юности Михаила Григорьевича Земцова известно мало. Точные даты рождения и смерти, его происхождение остаются все еще невыясненными. Одни авторы считают, что он родился в 1686 году, другие называют 1688 год. Неизвестно, как протекали его детство и юность.

Первые достоверные сведения о Земцове относятся к 1709 году — времени, когда он обучался в Петербургской губернской канцелярии итальянскому языку. В 1710 году по указу Петра I «изученной итальянского языка ученик Михайла Земцов» был направлен в Аничков дворец в Канцелярию городовых дел, созданную в 1706 году. Канцелярия ведала работами по замене земляных укреплений крепости «Санкт-Питер-Бурх» каменными, а также строительством растущего возле нее города.

Непосредственный надзор за строительными работами осуществлял «подполковник от фортификации и архитект» Доменико Трезини. К нему и определили Михаила.

Земцову, несомненно, повезло, что его наставником оказался Трезини. Поставленный волею обстоятельств во главе бурной строительной деятельности на берегах Невы, он остро ощущал недостаток в хорошо обученных специалистах. Архитектор был заинтересован в их подготовке и стремился как можно скорее сделать каждого способного юношу надежным помощником. Земцов был одним из первых учеников Трезини.

В те времена обучение велось в ходе непосредственного участия будущего зодчего в практической работе учителя. Сначала ученику давали простые поручения, потом более сложные, постепенно приучая его к делу. Так учился и Михаил.

Незаурядные способности и большое трудолюбие способствовали тому, что Земцов очень рано сформировался как мастер. Поэтому не случайно, когда в конце 1718 года было приказано снова строить в Московском Кремле и Китай-городе только каменные здания, и притом «по улицам, а не во дворах, как в старину», для руководства застройкой, основанной на новых принципах, в начале 1719 года направили Земцова.

Земцов пробыл в Москве недолго — год. В начале 1720 года его уже отозвали в Петербург. Внезапный вызов Земцова в Петербург, очевидно, был связан со смертью трех видных архитекторов: Ж.Б.А. Леблона, Г. Маттарнови и Г.И. Устинова-отца. Наиболее ответственные постройки, и в частности, дворцовые комплексы Петергофа и Стрельны, теперь были переданы Н. Микетти.

Микетти оказался в весьма сложном положении. Он всего год прожил в России и плохо еще понимал русскую речь. Естественно, что ему хотелось иметь не только надежного помощника, но и переводчика. В Петербурге находилось много «архитектурии учеников», тем не менее выбор пал на Земцова. Так началась совместная работа Михаила с другим опытным архитектором, которая продолжалась около трех лет.

Сохранилась любопытная характеристика, данная Микетти молодому зодчему. «Я, нижеподписавшийся, — сообщал Микетти, — имел ексаменовать как в чертежах, так и в практике надлежаще именем Михаила Земцова, и я обрел его по убукновенна и достойна в практике архитектурской, и того ради позволяется ему ехать управлять работою… дому… которой строится в Ревели».

Только после такого лестного отзыва Земцова перевели из учеников в подмастерья, или, как тогда чаще их называли, в «архитектурии гезели». Теперь он стал получать по 180 рублей в год.

Строительный сезон 1721 года Земцов провел в Ревеле, но в январе 1722 года он уже прибыл в Петербург для получения инструкций у «генерального архитектура» — так в документах этого времени именовался Микетти — по вопросам «устройства фонтанов и беседок в саду, которые надлежит там в Ревеле сочинять».

Возвращался Земцов в Ревель в апреле 1722 года не один, а с Михаилом Огибаловым. Спутник его был учеником Микетти.