Иван Иванович Голиков родился 1 октября 1735 года в городе Курске в семье известного курского купца Ивана Ларионовича, проживавшего на территории Троицкой или Монастырской слободы. Выучившись грамоте, отрок Голиков не только начал служить «мальчиком» при приказчиках курских купцов, но и увлекся чтением. Читал все, что попадало в его руки.

В дом отца Голикова был вхож и подолгу там гостил бывший настоятель Знаменского собора архимандрит Михаил Нифонтов. В молодости Михаил был полковым священником и принимал участие в сражениях Петровской армии со шведами. Он не только лично видел императора Петра, но составил некие «памятные тетрадки» – записки о его деяниях и важнейших событиях того времени. Михаил Нифонтов был прекрасным рассказчиком, и юный Голиков заслушивался его рассказами о Петре. Когда же Нифонтов узнал о жажде отрока к чтению и к личности великого императора, то предложил Ивану прочесть и переписать эти записки.

Самообразование принесло свои плоды: Иван Голиков становится сначала приказчиком, а затем и купцом, начавшим свое собственное дело. Но при этом он не забывает собирать материалы о деяниях Петра и его эпохе.

В 1751 году, когда И. И. Голикову исполнилось 16 лет, его отец разорился. Чтобы отработать долги родителя, юный исследователь деяний Петра отправляется в Москву в услужение к купцу Журавлеву. Работать приходится много, но Голиков все же находит время на дальнейший сбор материалов о Петре Великом.

Когда же по поручению Журавлева Иван Иванович находился в Оренбурге, то смог завести знакомство с губернатором И. И. Неплюевым (1693–1773), который с 1714 года учился в Новгородской математической школе и Санкт-Петербургской морской академии и сдавал в 1720 году экзамены лично Петру.

В Оренбурге Иван Иванович Голиков записал не только рассказы Неплюева о Петре Великом, но и рассказы оренбургского чиновника (впоследствии известного писателя) П. И. Рычкова (1712–1777).

По торговым делам купца Журавлева побывал И. И. Голиков и в столице Российской империи – Санкт-Петербурге. Здесь И. И. Голиков знакомится еще с одним «птенцом гнезда Петрова» – комиссаром П. Н. Крекшиным (1684–1763), трудившимся при Петре смотрителем работ в Кронштадте.

Крекшин, как до этого Неплюев и Рычков, охотно делится не только воспоминаниями, но и письменными документами. С этого момента, по признанию самого И. И. Голикова, он приступает к систематизированию накопленных материалов, к написанию своих «исторических тетрадей».

Около 1761 года Иван Голиков не только сполна рассчитался с Журавлевым по семейным долгам, но и получил от московского купца некую сумму денег, способствовавшую заведению собственного дела. Часть денег И. И. Голиковым была потрачена на приобретение рукописных и печатных книг. Это способствовало созданию им собственной библиотеки, в которой уже находилось «до полутора тысяч» различных изданий.

В 1761 году, незадолго до своей смерти, императрица Елизавета Петровна учреждает Уложенную Комиссию, которой предстоит кодифицировать вновь принятые и исключить старые законы (Соборного Уложения 1649 г.) по государственному устройству России. В качестве депутата от Белгородской провинции для работы в этой Комиссии избирается Иван Иванович Голиков. Благодаря этому обстоятельству он вновь в Санкт-Петербурге. Его высокий статус позволяет ему познакомиться с людьми из «высшего общества», хорошо знавшими императора Петра. Среди новых знакомых Голикова С. И. Мордвинов (1701–1777), А. И. Нагаев (1704–1781), И. Л. Талызин (1700–1777). Каждый из них делится своими познаниями о жизни и деятельности Петра Великого. И все это ложится в копилку молодого курянина.

В 1779 году, в период царствования Екатерины II, преуспевающий купец Иван Иванович Голиков вместе со своим двоюродным братом Михаилом Сергеевичем Голиковым (около 1746/47–1788) вошел в компанию из шести купцов, которые заключили договор на содержание винных откупов в Москве, Санкт-Петербурге и Архангельске. Но торговля – дело не только прибыльное да хлопотное, но и щепетильное, редко идущее рука об руку с законом. Иван Иванович Голиков вместе с другими компаньонами за махинации с винным откупом оказался под следствием и судом.

Надеясь на покровительство знакомых сановников, в том числе и на президента Коммерц-коллегии А. Р. Воронцова (1741–1805), а также, возможно, позарившись на обещанное компаньонами вознаграждение, Голиков всю вину взял на себя. И был приговорен к «лишению чести и воли», конфискации всего имущества и высылке в Сибирь. Но 7 августа 1782 года по случаю открытия памятника Петру Великому в Петербурге (знаменитый Медный всадник работы скульптора Э. М. Фальконе) был обнародован Манифест об амнистии, и Голиков получил освобождение. Правда, с оговоркой – ему запрещалось заниматься торгово-предпринимательской деятельностью.

Оставил торговое дело, переехал в Москву и начал работу над трудом «Деяния Петра Великого, мудрого преобразователя России, собранные из достоверных источников и расположенные по годам», 12 томов которых им были написаны в 1782–1787 годы. В 1790–1797 годы были изданы «Дополнения к Деяниям Петра Великого».

Иван Иванович Голиков умер в селе Анашкино и был похоронен на кладбище села Каринское Звенигородского уезда Московской губернии.