Давид Борисович родился 10 марта 1870 года в Одессе в многодетной семье торговца. 16-летним юношей вступил в революционное движение, ведя пропаганду в рабочих кружках Одессы в пору глубокого кризиса народнического движения. Он был исключен из 5 класса гимназии за неспособность к наукам. В последующие годы жизни свои огромные знания и научную эрудицию обрел благодаря самообразованию.

В 1888 и 1890 годах совершил поездки за границу для более близкого ознакомления с социал-демократическим рабочим движением, сумев установить тесные связи сотрудничества с виднейшими западноевропейскими социал-демократами. Его допустили к государственным и частным хранилищам, где находились массивы документов по истории марксизма, в частности, личные архивы Маркса и Энгельса.

В октябре 1891 года по возвращении в Россию Рязанов был арестован и без суда был приговорен к четырехлетнему тюремному заключению с принудительными работами. С 1892 года по 1896 год отбывал наказание в так называемых «Крестах» в Петербурге, а в 1899 году был выслан под надзором полиции в Кишинев. В тюрьме и ссылке он систематически изучал философию, историю, юриспруденцию, политическую экономию и финансы. Псевдоним был обязателен для любого партийного деятеля того времени. «Н. Рязанов» появился в конце 1890-х годов. Фамилия Рязанов была заимствована у главного героя повести В.А. Слепцова «Трудное время», а имя Николай, очевидно, перешло от прежней одесской конспиративной клички Д. Гольдендаха – «Николай Парижский».

В период с 1905 года по 1907 год находился в России и активно проявлял себя в профсоюзном движении, занимая руководящую должность в Центральном бюро профсоюзов в Петербурге.

После Октябрьской революции 1917 года Д.Б. Рязанов стал страстным оратором и энергичным организатором архивного дела Советской Республики. В марте 1918 года Рязанов был назначен «главноуполномоченным» Совнаркома Петроградской трудовой коммуны «по реорганизации и ликвидации архивов», а в апреле 1918 года был назначен председателем Центрального комитета по управлению архивным делом, созданного для временного управления архивами страны. Надо отметить, что это было трудное время для становления и развития архивной отрасли. Существовала реальная угроза потерь историко-документального  богатства  и  научных  основ  архивного  дела,  которые   были  накоплены  до  1917 года. Давид Борисович Рязанов, как представитель российской интеллигенции тех лет, играл не последнюю роль в научной разработке правовой базы создания централизованной архивной системы в общегосударственном масштабе во главе с правительственным органом власти. С 1918 года по 1920 год возглавлял Главное управление архивным делом. По его настоянию Главное управление архивным делом было включено в систему Наркомата народного просвещения РСФСР с государственным финансированием. В благородное дело спасения историко-документального  наследия  и  строительство   архивной  системы  на  демократической   основе были привлечены практически все ведущие архивисты и историки послереволюционной России: Н.Н. Ардашев, С.В. Бахрушин, бывший военный министр Временного правительства А.И. Верховский (Рязанов не только вызволил его из тюрьмы, но и назначил редактором в издательский отдел Главного управления архивным делом),  Р.Ю. Виппер,  князь Н.В. Голицын,  Ю.В. Готье, А.Ф. Изюмов, А.С. Лаппо-Данилевский, А.А. Кизеветтер, М.К. Любавский, С.П. Мельгунов, Б.И. Николаевский, В.И. Пичет, С.Ф. Платонов, М.А. Полиевктов, А.Е. Пресняков, генерал В.И. Селивачев, Е.В. Тарле, А.А. Шахматов и другие.

Летом 1920 года Д.Б. Рязанов в период нахождения в зарубежной командировке с целью переговоров о передаче рукописей Карла Маркса и Фридриха Энгельса в советские архивохранилища был смещен с поста руководителя  архивного  ведомства,  а  на  его  место  пришла  коллегия  во  главе с  историком-марксистом М.Н. Покровским, который считал, что отныне перед старыми специалистами «дверь ЧК должна быть гостеприимно открыта».

В декабре 1920 года Рязанов получил поручение от ЦК РКП(б) организовать первый в мире Музей марксизма, который в январе 1921 года был преобразован в Институт К. Маркса и Ф. Энгельса, а затем определен как автономное учреждение при Социалистической академии. В июле 1922 года институт получил статус Всесоюзного научно-исследовательского при ВЦИК.

В марте 1930 года Д. Б. Рязанов торжественно отпраздновал 60-летний юбилей, он был награжден орденом Трудового Красного Знамени. В изданном к его юбилею сборнике «На боевом посту» он был назван великим стратегом, политиком, теоретиком марксизма. А уже через год Рязанов был арестован, исключен из рядов Коммунистической партии и выведен из состава членов Академии Наук СССР. Ему вменялось в вину утаивание от партии мифического «конверта с запечатанными документами меньшевистских вождей». Возможно, речь шла  об  оригинале  письма  К. Маркса  к  дочери  Женни,  которое  Рязанов получил от сестры Ю.О. Мартова, одного из лидеров партии меньшевиков, под честное слово не публиковать и которое хранил в сейфе Института К. Маркса и Ф. Энгельса.  Но  это  был  только  предлог. В  постановлении  Президиума  ЦК  ВКП(б) от 17 февраля 1931 года прописывалось: «Правление ИМЭ распустить. Назначить т. Адоратского директором Института Маркса и Энгельса. Назначить т. Товстуху (личного помощника Сталина) заместителем директора Института Маркса и Энгельса». После недолгого тюремного заключения во внутренней тюрьме ВЧК на Лубянке, а затем в Суздальском политизоляторе Рязанов без суда был выслан в Саратов. Здесь он был обречен на «интеллектуальный голод», который был для Рязанова едва ли не более мучителен, чем голод и лишения физические.  От  Рязанова  ждали  покаяния,  но  он не  сломился.  С весны  1931 года  благодаря  содействию М.И. Калинина и С.М. Кирова ему было разрешено перебраться для продолжения научной работы в Москву, но в июле 1934 года он вернулся в Саратовскую ссылку, где им была организована научная библиотека на кафедре истории нового и новейшего времени исторического факультета Саратовского университета.

В июле 1937 года Д.Б. Рязанов вновь был арестован и обвинен в связях с правооппортунистической троцкистской организацией. 21 января 1938 года Верховной коллегией Верховного суда СССР он был осужден по пунктам 8 и 11 статьи 58 за совершение контрреволюционных действий и приговорен к расстрелу. В 1958 году был реабилитирован посмертно.