Яков Львович Давидовский родился 24 мая (5 июня) 1897 года в городе Новогрудок Минской губернии в семье мелкого лесопромышленника. Общее образование ― два класса реального училища. Профессия до поступления на военную службу ― лесной приказчик. В мае 1916 года был призван на службу в 1-ю Московскую запасную артиллерийскую бригаду «рядовым, канониром батареи» (формулировка послужного списка). Вступил в РСДРП(б) в марте 1917 года и организовал в бригаде партийную ячейку. «Вёл агитационно-организационную работу» (формулировка послужного списка) в ней. Во время октябрьских событий в Москве 1917 года подавлял сопротивление юнкеров, исполняя обязанности командира и комиссара батареи. В послужном списке участие Я.Л. Давидовского в октябрьском перевороте отмечено так: «командовал артиллерией в городе Москве в течение всех боёв».
В 1918 году вступил в Красную Армию и прошёл в её рядах всю Гражданскую войну. В январе 1918 г. он был назначен комиссаром 1-й Московской артиллерийской батареи и отправлен вместе с ней на Южный фронт против генерала А.М. Каледина.
А уже в апреле 1918 г. стал командиром этой батареи. В мае 1918 г. он стал командиром 1-го Воронежского артиллерийского дивизиона. Ещё через месяц командиром 13-го дивизиона. А в 1919 г. занимал должность командира дивизиона сначала в 12-й, а чуть позже в 40-й стрелковых дивизиях. В 1919 году поступил в Академию Всероссийского Главного штаба РККА и по 1922 год являлся её слушателем с перерывами для несения службы. Так, в декабре 1921 г. Я.Л. Давидовский был «командирован в распоряжение товарища Л. Д. Троцкого» (формулировка послужного списка).
В июле 1921 г. он был «командирован в распоряжение Пом. Главкома Сибири» (формулировка послужного списка). С июня по октябрь 1921 г. «производил разведку маршрутов на границе Монголии» (формулировка послужного списка). В октябре 1921 г. переведён на дополнительный курс академии. В мае 1922 г. «принял Красную присягу» (формулировка послужного списка). В сентябре 1922 г. «окончил курс военной академии РККА с правами лиц, имеющих высшее общее военное образование с оценкой «удовлетворительно»» (формулировка послужного списка).
После окончания Академии в 1922 году командовал ротой в стрелковом полку в Тбилиси. Через год его назначили начальником штаба укреплённого района в Батуми, а ещё через год — начальником штаба 3-й стрелковой дивизии (февраль 1924 г.) и крепости Кронштадт (апрель 1924 г.).
В 1926 году его вызвали в Москву и назначили помощником начальника 2-го отдела 1-го Управления Штаба РККА.
Пребывание в Штабе РККА позволило Я. Л. Давидовскому не только заниматься штабной работой, но и самостоятельно изучать военную науку. Тем более, что лекции в Штабе читали такие видные советские военные теоретики, как В.К.Триандафиллов и М.Н.Тухачевский.
В январе 1928 года Я. Л. Давидовский был назначен начальником Тульской оружейно-технической школы (ТОТШ) и пребывал в этой должности до мая 1930 года. В период своего руководства школой Яков Львович умело использовал размещение вверенного ему военно-учебного заведения вблизи крупных военно-производственных баз, каковыми тогда являлись Тульский оружейный завод и Тульский патронный завод, для улучшения учебно-материального обеспечения и качества обучения курсантов.
Он уделял большое внимание перестройке учебного процесса, а также совершенствованию форм и методов подготовки специалистов. На базе школы были созданы курсы усовершенствования старшего и среднего командного состава для изучения поступающих на вооружение Красной Армии новых отечественных образцов оружия.
Кроме этого, курсантами и офицерами школы велась разъяснительная работа в тульских деревнях и сёлах. Необычным методом такой работы стал 200-километровый лыжный поход, в котором проводилась агитационная работа среди сельского населения. И Советское Правительство высоко оценило роль школы в укреплении обороноспособности страны и подготовке высококвалифицированных кадров для Красной Армии. Сначала, 13 февраля 1930 года, приказом Реввоенсовета СССР, Тульской оружейно-технической школе было присвоено имя Тульского пролетариата. А 24 марта 1930 года Центральный Исполнительный Комитет СССР наградил школу грамотой и Революционным Красным Знаменем, как знак призыва к постоянной его готовности выступить на защиту завоеваний Социалистической Революции. Несомненно, в этих наградах есть прямая заслуга начальника школы Я. Л. Давидовского.
В мае 1930 года Я. Л. Давидовский был назначен командиром 81-й стрелковой дивизией. Но уже через год его знания и имеющийся опыт потребовались при создании оборонительных сооружений. Ему поручили создание укрепрайона на пограничной реке Днестр с одновременным назначением на должность коменданта Могилёв-Ямпольского укреплённого района (УР). Для приёмки УР прибыли видные военачальники: М. Н. Тухачевский, В. К. Триандафиллов, И. Э.Якир, С. С.Каменев. Видимо, М. Н. Тухачевскому запомнился молодой комендант УР своими знаниями и проделанной им работой, а также личными морально-деловыми и волевыми качествами. И в 1933 году М. Н. Тухачевский предложил кандидатуру Я. Г. Давидовского на должность помощника командующего Забайкальской группой войск Отдельной Краснознамённой Дальневосточной армии (ОКДВА). Возможно, как показали дальнейшие события, М. Н. Тухачевский связывал с Я. Л. Давидовским определённые планы.
В 1935 году Забайкальская группа войск была выведена из состава ОКДВА и преобразована в Забайкальский военный округ. После этого преобразования Я. Л. Давидовский был назначен заместителем командующего войсками Забайкальского военного округа. На этой должности Яков Львович весь свой боевой опыт и знания вкладывал в обучение войск. Проводились учения, тактические занятия, манёвры. Давидовский требовал от командиров не только постоянной боевой готовности, но и детального знания предполагаемого противника, тактики ведения им боевых действий и даже его языка. Японский военно-разговорный язык изучал весь начальствующий состав округа.
Это была жизненно важная необходимость. Японский премьер-министр генерал Гиити Танака в 1927 году предложил императору Японии некий меморандум, в котором предусматривалось подчинение Китая и захват Монголии. Далее согласно этого меморандума следовал разгром СССР и захват его земель до Урала. Затем разгром США, захват стран Азии и Европы, и, таким образом, почти весь мир. Подлинность этого меморандума и его существование вообще уже в ХХ веке оспаривалась военными историками. Но, в то время наличие такого меморандума не вызывала никаких сомнений у руководства СССР и требовало принятия необходимых мер.
В конце 1931 года на границы Дальнего Востока и Забайкалья вышла японская армия. Вблизи советских границ строились японские укрепления, аэродромы, военные городки, концентрировались войска, активизировалась разведка. Начались провокации на границе.
В феврале 1936 года Я. Л. Давидовский был назначен командиром 11-го механизированного корпуса, который тремя годами ранее прибыл из Ленинграда. Корпусу предназначалась важная роль в предполагаемой войне с японцами. По замыслу М. Н. Тухачевского, после отражения нападения врага на границе, предусматривалось стремительное наступление войск Забайкальского военного округа, развёрнутого в армию, вглубь Манчжурии при поддержке Дальневосточного округа. А темп наступления задавал бы 11-й механизированный корпус. Он был бы тем своеобразным бронированным «тараном», который, не ввязываясь в затяжные бои на границе, преодолел бы хребты Большого Хингана и, развернувшись в тылу противника, проложил бы путь пехоте. Это был основной стратегический замысел М. Н. Тухачевского и В. К. Блюхера, который был положен в план разгрома Квантунской армии в Манчжурии в 1945 году.
Я. Л. Давидовский без устали обучал вверенные ему войска действиям в условиях горно-таёжной местности. В условиях, максимально приближенных к условиям Хингана, совершались длительные марши, в том числе и в ночное время. Отрабатывались вопросы инженерного и тылового обеспечения войск.
Внезапно, в 1937 году М. Н. Тухачевский был снят с должности первого заместителя наркома обороны и поставлен на должность командующего войсками Приволжского военного округа. В том же году он был арестован, судим и казнён.
Репрессиям подверглось и командование Забайкальского военного округа, в том числе и Я.Л. Давидовский.
8 июля 1937 года он был арестован, признан агентом японской разведки, обвинён в военно-троцкистском заговоре. Выездной сессией Военной коллегии Верховного суда СССР был приговорён к высшей мере наказания, лишению звания «комдив» и конфискации имущества.
Расстрелян 2 октября 1938 года. Реабилитирован 27 апреля 1957 года Военной коллегией Верховного суда СССР.