Строительство завода началось в апреле 1930 года в степи к северу от станции Лосево, главным инженером по строительству ХТЗ был назначен гражданин США Леон Сваджян (Leon A. Swajian), награждённый впоследствии Орденом Ленина. 1 мая 1931 был введён в строй инструментальный корпус (начавший выпуск инструмента и оснастки для обеспечения потребностей продолжавшегося строительства завода). 30 сентября 1931 строительство было завершено (в это время завод насчитывал 12 цехов).
1 октября 1931 года состоялся официальный пуск завода. В октябре 1931 года завод начал выпуск колёсного трактора СХТЗ 15/30, который был оснащён керосиновым двигателем мощностью 30 лошадиных сил и развивал скорость до 7,4 км/ч. Одновременно с заводом был построен посёлок ХТЗ.
В 1932 году директором Харьковского тракторного завода стал Александр Давидович Брускин. 1932 год, первый год работы завода после запуска, ХТЗ закончил с успешными показателями: со сборочного конвейера сошло 16 044 трактора, сдано 16 333. Кроме того, было изготовлено 1507 двигателей; серого чугуна — 16 950 тонн; ковкого чугуна — 596 тонн; цветных металлов — 1296 тонн; горячих штамповок — 17 445 тонн.
В 1933 году ХТЗ освоил производство конструкций дизель-моторов автотракторного типа. 26 мая ХТЗ рапортовал о выполнении обязательств выдать на конец мая 121 мотор. А к 22 сентября 1933 года ХТЗ освоил проектную мощность в 145 тракторов в день. В начале октября 1933 года завод посетил нарком Серго Орджоникидзе. Он дал высокую оценку деятельности сотрудников ХТЗ. Завод досрочно, до 20 декабря, выполнил годовой план по валовой продукции на 100,4 процента, за 11 месяцев было выпущено 28 285 тракторов, 215 из которых было изготовлено сверх плана.
До конца первой пятилетки, которая заканчивалась в 1932 году, завод выпустил 17 374 трактора.
В 1934 году на ХТЗ были трудоустроены 20 австрийских политэмигрантов (активистов шуцбунда, участников вооружённого выступления в феврале 1934 года), которые прошли обучение на токарей, фрезеровщиков и слесарей и были трудоустроены на учебный комбинат завода
