Первую противотанковую 37-мм пушку (обр. 18) немцы создали ещё во время Первой мировой войны. Согласно Версальскому договору, Германии было запрещено иметь противотанковую артиллерию, поэтому все работы по ней велись в тайне. Работы по новой пушке начались уже в 1924, в 1926 фирма «Рейнметалл» (Rheinmetall) создала опытный образец новой пушки — 3,7-см противотанковую пушку обр. 26. В 1928 новое орудие под названием 3,7 cm Pak 28 было принято на вооружение, затем появилась её модификация Pak 29, которая пошла в массовое производство. Это орудие и стало прообразом Pak 36, хотя ещё имело деревянные колёса без подрессоривания. В 1935—1936 пушка была модернизирована (в основном модернизация касалась колёсного хода) и принята на вооружение.
Модификация Рак 35/36 3,7 см и приняла своё участие во второй мировой.В дальнейшие годы её также модернизировали, если вы посмотрите фото военных лет то увидите отличие 1936 года выпуска от 1940 года. А по военным документам также встречал и такое название как 7,5см-Рак, но по факту это же Рак-40.