С момента появления реактивной артиллерии (РА), её подразделения находились в подчинении Верховного Главного Командования. Они использовались для усиления стрелковых дивизий, оборонявшихся в первом эшелоне, что существенно увеличивало их огневую мощь и повышало устойчивость в оборонительном бою.

Некоторое количество ЗИС-3 было изготовлено ещё в 1941 году — это были опытные орудия и материальная часть для двух артиллерийских дивизионов, направленных на войсковые испытания. Массовое производство орудий развернулось с 1942 года и велось главным образом на горьковском заводе № 92. В существенно меньших масштабах пушки этого типа производились с 1943 года на заводе № 235, кроме того, в 1944 году ещё 14 орудий выпустил завод № 7.

В заметных количествах эти орудия появились в войсках в 1942 году, постепенно вытесняя своих предшественников — дивизионные орудия обр. 1902/30 гг., обр. 1936 г. (Ф-22) и обр. 1939 г. (УСВ). Интересно, что в немецких войсках советские дивизионки называли «ратш-бум» — звук пролетающего со сверхзвуковой скоростью снаряда был слышен чуть раньше, чем долетал звук выстрела. В 1943 году данное орудие стало основным в дивизионной пушечной артиллерии, а также в истребительно-противотанковых полках, имевших по штату 76-мм пушки. В Курской битве ЗИС-3, наряду с 45-мм противотанковыми пушками и 122-мм гаубицами М-30 составляла основу советской артиллерии. Тогда же проявилась недостаточность бронебойного действия орудий против новых немецких танков и САУ, в некоторой степени смягченная введением в боекомплект подкалиберных, а с конца 1944 года — и кумулятивных снарядов.