Sin embargo, su corto alcance e imprecisión hicieron que eventualmente sea reemplazado por el más eficaz RPG-7.
Ampliamente distribuido a los aliados de la Unión Soviética, también fue producido bajo licencia por otros países, inclusive China y Vietnam del Norte.
Derivado parcialmente del Panzerfaust 250 experimental alemán, desarrollado en 1947 y suministrado por primera vez al Ejército Rojo en 1949, el RPG-2 era desplegado en escuadras de Infantería.
Una vez acoplada la carga propulsora a la granada, esta era insertada en el lanzador desde el frente.
Para disparar el RPG-2, el granadero amartillaba un martillo externo con su pulgar, apuntaba el lanzador y apretaba el gatillo.