Hunt, después de no poder conseguir judíos que posaran como modelos para él en Jerusalén, comenzó a pintar esta imagen en la orilla del Mar Muerto y lo continuó en su estudio en Londres.
La pintura fue la única obra importante completada por Hunt durante su primer viaje a Tierra Santa, a donde había viajado después de una crisis de fe religiosa.
Hunt pretendía experimentar las ubicaciones reales de las narraciones bíblicas como un medio para confrontar la relación entre la fe y la verdad.
Mientras estaba en Jerusalén, Hunt había conocido a Henry Wentworth Monk, un profeta milenarista que tenía teorías distintivas sobre el significado del chivo expiatorio y la proximidad del Juicio Final.
En su autobiografía Pre-Raphaelitism and the Pre-Raphaelite Brotherhood, Hunt relata la primera reacción a la pintura del comerciante de arte Ernest Gambart :
-Bueno, hay un libro llamado Biblia, que da cuenta del animal.
Nadie sabría nada al respecto, y si compro el cuadro, quedará en mis manos.
Mi esposa es una dama inglesa, hay una amiga de ella, una chica inglesa, en el carruaje con ella, les pediremos que suban, les dirás el título, ya veremos, no digas más.
Sólo entonces se puede entender cómo, por el poder del genio, a partir de una cabra vieja y algunas incrustaciones salinas, se puede hacer una de las obras más trágicas e impresionantes en los anales del arte".
Ernest Gambart, como relata Hunt, se mostró menos entusiasta y más tarde comentaría: "Quería un cuadro religioso agradable y me pintó una gran cabra".