El modismo deriva de una versión más reciente de un antiguo proverbio y existe en muchas variaciones. El poeta romano Ovidio, por ejemplo, citó el proverbio «ferilor seges est alienis semper in agris», que significa «la cosecha es siempre más fructífera en el campo de otro hombre». Aunque se pueden encontrar docenas de versiones del proverbio, «la hierba es siempre más verde» es la forma favorita de los estadounidenses para expresar el sentimiento. Se especula que la expresión provenía del hábito del ganado de pastar a través de la cerca en la hierba del campo adyacente, o escapar de un prado a otro por una cerca rota, en busca de hierba nueva para comer.