Hay muchas leyendas y mitos sobre los caballos árabes. Una leyenda dice que el profeta Mahoma seleccionó sus cinco mejores yeguas (caballos hembra), llamadas Al Khamsa ("las cinco") para que fueran la base de la raza árabe. Otra leyenda dice que la reina de Saba regaló una yegua árabe al rey Salomón, y que así comenzó la raza. Otra historia dice que Alá creó el caballo árabe a partir del viento del sur, diciendo: "Yo te creo, oh árabe... te doy el vuelo sin alas".
En la historia real, los árabes son una de las razas de caballos desarrolladas por el hombre más antiguas del mundo. En la península arábiga se pintaron imágenes de caballos "protoárabes" muy parecidos a los caballos árabes modernos, en una fecha tan lejana como el 2.500 a.C. Los antepasados de los beduinos probablemente domesticaron a los caballos poco después de haber domesticado a los camellos. En la península del Sinaí se desenterró un esqueleto de caballo, fechado en el 1700 a.C., que se considera la primera prueba del caballo en el antiguo Egipto. Probablemente fue traído por los invasores hicsos. Este caballo tenía una cabeza en forma de cuña, un ojo grande y un hocico pequeño, como el caballo árabe actual.
En el desierto, los humanos eran la única fuente de alimento y agua para el caballo árabe. Donde no había pastos, los beduinos alimentaban a sus caballos con dátiles, un fruto de la palmera datilera, y leche de camello. Los caballos árabes tenían que vivir con muy poca comida y sobrevivir a un clima seco, muy caluroso durante el día y muy frío por la noche. Los caballos débiles no vivían, y los que sobrevivían al desierto también tenían que sobrevivir a ser montados para la guerra. Por ello, el caballo árabe se hizo muy resistente y capaz de vivir en un mundo tan duro.
