Зазвичай походження цього виразу пов'язують з одним із оповідань про Ходжу Насреддіна - герої східного фольклору, відомому вигадника і дотепника.
Так, в одному з арабських збірників, (приблизно 1 631) говориться про те, як Ходжа Насреддін Джоха-ель-Румі (повне ім'я Насреддіна на арабській мові) одного разу вирішив видати себе за святого. Коли його запитали, як він це доведе, він відповів, що може наказати пальмової дереву підійти до нього, і воно підкоряється. Коли ж дива не сталося, то Ходжа сам підійшов до дерева зі словами: «Справжні пророки і святі позбавлені зарозумілості. Якщо пальма не йде до мене, то я йду до неї ».
Іноді зустрічається інша версія цієї ж фрази: «Якщо пальма не йде до Джоха, так Джоха піде до пальми».
У сучасному варіанті це вираз увійшло в європейські мови завдяки відомому англійському вченому і філософу Френсісу Бекону (1561 - 1626), який у своїй книзі «Моральні і політичні нариси» (+1597) привів власний варіант розповіді про Ходжу, замінивши останнього на самого пророка Магомета. У нарисі «Про сміливості», що міститься в цій книзі, Магомет обіцяє народу зрушити гору, але, коли це не вдається, говорить: «Що ж, так як гора не хоче йти до Магомета, то Магомет піде до неї».
Алегорично про бажання зробити перший крок до вирішення проблеми, що виникла у відносинах з партнером, опонентом і ін. (Самонрон.).