Найдавніші ножі відомі з епохи палеоліту. Першими ножами були кам'яні (найчастіше кременеві) отщепи, що придбали згодом мигдалевидну форму. Пізніше до ножів почали прикріплятися дерев'яні і кістяні рукоятки. Така гірська порода, як обсидіан, дозволяла отримувати найгостріші ножі досить складної форми.
Також широко використовувалися ножі з кістки, дерева і бамбука. Близько п'яти тисяч років тому людина навчилася отримувати і обробляти метал, і став виготовляти ножі з міді і бронзи.
На території Південної Америки ножі також виготовлялися з золота.З настанням залізного віку залізний ніж поступово витісняє ножі, виготовлені з бронзи. Але справжню революцію у виготовленні ножів справило початок виплавки стали. З початком промислової революції кустарне виробництво ножів змінюється заводським, змінюються конструкція і матеріали ножів. Одними з важливих критеріїв стають технологічність і зниження собівартості.
Починається розквіт складних ножів. Дуже скоро до старих традиційних центрів виробництва ножів додаються нові, такі як Шеффілд в Англії, Золінген в Німеччині, Еськильстуна в Швеції, Ворсма, Златоуст в Росії і так далі.