Оскільки достовірних даних про те, як в Німеччині з'явилися предки сучасних ротвейлерів не існує, то можна тільки припускати, що великі врівноважені і міцні мясницкие собаки могли супроводжувати стада армій Римської імперії в їх неухильне просування по території Європи. У свою чергу великі молосси потрапили в Рим з Азії, де здавна жили в сім'ях зороастрійців, охороняючи будинки і худобу. Місцевість, яка дала назву породі, в стародавні часи називалася землею Флавія. Приблизно в 260 році н.е. римляни покинули її, відтиснуті численними войовничими швабськими племенами.
Римські солдати пішли з території сучасної Німеччини, а їх собаки залишилися і трансформувалися в найрізноманітніші породи в залежності від робочого призначення і особистих екстер'єрних переваг їх заводчиків.
На березі Неккара на місці одного з давньоримських військових таборів з часом виникло місто. Свою назву він отримав за кольором червоної черепиці, видобутої під час будівництва храму (Rote Weil). Вона колись прикрашала римські терми і була знайдена під час будівництва першого в місті костелу. Згодом назва міста стало також і назвою виведеної в ньому породи мясницьких собак.
Вдале розташування на перехресті торгових шляхів зробило Ротеваль процвітаючим містом. В ті часи худобу переганяли до місця продажу так би мовити на своїх чотирьох. Це було дуже складно без допомоги собак. Саме мясницкие собаки, багато з яких мали вже тоді характерний чорно-підпалий окрас, витривалість і врівноважений темперамент, дозволяли контролювати пересування стада до місця продажу або забою. Незвичайний розум і сувору вдачу, яким славилися собаки м'ясників, були відомі далеко за межами Ротеваля. Любителі випити після вдало угоди, м'ясники часто вішали гаманці з грошима на шию своїм собакам і ті надійно зберігали зароблене не тільки від сторонніх, але часом і від самого нетверезого господаря, доставляючи додому в цілості й схоронності. Вони тягали за собою вози, навантажені м'ясом або молоком, допомагали переганяти велику худобу, з яким не завжди справлялися звичайні вівчарки.
Однак у міру розвитку залізниць, кількість ротвейлерів почала різко знижуватися. Здавалося б, який зв'язок? АЛЕ справа була в тому, що в міру того, як гілки залізничних колій розповзалися по Німеччині, потреба в скотогонні собаки зникала. М'ясницька собаки перестали бути потрібні м'ясникам - з'явилася заборона на перегін худоби пішим ходом і тепер тварини перевозилися залізницею. І ось в 1882 році в Хайльброннской виставці бере участь тільки одна Мясницкая собака ...
Врятували породу її неабиякі службові якості - сміливість, здатність активно протистояти людині. Найбільш відомий випадок, коли собака вахмістра поліції допомогла йому закликати до порядку групу буйних матросів. Фактично здатність мясницьких собак до різноманітної поліцейській службі врятувала породу, давши її новий шанс на існування і розвиток. М'ясницька собаки вже в 1910 році заслужили право називатися службовими.
До числа родинних ротвейлеру порід можна назвати такі, як доберман, російський чорний тер'єр, босерон, швейцарські гірські собаки. І якщо крові ротвейлера приливає до предків сучасних Чернишов на території Росії, то інші породи розвивалися паралельно в сусідніх областях Європи і мають безліч схожих рис екстер'єру і характеру.
Об'єднаний німецький клуб ротвейлерів був створений в 1921 році і існує до цих пір. З німецькою грунтовністю клуб розробив перший стандарт породи, намічені шляхи її розведення і розвитку. Поступово вимоги стандарту стають все більш жорсткими в частині типу і забарвлення шерсті, розмірів, а також анатомії і рухів. Встановлюється обмеження в зростанні, а оптимальним розміром для псів стає 65-66см, а для сук - 63см.
Ротвейлер одна з небагатьох порід, в якій існує кьорунг - комплексна оцінка екстер'єрних і робочих якостей. Описано ростові різновиди, основний упор робиться на сильних, спритних і витривалих собак, здатних у разі потреби, нести поліцейську і військову службу. Мода на важких перевантажених ротвейлерів пройшла і сучасна собака цієї породи - швидше атлет, ніж важкоатлет.