До кінця 20-х рр. фірма Вальтер зайнялася створенням пістолета, який за своїми даними, не виходячи за рамки обмежень Версальського договору, мав би якості, близькі до якостям військових зразків. Такий пістолет з'явився в 1929 р під найменуванням ПП (Polizeipistole). Він володів рядом переваг, але найбільшим з них був самовзводний ударно-спусковий механізм, що дозволяв проводити перший постріл без попереднього зведення курка. Це пристрій був винайдений ще перед 1-ою світовою війною, але тільки на пістолетах Вальтера воно набуло широкого поширення і послужило зразком для наслідувань.
У 1931 р почався випуск пістолетів ППК (Polizeipistole kriminal), таких же, як "ПП". але кілька зменшених розмірів. Конструкція пістолета Вальтера 1929 р виявилася вельми вдалою, тому в ряді країн вона послужила зразком для створення нових пістолетів, влаштованих майже точно так же. Виробляються ці пістолети досі і використовуються (головним чином в поліції) у багатьох країнах, причому крім моделей калібру 7,65 мм і .22 ЛР, з'явилися моделі калібру 9 мм.
З 1931 року Міністерство оборони Німеччини стало шукати заміну "Парабелум 08" Георга Люгера, дуже складного за технікою виготовлення та вельми дорогого пістолета, на більш досконалий. Фріц Вальтер тут же взявся за розробку 9-мм парабелума замість мало поширеного калібру 08 у Люгера. Вперше в світі для нового зразка пістолета Фріц Вальтер став застосовувати легкі метали: алюміній і жерсть. Навіть випробування нової зброї проводилися неофіційно, так як не було ніякої впевненості в позитивному результаті. Але Вальтер був упевнений в своїй правоті і не сумнівався, що обов'язково прийде час використання для виготовлення зброї легких металів. Крім того, Фріц Вальтер, прихильник економії металу при створенні зброї і застосуванні легких зручних конструкцій створив для "Вальтер П 38" унікальну по дизайну рукоять. Перш за все, Вальтер відмовився від облицювання рукояті, а балансування пістолета була зроблена настільки математично точно, що дозволила значно зменшити обсяг витрачається металу.
У 1939 році почалося виробництво і до середини року вже перші сто пістолетів "П 38" були передані на озброєння в армію. Оскільки впровадження цього пістолета починалося з озброєння їм офіцерського складу, то він неофіційно іноді називався офіцерським пістолетом, а "Парабелум" -солдатскім. За час другої світової війни кількість випущених "П 38" перевищувало десятки мільйонів примірників. Тільки для однієї дивізії вермахту було потрібно близько 4000 "офіцерських Вальтер». Пістолети "Вальтер П 38" і після Другої Світової війни збереглися на озброєнні в Західній Німеччині. Крім того, ці пістолети отримали всесвітню популярність і в даний час перебувають на озброєнні в десятках країн світу.
Фріц Вальтер помер в 1966 році у віці 77 років, його місце зайняв син Карл. За життя головний ідеолог "Вальтера" був удостоєний медалі імені Дизеля, в місці з тим, він же відмовився від цілком заслуженого федерального хреста "За заслуги".