Фрагментація - процес появи незайнятих ділянок в пам'яті (як оперативної, так і віртуальної і на магнітних носіях). Викликана наявністю в кожному виді пам'яті поділу на дрібні одиниці фіксованого розміру, в той час як обсяг інформації не обов'язково кратний цьому розподілу.
Поява або не появу фрагментації залежить від методу організації пам'яті.
Внутрішня фрагментація - при заповненні сторінок в середньому половина останньої сторінки залишається незаповненою. Ці «діри» і є внутрішня фрагментація.
Зовнішня фрагментація - процес, який полягає в наступному: при багаторазовому видаленні і появі нових сегментів з'являються невеликі ділянки вільної пам'яті, які складно використовувати (виходить, що пам'ять не розподілена оптимально). З нею можна боротися за допомогою ущільнення (проте це вимагає витрат часу).
При сторінкової організації пам'яті зовнішня фрагментація відсутня, а втрати через внутрішню фрагментації, оскільки процес займає ціле число сторінок, обмежені частиною останньої сторінки процесу.
Сегментної організації пам'яті притаманні як внутрішня, так і зовнішня фрагментації. Внутрішня фрагментація утворюється внаслідок того, що розмір завантаженого сегмента менше розміру наявного вільного розділу, а зовнішня внаслідок того, що відсутня ділянку пам'яті відповідного розміру. Зовнішня фрагментація означає, що частина процесу залишається незавантаженої, і його виконання в якийсь момент часу має бути призупинено.