Роздільна здатність очі обмежена. Роздільна здатність характеризується вирішуються відстанню. тобто мінімальним відстанню між двома сусідніми частинками, при якому вони ще видимі роздільно. Разрешаемое відстань для неозброєного ока становить близько 0,2 мм. Для збільшення роздільної здатності використовують мікроскоп. Для дослідження будови металів мікроскоп був вперше застосований в 1831 році Аносова П.П. вивчав булатну сталь, і пізніше, в 1863 році англійцем Г. Сорбі, вивчав метеоритне залізо.
Разрешаемое відстань визначається співвідношенням:
де l - довжина хвилі світла, що йде від об'єкта дослідження в об'єктив, n - показник заломлення середовища, що знаходиться між об'єктом і об'єктивом, і a - кутова апертура, рівна половині кута розкриття, що входить в об'єктив пучка променів, що дають зображення. Ця важлива характеристика об'єктива викарбувано на його оправі.
У хороших об'єктивів максимальний апертурний кут a = 70 ° і sina »0,94. У більшості досліджень застосовують сухі об'єктиви, що працюють в повітряному середовищі (n = 1). Для зменшення разрешаемого відстані використовують імерсійним об'єктиви. Простір між об'єктом і об'єктивом заповнюють прозорою рідиною (иммерсией) з великим показником заломлення. Зазвичай використовують краплю кедрової олії (n = 1,51).
Якщо для видимого білого світла прийняти l = 0,55 мкм, то мінімальне разрешаемое відстань світлового мікроскопа:
Таким чином, роздільна здатність світлового мікроскопа обмежена довжиною хвилі світла. Об'єктив дає збільшення проміжного зображення об'єкта, яке розглядається в окуляр, як в лупу. Окуляр збільшує проміжне зображення об'єкта і не може підвищити роздільної здатності мікроскопа.
Початківці роблять звичайну помилку, прагнучи розглядати структуру відразу ж при великому збільшенні. Слід мати на увазі, що чим більше збільшення об'єкта, тим меншу ділянку видно в полі зору мікроскопа. Тому рекомендується починати дослідження з використання слабкого об'єктива, щоб спочатку оцінити загальний характер структури металу на великій площі. Якщо ж починати микроанализ з використання сильного об'єктива, то багато важливих особливості структури металу можуть бути не помічені.
Окуляр вибирають так, щоб чітко було видно деталі структури, збільшені об'єктивом. При недостатньому збільшенні окуляра дрібні деталі проміжного зображення, створеного об'єктивом, що не будуть побачені в мікроскоп, і, таким чином, роздільна здатність об'єктиву повністю не буде використана. При занадто великому збільшенні окуляра нові деталі структури не виявляються, в той же час контури вже виявлених деталей виявляться розмитими, а поле зору стане більш вузьким. Власне збільшення окуляра викарбувано на його оправі (наприклад, 7 х).
При обраному об'єктиві рекомендується взяти такий окуляр, щоб загальне збільшення мікроскопа знаходилося в інтервалі 500 - 1000. Більш високе збільшення мікроскопа, що не виявляючи нових деталей структури, погіршує різкість зображення.