Последовательность работы в ImageJ следующая.

Сначала установки (действуют на весь сеанс работы до перезагрузки

программы):
Analyse -> Set Measurenments -> пометь Area, Perimeter, Fit Ellipse,
Ferets Diameter, Display Label
На изображении найди линейку или другой масштаб (объект
известного размера)
Straight line selections - проведи линию от начала до конца известного
расстояния (100 мм или другое)
Analyse -> Set Scale -> Known Distance (100 мм или другое), Unit of
Length (mm)
Поставь отметку Global - масштаб будет действовать на все
изображения, пока не перезагрузишь программу ImageJ, иначе будет
выдавать параметры в пикселах, а не в мм, что у тебя и наблюдается.
 
Далее собственно обработка:
Image -> Type -> 8 bit
Image -> Adjust -> Threshold (двигая указатели до покраснения всего
контура листьев) -> Apply (изображение становиться черным)
Process - > Filters -> Median -> Radius (2-10...) -чем он больше, тем
больше по размеру удаляемые ненужные детали, затем применяем
для оставшихся неудаленных точек Erazer tool
Plugins -> Measure Roi Curve
Plugins -> Shape Descriptors;
 
Можно по другому:
Image -> Type -> 8 bit
Image -> Adjust -> Threshold -> Apply
Wand (Tracing) tool -> Shift - Левая кнопка мыши -выделить все листья
(вокруг них появляется желтый контур)
Edit -> Clear Outside - я пользуюсь этим вариантом
Plugins -> Measure Roi Curve
Plugins -> Shape Descriptors;
 
Для того, чтобы просмотреть контур:
Magnifying glass - левая кнопка увеличивает, правая уменьшает,
движение по изображению - Scrolling tool