Смотря в какой программе. В Iris_е можно сохранять в формате фотошопа - *.psd. Это лучший вариант. В других программах обычно есть возможность сохранять в форматах TIFF, PNG. И желательно в 16_ти битной разрядности. Эти форматы позволяют сохранить наибольшее количество информации в отличие от обжатого формата JPG.
Звезды пережигаются обычно при очень агресивной обработке, при применении "кривых" и т. п. При слишком активном вытягивании туманности. Хотя в твоем случае не очень понимаю. Все таки выдержки не такие большие.
Если есть желание, сбрось куда ни будь хотя бы пару-тройку своих исходников, посмотрю, что там происходит.