Pourriez-vous définir ce que vous entendez par «lissage dans le domaine de fréquence? Vous pouvez générer une image spectrale en utilisant FFT et multiplier l'image par une fonction quelconque pour atténuer des fréquences particulières, puis convertir le spectre en une image en utilisant la FFT inverse. Cependant, pour ce type de filtrage (multiplication par une fonction de mise à l'échelle en fréquence), vous pouvez obtenir le même résultat plus rapidement en convoluant avec la double fonction dans le domaine spatial.
Dans tous les cas, si vous souhaitez l'implémenter vous-même, lisez sur FFT (la transformée de Fourier rapide) et la convolution. Vous pouvez également consulter un manuel de traitement du signal, si vous êtes intéressé, car la théorie derrière le filtrage discret est assez profonde. Les algorithmes n'auront pas beaucoup de sens sans cette théorie, bien que vous puissiez certainement les appliquer sans les comprendre.
Si vous souhaitez implémenter vos propres algorithmes DSP, consultez this book en ligne. En particulier, Ch 33 décrit les mathématiques et l'algorithme derrière la conception du filtre Butterworth. Ch 12 décrit comment implémenter FFT.
Vous obtenez un flou très bon marché en redimensionnant simplement l'image. Faites-le plus petit puis redimensionnez à la taille d'origine. –