Ich würde einfach den Schwellenwert setzen und danach den Gaußischen Weichzeichner mit einem recht kleinen Wert verwenden. Denn nichts anderes passiert bei der Kantenglättung, als dass die Kanten weichgezeichnet werden und somit einen Verlauf erhalten.