No hay nada de malo en su código, lo ejecuté y veo un ligero desenfoque en la imagen de salida. Si desea ver un efecto más pronunciado, cámbielo a un núcleo de detección de borde, por ejemplo, utilizando
float[] matrix = {
1, 0, -1,
0, 0, 0,
-1, 0, 1
};
BufferedImageOp op = new ConvolveOp(new Kernel(3, 3, matrix));