Cómo mejorar la apariencia de JAVA swing GUI?

Mira el tutorial de Java para establecer la apariencia. Además de los mencionados allí, las recientes versiones de Java 6 también incluyen el Nimbus Look and Feel.

La sustancia es un LAF muy configurable y moderno:

Https://github.com/kirill-grouchnikov/substance

Si eres bueno con Photo shop, podrías declarar el JFrame como no decorado y crear tu propia imagen que se server como tu GUI personalizada.

En este ejemplo se refiere al JFrame como frame.

JFrame frame = new JFrame();
frame.setDefaultCloseOperation(JFrame.EXIT_ON_CLOSE);
frame.setSize(800, 600);
//If you want full screen enter frame.setExtendedState(JFrame.MAXIMIZE_BOTH);
frame.setUndecorated(true);

Ahora que el JFrame tiene su propio borde y GUI personalizada, si definió sus propios botones personalizados para minimizar, maximizar y salir, necesita colocar un JPanel sobre los botones y declarar lo que harán esos botones en una función de escucha de acciones(lol, lo siento...No se si es función llamada como c++ o class...) por ejemplo, nos referiremos al JPanel como panel y configuraremos un botón de salida.

panel.addActionListener(new ActionListener(){
@Override
public void actionPerformed(ActionEvent e){
System.exit(JFrame.EXIT_ON_CLOSE);
});
}

Puedes echar un vistazo aquí. Busqué en Google en java swing theme.

Dicho esto, si estás haciendo un proyecto de hobby cambiar el LAF no es un problema. Si estás haciendo software para tus amigos tampoco es un problema. Si usted hace software para los clientes mantener el swing por defecto. Funciona bien y no es demasiado emocionante:)

Otra opción es el Aspecto y tacto de plástico. Le da a las aplicaciones Swing un aspecto similar a XP y ofrece muchas opciones de personalización.

EDITAR: Acabo de notar que las imágenes en esa página están rotas. Si haces clic en la página Looks de JGoodies, al menos verás 3 ejemplos de lo que puedes lograr con esos looks.