En principio para tener la última versión bastaria con actualizar la lista de repositorios:
$ sudo apt-get update
E instalar Gimp:
$ sudo aptitude install gimp
Pero a mi en Lucid (en este caso) no me ha instalado nada nuevo, asi que he hecho lo siguiente. Añado el siguiente repositorio PPA de Gimp:
$ sudo add-apt-repository ppa:matthaeus123/mrw-gimp-svn
Actualizo e instalo:
$ sudo apt-get update && sudo apt-get install gimp
Si al iniciar Gimp te da algun problema, ejecuta:
$ sudo apt-get install libgegl-0.0-0
Una vez ya iniciado y si quieres tener Gimp en modo una-sola-ventana, ejecutasVentanas > Single Window-Mode
alcordances 
GACIAS POR EL APORTE A LA COMUNIDAD
Hola,
La primera vez que lo probé funcionó sin problema alguno; sin embargo, cuando actualizó la segunda vez (va en la 2.7.2) el programa se cierra antes de iniciar completamente. Sabes a qué se pueda deber esta falla?
Hola Jorge,
No tengo ni idea que te puede pasar, yo tengo la misma versión y no me da problema.
Si que me paso hace días que tras una actualización al intentar hacer algo con una foto se me cerraba el programa, lo volví a actualizar y se arregló.
Prueba a ver si hay alguna actualización posterior a ver.