Vamos aprender a remover o OpenJDK que vem por padrão no Ubuntu.

O primeiro passo é desinstalar o Java atual, no meu caso possuo o OpenJDK. Vamos ver a versão com o seguinte comando:

java -version

Obtive o seguinte retorno, que confirma q estou com o OpenJDK instalado.

java version "1.6.0_23"
OpenJDK Runtime Environment (IcedTea6 1.11pre) (6b23~pre11-0ubuntu1.11.10.2)
OpenJDK 64-Bit Server VM (build 20.0-b11, mixed mode)

Para remover o OpenJDK execute o seguinte comando:

sudo apt-get remove openjdk-6-jre && sudo apt-get remove openjdk-6-doc openjdk-6-jre-headless openjdk-6-jre-lib

Agora podem verificar se a desinstalação foi feita corretamente executando java -version novamente, e deve dar um erro parecido com

bash: /usr/bin/java: Arquivo ou diretório não encontrado

Pronto OpenJDK desinstalado, agora você pode instalar o Java Oficial da Oracle / Sun. =]

Fonte de Pesquisa: Meu Pinguim