Java
Jeśli chcesz się pobawić w okienka to najlepiej zacząć od Netbeans. Nawet jeśli Eclipse ma to lepiej zrobione (w co wątpię - z moich skromnych doświadczeń wynika że nie) - to trzeba się przedrzeć przez konfigurację pluginów. Netbeans ma to od razu.
Jeśli chcesz pracować bardziej z konsolą lub webdev - spróbuj IntelliJ. Środowisko to w pełnej krasie obsługuje także inne języki (PHP, Python, JS).
C++
Jeśli konsola to:
- masz do wyboru Visual Studio Express, Code::Blocks, Qt Creator
Jeśli GUI to:
- Qt Creator (Qt), ew. Code::Blocks (wxWidgets)
Dla C++ Netbeans nie polecam - potrafi nawet nie reagować na komendy kompilacji (zero komunikatów o błędach).
Co do Eclipse to nie miałem (nie)przyjemności dłużej z tym pracować (poza Aptaną, ale to chyba jednak co innego) - pewnie podobnie jak z vim-em trzeba się przemóc.