Ha una forma stretta e allungata, e si estende per 673 km in direzione nord-sud con una larghezza media di 50 km. È il lago d'acqua dolce più lungo del mondo (misurando lungo la linea mediana). Copre un'area di 32.900 km², ha uno sviluppo costiero di 1.828 km, una profondità media di 570 metri, e una profondità massima di 1.470 metri.

Si stima che contenga una quantità d'acqua pari a 18.900 km³, essendo quindi il secondo lago d'acqua dolce del mondo per volume dopo il Bajkal. Il bacino idrografico del lago copre una superficie di 231.000 km². Il lago ha due immissari principali: il fiume Rusizi, che entra da nord dal lago Kivu, e il fiume Malagarasi, che è il secondo fiume più grande della Tanzania, ed entra nel lago Tanganika da est. Il principale emissario è il fiume Lukuga che a sua volta riversa le sue acque nel fiume Congo. L'enorme profondità e la posizione tropicale del lago impediscono un ricambio dell'acqua, facendo sì che la parte più profonda del lago consista principalmente di acqua anossica, cioè priva di ossigeno.

Il lago fu scoperto per la prima volta dagli europei nel 1858 grazie agli esploratori Richard Burton e John Speke, che lo scoprirono durante una spedizione finalizzata alla scoperta della sorgente del Nilo. Speke continuò la spedizione per poi effettivamente trovare la sorgente, il lago Vittoria.È il secondo lago africano per estensione, dopo il lago Vittoria, e il più profondo. È situato all'interno di in una delle grandi fosse della Rift Valley, le cui pareti montagnose ne costituiscono i confini.