L'idéal serait d'avoir un cache énooorme et très rapide. Mais comme c'est impossible à produire en pratique, les fabricants utilisent un cache petit et rapide (L1) et un autre plus gros et plus lent (L2).
Le cache L1 seul serait trop petit, et le processeur ferait des accès à la ram (beaucoup plus lente que le cache) sans arrêt. Donc on en rajoute un deuxième, le L2, qui, sans être aussi performant que le L1, est bien plus rapide que la ram.
Plus le cache est gros, plus il y a de chances pour que l'information recherchée par le processeur soit dedans, et donc qu'il évite d'accéder à la ram. Donc, bien sûr, un gros cache est meilleur, toute autre chose étant égale.