Pendant ce temps, la chanson The Sound of Silence, tirée de l'album Wednesday Morning, 3 A. M., connaît un grand succès, notamment grâce à l'ajout d'arrangements électroniques à la version acoustique. Paul Simon retourne alors aux États-Unis, où le groupe se reforme une nouvelle fois pour enregistrer de nouveaux titres dans le même style. Ainsi, ils enregistrent à deux voix leur premier album, de nouveaux tubes, comme la réédition de I Am A Rock, Leaves That Are Green, ou Anji, à partir de laquelle ils enregistreront Somewhere They Can't Find Me, en ajoutant une mélodie par dessus la guitare, et en utilisant les paroles de la chanson éponyme de leur premier album, Wednesday Morning, 3am. En 1966, l'album Sounds of Silence apparaît dans les hit-parades, grâce notamment à la réédition du titre à succès du même nom.
En 1966, Simon et Garfunkel reprennent Scarborough Fair, qu'ils arrangent et font apparaître sur leur album Parsley, Sage, Rosemary and Thyme. L'album propose également d'autres tubes, tels que Homeward Bound, bien qu'enregistré fin 1965 et prévu sur l'album Sounds Of Silence, The 59th Street Bridge Song (Feeling Groovy), ou encore For Emily, Whenever I May Find Her, qui met en avant l'époustouflante voix de Garfunkel.
En 1967, ils composent la bande originale du film Le Lauréat (The Graduate) de Mike Nichols. L'album arrive en tête du hit-parade en 1968, notamment grâce au tube Mrs. Robinson, récompensé aux Grammy Awards de 1969. Ce titre, alors inachevé, est alors réenregistré dans l'album Bookends en 1968, dans lequel figure d'autres titres célèbres tels que America, At The Zoo.
Les relations au sein du duo deviennent tendues. L'album Bridge over Troubled Water, sorti en 1970, est leur dernier ensemble, malgré un succès remarquable : n° 1 des ventes pendant six semaines, et plusieurs Grammy Awards en 1971. L'album contient des titres qui marqueront définitivement le groupe : le titre du même nom que l'album, où Garfunkel montre de nouveau ses incontestables talents vocaux, The Boxer, enregistré en 1968, où Simon met en avant sa capacité à composer de magnifiques mélodies, un accompagnement envoûtant à la guitare, et des paroles poétiques, où il montre la vérité d'une méthode magistrale. Paul Simon et Arthur Garfunkel se séparent fin 1971, alors même que les ventes de leur album Greatest Hits, paru en 1972, s'envolent. Simon s'engage dans une carrière solo, et Garfunkel se dirige vers le cinéma. Le duo enregistrera encore une chanson en 1975, My Little Town, qui paraîtra à la fois sur l'album de Paul Simon Still Crazy After All These Years et celui de Art Garfunkel, Breakaway.
Par la suite, Simon et Garfunkel reforment leur duo à plusieurs reprises pour des concerts exceptionnels, comme le 19 septembre 1981 pour un concert gratuit à Central Park qui réunit 500 000 personnes, ou en 2003 pour l'ouverture des Grammy Awards, où ils sont récompensés pour leur contribution de plus de quatre décennies à la musique populaire. En 2004, un double CD-DVD intitulé Old Friends: Live on Stage immortalise la tournée Old Friends Tour en 2003 à travers les États-Unis et l'Europe, reprenant tous les standards qui font leur succès depuis 40 ans. Ils repartiront en tournée à travers l'Asie et l'Océanie à partir du 13 juin 2009 et en Amérique du Nord à partir du 24 avril 2010. Leur tournée en Amérique du Nord est cependant suspendue en raison des problèmes vocaux d'Arthur Garfunkel.


bravos papou moi aussi je l'adore