A trajetória política de João Rodrigues Sampaio Filho iniciou-se em 1971, quando foi nomeado prefeito de Maceió pelo governador Afrânio Lages. João Sampaio foi prefeito da capital no período de 1971 a 1975. Sua gestão foi marcada por grandes obras, destacando-se a urbanização da orla da Pajuçara.
No primeiro governo de Divaldo Suruagy (1975 a 1978), cujo o slogan era: governo da produção, João Sampaio foi Secretário da Agricultura.
Nas eleições de 1978, João Sampaio (ARENA) foi o deputado estadual mais votado naquele pleito com 15.663 votos. A sua grande votação naquela eleição se deve a excelente administração do município de Maceió no período de 1971 a 1975.
No governo de Teobaldo Barbosa (1982 a 1983), João Sampaio foi Secretário de Viação e Obras.
Depois da redemocratização do país, a eleição de 1985 foi a primeira de forma direta em Maceió, depois de 1965. O grupo da situação, que estava no poder desde a década de 60, não tinha grandes divergências e marchou unido com a candidatura de João Sampaio para prefeito e Galba Novaes de Castro para vice.
João Sampaio (PFL) candidato da situação, foi o segundo colocado naquela eleição com 51.481 votos (37,94%). Nas primeiras pesquisas, João aparece em segundo lugar. A sua imagem de grande administrador da Prefeitura de Maceió no período de 1971 até 1975, a máquina estadual e municipal a seu favor, fez João Sampaio assumir a liderança das pesquisas durante quase toda campanha. Na verdade, ele perde a eleição no dia do pleito, pela força da boca de urna do candidato Djalma Falcão (PMDB). Dois fatores contribuíram para a sua derrota: Sampaio representava um grupo que estava vinte anos no poder e o espírito de mudanças que nutria o eleitorado.
Nas eleições de 1986, João Sampaio (PFL) foi candidato a deputado estadual, obtendo 8.300 votos, não logrando êxito, ficando como primeiro suplente da sua coligação. Durante aquela legislatura, assumiu por diversas vezes o mandato em virtude do afastamento do deputado Diney Torres (PFL), que se licenciou para tratamento de saúde.
Nas eleições municipais de 1988 em Maceió, João Sampaio foi candidato a vice prefeito na chapa de Guilherme Palmeira (PFL). A chapa Guilherme/João foi vitoriosa naquele pleito com uma votação de 67.830 votos. João Sampaio assumiu mandato de prefeito em 1990, em virtude da renúncia de Guilherme Palmeira, que deixou o comando da Prefeitura da capital, para ser candidato ao Senado da República nas eleições de outubro daquele ano. João Sampaio também renunciou ao cargo de prefeito de Maceió em dezembro de 1991, pela grave crise financeira que atravessava o município e por problema de saúde. O presidente da câmera de vereadores, Walter Pitombo Laranjeiras (Toroca), assumiu o mandato de prefeito interinamente até março de 1992. O vereador Pedro Vieira foi eleito pelos seus pares, prefeito de Maceió, para concluir os dez meses restantes da administração da cidade.
Após o pleito de 1988, João Sampaio deixou a vida pública e atualmente é reitor do Centro Universitário Cesmac.
