Começou a carreira no programa "Show do Rádio" na Jovem Pan, e se tornou popular fazendo imitações. Em 1979, foi para a Rede Globo, onde trabalhou durante 18 anos. Lá redigiu programas humorísticos e também fez pequenas participações. Kleber foi o primeiro a substituir Chico Anysio no Fantástico e fez as últimas apresentações da Buzina do Chacrinha, antes da morte de Chacrinha. Segundo seus detratores, ele foi demitido da Globo em virtude da amizade que mantinha com o ex-presidente Fernando Collor.

Passou a fazer shows de stand up comedy e acabou sendo contratado pela Rede TV!, onde apresentou o programa "Eu vi na TV", criticado e aclamado por seu mais famoso e polêmico quadro, o "Teste de Fidelidade" ("Fiel ou Infiel", na modificada versão portuguesa, também apresentada por Kléber).

João Kléber também comandou o programa "Tardes Quentes", que inicialmente tinha como objetivo apresentar atrações diferentes a cada dia da semana. Mas o programa acabou se resumindo a exibição de "pegadinhas", onde eram ridicularizados homossexuais, idosos, mulheres e deficientes físicos. Seu programa quase foi o causador do fim da concessão da RedeTV! pois, no dia 24 de outubro de 2005, um grupo de homossexuais entrou na Justiça acusando-o de discriminação, e solicitando a censura a seus programas. Logo em seguida, depois de ter tido seu sinal desligado por um dia, a emissora tirou o "Tardes Quente" do ar, demitiu João Kleber e, obrigada pela Justiça, cedeu o horário do programa para entidades sociais, que levaram ao ar o programa "Direitos de Resposta" por dois meses, até janeiro de 2006. Atualmente a Rede TV! vende o horário antes ocupado por João Kléber para o "bispo" evangélico R.R Soares.

Segundo revistas de fofocas e boatos divulgados por pessoas e grupos que não simpatizam com João Kleber, ele teria sido traído por um dos atores do quadro "Teste da Fidelidade", que se envolveu com sua esposa Wanya Guerreiro, ex-amante de PC Farias e Pedro Collor. João Kleber encarou os fatos como se tivesse caído em uma "pegadinha", mas não escondeu sua decepção.

João Kleber ostenta no Orkut uma das maiores comunidades que segue o estilo "Eu Odeio...", com mais de 150.000 usuários.