A Constituição Federal de 1988 promoveu modificações na estrutura do Poder Judiciário Federal, extinguindo o Tribunal Federal de Recursos - TFR, e criando 5 (cinco) Tribunais Regionais Federais, que representam a segunda instância da Justica Federal: TRF da 1ª Região, com sede em Brasília; TRF da 2ª Região, com sede no Rio de Janeiro; TRF da 3ª Região, com sede em São Paulo; TRF da 4ª Região, com sede em Porto Alegre, e TRF da 5ª Região, com sede em Recife.
Os Tribunais Regionais Federais têm composição variável, com o número de juízes definido em lei, sendo um quinto escolhido entre os advogados com mais de dez anos de efetiva atividade profissional e os membros do Ministério Público Federal, com mais de dez anos de carreira. Os demais magistrados são escolhidos mediante promoção de juízes federais com mais de cinco anos de exercício, por antiguidade e merecimento, alternadamente.
O Tribunal Regional Federal da 4ª Região, com jurisdição sobre os Estados do Rio Grande do Sul, Santa Catarina e Paraná, foi inaugurado no dia 30 de março de 1989, com sede no edifício pertencente à Fundação dos Funcionários da CRT, localizado na Rua Washington Luiz, nº 820, no centro de Porto Alegre, onde permaneceu até 1990, quando mudou-se para sede própria localizada na Rua Mostardeiro, nº 483, no bairro Moinhos de Vento, lá ficando até 2002.
Nesse mesmo período, de 1990 à 2002, o Tribunal foi sendo ampliado, principalmente para acomodação de unidades da administração, passando a ocupar vários espaços alugados em diversos endereços, além de dois andares cedidos no edifício-sede da Seção Judiciária da Justiça Federal do Rio Grande do Sul, situado na Rua Otavio Francisco Caruso da Rocha, nº 600, Bairro Praia de Belas, em Porto Alegre. Nessa época, o Arquivo do TRF4 foi transferido para área alugada na Rua Miguel Couto.
Em dezembro de 2002, o Tribunal mudou-se para sua atual sede, localizada na Rua Otávio Francisco Caruso da Rocha, nº 300, no bairro Praia de Belas, em prédio projetado e construído para atender suas necessidades de funcionamento e centralização, reunindo todos os setores das áreas judicial e administrativa. Com o constante crescimento das demandas judiciais, o espaço físico do prédio-sede tornou-se insuficiente. Assim, está em construção um Prédio Anexo ao TRF4, com 12 Pavimentos.
O TRF 4ª Região iniciou suas atividades recebendo 30 mil processos na manhã do dia 22 de junho de 1989. Deles, 20 mil vieram do recém extinto Tribunal Federal de Recursos. Os processos chegaram à Porto Alegre em caixas de papelão, a bordo de uma carreta escoltada por agentes federais e servidores do próprio Tribunal. A carga foi encaminhada para o 14° andar do edifício Protetora, sede da Justiça Federal do Rio Grande do Sul à época, onde foi conferida e depositada. Tiveram início, assim, os trabalhos de protocolo e conferência dos processos que viriam a ser julgados no TRF da 4ª Região.
Ao longo desse anos, o TRF4 julgou processos envolvendo temas relevantes, que marcaram o cenário social, econômico e político do país, como demarcação de terras indígenas e quilombolas, proteção da Mata Atlântica, indenizações consequentes dos anos de Regime Militar, desapropriações para construções de obras públicas, benefícios previdenciários e crimes do colarinho branco.
Atualmente, grande parte do acervo arquivístico do TRF encontra-se distribuído em dois andares do prédio da Justiça Federal da Subseção de Novo Hamburgo, situado à Rua Bayard de Toledo Mércio, nº 220 – Bairro Canudos, Novo Hamburgo / RS