1 of 42

O caso capixaba de avaliação de políticas públicas

II Seminário Fipe-LabPub - 27 de novembro de 2023

Avaliação de políticas públicas e processo orçamentário

Gabriela Lacerda, Gerente Executiva

FGV EESP CLEAR

2 of 42

  1. Panomara internacional da institucionalização da avaliação
  2. O caso capixaba
  3. Lições aprendidas

Agenda

3 of 42

  1. Panomara internacional da institucionalização da avaliação
  2. O caso capixaba
  3. Lições aprendidas

Agenda

4 of 42

Iniciativa Global de Avaliação (GEI)

Sounding Board

A GEI é um uma rede global, coordenada pelo Banco Mundial e pelo Programa das Nações Unidas para o Desenvolvimento (PNUD), que visa atender a demanda crescente por tomada de decisão com base em evidência, por parte de governos, doadores, sociedade civil e financiadores de políticas públicas e programas sociais.

Doadores e co-fundadores:

5 of 42

Os Centros de Aprendizagem em Avaliação e Resultados (CLEAR)�

América Latina

(em processo de escolha de novo centro)

Brasil e África Lusófona

Escola de Economia de São Paulo na Fundação Getulio Vargas (EESP/FGV)

São Paulo (Brasil)

África Francófona

Centro Africano de Estudos Superiores em Gestão (CESAG)

Dakar (Senegal)

África Anglofona

Universidade de Witwatersrand

Joanesburgo (África do Sul)

Ásia do Leste

Instituto de Finança e Desenvolvimento da Ásia e o do Pacífico (AFDI)

Xangai (China)

Ásia do Sul

Instituto de Gestão Financeira e Pesquisa (IFMR-JAPL)

Chennai (Índia)

Nossa missão é promover políticas públicas informada por evidências por meio do fortalecimento de capacidades em M&A

6 of 42

Encontro global de sistemas nacionais de avaliação, organizado pelo PNUD, com mais de 100 países compartilhando suas experiências

Itália, Turin, 2022

Resilient National Evaluation Systems

7 of 42

Panorama internacional da institucionalização da avaliação: década de criação

2000

2010

1990

1970

Canadá

(1969)

Colômbia

(1994)

Chile

(1996)

México

(2006)

África do Sul

(2012)

Nacional

1980

Austrália

(1987)

2020

Costa Rica

(1994)

Benin

(2009)

Brasil

(2019)

Espírito Santo (2017)

Ceará

(2018)

Minas Gerais

(2021)

Niterói

(2021)

Maranhão

(2021)

Subnacional

EC nº 109

(2021)

8 of 42

Brasil: Emenda Constitucional n.º 109 de março de 2021

Art. 37.º, § 16.º: “os órgãos e as entidades da administração pública, individual ou conjuntamente, devem realizar a avaliação de políticas públicas, inclusive com divulgação do objeto a ser avaliado e dos resultados alcançados, na forma da lei”.

Com a EC 109, o Brasil para a integrar o seleto grupo de países com previsão constitucional para avaliação de políticas: Suíça, Alemanha, França, México, Colômbia e Costa Rica.

Fonte: OCDE (2021).

9 of 42

Características dos sistemas nacionais de avaliação

País

Quadro legal

Liderança

Nome do sistema

Ano de criação

Planos de avaliação

Canadá

• Leis

• Decretos

Secretaria do Conselho do Tesouro (TBS): Centro de Excelência para Avaliação (CEE)

Política de Avaliação Governamental

1969

Plano de Avaliação Plurianual (5 anos) e plano de avaliação anual nos departamentos

Australia

• Leis

• Decretos

Ministério das Finanças

-

1987

Planos formais de avaliação de portfólio (PEPs) com horizonte de 3 anos. Todos os programas devem ser avaliados a cada 3-5 anos.

Colômbia

• Constituição

• Leis

• Decretos

Departamento Nacional de Planejamento (DNP): Diretoria de Monitoria e Avaliação de Políticas Públicas (DSEPP)

Sistema Nacional de Avaliação de Gestão e Resultados

(Sinergia)

1994

Agenda anual de avaliação, guias e protocolos�

Costa Rica

• Constituição

• Leis

• Decretos

Ministério de Planejamento Nacional e Política Econômica (Mideplan): Área de Avaliação e Monitoria (AES)

Sistema Nacional de Avaliação (Sine)

1994

Agenda anual de avaliação, guias e protocolos�

Chile

• Leis

• Decretos

Direção de Orçamento do Ministério das Finanças (DIPRES)

Sistema de Avaliação e Controle da Gestão

1996

Plano anual de avaliação

Diretrizes para cada tipo de avaliação

México

• Constituição

• Leis

• Decretos

Ministério das Finanças (SHCP) e Conselho Nacional de Avaliação de Políticas de Desenvolvimento Social (CONEVAL)

Sistema de Avaliação

2006

Plano anual de avaliação, guias e protocolos específicos para cada tipo de avaliação

África do Sul

-

Presidência da República: Departamento de Planejamento, Monitoria e Avaliação

Política Nacional de Avaliação

2012

Plano nacional de avaliação, plano de avaliação nas províncias e plano de avaliação departamental

Brasil

• Constituição

• Leis

• Decretos

Ministério do Planejamento e Orçamento

Conselho de Monitoramento e Avaliação de Políticas Públicas (CMAP)

2019

Agenda anual de avaliação, guias e protocolos�

10 of 42

MONITORAMENTO

Diferenças entre Monitoramento e Avaliação

Organizações ou programas/políticas públicas

Regular, períódica, com pelo menos uma vez ao ano

Órgãos ou unidades responsáveis pelo controle orçamentário, organização e/ou recursos humanos

Órgãos ou unidades administrativas

AVALIAÇÃO

Foco

Tempo

Quem promove?

Quem conduz?

Programas/políticas públicas

Avaliação é pontual

Órgãos ou unidades responsáveis por políticas públicas

Especialistas externos ou unidades internas de avaliação

Fonte: Lazaro, 2015

11 of 42

O que é um sistema

de avaliação?

11

Em um sistema de avaliação, “(…)a avaliação faz parte do ciclo regular de vida de políticas e programas públicos, e é conduzida de maneira metodologicamente rigorosa e sistemática, na qual seus resultados são utilizados por tomadores de decisão e gerentes políticos, e esses resultados também são disponibilizados ao público”. Os sistemas de avaliação são uma função dos valores, práticas e instituições (...).”

(Lazaro, 2015, p. 16)

12 of 42

  1. Panomara internacional da institucionalização da avaliação
  2. O caso capixaba
  3. Lições aprendidas

Agenda

13 of 42

Espírito Santo

Sistema de Monitoramento e Avaliação

de Políticas Púbicas (Simapp)

14 of 42

ESPÍRITO SANTO

Governança do sistema de

M&A do Espírito Santo

12 avaliações realizadas:

Ciclos 2018, 2019, 2020, 2021, 2022

4 Guias de M&A lançados:

Monitoramento

Avaliação ex ante

Avaliação ex post

Avaliação executiva

Lei nº. 10.744/2017

Guias de M&A do Espírito Santo

15 of 42

O CASO DO ESPÍRITO SANTO

Iniciativa pioneira no Brasil

16 of 42

Espírito Santo:

referência em gestão pública orientada para resultados…

… porém, as políticas não eram avaliadas.

Apenas algumas avaliações de forma pontual.

Começa então o interesse em aprimorar a gestão, incorporando ferramentas de avaliação na tomada de decisão.

17 of 42

Parcerias

para a construção do Sistema de M&A do ES

18 of 42

O Caso do Espírito Santo

Sistema de M&A pioneiro no Brasil, criado pela Lei nº 10.744 de 05 de outubro de 2017.

Busca por experiências e aprendizados internacionais, como Chile e Reino Unido.

Ferramentas de M&A criadas dentro do ciclo de planejamento e orçamento, de maneira coordenada e articulada.

Foco na melhoria da qualidade do gasto público e no aperfeiçoamento das políticas.

19 of 42

Governança

20 of 42

Etapas

Sistema de M&A do ES

1. Planejamento

2. Execução

3. Uso dos resultados

21 of 42

Etapas

Sistema de M&A do ES

1. Planejamento

1.1 Definição de áreas prioritárias pelo Governador

1.2 Seleção das políticas

1.3 Desenho das avaliações

1.4 Aprovação de Plano Anual de M&A por Comitê Estratégico e publicação por meio de Decreto Estadual pelo Governador até 30 de março

1.5 Elaboração e formalização dos termos de referência pelo Núcleo de Monitoramento e Avaliação (Numa)

22 of 42

Etapas

Sistema de M&A do ES

2.1 Realização das avaliações pelo Centro de M&A, criado dentro do Instituto Jones dos Santos Neves

2.2 Formação de Comitê Técnico para acompanhamento das avaliações

2.3 Aprovação das avaliações por Comitê Científico da Fundação de Amparo à Pesquisa

2.4 Plano de trabalho das políticas avaliadas: Secretaria de Planejamento e Economia revisa o orçamento com base nas avaliações e acompanha os ajustes nas políticas por meio de plano de trabalho com os órgãos finalísticos

2. Execução

23 of 42

Etapas

Sistema de M&A do ES

2.1 Publicação dos resultados: o Governo apresenta o Relatório Anual sobre avanço na qualidade do gasto público 15 meses após a publicação do Plano de M&A, divulgando os resultados das avaliações e classificando as políticas quanto ao seu desempenho

2.2 Transparência: a lei também prevê que os resultados das avaliações sejam publicados em meio oficial, em consonância com o princípio da transparência e da publicidade

3. Uso dos resultados

24 of 42

Linha do tempo

Sistema M&A - ES

V

V

V

Concepção e modelagem do Sistema; realização de piloto de avaliação.

2016

2017

Lançamento do Sistema de M&A (Simapp): Lei 10.744; e Curso Introdução ao M&A (parceria FGV Clear).

2018

1º Ciclo Anual de M&A (8 políticas escolhidas); Curso Avançado em Avaliação (parceria FGV Clear); e Lançamento de Guias de Avaliação (parceria FGV Clear).

2019

2º Ciclo Anual de M&A (2 políticas escolhidas); e Lançamento da Trilha de Aprendizagem em Avaliação com a Escola de Governo.

Desenho

Criação

Implementação

Continuidade

Mudança de Governo

25 of 42

Ciclos anuais

Sistema de M&A do ES

2018

2019

2020

2021

13 programas selecionados

2022

2023

26 of 42

Ferramentas de M&A estabelecidas

Sistema de M&A do ES

Monitoramento

Seleção de indicadores

Coleta de dados

Definição de metas

Utilização da informação

Criação de incentivos para a utilização da informação

Ex-ante

Diagnóstico do problema

Desenho da política

Projeto de implementação

Análise de riscos

Plano de monitoramento

Plano de avaliação

Análise de custos

Avaliação de desenho

Avaliação de processos

Avaliação de impacto

Avaliação de custo benefício e custo efetividade

Análise Executiva

Caracterização da política

Diagnóstico do problema

Desenho

Processos

Percepção dos beneficiários

Resultados da política

Análise crítica

Recomendações

Ex-post

27 of 42

Guias para Avaliar Políticas Públicas

Avaliação Ex ante

Volume I

Monitoramento

Volume II

Avaliação Executiva

Volume III

Avaliação Ex post

Volume IV

28 of 42

Acertos

Sistema de M&A do ES

  • Liderança Política
  • Cultura de gestão voltada a resultados
  • Vinculação com ciclo orçamentário
  • Sem excesso de engenharia (simplificado)
  • Sustentabilidade (legislação e engajamento intergovernamental)
  • Desenvolvimento contínuo de capacidades
  • Baixo custo

Palácio Fonte Grande, Vitória-ES, Brasil

29 of 42

MINAS GERAIS

Sistema Estadual de M&A de Políticas Públicas - SAPP/MG

Decreto nº. 48.298/2021

Plano Anual de Monitoramento e Avaliação

Relatório Anual de Compromisso com o Valor Público

Ciclo 2022 - 9 programas

Ciclo 2023 - 7 programas

Guias

Plano Anual de M&A e Relatório Anual

30 of 42

NITERÓI

Decreto nº. 14.250/2021

Plano Bianual de Avaliação

Pesquisa Municipal por Amostra de Domicílios

Ciclo 2022-2023

31 of 42

32 of 42

33 of 42

  1. Panomara internacional da institucionalização da avaliação
  2. O caso capixaba
  3. Lições aprendidas

Agenda

34 of 42

Características de sistema de avaliação bem sucedido

  • Liderança e compromisso político
  • Capacidade de produzir e analisar as evidências
  • Capacidade de exigir e usar evidências
  • Sustentabilidade ao longo do tempo

Cabo Verde, Praia, 2022

Assinatura do Memorando de Entendimento (MoU) pelo Vice Primeiro Ministro e Ministro das Finanças e o CLEAR LAB

Dimensão política

Dimensão técnica

+

Moçambique, Maputo, 2022

Grupo de Trabalho Subsistema de M&A

35 of 42

Lições aprendidas

  • Aprender com as melhores práticas internacionais é útil não apenas para implementar práticas que funcionaram em outros lugares, mas também para obter legitimidade entre funcionários do governo e a sociedade civil;

  • O CLEAR desempenhou um papel importante na facilitação da aprendizagem sul-sul devido à sua rede internacional.

36 of 42

Lições aprendidas

  • Aprender com os outros nem sempre é simples: a heterogeneidade entre países é frequentemente um problema. Ela se apresenta em diferentes aspectos:
    • Leis
    • Competências do pessoal do setor público
    • Cultura
    • Natureza da demanda

37 of 42

Lições aprendidas

  • Aprender com outras experiências no mesmo país pode ser mais fácil, já que instituições e governos nos mesmos países enfrentam restrições e a mesma cultura semelhantes.

  • Importância de capilaridade e sentimento de dono dos atores locais para a sustentabilidade dessas iniciativas.

38 of 42

Oportunidades

  • O país já possui algumas experiências de institucionalização de M&A que podem ser sistematizadas e organizadas para futuros aprendizados.

39 of 42

Brasil, Espírito Santo, 2017

Lançamento do Sistema de M&A

Brasil, Minas Gerias, 2022

Lançamento do Plano Anual de M&A

Brasil, Niterói, 2022

Lançamento do Sistema de Avaliação

Moçambique, Maputo, 2022

Seminário Manual de M&A

Cabo Verde, Praia, 2022

MoU para Sistema e capacidades em M&A

40 of 42

Lopez-Acevedo e Krause

World Bank, 2012

"Para que as avaliações sejam úteis, elas devem ser usadas”

41 of 42

/fgv-eesp-clear

/fgv_clear

/fgvclear

Obrigada

Gabriela Lacerda

Gerente Executiva

gabriela.lacerda@fgv.br

42 of 42

Sobre o FGV EESP CLEAR

O Centro de Aprendizagem em Avaliação e Resultados para a África Lusófona e o Brasil (FGV EESP CLEAR) foi estabelecido em 2015 e é um dos seis centros regionais da Iniciativa Clear, todos sediados em instituições acadêmicas de relevância internacional no sul global.

Os centros CLEAR fazem parte da Iniciativa Global de Avaliação (GEI), uma rede global, coordenada pelo Banco Mundial e pelo Programa das Nações Unidas para o Desenvolvimento (PNUD), que visa atender a demanda crescente por tomada de decisão com base em evidência, por parte de governos, doadores e financiadores de políticas públicas e programas.

O FGV PESP CLEAR tem sede no Brasil, na Escola de Economia de São Paulo (EESP) da Fundação Getulio Vargas (FGV), e é associado ao Centro de Estudos em Microeconomia Aplicada (C-Micro). Além do Brasil, atua em Angola, Cabo Verde, Guiné Bissau, Moçambique e São Tomé. Possui uma maneira única de fortalecer capacidades em M&A por meio da colaboração com parceiros locais, incluindo agências governamentais, instituições acadêmicas e terceiro setor.

O FGV EESP CLEAR atua em quatro principais eixos na área de M&A que contemplam (i) desenvolvimento da cultura de tomada de decisão com base em evidências, apoiando a implementação de sistemas próprios de M&A; (ii) fortalecimento de habilidades em M&A por meio da realização de cursos e capacitações técnicas; (iii) geração de conhecimento em M&A, produzindo informações e evidências por meio de estudos e pesquisas; (iv) disseminação de conhecimento em M&A na qual difunde conhecimento técnico da área de forma acessível a profissionais e estudantes.

Nossos principais clientes e parceiros estratégicos são governos nacionais e subnacionais, sociedade civil, setor privado e outros desenvolvedores de capacitação em M&A.

(i) Desenvolvimento da cultura de tomada de decisão com base em evidências

(ii) Fortalecimento de habilidades em M&A

(iii) Geração de conhecimento em M&A

(iv) Disseminação de conhecimento em M&A

Linhas de atuação

Clientes