dezembro 2019 – Darwinianas

Um dos principais desafios das sociedades contemporâneas é a gestão responsável da pesquisa e inovação. Por gerar novos modos de vida em sociedade, a pesquisa e a inovação devem ter uma governança responsável. Afinal, a compreensão das relações entre ciências, tecnologias, sociedades e ambientes leva a um entendimento de que ciências e tecnologias não são constituídas apenas tecnicamente, mas também social e politicamente. De um lado, determinantes sociopolíticos afetam os caminhos das ciências e tecnologias; de outro, estas últimas levam a outros modos de existência social e política, como nosso tempo presente mostra com clareza. Embora frequentemente vistas como meios de controlar a natureza, há um outro lado nas ciências e tecnologias: elas podem, paradoxalmente, aumentar nossos sentimentos de incerteza e ignorância. Isso porque podem ter impactos não-previstos, potencialmente prejudiciais, assim como capazes de transformar nossos modos de vida.

É necessária fundamentação teórica para a compreensão da pesquisa e inovação responsáveis. Na postagem de hoje, discuto uma proposta para tal fundamentação, elaborada por Jack Stilgoe, Richard Owen e Phil Macnaghten, em artigo influente (1165 citações no Google Scholar®) publicado há seis anos no periódico Research Policy. Esta fundamentação se baseia em quatro dimensões integradas da inovação responsável: antecipação, reflexividade, inclusão e responsividade.

Na segunda metade do século XX, o poder das tecnologias relacionadas (frequentemente de maneiras complexas) com as ciências, sua capacidade de mudar nossas vidas, seus potenciais crescentes de produzir tanto benefícios quanto riscos, ampliaram os debates sobre as responsabilidades de cientistas (e de outros agentes de inovação, por exemplo, órgãos de fomento à pesquisa e corporações) para além de abordagens anteriores. No caso dos cientistas, esses debates colocaram em xeque visões convencionais que tendem a ver as ciências apenas como emancipatórias (podendo perder de vista os riscos ou a distribuição desigual dos benefícios da pesquisa) e os cientistas como autônomos em suas decisões (podendo negligenciar determinantes como os valores e interesses dos cientistas e de seus financiadores). A resposta de parte da comunidade científica tem sido resistir a essas tendências e buscar preservar um ideal de autonomia nas decisões sobre a pesquisa. Mas parte da comunidade científica abraçou uma discussão sobre a responsabilidade dos cientistas que vai além do reconhecimento e da negociação sobre condutas responsáveis em seus papeis profissionais.

Essas visões ampliadas sobre a responsabilidade dos cientistas podem ser expressas em termos de três formas de responsabilidade: responsabilidade 1.0 – integridade e produção de conhecimento confiável; responsabilidade 2.0 – ciência para a sociedade; responsabilidade 3.0: ciência com e para a sociedade. Pesquisa e inovação responsáveis se vinculam à responsabilidade 3.0. Esta forma de responsabilidade parece mais capaz de produzir, para fazer referência a um livro muito interessante organizado por Boaventura de Sousa Santos, um conhecimento prudente para uma vida decente.

O que é inovação responsável

Inovação responsável significa, para Stilgoe e colaboradores, “cuidar do futuro através da gestão coletiva da ciência e da inovação no presente”. Ela deve ser responsiva a um conjunto de questionamentos importantes em debates públicos sobre novas áreas científicas e tecnológicas, que são tipicamente colocados para cientistas ou que o público gostaria que os cientistas se perguntassem. A Tabela 1 sumaria essas questões, conforme sistematizadas por Macnaghten e Chilvers em termos de sua relação com produtos, processos ou propósitos da inovação, a partir de 17 debates públicos sobre ciência e tecnologia no Reino Unido. Considerar esses questionamentos é um importante passo para ir além de uma governança da ciência e inovação convencional, que foca sobre questões de produtos apenas, obscurecendo áreas de incerteza e ignorância acerca tanto dos riscos quanto dos benefícios. A inovação responsável pode ser entendida como uma maneira de incorporar a deliberação sobre essas questões no próprio processo de inovação.

Tabela 1: Linhas de questionamento sobre inovação responsável

Questões sobre produtos	Questões sobre processos	Questões sobre propósitos
Como riscos e benefícios serão distribuídos?	Como padrões devem ser desenhados e aplicados?	Por que os cientistas estão fazendo isso?
Que outros impactos podemos antecipar?	Como riscos e benefícios devem ser definidos e mensurados?	Essas motivações são transparentes e em prol do interesse público?
Como esses impactos poderiam mudar no futuro?	Quem está no controle?	Quem se beneficiará?
O que não sabemos a respeito?	Quem está participando?	O que eles irão ganhar?
O que não poderíamos jamais saber a respeito?	Quem assumirá a responsabilidade se as coisas derem errado?	Quais são as alternativas?
	Como podemos saber se estamos certos?

Para cientistas que abraçam tal visão ampliada de suas responsabilidades, são muitos os desafios, em especial quando não temos formação para lidar com vários aspectos consideravelmente complexos de uma ciência que é feita com e para a sociedade. Por isso, fundamentações como aquela proposta por Stilgoe e colaboradores são muito úteis. Um avanço importante incorporado nessa proposta é não focar apenas nos produtos da ciência e inovação, ou apenas nos riscos e prejuízos de tais produtos. Assim, busca-se ir além de regulamentações baseadas no risco dos produtos da inovação, embora sem deixar de lado esse aspecto. As ciências e tecnologias tipicamente transbordam para além das fronteiras dos marcos regulatórios existentes, bem como para além de nossa capacidade de pensar riscos e benefícios a partir de nossas experiências passadas. Precisamos de mais do que uma abordagem retrospectiva da responsabilidade, na medida em que, na inovação, o passado e o presente podem não oferecer uma orientação razoável para o futuro.

Como comentam Michel Callon, Pierre Lascoumes and Yannick Barthe, necessitamos de novos “fóruns híbridos” que enriqueçam e expandam nossas democracias, tornando-as mais capazes de absorver debates e controvérsias em torno de ciência e tecnologia. Essas controvérsias mostram que preocupações públicas não podem limitar-se aos riscos dos produtos da inovação, mas devem estender-se para os propósitos e as motivações da pesquisa, as direções da inovação, a emergência de novos sistemas sociotécnicos, a distribuição dos benefícios, entre muitos outros aspectos. Deve-se, assim, passar de uma regulamentação baseada apenas no risco para dimensões de responsabilidade orientadas para o futuro, marcadas pelo cuidado e pela responsabilidade com nossas vidas coletivas e com o planeta, com maior potencial de acomodar a incerteza e de promover reflexões sobre valores, propósitos, justiça.

Trata-se de buscar, numa palavra, uma nova governança científica, ou, dito em outras palavras, um novo contrato social entre ciência e público. Para tanto, é preciso abrir novos espaços de diálogo público sobre ciência e inovação. A pesquisa e inovação responsáveis devem trafegar por esses espaços de diálogo público, buscando produzir conhecimento com e para a sociedade. Os quatro pilares da proposta de Stilgoe e colaboradores – antecipação, reflexividade, inclusão e responsividade – fornecem bússolas muito úteis para cientistas que se põem a navegar no espaço entre pesquisa e implementação. Estes cientistas não devem manter suas práticas científicas como antes, porque, tudo o mais sendo igual, não fornecerão orientações e procedimentos suficientemente robustos e confiáveis para a prática transdisciplinar que a responsabilidade 3.0 demanda. Trata-se de reconfigurar nossas práticas para conseguir prosseguir nessa navegação. Como? Uma contribuição relevante para respondermos a essa pergunta pode ser dada a partir dos quatro pilares citados, que fornecem uma moldura teórico-prática para colocar e discutir os questionamentos na Tabela 1.

Mas antes de dedicar-me a tratar desses pilares, cabe uma palavra sobre o uso do adjetivo “responsável”, na medida em que pode sugerir alguma acusação a colegas na comunidade científica que seriam supostamente “irresponsáveis”. Essa inferência não procede, contudo, porque ela erra no foco de análise. O que está em foco são responsabilidades políticas coletivas, ou corresponsabilidades, de cientistas, financiadores da pesquisa, inovadores e outros, e não alguma forma de responsabilidade individual. Não são esses diversos atores que poderiam ser, individualmente, acusados de irresponsabilidade. Tratam-se, antes, de sistemas complexos e acoplados de ciência e inovação que criam o que Ulrich Beck chamou de “irresponsabilidade organizada”. Tratam-se de aspectos de tais sistemas que levam a quatro categorias de inovação irresponsável identificadas por René von Schomberg, que incluem, por exemplo, a negligência de princípios éticos e a falta de precaução e prevenção. Não se trata, então, de diagnosticar responsabilidades ou irresponsabilidades em cientistas individuais, mas de desenvolver sistemas que favoreçam escolhas responsáveis, no presente e no futuro, através da antecipação e da obtenção de conhecimentos sobre as possíveis consequências das ciências e tecnologias, assim como do desenvolvimento de capacidades de responder a tais consequências.

Pilares da inovação responsável

A primeira dimensão da inovação responsável identificada por Stilgoe e colaboradores é a antecipação. As implicações de novas tecnologias frequentemente não são previstas e análises baseadas em riscos costumam fracassar na tentativa de fornecer indicações precoces de seus efeitos futuros. A antecipação implica a colocação de questões da forma “e se…?” por pesquisadores e organizações, levando-os a considerar contingências, o que sabemos, o que é provável, o que é plausível, o que é possível. Ela permite gerar expectativas que servem não apenas para realizar previsão, mas também para moldar futuros possíveis e desejáveis, e organizar recursos para alcançar estes últimos. A participação é fundamental para uma prática de antecipação que aumente a resiliência dos processos de inovação e dos futuros desejados. Há uma tensão entre a previsão, que tende a reificar futuros particulares, e a participação, que tende a abrir possibilidades novas de antecipação. Entre os métodos que podem ser usados na antecipação, temos o planejamento de cenários (que devem ser plausíveis) e a avaliação de visões (vision assessment). Esses métodos se mostram mais eficientes com um engajamento público desde estágios precoces de um processo de inovação (o que tem sido denominado upstream public engagement). Este último aspecto é muito importante: processos antecipatórios devem ser bem situados no tempo, porque devem ser suficientemente precoces para que sejam construtivos e suficientemente tardios para que sejam significativos. Dessa maneira, eles criam maiores possibilidades de se compreender a dinâmica da promessa que molda cenários futuros.

A reflexividade é a segunda dimensão considerada por Stilgoe e colaboradores, que argumentam que responsabilidade requer esse atributo dos agentes e das organizações. É comum entre os cientistas a ideia de que a reflexividade significa a crítica mútua como princípio organizacional das ciências. De fato, este é um significado importante de reflexividade. Contudo, não é suficiente. É necessária reflexividade ao nível das práticas institucionais, o que significa analisar sistematicamente as próprias atividades, compromissos e suposições, mas também ter consciência dos limites do conhecimento (especialmente, considerando-se a complexidade dos sistemas naturais e a incerteza inerente ao nosso entendimento deles, seja qual for sua natureza, seja científico ou não), assim como de que um enquadramento particular de um problema pode não ter acordo de todas as partes interessadas. Para além da crítica profissional exercida pelos cientistas, a responsabilidade torna a reflexividade um assunto público, que deve envolver não somente laboratórios, mas também órgãos de fomento e regulação, partes interessadas, o público e outros agentes e instituições envolvidas na governança da ciência e inovação. Os órgãos de fomento, por exemplo, devem ter a responsabilidade não somente de refletir sobre seus próprios sistemas de valores, mas também de fomentar a capacidade reflexiva nas práticas de ciência e inovação. Entre os métodos que podem promover reflexividade, temos, por exemplo, a elaboração de códigos de conduta e práticas de reflexão dentro dos laboratórios, acerca do contexto socio-ético do trabalho científico, envolvendo frequentemente participação de cientistas sociais e filósofos.

Um terceiro pilar é a inclusão de novas vozes na governança da ciência e inovação, como parte da construção de legitimidade. Entre os processos de diálogo público utilizados com esse propósito, temos conferências de cidadãos (consensus conferences), júris de cidadãos, mapeamento deliberativo, votação deliberativa, assim como oficinas participativas e grupos focais, parcerias de múltiplas partes interessadas, inclusão de membros do público em comitês científicos consultivos e outros mecanismos híbridos que tentam diversificar as contribuições para a governança da ciência e inovação. Ao comprometer-se com a inclusão em tal governança, não se deve perder de vista uma série de aspectos, por exemplo, o de que processos de inclusão implicam consideração de questões relativas ao poder. Eles suscitam, por exemplo, preocupações quanto a efeitos de enquadramento (framing effects) que podem fazer com que processos de diálogo reforcem relações preexistentes de poder profissional e modelos do público baseados em déficit (por exemplo, em sua compreensão do que está em pauta nos debates sobre ciência e inovação). Além disso, a variabilidade das práticas de governança inclusiva e de seus impactos sobre políticas públicas tem levado, por exemplo, a críticas e demandas de maior clareza quanto aos métodos de participação, aos propósitos de seu uso e aos critérios para sua avaliação. Contudo, ao tecer tais críticas, deve-se ter o cuidado, ao exigir que sejam satisfeitos princípios ideais, de não perder de vista variedades de engajamento que são menos do que perfeitas, mas, ainda assim, são de alguma maneira boas. Tampouco se deve negligenciar a natureza dos processos participativos como modalidades de experimentação coletiva e em andamento.

Ademais, critérios de qualidade do diálogo público têm sido desenvolvidos e podem ser empregados para avaliar processos participativos. Callon e colaboradores, por exemplo, propõem três critérios: intensidade – quão cedo membros do público são consultados e quanta atenção é dada à composição do grupo de discussão; abertura – quão diverso é o grupo e quem está representado; e qualidade – a seriedade e continuidade da discussão. Deve haver espaço, também, para que público e partes interessadas questionem o próprio enquadramento do diálogo e os processos de participação, e não somente os problemas e as soluções particulares postas em discussão. Tomados os devidos cuidados, processos de engajamento público na governança da ciência e inovação podem ser considerados legítimos, especialmente se seus objetivos forem modestos e se as suposições e os compromissos subjacentes a eles estiverem, eles próprios, abertos ao escrutínio público.

Por fim, a responsividade é um quarto pilar da ciência e inovação responsáveis. A inovação responsável demanda a capacidade de mudança em resposta às contribuições, aos valores, às expectativas do público e das partes interessadas, bem como em resposta a circunstâncias mutáveis e à insuficiência do conhecimento e do controle. Há vários mecanismos que tornam a inovação responsiva aos demais pilares considerados por Stilgoe e colaboradores, antecipação, reflexividade e inclusão. Por exemplo, aplicação do princípio da precaução, de moratórias (por exemplo, de uso de uma inovação antes de uma melhor compreensão de suas implicações) e de códigos de conduta pode ser apropriada num conjunto de casos. O emprego de design sensível a valores pode ser útil em outros casos, por criar a possibilidade de incorporar determinados valores éticos nas tecnologias.

A promoção da diversidade na gestão da ciência e da inovação é outro elemento importante da responsividade. Isso requer a análise de tensões e mecanismos de governança dentro dos processos de financiamento da pesquisa, de garantia de propriedade intelectual e de estabelecimento de padrões tecnológicos, que frequentemente fecham a inovação de determinadas maneiras, em vez de abri-lo à participação diversa. Entre os fatores que podem aumentar a responsividade institucional, temos: uma cultura de política científica deliberativa; ênfase sobre aprendizagem reflexiva e sobre a própria responsividade; cultura organizacional aberta, enfatizando inovação, criatividade, interdisciplinaridade, experimentação e coragem de assumir riscos; compromisso com engajamento e interesse públicos. Todos esses aspectos têm importância na busca por superar uma “lógica de não-responsividade” que tem sido frequente na governança da ciência e inovação, especialmente quando pesquisa e desenvolvimento são vinculadas ao crescimento econômico sem um questionamento de “qual pesquisa” e “qual desenvolvimento” seriam desejáveis.

Por fim, devemos considerar que esses pilares não devem ser vistos separadamente, mas integrados e incorporados na governança da ciência e inovação. Eles devem, ademais, ser apropriadamente conectados a culturas e práticas de governança. As dimensões acima podem se reforçar mutuamente: por exemplo, maior reflexividade tende a promover maior inclusão, e vice-versa. Contudo, eles também podem estar em tensão e gerar conflitos: por exemplo, antecipação pode gerar maior participação, mas também pode sofrer resistência da parte de cientistas que buscam defender sua autonomia, ou seus compromissos prévios com determinadas trajetórias de inovação. Trazer à tona tais tensões e, assim, colocá-las em negociação são passos importantes para tornar responsiva a inovação responsável. Trata-se, em suma, de integrar as dimensões e estratégias para inovação responsável numa abordagem de governança coerente e legítima, explorando o que conta como inovação responsável no nível macro das políticas públicas, no nível micro do laboratório de pesquisa e no nível meso das estruturas e práticas institucionais que conectam os níveis precedentes.

Uma estratégia que permite trabalhar de modo integrado com dimensões da inovação responsável é a chamado stage-gating, um mecanismo bem estabelecido de desenvolvimento de novos produtos, que divide o processo de pesquisa e desenvolvimento em estágios discretos, separados por pontos de decisão, nos quais a progressão ao longo dos estágios se baseia no cumprimento de determinados critérios. Convencionalmente, esses critérios são baseados em considerações técnicas e de potencial mercadológico. Contudo, o processo de stage-gating pode ser adaptado para incluir critérios de inovação responsável.

Para um projeto de geo-engenharia, Stilgoe e colaboradores usaram os seguintes critérios para decisão sobre cada estágio do processo de pesquisa e desenvolvimento: 1. Riscos identificados, gerenciados e tornados aceitáveis (dimensão: reflexividade); 2. Compatibilidade com regulamentações relevantes (dimensão: reflexividade); 3. Comunicação clara da natureza e dos propósitos do projeto (dimensão: reflexividade, inclusão); 4. Aplicações e impactos descritos e mecanismos colocados em ação para revisão a seu respeito (dimensão: antecipação, reflexividade); 5. Mecanismos para compreender visões do público e de partes interessadas identificados (dimensão: inclusão, reflexividade). Um painel independente de avaliação do projeto tomou decisões, então, acerca da progressão ao longo dos estágios. Os critérios de decisão nos estágios 1 e 2 não estão relacionados a uma noção orientada para o futuro, prospectiva de responsabilidade, enquanto os critérios 3-5 se ocupam de questões e impactos potenciais mais amplos, associados com enquadramento da pesquisa, abordagens de comunicação, relações com diálogo público e problemas relacionados a desdobramentos futuros.

O processo de stage-gating como um todo correspondeu a uma prática de responsividade, com um grau relevante de reflexividade institucional. As ambições eram apropriadamente modestas. O processo aumentou a abertura da discussão sobre governança de ciência e inovação no contexto complexo de um projeto de geo-engenharia, trazendo à tona tensões, enquadramentos, suposições implícitas, aspectos contestados, valores e compromissos. Ele permitiu, ainda, que os cientistas e membros do painel independente e do órgão de fomento antecipassem impactos, aplicações e problemas previamente não explorados. Ao longo do processo, surgiram evidências de uma cultura de pesquisa e inovação mais reflexiva e deliberativa.

Esta experiência sugere a pertinência de investigar a aplicabilidade de processos de stage-gating para o uso integrado de dimensões de inovação responsável – antecipação, reflexividade, inclusão e responsividade – em iniciativas que não se vinculam a tecnologias emergentes, a exemplo da geo-engenharia, mas a outros processos inovadores que demandam diálogo público e responsabilidade na realização de pesquisa e inovação para e com a sociedade. Nós estamos iniciando a exploração, por exemplo, dessas dimensões da inovação responsável e do processo de stage-gating em processo de criação de unidades de conservação. Esta decisão é um resultado de uma compreensão de que novas práticas são necessárias para que naveguemos no espaço de pesquisa e implementação com a devida prudência e responsabilidade social. Não se trata, contudo, de aplicar alguma moldura teórica como se fosse uma resposta pronta de governança, mas antes como um espaço de construção fértil de uma abordagem de pesquisa e inovação responsáveis, que possa promover aprendizagem social e potencializar a agência coletiva de uma diversidade de partes interessadas.

Charbel N. El-Hani

Instituto de Biologia/UFBA

PARA SABER MAIS:

Callon, M., Lascoumes, P. & Barthe, Y. (2009). Acting in an Uncertain World: An Essay on Technical Democracy. Cambridge, MA: MIT Press.

Irwin, A. (2006). The politics of talk: coming to terms with the ‘new’ scientific governance. Social Studies of Science 36: 299–330.

Irwin, A., Jensen, T. & Jones, K. (2013). The good, the bad and the perfect: criticizing engagement practice. Social Studies of Science 43: 118–135.

Macnaghten, P. & Chilvers, J. (2013). The future of science governance: publics,policies, practices. Environment and Planning C: Politics and Space 32: 530-548.

Owen, R., Bessant, J. & Heintz, M. (Eds.). (2013). Responsible Innovation: Managing the Responsible Emergence of Science and Innovation in Society. London: Wiley.

Stilgoe, J., Owen, R. & Macnaghten, P. (2013). Developing a framework for responsible innovation. Research Policy 42