Após implante cerebral, quem decide o que é pensamento

Um dispositivo criado para devolver a fala a alguém com síndrome de encarceramento pode, um dia, virar a mesma ferramenta que audita seus pensamentos no trabalho. Foi essa tensão que levou Rachel Sava, doutoranda do programa conjunto Harvard-MIT em Ciências e Tecnologia da Saúde, a vencer o prêmio Envisioning the Future of Computing, do MIT, com o ensaio “Superintelligence, Superintimate”. A neurotecnologia é o conjunto de dispositivos que leem ou interagem diretamente com a atividade cerebral, como implantes e decodificadores neurais, e ela está, segundo Sava, num momento decisivo: o intervalo entre a promessa médica e o risco de vigilância ainda pode ser fechado, mas não por muito tempo. Se você pesquisa IA, saúde ou políticas científicas, esse é um caso concreto de como a ética precisa entrar antes da tecnologia, não depois.

O que aconteceu

O prêmio é organizado pela iniciativa Social and Ethical Responsibilities of Computing (SERC), da MIT Schwarzman College of Computing, em parceria com a School of Humanities, Arts, and Social Sciences. A proposta do edital era simples de enunciar e difícil de responder: em até 3.000 palavras, qual setor tem o maior potencial de ganho líquido com inteligência artificial, considerando riscos e implicações éticas desde o início?

Sava conta que sua inspiração veio de um estágio na IBM, num projeto com o PACE Center em Londres. Ali ela trabalhou ao lado de Kevin Brown, que havia construído um dos primeiros decodificadores cerebrais da história: um sistema baseado em EEG feito para um colega que teve um AVC e ficou com síndrome de encarceramento (a pessoa mantém a consciência plena, mas perde a capacidade de se mover ou falar). Foi esse tipo de paciente, para quem o próprio corpo deixou de ser um veículo confiável da mente, que motivou o ensaio, escrito seis anos depois daquela experiência.

O trabalho de Sava usa exemplos concretos: empresas que poderiam usar implantes neurais para monitorar produtividade mental, ou governos que poderiam policiar populações por “crimes de pensamento”. Não são cenários distantes de ficção científica, são extensões diretas do mesmo hardware que hoje devolve comunicação a pacientes com lesões severas.

Por que isso importa pra você

Se você pesquisa em áreas próximas a IA aplicada, saúde ou políticas públicas de tecnologia, o caso de Sava chama atenção pra um risco que ela descreve: a proteção de dados pode chegar depois da adoção, se ninguém tratar isso como parte do desenho técnico desde o início.

1. Se você trabalha com IA aplicada à saúde, o ensaio mostra que pensar em uso indevido não é acessório do projeto técnico, é parte dele. A pergunta “quem pode acessar esse dado, e para quê” precisa estar no desenho do sistema, não num apêndice de compliance.
2. Se você estuda ética ou políticas científicas, o caso é um exemplo raro de prêmio acadêmico que exige, por edital, que o risco social seja tratado com o mesmo rigor que a viabilidade técnica.
3. Se você está escrevendo um projeto que envolve dados sensíveis (biométricos, neurais, comportamentais), vale perguntar: o que impede que este dispositivo seja usado fora do propósito original? Se a resposta não existe ainda, é porque ninguém a escreveu ainda.

O que essa disputa por atenção me diz sobre pesquisa em geral

Quando li sobre o ensaio de Sava, o que me chamou atenção não foi o cenário distópico em si, é fácil imaginar um governo abusando de tecnologia de vigilância. O que me incomodou foi a lacuna temporal: o dispositivo médico existe, funciona, ajuda pessoas reais, e a discussão sobre limite de uso só ganha força depois, quando alguém como Sava escreve um ensaio de 3.000 palavras chamando atenção para isso.

Isso não é exclusividade da neurotecnologia. Na minha experiência, pesquisadoras que trabalham com dados sensíveis, sejam eles neurais, genéticos ou comportamentais, correm o risco de cair na mesma armadilha: publicar o avanço técnico primeiro e deixar o protocolo de proteção para depois, se sobrar tempo. Não significa que toda pesquisadora precisa virar especialista em ética de dados da noite para o dia. Significa que a pergunta “quem mais pode usar isso, e como” merece um lugar no seu pré-projeto, ao lado da metodologia, não separado dela.

Próximos passos

1. Se seu projeto envolve dados sensíveis (biométricos, neurais, de saúde mental), escreva explicitamente no protocolo quem tem acesso e sob qual justificativa.
2. Leia o edital completo do Envisioning the Future of Computing Prize se você é aluno do MIT ou de instituição parceira, pode te dar ideias de como estruturar essa reflexão no seu próprio projeto.
3. Converse com seu comitê de ética sobre cenários de uso secundário do dado, não apenas sobre o uso primário declarado no projeto.
4. Acompanhe os outros finalistas do prêmio (o trabalho de Cordiana Cozier sobre IA como apoio cognitivo para defensores públicos e o de Strahinja Janjusevic sobre autonomia em próteses neurais) para ver como o mesmo raciocínio se aplica a áreas diferentes.

Se você quer entender melhor como a discussão sobre autonomia e confiança em sistemas de IA vem evoluindo dentro das próprias equipes técnicas, dá uma olhada em IA nas empresas: onde os times técnicos já confiam nos.

Fonte: Toward a future that preserves the benefits of neurotechnology for all, MIT News