Techlash: quando a tecnologia passou de salvadora da humanidade a vilã?

Questões com privacidade, segurança, grandes empresas influenciando eleições, Inteligências artificiais com viéses preconceituosos, reconhecimento facial, perda de empregos para robôs… O que não faltam são escândalos e discussões sobre os aspectos ruins da tecnologia.

Antes vista como salvadora dos problemas globais, hoje a tecnologia desperta mais medo e ansiedade nas pessoas do que expectativas positivas. O chamado "techlash" se tornou uma realidade para as empresas de Big Tech e poucos estão dispostos a tolerar os erros cometidos pelas gigantes da tecnologia. Será que a tecnologia pode se reconciliar com a ética?

Viéses inconscientes e mudança de cultura em Davos

O medo das tecnologias está aumentando na mesma escala em que elas se desenvolvem. A cada notícia sobre reconhecimento facial ou uso de robôs, conseguimos até imaginar os comentários de pessoas assustadas, anunciando a criação de um estado de vigilância e o fim dos empregos. Por falar em Estado, pouco tem sido feito por parte dos governos para lidar com os impactos do desenvolvimento tecnológico desenfreado e executivos de empresas têm sido questionado sobre as implicações éticas dessas inovações. Durante o Fórum Econômico de Davos executivos de BigTech estiveram reunidos para discutir formas de como fazer mudanças culturais em empresas que se orgulham de quebrar barreiras. 

Durante o Fórum, executivos discutiram sobre como os engenheiros e desenvolvedores são os maiores responsáveis pelas decisões tomadas na criação de tecnologias. Os últimos escândalos da área, envolvendo discurso de ódio e preconceito, aconteceram porque escolhas inconscientes levaram a isso. O viés do desenvolvedor é inevitável, mas eles precisam de ferramentas que ajudem a pensar além, prevendo possíveis danos à sociedade e ajudando a evitar usos prejudiciais desses produtos.

Uma forma eficaz de fazer isso é apoiar os processos que já estão enraizados no roteiro de desenvolvimento de produtos, como os que foram criados para garantir segurança cibernética, sustentabilidade ambiental e acessibilidade. Outra estratégia interessante é utilizada por empresas como a Microsoft que estão realizando treinamento de "embaixadores" incorporados em equipes, apresentando mais sensibilidade a impactos não intencionais, além de ajudar seus funcionários levantando bandeiras e aumentando as preocupações. 

Essas mudanças não ocorrerão de maneira orgânica, e para conquistar a inovação responsável, as empresas precisam incorporar boas práticas em objetivos e análises de desempenho individuais e de equipe. Essas, além de criar critérios para promoções, aumentos, bônus e até contratação de pessoas devem ter como preocupação primordial a ética. 

Escândalos éticos: uma constante para as Big Tech

Praticamente todas as semanas, um novo escândalo surge na indústria de tecnologia, pois são muitos dilemas éticos envolvendo inovações. Para lidar com isso, as grandes empresas de tecnologia começaram a investir recursos significativos na capacidade organizacional de identificar, rastrear e mitigar as consequências das tecnologias algorítmicas. No entanto, no Vale do Silício não está claro o que tudo isso significa: busca de processos robustos? Quais são os objetivos dos especialistas em ética da tecnologia e qual é a teoria da mudança deles? 

O principal desafio enfrentado pelos "especialistas" de ética dentro das empresas é lidar com as pressões externas para responder a crises éticas, além de responder à lógica interna de suas empresas e competição do setor. Por exemplo, por conta do caminho que trilham e onde chegam na hierarquia das empresas, muitos na indústria de tecnologia se posicionam como os atores mais adequados para enfrentar desafios éticos, em vez de partes interessadas e menos tecnicamente inclinadas.

Outra questão importante é que os recursos organizacionais necessários para a moralidade vencer precisam ser justificados em termos favoráveis ​​ao mercado, que agregam valor ao produto e que não sejam um impedimento. De qualquer maneira, os parâmetros desses processos direcionarão futuras regulamentações administrativas, documentação de responsabilidade algorítmica, prioridades de investimento e decisões de recursos humanos para a indústria no futuro. 

Startups éticas desde o início

Enquanto isso, empresas que surgem agora já buscam começar suas atividades levando em conta essas questões éticas. O guia de iniciativa do Ethical OS é um exemplo disso, pois é pede às equipes de desenvolvimento que considerem oito áreas de risco, incluindo desigualdade econômica e dependência, e pensem em como seu produto pode potencialmente prejudicar a sociedade. O guia fornece cenários para as equipes abordarem as implicações éticas e os efeitos a longo prazo de seus produtos, além de criar estratégias para antecipar mudanças futuras.

Nas universidades, essa noção de incorporar um forte senso de ética também ganha forças, segundo Tom Byers, professor de ciência e engenharia de gerenciamento em Stanford, os alunos dos cursos de empreendedorismo estão aprendendo o básico sobre assuntos como construção estratégica de negócios e avaliação de riscos. Em Portland, os empresários frustrados com a cultura tradicional de startups lançaram um movimento há dois anos, que pedia um ambiente mais ético e inclusivo para as startups. As empresas do Zebras Unite buscam sustentabilidade e lucratividade, premiam a colaboração e buscam cenários em que todos saem ganhando. 

Os investidores e os programas de aceleração de startups também estão incentivando o foco na ética desde o início de uma empresa. A Techstars é uma das que apoiou o guia Ethical OS e os investidores em inteligência artificial, que estão pedindo que as startups considerem preconceitos que possam estar enraizados em algoritmos que impulsionam seus produtos. O impulso por ser mais ético no início em produtos e empresas pode garantir que a grande tecnologia tenha menos erros morais no futuro.

Ataques em qualquer lugar, contra qualquer um

Em um mundo em que é possível terceirizar Inteligência e encomendar ciberataques, até Jeff Bezos, o bilionário por trás da Amazon, pode ter caído na armadilha. O telefone de Bezos foi hackeado e levantou muitas discussões a respeito de privacidade e segurança tecnológicas. O golpe teria vindo do programa Pegasus, da empresa NSO, que transforma qualquer celular em um dispositivo móvel de espionagem. 

E não é só ela: o Black Cube funciona como uma ferramenta para empresas gigantes que desejam desenterrar informações incriminadoras sobre seus concorrentes e também tem contratos com governos estrangeiros que buscam reprimir oponentes políticos. Ele ajuda os governos a encontrar pessoas que estão fugindo de suas obrigações financeiras e também a assediar as mulheres que reclamam de crimes de violência sexual. 

É comum que ex-membros das agências israelenses de defesa e segurança vendam armas e know-how militar e agora há o adendo da tecnologia. Alguns agentes encontram emprego em empresas que abrem novos caminhos, melhoram o mundo e melhoram a sociedade; mas outros vendem spywares e armas cibernéticas ofensivas a ditadores na África para reprimir críticas e revoltas.

É uma questão ética delicada, pois em muitos domínios não há regulamentação ou legislação que forneça uma definição clara do que pode ou não ser feito. Além disso, a falta de transparência pode ser muito prejudicial, uma vez que a combinação de indivíduos e empresas que trabalham com o estabelecimento de segurança ocorre frequentemente de forma fechada.

O sonho de todo estudante… que se tornou um pesadelo

Há alguns anos, os jovens que se formavam nas universidades americanas tinha a utopia de trabalhar em empresas de Big Tech, como Google e Apple, já que elas pagavam altos salários e, ainda, ofereciam a chance de trabalhar em uma indústria que estava transformando o mundo. Hoje, no entanto, o jogo virou. A percepção sobre empresas de tecnologia estão desmoronando por conta dos dilemas éticos que carregam.

No ano passado, o Facebook foi multado em quase 5 bilhões de dólares pela Federal Trade Commission por manipular incorretamente os dados do usuário. A Amazon cancelou seus planos para a sede da cidade de Nova York depois que moradores, líderes sindicais e legisladores locais contestaram a ideia de que o gigante deveria receber 3 bilhões de dólares do estado para se estabelecer. O Google, em 2018, enfrentou protestos internos sobre seus planos para um mecanismo de busca censurado na China e tratamento de assédio sexual. 

Esses e muitos outros acontecimentos transformaram a maneira como as pessoas enxergam a tecnologia e com jovens universitários e idealistas não seria diferente. Stanford, por exemplo, é conhecida por seu programa competitivo de ciência da computação, porém muitos de seus estudantes dizem não querer trabalhar para empresas grandes de tecnologia. Trabalhar para uma dessas grandes empresas do Vale do Silício é visto de forma negativa. Principalmente, quando um colega de classe decide trabalhar no Facebook, cujos produtos espalharam a desinformação e ajudaram a influenciar uma eleição presidencial.

Muitos estudantes ainda acreditam que a tecnologia pode ajudar a mudar o mundo para sempre e a maioria deles não quer tentar isso dentro de uma empresa como a Amazon, por exemplo. Assim, alguns recém-formados estão levando suas habilidades técnicas para grupos menores de impacto social, em vez das maiores empresas. Isso não deve ser tão difícil já que muitas startups focadas em saúde, educação e privacidade estão surgindo a todo o momento. 

Ética e tecnologia vão precisar de um empurrão a mais para dialogar no mundo atual. Já percebemos há muito tempo que os potenciais tecnológicos são incríveis e transformadores e, potencialmente, perigosos. Como vamos enfrentar esses dilemas como sociedade? Como as empresas vão lidar com isso? E como nossos governos vão agir para evitar danos maiores?

Não é possível pausar a tecnologia para compreender todas essas questões e achar soluções. Por isso, a troca de pneus precisa acontecer com o carro em movimento e o mais rápido possível, antes que nós percamos totalmente o controle da direção.