Apenas nove empresas gigantes de tecnologia nos EUA e na China estão por trás da grande maioria dos avanços em inteligência artificial em todo o mundo. Em seu novo livro, Os nove grandes: como os titãs tecnológicos e suas máquinas pensantes poderiam distorcer a humanidade (PublicAffairs, 5 de março), Amy Webb prevê três futuros possíveis, que vão do otimista ao apocalíptico, que podem resultar das ações que tomamos - ou não tomamos - para controlar o desenvolvimento da I.A. e moldar seu impacto global. Nesse trecho, ela apresenta uma série de questões éticas difíceis de que os humanos que estão construindo a I.A. sistemas devem usar para orientar seu trabalho.
As regras - o algoritmo - pelo qual cada cultura, sociedade e nação vivem, e sempre viveram, sempre foram criadas por apenas algumas pessoas. Democracia, comunismo, socialismo, religião, veganismo, nativismo, colonialismo - essas são construções que desenvolvemos ao longo da história para ajudar a guiar nossas decisões. Mesmo nos melhores casos, eles não são à prova de futuro. As forças tecnológicas, sociais e econômicas sempre intervêm e fazem com que nos adaptemos.
Os Dez Mandamentos constituem um algoritmo destinado a criar uma sociedade melhor para os humanos vivos há mais de 5.000 anos. Um dos mandamentos é descansar um dia inteiro por semana e não trabalhar durante todo o dia. Nos tempos modernos, a maioria das pessoas não trabalha exatamente nos mesmos dias ou horas de uma semana para outra, então seria impossível não quebrar a regra. Como resultado, as pessoas que seguem os Dez Mandamentos como princípio orientador são flexíveis em sua interpretação, dada a realidade de dias de trabalho mais longos, prática de futebol e e-mail. Não há problema em se adaptar - funciona muito bem para nós e para nossas sociedades, permitindo que permaneçamos no caminho certo. Concordar com um conjunto básico de diretrizes nos permite otimizar para nós mesmos.
Não haveria como criar um conjunto de mandamentos para a I.A. Não poderíamos escrever todas as regras para otimizar corretamente para a humanidade, e isso porque, embora as máquinas pensantes possam ser rápidas e poderosas, elas carecem de flexibilidade. Não há uma maneira fácil de simular exceções ou tentar pensar em cada contingência com antecedência. Quaisquer que sejam as regras escritas, sempre haverá uma circunstância no futuro em que algumas pessoas podem querer interpretar as regras de maneira diferente, ou ignorá-las completamente, ou criar emendas a fim de administrar uma circunstância imprevista.
Sabendo que não podemos escrever um conjunto de mandamentos estritos a serem seguidos, devemos, em vez disso, concentrar nossa atenção nos humanos que estão construindo os sistemas? Essas pessoas - as tribos da A.I. - deveriam se fazer perguntas incômodas, começando com:
- Qual é a nossa motivação para a I.A.? Está alinhado com os melhores interesses de longo prazo da humanidade?
- Quais são os nossos próprios preconceitos? Que ideias, experiências e valores deixamos de incluir em nossa tribo? Quem nós esquecemos?
- Incluímos pessoas diferentes de nós com o propósito de fazer o futuro da I.A. melhor - ou simplesmente incluímos diversidade em nossa equipe para cumprir certas cotas?
- Como podemos garantir que nosso comportamento seja inclusivo?
- Como são as implicações tecnológicas, econômicas e sociais da I.A. compreendido pelos envolvidos na sua criação?
- Que direitos fundamentais devemos ter para interrogar os conjuntos de dados, algoritmos e processos que estão sendo usados para tomar decisões em nosso nome?
- Quem define o valor da vida humana? Contra o que esse valor está sendo pesado?
- Quando e por que as pessoas nas tribos da I.A. sentem que é sua responsabilidade tratar das implicações sociais da I.A.?
- A liderança de nossa organização e de nossa I.A. tribos refletem muitos tipos diferentes de pessoas?
- Qual é o papel daqueles que comercializam I.A. desempenhar no tratamento das implicações sociais do I.A.?
- Devemos continuar a comparar a I.A. ao pensamento humano, ou é melhor categorizá-lo como algo diferente?
- Tudo bem para construir I.A. que reconhece e responde à emoção humana?
- Está tudo bem em fazer I.A. sistemas capazes de imitar a emoção humana, especialmente se estiver aprendendo conosco em tempo real?
- Qual é o ponto aceitável em que estamos todos bem com a I.A. evoluindo sem humanos diretamente no circuito?
- Em que circunstâncias um I.A. simular e experimentar emoções humanas comuns? E quanto à dor, perda e solidão? Estamos bem causando esse sofrimento?
- Estamos desenvolvendo I.A. buscar uma compreensão mais profunda de nós mesmos? Podemos usar o I.A. ajudar a humanidade a ter uma vida mais examinada?
Existem nove grandes empresas de tecnologia - seis americanas e três chinesas - que são esmagadoramente responsáveis pelo futuro da inteligência artificial. Nos EUA, eles são Google, Microsoft, Amazon, Facebook, IBM e Apple ('G-MAFIA'). Na China, é o BAT: Baidu, Alibaba e Tencent.
O G-MAFIA começou a abordar o problema dos princípios norteadores por meio de vários grupos de pesquisa e estudo. Dentro da Microsoft está uma equipe chamada FATE - for Fairness, Accountability, Transparency and Ethics in A.I. Na esteira do escândalo Cambridge Analytica, o Facebook lançou uma equipe de ética que estava desenvolvendo software para garantir que seu A.I. sistemas evitados viés. (Notavelmente, o Facebook não foi tão longe a ponto de criar um conselho de ética focado na I.A.) A DeepMind criou uma equipe de ética e sociedade. A IBM publica regularmente sobre ética e I.A. No rastro de um escândalo no Baidu - o mecanismo de busca priorizou alegações médicas enganosas de um hospital militar, onde um tratamento resultou na morte de um estudante de 21 anos - o CEO do Baidu, Robin Li, admitiu que os funcionários fizeram se compromete em prol do crescimento dos ganhos do Baidu e promete focar na ética no futuro.
The Big Nine produz estudos de ética e white papers, reúne especialistas para discutir ética e organiza painéis sobre ética - mas esse esforço não está entrelaçado o suficiente com as operações diárias das várias equipes que trabalham na A.I.
Os Big Nine's I.A. os sistemas estão cada vez mais acessando nossos dados do mundo real para construir produtos que mostrem valor comercial. Os ciclos de desenvolvimento estão acelerando para acompanhar as expectativas dos investidores. Temos desejado - embora inconscientes - participantes em um futuro que está sendo criado às pressas e sem primeiro responder a todas essas perguntas. Como A.I. os sistemas avançam e mais da vida cotidiana é automatizada, menos controle temos realmente sobre as decisões que estão sendo tomadas sobre e para nós.
Amy Webb aparecerá no Inc. Founders House em Austin em 11 de março.
