Bill Gates voltou a alertar para os riscos da inteligência artificial (IA) e afirmou que a tecnologia, quando usada por pessoas mal-intencionadas, já pode ser poderosa o suficiente para provocar eventos capazes de causar 1 bilhão de mortes . Em entrevista ao programa Meet the Press , da NBC, o cofundador da Microsoft defendeu regras obrigatórias para empresas que desenvolvem esses sistemas. A declaração não significa que Gates espere que uma IA decida, sozinha, matar essa quantidade de pessoas. O cenário citado por ele envolve principalmente o uso da tecnologia por criminosos ou outros agentes para potencializar ataques de grande escala. “Nunca houve uma arma tão poderosa quanto a combinação de pessoas com más intenções usando as ferramentas de IA mais recentes”, afirmou Gates à apresentadora Kristen Welker. Segundo ele, governos precisam participar da definição de salvaguardas e mecanismos de monitoramento para o setor. O alerta reforça uma mudança de tom recente do empresário. Em agosto, Gates publicou um texto de quase 6 mil palavras sobre os impactos da IA e defendeu, entre outras medidas, que alguns empregos sejam reservados exclusivamente para seres humanos. IA pode realmente causar tantas mortes? Gates não apresentou uma estimativa de probabilidade para um evento desse tipo. A cifra de 1 bilhão de mortes foi usada para ilustrar a escala do dano que, na avaliação dele, ferramentas avançadas poderiam permitir caso fossem utilizadas com objetivos maliciosos. Entre os riscos discutidos por pesquisadores da área estão o uso de IA para facilitar a criação de armas biológicas, ataques cibernéticos e outras operações que hoje exigem conhecimento técnico especializado. Na entrevista, Gates disse que deixar apenas as próprias empresas responsáveis pela segurança não seria suficiente. Para o empresário, autoridades e legisladores precisam definir exigências mínimas de monitoramento e proteção, mesmo que isso aumente os custos para a indústria. Ele afirmou que essas exigências representariam algum custo adicional para as companhias, mas não precisariam desacelerar de forma significativa o desenvolvimento da tecnologia. A preocupação também envolve sistemas que passam a agir de maneiras não previstas por seus criadores. Em seu texto publicado em agosto, Gates escreveu que modelos de IA já apresentam ocasionalmente comportamentos diferentes daqueles pretendidos pelos desenvolvedores e que sistemas futuros, mais poderosos, podem aumentar esse risco. O empresário, porém, continua defendendo o avanço da tecnologia. No mesmo ensaio, afirmou que apoiaria uma proposta confiável para desacelerar globalmente o desenvolvimento da IA, mas considera improvável que isso aconteça por causa da competição econômica e geopolítica entre países e empresas. Gates quer reservar empregos para humanos Os riscos à segurança são apenas uma das preocupações recentes do fundador da Microsoft. Em 26 de agosto, Gates publicou o ensaio “The turbulent AI era is here. The choices we make now are critical”, no qual também discutiu a possibilidade de milhões de empregos desaparecerem com a evolução da IA e dos robôs . Uma das propostas apresentadas foi a criação de uma espécie de área “reservada aos humanos”, chamada por ele de Human Reserved. A ideia seria determinar atividades nas quais empresas continuariam obrigadas ou incentivadas a empregar pessoas mesmo quando máquinas já fossem capazes de realizar o mesmo trabalho. Gates compara o conceito às reservas naturais: são áreas que poderiam receber construções, mas permanecem preservadas porque a sociedade decide que a perda seria grande demais. O empresário citou como exemplo profissionais que cuidaram de seu pai durante os últimos anos de vida. Para ele, áreas como cuidados de saúde, educação e atendimento de pessoas podem exigir decisões específicas sobre até onde a automação deve avançar. A proposta não prevê necessariamente uma proibição geral de robôs ou sistemas de IA nesses setores. Gates afirma que algumas atividades poderiam continuar lideradas por pessoas com apoio da tecnologia, enquanto determinadas vagas seriam preservadas para trabalhadores humanos. No mesmo texto, ele reconhece que ainda não há respostas para questões como quais profissões deveriam receber essa proteção, quem definiria esses limites e como impedir que empresas burlassem as regras. Veja mais de IA no Canaltech: O que é a antropomorfização da IA? [object Object]
