O cara da IA do Papa está preocupado com o comportamento do ‘cartel’ entre os grandes laboratórios
Recentemente, alertas de pesquisadores dentro dos maiores laboratórios de inteligência artificial do mundo sobre o ritmo rápido desenvolvimento levaram ao pânico sobre a possibilidade de que a tecnologia possa extinguir a humanidade. Esses avisos baseiam-se na ideia de que – impulsionados pela concorrência feroz e pela rivalidade entre os EUA e a China – os laboratórios estão a avançar em direcção a modelos superinteligentes cujas capacidades ultrapassarão em muito as dos humanos.
Mas, de acordo com o Padre Paolo Benanti, um padre que aconselha a Igreja Católica sobre IA, o aceno sobre a superinteligência desvia a atenção da necessidade de um debate aberto sobre como restringir as empresas que constroem a tecnologia. Ao considerar o problema tão complexo que só eles podem resolvê-lo, diz ele, os grandes laboratórios excluem todos os demais da conversa.
“A ética não pode ser algo que cabe ao conselho de administração de uma empresa. É algo que tem que ser equilibrado, mitigado no debate em praça pública.” Benanti disse à WIRED. “Precisamos de regulamentação democrática.”
Em um ensaio publicado logo após os avisos de segurança, o CEO da Anthropic, Dario Amodei, pediu que novos modelos de IA passassem por avaliações obrigatórias de terceiros antes do lançamento, e algum tipo de repressão à destilação, um processo em que laboratórios rivais treinam sua própria IA nos resultados de modelos proprietários. Outros têm defendeu uma proibição total do autoaperfeiçoamento recursivoonde a IA usa seus recursos avançados de codificação para ajudar a desenvolver iterações futuras de si mesma.
Benanti está menos interessado em restringir métodos de desenvolvimento de IA, que teme que possam anular a inovação, e mais ainda em estabelecer padrões que garantam que os modelos não possam escapar ao controlo humano. Seja qual for a forma que esses padrões assumam, diz ele, eles não deveriam ser projetados pelos laboratórios.
“A narrativa dos laboratórios de fronteira é de interesse próprio, para ganhar ou manter uma posição no mercado”, diz Benanti. Quando um pequeno grupo de empresas dita as regras sob as quais uma indústria opera, diz ele, “isto tem um nome muito claro: um cartel”.
É difícil saber até que ponto levar a sério os grandes pronunciamentos sobre as capacidades dos modelos de IA mais recentes e futuros, diz Benanti, devido ao sobreposição de incentivos econômicos, políticos e pessoais em jogo.
Embora tanto o OpenAI quanto o Anthropic tenham apelos apoiados para uma desaceleração no desenvolvimento, eles também estão se preparando para abrir o capital, e há muitos bilhões de dólares em jogo para quem capturar o mercado. A animosidade entre os EUA e a China, onde estão a ser desenvolvidos os modelos de IA mais avançados, também complica o quadro.
A Antrópico não quis comentar. OpenAI e Google DeepMind não responderam aos pedidos de comentários.
Benanti também questiona a forma como certos setores da indústria de IA falar sobre superinteligência, com o tipo de reverência normalmente reservada a um deus: tão sofisticado além da nossa compreensão, praticamente onipotente. (O CEO da OpenAI, Sam Altman, disse uma vez que aspira construir um “inteligência mágica no céu.”) Esse tipo de enquadramento, diz Benanti, ameaça distorcer o discurso sobre a tecnologia.
“Estamos falando de algumcoisaou algum-um? Esta é a verdadeira diferença. Não é uma questão de fé, é uma questão de matemática”, diz ele. “Não estamos construindo a próxima divindade. Estamos simplesmente nos iludindo de que há algo mais do que computação estatística (acontecendo).”
Ao levantar questões sobre o que separa o homem da máquina, e como proteger as gerações futuras dos efeitos negativos da tecnologia, o advento da IA tem o potencial de criar “um novo papel para as religiões no debate público”, diz Benanti. “Viver o desafio do tempo faz parte da missão da Igreja”.