Escola Koru

Pesquisa e desenvolvimento de Inteligência artificial vai ter uma pausa?

Na quarta-feira (29/03), o Future of Institute publicou uma carta aberta pedindo para que os laboratórios suspendam o treinamento de IA por pelo menos 6 meses, conforme trecho traduzido da carta:

“pedimos a todos os laboratórios de IA que imediatamente suspendam por pelo menos 6 meses o treinamento de sistemas de IA mais poderosos do que o GPT-4. Essa pausa deve ser pública e verificável e incluir todos os atores-chave. Se tal pausa não puder ser promulgada rapidamente, os governos devem intervir e instituir um moratório.”

Até o momento de escrita deste artigo, a carta já possui 1.415 assinaturas, mas o que mais tem chamado a atenção é sobre os nomes de peso que estão aparecendo por lá. Estão entre eles o cofundador da Apple, Steve Wozniak; e o badalado da internet Elon Musk, CEO do Twitter, Tesla e Space X.

Para quem poderia alegar que esse movimento é uma investida contra a IA, tem seus argumentos enfraquecidos quando nomes tão influentes e relevantes para a inovação e desenvolvimento da tecnologia, se colocam a favor do pedido.

Mas o que tem motivado essa ação?

Segundo a carta, os especialistas acreditam que chegamos em um momento, que já havia sido previsto pela própria Open AI, no qual deveríamos fazer uma revisão antes de começar a treinar futuros sistemas.

“A declaração recente da OpenAI sobre inteligência artificial geral afirma que ‘em algum momento, pode ser importante obter revisão independente antes de começar a treinar futuros sistemas e para os esforços mais avançados concordar em limitar a taxa de crescimento do cálculo usado para criar novos modelos’. Concordamos. Esse ponto é agora.”

Para eles, é importante que os grupos se organizem para discutir, desenvolver e implementar protocolos de segurança que possam ser auditados e supervisionados pelos especialistas.

“Esses protocolos devem garantir que os sistemas que os seguem sejam seguros além de qualquer dúvida razoável. Isso não significa uma pausa no desenvolvimento de IA em geral, mas sim um afastamento da perigosa corrida para modelos de caixa preta imprevisíveis e cada vez maiores com capacidades emergentes.”

Além disso, acreditam ser necessária uma união para a criação de políticas e regulações que organizem uma governança sobre o assunto. Uma das medidas que incluem na lista de coisas que precisam ser feitas é a criação de instrumentos que ajudem a distinguir o que é real do que é produzido por uma inteligência artificial. E somado a isso, incluem o pedido por “instituições bem equipadas para lidar com as dramáticas perturbações econômicas e políticas (especialmente para a democracia) que a IA causará.”

Para finalizar, na carta também também é mencionado, que essa não seria a primeira vez que a sociedade faria uma pausa em desenvolver tecnologias que têm potencial catastrófico para a sociedade. Esse tipo de coisa já vem acontecendo, há pouco tempo tivemos uma situação inusitada e bem polêmica sobre uma imagem criada por IA do Papa Francisco com roupas não habituais. Milhares de pessoas no mundo acreditaram que a imagem era verdadeira. Inclusive veículos de comunicação a publicaram como sendo real.

Por isso, esse é um ponto muito importante a ser lembrado e discutido, afinal já temos lutado para conviver e contornar as fakes news só com o nível de tecnologia disponível hoje.

Post Relacionados

O que é desenvolvimento de software

Desenvolvimento de software pode parecer um mistério indecifrável para alguns, mas a verdade é que não precisa ser um bicho de sete cabeças.  Na verdade,

Leia Mais

Estamos quase lá!

Estamos quase lá!

Estamos quase lá!

Estamos quase lá!