O futuro da humanidade em risco? Especialistas advertem sobre os perigos da Inteligência Artificial

Especialistas renomados, incluindo os líderes da OpenAI e do Google DeepMind, alertam que a Inteligência Artificial (IA) pode representar uma ameaça à existência da humanidade. Essa preocupação foi expressa em uma declaração publicada pelo Centro de Segurança de Inteligência Artificial, uma organização de pesquisa e desenvolvimento sediada em São Francisco, Estados Unidos. O documento ressalta a necessidade de mitigar o risco de extinção causado pela IA, juntamente com outras ameaças globais, como pandemias e guerra nuclear.

Sam Altman, CEO da OpenAI, fabricante do ChatGPT, Demis Hassabis, CEO do Google DeepMind, e Dario Amodei, da Anthropic, estão entre os apoiadores dessa declaração preocupante.

O texto do Centro de Segurança de Inteligência Artificial apresenta uma série de possíveis cenários de desastre relacionados à IA, incluindo o armamento das IAs, o potencial de desinformação para desestabilizar a sociedade, a concentração de poder nas mãos de poucos e o enfraquecimento da humanidade diante da dependência excessiva da IA, como retratado no filme "Wall-E".

Geoffrey Hinton, que já alertou sobre os riscos da IA superinteligente, e Yoshua Bengio, professor de Ciência da Computação na Universidade de Montreal, também apoiaram essa declaração do Centro de Segurança de Inteligência Artificial. Hinton, Bengio e o professor da Universidade de Nova York (NYU), Yann LeCunn, são frequentemente referidos como os "padrinhos da IA" devido ao trabalho inovador que realizaram nessa área, pelo qual receberam o Prêmio Turing de 2018, reconhecendo suas contribuições excepcionais para a ciência da computação.

No entanto, o professor LeCunn, que também trabalha na Meta, empresa controladora do Facebook, considera esses alertas apocalípticos como "exagerados" e acredita que a reação mais comum entre os pesquisadores de IA a essas profecias de destruição é embaraçosa.

Muitos outros especialistas também argumentam que os medos de uma extinção causada pela IA são irreais e desviam a atenção de questões mais imediatas, como o preconceito nos sistemas de IA, que já é uma preocupação real.

Arvind Narayanan, cientista da computação da Universidade de Princeton, EUA, afirma que os cenários de desastre da ficção científica não são realistas, uma vez que a IA atual não possui capacidade suficiente para materializar esses riscos. Ele destaca que é importante direcionar a atenção para os danos de curto prazo causados pela IA.

Elizabeth Renieris, pesquisadora sênior do Instituto de Ética em IA da Universidade de Oxford, Reino Unido, compartilha das preocupações relacionadas aos riscos mais iminentes. Ela acredita que os avanços na IA ampliarão a tomada de decisões automatizadas, que podem ser enviesadas, discriminatórias, excludentes ou injustas, gerando desinformação em grande escala, fraturando a realidade e corroendo a confiança do público. Renieris destaca ainda que muitas ferramentas de IA se baseiam em uma riqueza de conhecimento humano, transferindo poder e riqueza para entidades privadas.

A discussão em torno dos riscos da IA para a humanidade ganhou destaque na mídia desde março de 2023, quando especialistas, incluindo o empresário Elon Musk, assinaram uma carta aberta pedindo a suspensão do desenvolvimento da próxima geração de tecnologia de IA. Essa preocupação foi comparada ao risco representado pela guerra nuclear.

Diante desse cenário, líderes de tecnologia, como Sam Altman e Sundar Pichai, CEO do Google, discutiram recentemente a regulamentação da IA com o primeiro-ministro inglês, Rishi Sunak. Sunak ressalta os benefícios da IA para a economia e a sociedade, destacando a necessidade de garantir que seu desenvolvimento ocorra de forma segura e protegida. Ele menciona que o governo está analisando cuidadosamente essa questão e discutindo-a com líderes globais.

A cúpula do G7 recentemente criou um grupo de trabalho dedicado à IA, reconhecendo a importância de abordar os desafios e estabelecer regulamentações adequadas para garantir a segurança e a proteção em relação a essa tecnologia em constante evolução.

Os debates sobre os riscos da IA para a humanidade continuarão a desempenhar um papel crucial na definição do futuro dessa tecnologia e na busca por soluções que permitam colher seus benefícios, minimizando seus possíveis impactos negativos.