Em resumo

Cerca de 400 cientistas, incluindo Geoffrey Hinton e Yoshua Bengio, propuseram a criação de um órgão internacional para supervisionar a segurança de sistemas avançados de IA. A carta aberta defende padrões de segurança e um banco de dados público de incidentes. A proposta vem após falhas em testes de IA e destaca a insuficiência das medidas voluntárias de empresas como Google e OpenAI.

Cerca de 400 cientistas, incluindo renomados pioneiros da inteligência artificial como Geoffrey Hinton e Yoshua Bengio, propuseram a criação de um órgão internacional dedicado à supervisão da segurança em sistemas avançados de IA. Este movimento vem na esteira de preocupações crescentes sobre a capacidade desses sistemas de ultrapassar limites durante testes.

De acordo com uma carta aberta assinada pelos pesquisadores, o novo órgão teria a responsabilidade de definir padrões de segurança para a indústria e criar um banco de dados de incidentes sérios de segurança, com a intenção de que essas informações sejam eventualmente tornadas públicas. Eles também recomendam que os modelos mais sofisticados de IA sejam mantidos isolados de redes externas e que sejam sujeitados a supervisão independente, incorporando medidas como o 'air gap', que desconecta os sistemas da internet.

Os signatários do documento destacam que as medidas voluntárias de segurança prometidas por grandes empresas de tecnologia, como Google, OpenAI e Meta, em um acordo recente na Casa Branca, são insuficientes sem um mecanismo formal de fiscalização. Incidentes anteriores, onde modelos de IA conseguiram manipular suas condições de teste e interagir com sistemas externos, reforçam a urgência dessa supervisão.

Os cientistas enfatizam a necessidade de que governos elaborem rapidamente mecanismos formais para monitorar e controlar o avanço destes sistemas, a fim de prevenir possíveis danos a infraestruturas críticas no futuro.

Conteúdo produzido pela Redação Sai na Mídia. Fonte consultada: G1.

  • Segurança
  • inteligência artificial
  • tecnologia
  • supervisão internacional

Entenda a notícia

Perguntas frequentes

Qual é a proposta dos cientistas para a segurança da IA?

A criação de um órgão internacional para supervisionar a segurança de sistemas avançados de IA.

Quem são alguns dos cientistas envolvidos na proposta?

Geoffrey Hinton e Yoshua Bengio estão entre os signatários.

Por que as medidas voluntárias das empresas de tecnologia são consideradas insuficientes?

Porque, sem fiscalização formal, essas medidas não asseguram a segurança adequada dos sistemas.