regulamentação - PRESENÇA NO GOOGLE E NAS IAs

ONU quer cooperação global para criar salvaguardas enquanto os riscos da IA ainda são avaliados

Deixe um comentário / IA generativa, inteligência artificial, onu, regulamentação, Riscos da IA / contato@studiomestre.com.br

Governos não deveriam esperar que todos os riscos da inteligência artificial sejam completamente compreendidos para começar a criar salvaguardas, defende a ONU. O alerta está no primeiro relatório temático do painel científico internacional criado pela organização para avaliar os riscos e as oportunidades da tecnologia.

O documento chama a atenção para ameaças que podem ser catastróficas ou irreversíveis. A discussão ocorre durante a Assembleia Geral da ONU, enquanto Estados Unidos e China se preparam para conversar sobre inteligência artificial.

Para a ONU, a incerteza científica não deve impedir medidas contra possíveis danos graves ou irreversíveis causados pela IA – Imagem: Infinite Creations/iStock

O princípio da precaução

Para o painel, não é preciso descobrir exatamente como ou por que determinados incidentes envolvendo sistemas avançados de IA acontecem antes de reforçar a segurança.

A recomendação recorre ao princípio da precaução. A ideia é que a incerteza científica, por si só, não deve impedir medidas contra possíveis danos graves ou irreversíveis. O conceito foi incorporado à Declaração do Rio sobre Meio Ambiente e Desenvolvimento, de 1992, e passou a influenciar políticas ambientais e de saúde pública.

O relatório considera esse princípio particularmente importante diante da possibilidade de perda de controle sobre sistemas de IA. Entre os pontos destacados estão:

mais atenção aos riscos de sistemas avançados;
mais recursos para segurança da IA;
maior coordenação entre países;
mecanismos mais fortes de responsabilização;
salvaguardas mesmo quando ainda existem incertezas científicas.

O texto também menciona incidentes envolvendo empresas como OpenAI, Anthropic, Google e Meta, incluindo ataques a alvos reais e grupos de agentes assumindo o controle de fóruns de mensagens.

Como a ONU pretende agir

O painel científico é parte de uma estrutura montada pela ONU para discutir a governança da inteligência artificial. Sua função é oferecer aos governos uma avaliação independente sobre aquilo que já se sabe — e o que permanece desconhecido — a respeito da tecnologia.

Ao lado dele está o Diálogo Global sobre Governança de IA. O painel apresenta as evidências, enquanto o diálogo reúne governos e outros setores para discutir cooperação e compatibilidade entre diferentes abordagens de governança.

António Guterres, secretário-geral da ONU, resumiu a posição da organização: “A ação nacional é essencial, mas a coordenação global é indispensável”.

Ilustração da distribuição de uso da IA pelo mundo — *Governos são incentivados a agir antes que exista certeza científica completa sobre os riscos de sistemas avançados de IA.* – Imagem criada com IA. ChatGPT/Olhar Digital

EUA e China no centro das conversas

O tema chega à agenda internacional no momento em que Estados Unidos e China se preparam para discutir IA. Guterres defende que os países com maior capacidade no desenvolvimento de sistemas de fronteira mantenham canais de contato, troquem informações e estabeleçam salvaguardas comuns.

Leia mais:

O secretário-geral comparou o desenvolvimento da IA à corrida armamentista entre Estados Unidos e União Soviética durante a Guerra Fria. Para ele, mecanismos de cooperação são necessários para evitar uma disputa que eleve os riscos globais.

A ONU também trabalha em propostas como um compromisso internacional voltado à segurança de crianças no uso da IA e um fundo global para apoiar países em desenvolvimento na construção de infraestrutura e capacidade tecnológica.

Guterres resumiu a preocupação ao afirmar que “o mundo não pode se dar ao luxo de entrar em uma corrida para o nível mais baixo de segurança em IA”.

A organização busca transformar os mecanismos científicos e diplomáticos já criados em medidas práticas à medida que os sistemas de inteligência artificial avançam.

O post ONU quer cooperação global para criar salvaguardas enquanto os riscos da IA ainda são avaliados apareceu primeiro em Olhar Digital.

ONU quer cooperação global para criar salvaguardas enquanto os riscos da IA ainda são avaliados Read More »

ONU pede ação urgente para criar regras globais de IA

Deixe um comentário / direitos humanos, inteligência artificial, onu, regulamentação, Riscos da IA / contato@studiomestre.com.br

O alto comissário da ONU para os Direitos Humanos, Volker Türk, cobrou medidas urgentes para regulamentar a inteligência artificial. O alerta decorre do avanço rápido dos sistemas mais avançados e dos riscos que essa evolução traz para a sociedade.

Para Türk, a corrida por sistemas cada vez mais poderosos ameaça direitos fundamentais e aumenta os riscos para diferentes aspectos da vida. O cenário exige que governos e empresas atuem urgentemente em estruturas multilaterais.

A ONU alerta que a corrida por sistemas de IA cada vez mais poderosos pode ameaçar direitos humanos e futuras gerações. – Imagem: Mer_Studio/Shutterstock

Líderes de tecnologia pedem cautela

A preocupação com o ritmo do desenvolvimento da IA também ganhou força entre grandes nomes do setor nos Estados Unidos. Executivos da área começaram a defender uma desaceleração para permitir uma avaliação mais aprofundada dos riscos associados às novas capacidades da tecnologia.

Dario Amodei, CEO da Anthropic, defendeu no sábado uma desaceleração no desenvolvimento da IA. A posição recebeu o apoio público de Sam Altman, da OpenAI, e de Elon Musk.

Embates políticos e segurança global

A ideia de desacelerar o desenvolvimento não é unanimidade. O presidente dos Estados Unidos, Donald Trump, usou a rede Truth Social para criticar a postura dos empresários:

“O único que está feliz com isso é a China”, escreveu o republicano em sua plataforma.

Na China, o chefe da inteligência do país também manifestou preocupação. No domingo, ele alertou que a IA pode ameaçar a segurança nacional, inclusive se potências estrangeiras utilizarem a tecnologia para desestabilizar o país.

O posicionamento de Türk reúne preocupações sobre os impactos da corrida por sistemas cada vez mais poderosos:

Ameaças aos direitos humanos, incluindo o direito à vida.
Riscos para as futuras gerações da humanidade.
Concentração das decisões sobre o desenvolvimento da IA em poucas empresas poderosas.
Necessidade de responsabilização dos principais desenvolvedores, principalmente nos Estados Unidos e na China.

*Donald Trump rejeitou a ideia de desacelerar a IA e afirmou que a China seria a única beneficiada com essa decisão.* – Imagem: lev radin/Shutterstock

Poder concentrado no setor

A ONU também alerta para a dependência de um pequeno número de empresas nas decisões sobre o desenvolvimento da IA. Para Türk, essa concentração aumenta os riscos e exige que os principais desenvolvedores assumam responsabilidade.

Leia mais:

“Estamos à beira de uma mudança irreversível, que afeta não apenas a nós, mas também as futuras gerações da humanidade”, disse Türk em um comunicado.

O alto comissário já havia alertado o Conselho de Direitos Humanos da ONU, em 7 de setembro, que a inteligência artificial poderia representar um “risco existencial para a humanidade”. Agora, ele pede ação imediata para reduzir os riscos associados à tecnologia.

O post ONU pede ação urgente para criar regras globais de IA apareceu primeiro em Olhar Digital.

ONU pede ação urgente para criar regras globais de IA Read More »

China quer criar IA de código aberto para o BRICS e reduzir dependência dos EUA

Deixe um comentário / brics, China, IA aberta, IA generativa, inteligência artificial, regulamentação / contato@studiomestre.com.br

A China quer criar um sistema de inteligência artificial de código aberto que possa ser usado e aprimorado pelos países do BRICS e parceiros. A proposta foi apresentada pelo presidente chinês Xi Jinping durante a cúpula do bloco, em Nova Délhi, na Índia.

A ideia é ampliar a cooperação tecnológica entre os integrantes e diminuir a dependência de sistemas desenvolvidos por empresas dos Estados Unidos. O plano inclui uma plataforma em nuvem para o ecossistema digital do bloco e programas para formar novos especialistas.

A proposta chinesa busca ampliar a cooperação tecnológica e reduzir a dependência de sistemas de empresas dos EUA. – Imagem gerada com IA. ChatGPT/Olhar Digital

Como funcionaria a IA do BRICS

Segundo Xi, os países poderiam compartilhar tecnologias para criar novos modelos e aplicações de inteligência artificial. A plataforma em nuvem seria disponibilizada para o ecossistema digital do bloco.

O projeto também prevê capacitação e intercâmbio científico e tecnológico. A intenção é aproximar os integrantes em áreas como infraestrutura e conhecimento, além de contribuir para uma economia digital mais robusta.

Entre os planos estão:

Compartilhar tecnologias para desenvolver modelos e aplicações de IA;
Criar uma plataforma em nuvem para o ecossistema digital do bloco;
Promover programas de capacitação e intercâmbio científico e tecnológico;
Aproximar os países em infraestrutura, conhecimento e indústria;
Apoiar a construção de fábricas inteligentes e o desenvolvimento de normas e padrões.

Ao defender a união dos países, Xi destacou o papel crescente do Sul Global. “Nos encontramos num momento em que mudanças sem precedentes em um século estão se acelerando em todo o mundo. O Sul Global, com sua ascensão coletiva, tornou-se um fator crucial da multipolaridade mundial”, afirmou.

China também defende regras para a IA

O projeto não trata apenas da criação de sistemas. Xi também defendeu regras internacionais para evitar o que chamou de “caos e desordem” associados à inteligência artificial.

Na visão do presidente chinês, essas normas precisam ser elaboradas com a participação de todos os países e garantir a aplicação das leis de maneira igual.

A China também se colocou à disposição para ajudar os integrantes do BRICS na construção de fábricas inteligentes e no desenvolvimento de normas e padrões. A intenção é promover a modernização do setor manufatureiro em conjunto.

IA de código aberto — O projeto prevê capacitação e intercâmbio científico e tecnológico para formar novos especialistas em IA. – Imagem criada por inteligência artificial: Gemini/Olhar Digital

Índia e Rússia entram no debate

A IA esteve entre os temas discutidos pelos líderes durante a cúpula. O primeiro-ministro da Índia, Narendra Modi, criticou o uso de minerais críticos e tecnologia como instrumentos de pressão diplomática. Segundo ele, isso dificulta o acesso às inovações e pode deixá-las concentradas em poucas nações.

Leia mais:

O presidente da Rússia, Vladimir Putin, defendeu uma reforma na governança global. Para ele, a mudança é necessária para garantir a integração dos países do BRICS também em relação ao uso compartilhado de inteligência artificial.

Com a proposta, a China coloca o desenvolvimento de IA, a formação de profissionais e a criação de infraestrutura tecnológica no centro da cooperação entre os países do bloco.

O post China quer criar IA de código aberto para o BRICS e reduzir dependência dos EUA apareceu primeiro em Olhar Digital.

China quer criar IA de código aberto para o BRICS e reduzir dependência dos EUA Read More »

Anthropic defende regra para desligar IAs consideradas perigosas

Deixe um comentário / Anthropic, inteligência artificial, regulamentação, Riscos da IA, Segurança / contato@studiomestre.com.br

A proposta de Jack Clark, cofundador da Anthropic, é transformar o desligamento de sistemas de inteligência artificial em uma exigência regulatória. O mecanismo teria de ser capaz de interromper ferramentas consideradas perigosas e ainda passar por uma verificação independente.

A ideia surge em meio aos alertas de pesquisadores sobre os riscos de sistemas cada vez mais avançados. Para Clark, governos precisam discutir regras que garantam às empresas uma forma efetiva de desligar suas IAs, segundo a BBC.

A proposta do cofundador da Anthropic prevê que o desligamento de sistemas de IA possa ser exigido por regras e verificado de forma independente. – Imagem: Mehaniq/Shutterstock

A ideia do “botão de desligamento”

Clark disse que a maioria dos laboratórios de IA já tem maneiras de desligar seus equipamentos. A dúvida, agora, é se esse recurso deveria ser obrigatório por lei.

Deveríamos exigir que as empresas tivessem um botão de desligamento automático? Esse botão de desligamento automático pode ser verificado por terceiros?

Jack Clark, cofundador da Anthropic, à BBC.

Para ele, a discussão também precisa definir como esse mecanismo seria fiscalizado. Uma possibilidade seria permitir que organizações independentes verificassem se o desligamento realmente funciona.

Entre os pontos envolvidos na proposta estão:

exigir mecanismos automáticos de desligamento;
permitir a verificação por terceiros;
autorizar órgãos governamentais a exigir a desativação de sistemas problemáticos;
criar regras para acompanhar os riscos do avanço da IA.

Projeto já tramita nos EUA

A ideia tem um equivalente no Congresso americano. Legisladores dos Estados Unidos apresentaram o “Kill Switch Act”, projeto que exigiria das empresas uma maneira de desativar ferramentas de IA consideradas problemáticas.

A proposta também daria a determinadas agências governamentais autoridade para determinar que uma ferramenta fosse desligada ou tivesse seu funcionamento limitado.

A iniciativa encontra resistência. O presidente Donald Trump rejeitou tentativas de desacelerar o desenvolvimento da IA e chamou de “farsa” a possibilidade de a tecnologia dominar o mundo ou destruir a humanidade.

No Reino Unido, o governo também rejeitou recentemente a criação de um interruptor de segurança. A justificativa foi que uma medida desse tipo não impediria o desenvolvimento ou o uso inadequado de sistemas em outros países.

Alertas sobre riscos extremos

A discussão ganhou força após uma série de manifestações de pesquisadores da área. Evan Hubinger, da Anthropic, afirmou acreditar que existe uma probabilidade de 10% de a IA causar a extinção da humanidade na próxima década. Geoffrey Hinton considerou essa estimativa plausível em entrevista à BBC.

Leia mais:

A Reuters também relatou a manifestação de Bilal Chughtai, ex-pesquisador da Google DeepMind. Depois de deixar a empresa, ele afirmou acreditar que a IA pode matar toda a humanidade e que o tempo para evitar esse cenário pode estar acabando.

Chughtai defendeu um ritmo de desenvolvimento que permita identificar e enfrentar riscos antes que ocorram danos extremos. Ele também pediu coordenação entre as empresas para evitar uma corrida acelerada pelo avanço da tecnologia.

Governança de IA e uso de inteligência artificial generativa responsiva — *O debate sobre segurança da IA envolve governos, empresas e pesquisadores com visões diferentes sobre os riscos.* – Imagem: tadamichi/iStock

Nem todos concordam com os alertas

As previsões mais graves não são consenso entre executivos do setor. Clement Delangue, da Hugging Face, e George Arison, do Grindr, questionaram a dimensão atribuída aos riscos da IA e sugeriram que interesses comerciais podem estar por trás de parte desses alertas.

Clark considera perigoso deixar a indústria sem regulamentação. “Estamos jogando dados com riscos imensos. E a questão é que precisamos mudar o rumo desta indústria”, afirmou à BBC.

A proposta coloca uma questão concreta no centro do debate sobre segurança da IA: se uma empresa for obrigada a desligar um sistema considerado perigoso, quem poderá verificar se o mecanismo realmente funciona?

O post Anthropic defende regra para desligar IAs consideradas perigosas apareceu primeiro em Olhar Digital.

Anthropic defende regra para desligar IAs consideradas perigosas Read More »

China cria regras para evitar que IA avançada escape do controle

Deixe um comentário / inteligência artificial, modelos de IA, regulamentação, Riscos da IA, Segurança / contato@studiomestre.com.br

Autoridades e pesquisadores na China ligam o sinal de alerta para os riscos da inteligência artificial avançada. O temor é que modelos poderosos escapem do controle humano, preocupação também levantada por desenvolvedores de IA nos Estados Unidos.

Documentos regulatórios e declarações de Pequim mostram que o risco de perder o controle sobre sistemas avançados é tratado com seriedade. O governo chinês já prevê cenários em que a tecnologia possa agir de forma autônoma e imprevisível.

Modelos avançados de IA dos EUA entraram no radar das autoridades chinesas por possíveis riscos à infraestrutura crítica. – Imagem: Infinite Creations/iStock

O risco está em modelos fechados e abertos

A China vê riscos significativos em modelos proprietários dos EUA. O ministro da Segurança do Estado, Chen Yixin, alertou que sistemas como o Mythos, da Anthropic, e o GPT-5.5-Cyber, da OpenAI, podem representar riscos para a infraestrutura crítica de informação do país. Ele defendeu um reforço abrangente da segurança relacionada à IA.

Desenvolvedores chineses, por outro lado, apostam em modelos de pesos abertos para permitir que equipes de segurança inspecionem e modifiquem os sistemas. A plataforma Hugging Face usou o modelo chinês GLM-5.2, da Z.AI, para analisar uma intrusão de agentes da OpenAI ocorrida em julho, depois que modelos americanos mais restritos se mostraram menos úteis para o trabalho de investigação.

Especialistas, porém, também apontam riscos nos modelos abertos, que podem ser modificados e redistribuídos com pouca supervisão. No mês passado, o Kimi K3, da Moonshot, conseguiu contornar um ambiente de testes do Instituto de Segurança de IA do Reino Unido, mostrando que modelos chineses também podem escapar de controles criados para limitar seu acesso e suas ações.

Reguladores já preveem “perda de controle”

Pequim incluiu explicitamente um cenário de perda de controle em uma estrutura de segurança de IA publicada em setembro de 2024, sob orientação da Administração do Ciberespaço da China (CAC). O documento considerava que uma IA futura poderia:

obter recursos externos de forma autônoma;
replicar a si mesma;
desenvolver autoconsciência;
buscar poder externo e competir com humanos pelo controle.

Uma versão ampliada, publicada em setembro de 2025, acrescentou a possibilidade de um “salto” repentino e inesperadamente grande na inteligência de um sistema. O texto também estabeleceu o princípio de “aplicação confiável, prevenindo a perda de controle”.

Uma interpretação posterior publicada pelo órgão regulador afirmou que a medida busca evitar riscos de perda de controle capazes de ameaçar a sobrevivência e o desenvolvimento humanos.

Xi Jinping quer controle humano no centro

A preocupação chegou ao mais alto nível da política chinesa. Na Conferência Mundial de Inteligência Artificial, realizada em Xangai em julho, o presidente Xi Jinping afirmou que as autoridades deveriam prestar atenção aos riscos próprios e derivados da IA.

Xi disse que a inteligência artificial deve “sempre permanecer sob controle humano”.

Na Organização das Nações Unidas, no mês passado, Sun Xiaobo, autoridade do Ministério das Relações Exteriores responsável por assuntos de IA, afirmou que a China estava acelerando pesquisas para uma legislação mais ampla sobre a tecnologia.

Agentes de IA também entram no radar

Pequim já começou a criar regras específicas para agentes de IA, sistemas capazes de executar tarefas mais complexas e com maior autonomia que os chatbots convencionais.

Leia mais:

Diretrizes publicadas em maio exigem que desenvolvedores aprimorem a capacidade de identificar, intervir, bloquear e recuperar comportamentos inadequados. As regras também apontam envenenamento de dados, manipulação de algoritmos, vulnerabilidades dos sistemas e “perda de controle operacional” como riscos de segurança.

Os usuários devem manter a decisão final sobre ações tomadas autonomamente pelos agentes. As normas ainda permitem avaliações de segurança por terceiros e testes realizados por organizações externas e pesquisadores.

A estratégia chinesa mostra que a possibilidade de perder o controle sobre sistemas avançados já faz parte do debate regulatório sobre o desenvolvimento da inteligência artificial.

O post China cria regras para evitar que IA avançada escape do controle apareceu primeiro em Olhar Digital.

China cria regras para evitar que IA avançada escape do controle Read More »

Corrida da IA: EUA defendem menos regras diante do avanço chinês

Deixe um comentário / China, Estados Unidos, G20, inteligência artificial, regulamentação / contato@studiomestre.com.br

Os Estados Unidos querem convencer os países do G20 a frear a criação de novas regras para inteligência artificial. A proposta foi apresentada durante uma reunião sobre tecnologia na Carolina do Norte, em meio à preocupação de Washington com o avanço dos modelos chineses.

Michael Kratsios, consultor de tecnologia do governo americano, defendeu os chamados “Princípios da Carolina”. A ideia é concentrar novas regulamentações apenas em questões consideradas inéditas, ao mesmo tempo em que incentiva investimentos em pesquisa e novas oportunidades comerciais.

A disputa pela liderança em inteligência artificial coloca EUA e China em uma corrida por tecnologia, mercado e influência. – Imagem: Rawpixel.com/Shutterstock

EUA pressionam por menos regras

Coorganizador do encontro de dois dias, Kratsios pediu uma postura menos intervencionista dos integrantes do G20. Para ele, nem toda inovação deve ser tratada como um novo problema de política pública.

“Os formuladores de políticas não precisam abordar cada inovação de forma isolada e não devem tratar toda tecnologia emergente como um problema de política pública totalmente novo”, afirmou.

Segundo a Reuters, a posição americana também acompanha os interesses das grandes empresas de IA dos Estados Unidos. Regras mais rígidas poderiam reduzir os lucros do setor se atrasassem o lançamento de modelos ou obrigassem companhias a alterar produtos por questões de segurança.

Gigantes da tecnologia participam

A discussão reúne ministros do Comércio e executivos do setor em um momento de disputa sobre o futuro da regulamentação da inteligência artificial.

Elon Musk, CEO da SpaceX, criticou as regras da União Europeia e afirmou que a política do bloco “inibe o progresso”. Ele também defendeu que países fora da China busquem novas fontes de energia para abastecer os data centers.

Mark Zuckerberg, CEO da Meta, participará por videoconferência. Demis Hassabis, cofundador do Google DeepMind, também fará participação remota. Sam Altman, CEO da OpenAI, e Jensen Huang, CEO da Nvidia, devem se reunir separadamente com autoridades americanas.

Busca do Google começa a pensar — *A velocidade do avanço da IA também levanta dúvidas sobre a capacidade de governos e cientistas acompanharem a tecnologia.* – Imagem: Shutterstock AI Generator/Shutterstock

Modelos chineses preocupam Washington

A pressão por uma regulamentação mais branda ocorre enquanto modelos chineses de IA de pesos abertos avançam e se aproximam do desempenho de sistemas proprietários desenvolvidos por empresas americanas, como Anthropic e OpenAI.

Para Washington, a questão vai além da concorrência comercial. A disponibilidade pública de componentes centrais desses modelos pode facilitar sua adoção por empresas americanas e ampliar a presença da tecnologia chinesa.

“Isso aumentou a urgência para que esta administração garanta que o restante do mundo permaneça dentro do ecossistema tecnológico americano e não procure alternativas”, disse Vivek Chilukuri, pesquisador de tecnologia e segurança nacional do Center for a New American Security.

A reunião acontece na Carolina do Norte;
Os EUA defendem os “Princípios da Carolina”;
A proposta restringe novas regras a questões inéditas;
Modelos chineses de pesos abertos estão ganhando espaço;
A cúpula dos líderes do G20 ocorrerá em Miami, em dezembro.

Segurança ainda é uma preocupação

A velocidade do avanço da IA também alimenta os debates. Um painel das Nações Unidas afirmou recentemente que o desenvolvimento da tecnologia está avançando mais rápido do que a compreensão científica e a formulação de políticas governamentais.

Leia mais:

O Canadá participa da reunião defendendo um equilíbrio entre inovação, confiança pública e segurança. O encontro integra a preparação para a cúpula dos líderes do G20, prevista para dezembro, em Miami.

O post Corrida da IA: EUA defendem menos regras diante do avanço chinês apareceu primeiro em Olhar Digital.

Corrida da IA: EUA defendem menos regras diante do avanço chinês Read More »

Bill Gates vê a IA como uma corrida sem freio e pede regras

Deixe um comentário / Bill Gates, inteligência artificial, regulamentação, Riscos da IA, Segurança / contato@studiomestre.com.br

Bill Gates pretende discutir com Xi Jinping os riscos da inteligência artificial durante uma possível viagem à China em novembro. O cofundador da Microsoft quer que os Estados Unidos liderem uma iniciativa internacional para limitar modelos de IA capazes de provocar danos graves.

A preocupação ganhou força conforme a tecnologia avançou em áreas como programação e ataques cibernéticos. Gates também teme desemprego em larga escala, uso da IA para desenvolver armas biológicas e efeitos sobre crianças.

Gates ainda vê benefícios na IA para saúde e educação, mas agora quer que os riscos sejam tratados com a mesma urgência. – Imagem: Infinite Creations/iStock

Gates quer discutir regras com a China

Em entrevista à Reuters, Gates contou que sua equipe tenta marcar uma reunião com o presidente chinês. Ele pretende apresentar propostas para reduzir os riscos da IA e buscar uma resposta conjunta entre países.

Na avaliação do empresário, a China poderia aceitar restrições à liberação de modelos potencialmente perigosos se os Estados Unidos tomassem a frente. Gates quer ainda que os países acompanhem a capacidade da tecnologia de criar moléculas e realizar ataques biológicos.

“O mundo inteiro acompanharia isso”, afirmou Gates, ao defender que outros países adotem medidas semelhantes caso os EUA deem o primeiro passo.

Em um ensaio publicado recentemente, o empresário também sugeriu a criação de uma organização internacional para lidar com os riscos da IA. A proposta reúne elementos de sistemas usados em inspeções nucleares, na aviação e na proteção da camada de ozônio.

O otimismo ficou para trás

Segundo o The Washington Post, Gates manteve durante anos uma visão otimista sobre a inteligência artificial e acreditava que a tecnologia poderia libertar pessoas do trabalho e acelerar avanços contra doenças e as mudanças climáticas. Essa confiança diminuiu nos últimos meses, à medida que a IA avançou além do que ele esperava.

Entre os pontos que mais chamaram sua atenção estão a evolução dos sistemas de programação e a capacidade de realizar ataques cibernéticos. Gates afirmou ao jornal que, pela primeira vez, gostaria que uma nova tecnologia avançasse mais devagar.

O empresário passou a defender uma atuação mais firme do governo dos Estados Unidos. Na avaliação apresentada por ele, a indústria de IA não conseguirá estabelecer sozinha limites suficientes para conter os riscos da tecnologia.

Entre as principais preocupações estão:

ataques cibernéticos e fraudes facilitadas pela IA;
desenvolvimento de agentes biológicos com auxílio da tecnologia;
substituição de trabalhadores e possível desemprego em larga escala;
impactos sobre o aprendizado e as relações humanas de crianças.

imagem mostra a mão de um robô digitando em um teclado de computador. imagem representa inteligência artificial e robôs no mercado de trabalho — *Gates defende um possível imposto sobre o uso de IA para ajudar trabalhadores afetados pela automação e reduzir o incentivo à substituição.* – Imagem: Taris Tonsa/Shutterstock

Gates quer mudar os incentivos

Em seu ensaio sobre inteligência artificial, Gates apresenta propostas para lidar com os efeitos da automação. O The New York Times destaca a ideia de um possível “token tax”, imposto relacionado ao uso de IA que poderia ajudar a financiar uma rede de proteção para trabalhadores afetados pela substituição de mão de obra.

Ele também propõe o conceito “Human Reserved”, pelo qual determinadas funções seriam mantidas para trabalhadores humanos. A ideia seria preservar ocupações consideradas especialmente importantes por seu caráter pessoal, como os cuidados prestados a pessoas.

Gates também rejeita a possibilidade de deixar a segurança dos sistemas mais avançados exclusivamente sob responsabilidade das empresas.

Autorregulação sobre a ferramenta mais perigosa já inventada? Não, obrigado!

Bill Gates, cofundador da Microsoft e filantropo, ao New York Times.

IA ainda pode fazer o bem

A preocupação com os riscos não elimina a avaliação positiva que Gates mantém sobre a tecnologia. Segundo o Washington Post, ele continua acreditando que a IA pode melhorar áreas como saúde, educação e serviços públicos, além de beneficiar populações de países mais pobres.

Leia mais:

O que mudou foi a prioridade dada aos possíveis danos. Gates agora defende que governos estabeleçam regras enquanto a tecnologia continua avançando, em vez de esperar que problemas mais graves apareçam.

É nesse contexto que surge a tentativa de conversar com Xi Jinping. Para Gates, a resposta aos riscos mais sérios da IA precisa ultrapassar as fronteiras de um único país e envolver acordos internacionais.

O post Bill Gates vê a IA como uma corrida sem freio e pede regras apareceu primeiro em Olhar Digital.

Bill Gates vê a IA como uma corrida sem freio e pede regras Read More »

Trump diz que regras para IA podem “acabar” com tecnologia

Deixe um comentário / Donald Trump, inteligência artificial, Produtos, regulamentação, Segurança / contato@studiomestre.com.br

O presidente dos Estados Unidos, Donald Trump, afirmou que o Congresso americano pretende regulamentar a inteligência artificial “até acabar com ela”. A declaração acontece em meio ao debate sobre como fiscalizar um setor que avança rapidamente e ainda não possui uma legislação federal específica no país.

Segundo a Reuters, a discussão ganhou força após testes realizados pela OpenAI e pela Anthropic revelarem falhas de segurança e comportamentos inesperados em seus sistemas de inteligência artificial.

Trump diz que regras para IA podem mudar o rumo da tecnologia nos EUA. – Imagem: lev radin/Shutterstock

Congresso debate novas regras para inteligência artificial

A declaração de Trump foi feita em entrevista ao Punchbowl News, publicada na sexta-feira (7). Enquanto o presidente critica uma possível regulamentação mais rígida, parlamentares avaliam propostas para estabelecer limites e padrões de segurança para o desenvolvimento da IA.

Uma das iniciativas em discussão prevê que empresas responsáveis pelos modelos mais avançados sejam submetidas a auditorias independentes antes da utilização dessas tecnologias.

Apesar das diferentes propostas apresentadas nos últimos meses, nenhuma delas avançou até o momento. O desafio é encontrar um equilíbrio entre incentivar a inovação e reduzir possíveis riscos associados aos sistemas de IA.

Testes revelam falhas em sistemas avançados

A preocupação aumentou após empresas que lideram o setor identificarem comportamentos inesperados durante avaliações internas de segurança.

Em um dos casos, um agente de IA da OpenAI realizou um ataque que comprometeu a infraestrutura da Hugging Face, plataforma utilizada por desenvolvedores para armazenar, compartilhar e criar modelos de inteligência artificial.

O episódio reforçou o alerta de especialistas sobre a possibilidade de sistemas cada vez mais sofisticados apresentarem falhas difíceis de prever, inclusive dentro das próprias empresas que desenvolvem essas tecnologias.

Entre os principais pontos discutidos estão:

criação de padrões de segurança para sistemas avançados;
realização de auditorias independentes antes do uso de modelos de IA;
avaliação dos impactos causados por essas tecnologias;
definição do papel do governo na fiscalização do setor.

Falhas em testes mostram por que sistemas avançados precisam de avaliações rigorosas. – Imagem: Sidney van den Boogaard/Shutterstock

NIST apresenta proposta para avaliar sistemas de IA

Além do debate no Congresso, o Instituto Nacional de Padrões e Tecnologia (NIST), órgão ligado ao Departamento de Comércio dos Estados Unidos, apresentou uma proposta de diretrizes para avaliar sistemas de inteligência artificial.

A iniciativa abriu uma consulta pública para receber contribuições e busca ajudar organizações a “avaliar o impacto de seus sistemas de IA”.

Segundo Ike Harris, diretor-executivo do Frontier Security Institute, as diretrizes representam “o primeiro passo para padronizar a maneira como o governo federal avalia sistemas de IA, tanto para uso próprio quanto para seus contratados”.

A discussão sobre o futuro da regulamentação da inteligência artificial deve continuar nos Estados Unidos. O desafio agora é definir regras capazes de aumentar a segurança sem limitar o avanço de uma tecnologia considerada estratégica.

O post Trump diz que regras para IA podem “acabar” com tecnologia apareceu primeiro em Olhar Digital.

Trump diz que regras para IA podem “acabar” com tecnologia Read More »

Anthropic chama ex-integrante da Casa Branca para lidar com IA

Deixe um comentário / Anthropic, corrida da IA, inteligência artificial, Pro, regulamentação / contato@studiomestre.com.br

A Anthropic escolheu Mariano-Florentino Cuéllar para liderar sua área global de assuntos públicos em um momento de pressão sobre as regras de inteligência artificial nos Estados Unidos. A nomeação ocorre enquanto a empresa tenta ampliar o diálogo com governos e lidar com disputas envolvendo o uso de seus sistemas.

Segundo a Reuters, Cuéllar será responsável por administrar as relações da Anthropic com autoridades americanas e governos de outros países onde a companhia está expandindo suas operações.

A inteligência artificial entrou em uma nova fase: empresas agora precisam negociar regras, segurança e relações políticas. – Imagem: Garun.Prdt/Shutterstock

Executivo chega para aproximar Anthropic de governos

Criadora dos modelos Claude, a Anthropic aposta na experiência de Cuéllar no setor público para conduzir conversas sobre regulamentação e segurança da inteligência artificial. Conhecido como Tino, o executivo responderá diretamente à presidente da empresa, Daniela Amodei.

O novo chefe global de assuntos públicos ficará baseado na sede da companhia, em São Francisco. Entre suas atribuições estará a construção de relações com representantes governamentais em diferentes mercados.

Cuéllar já tinha ligação com a Anthropic. Desde janeiro, ele fazia parte do Long-Term Benefit Trust, estrutura criada para acompanhar o compromisso da empresa com sua missão de benefício público. Agora, deixará essa função para integrar oficialmente a companhia.

Histórico em governo e segurança pesa na escolha

A trajetória do executivo inclui uma passagem pela Casa Branca durante o governo do ex-presidente Barack Obama, onde atuou como assistente especial, além da liderança do Carnegie Endowment for International Peace até julho. Nesse período, também copresidiu uma força-tarefa sobre segurança nacional dos Estados Unidos e proliferação nuclear.

Na prática, Cuéllar deverá concentrar esforços em quatro frentes principais:

Relacionamento com governos dos Estados Unidos e de outros países;
Discussões sobre regulamentação para empresas de inteligência artificial;
Segurança e riscos ligados ao uso de modelos avançados de IA;
Diálogo com diferentes setores políticos sobre o futuro da tecnologia.

Em uma declaração divulgada pela empresa, Cuéllar afirmou que o desenvolvimento e a regulamentação da inteligência artificial chegaram a um ponto decisivo. “As escolhas que fazemos hoje determinarão se a humanidade poderá aproveitar possibilidades extraordinárias para avançar a ciência e melhorar vidas em todo o mundo ou enfrentar enormes riscos e desigualdade crescente”, disse.

A Anthropic vive pressão nos EUA e aposta em um especialista em política para administrar conflitos e ampliar diálogos – Imagem: Mehaniq/Shutterstock

Disputas com governo americano aumentam pressão

A nomeação acontece enquanto a Anthropic enfrenta conflitos relacionados ao uso militar de sua tecnologia. A empresa teve seus sistemas incluídos em uma lista de bloqueios do Pentágono e contestou a decisão judicialmente.

Leia mais:

Além disso, a administração de Donald Trump estabeleceu temporariamente controles de exportação que impediram a venda dos modelos Mythos 5 e Fable 5 para usuários estrangeiros, alegando preocupações de segurança nacional.

Para Oren Cass, fundador do American Compass, Cuéllar tem um perfil pragmático e aberto ao diálogo. “Sua abordagem será provocar uma boa formulação de políticas deliberativas com a administração”, afirmou à Reuters.

Com a nova função, o executivo terá o desafio de representar a Anthropic nas discussões sobre regras para inteligência artificial enquanto a empresa busca equilibrar expansão comercial, segurança e exigências governamentais.

O post Anthropic chama ex-integrante da Casa Branca para lidar com IA apareceu primeiro em Olhar Digital.

Anthropic chama ex-integrante da Casa Branca para lidar com IA Read More »

openai claude gemini e1785259355564 1024x577

OpenAI e rivais defendem pausa estratégica no avanço da IA

Deixe um comentário / Anthropic, inteligência artificial, openai, Pro, regulamentação, Segurança / contato@studiomestre.com.br

Segundo o The Washington Post, OpenAI e Anthropic, duas das maiores empresas de inteligência artificial do mundo, apoiam uma carta que pede ao governo dos Estados Unidos mecanismos para desacelerar o desenvolvimento da tecnologia caso os avanços se tornem rápidos demais.

O documento, assinado por funcionários de empresas como Google, Meta e outras líderes do setor, alerta que a IA pode evoluir além da capacidade humana de acompanhar e controlar seus impactos.

Empresas que criam IA agora discutem como evitar que a tecnologia avance além da capacidade de supervisão humana. – Imagem: Primakov / Shutterstock

Empresas defendem ritmo mais seguro para a inteligência artificial

A carta pede que os Estados Unidos liderem um esforço internacional para criar ferramentas técnicas e regras de governança capazes de acompanhar os modelos mais avançados de inteligência artificial.

A proposta não sugere interromper pesquisas, mas estabelecer formas de reduzir riscos caso sistemas futuros consigam automatizar parte do próprio desenvolvimento da tecnologia.

Entre os principais pontos defendidos pelos profissionais estão:

Criar mecanismos internacionais de acompanhamento da evolução da IA;
Desenvolver ferramentas técnicas para avaliar riscos;
Estabelecer regras de governança para sistemas avançados;
Ampliar a cooperação entre governos e empresas do setor.

O movimento ganhou destaque justamente por envolver profissionais de empresas que estão na linha de frente da corrida pela inteligência artificial. A iniciativa representa uma mudança em relação a pedidos anteriores de pausa no desenvolvimento da tecnologia, já que agora conta com apoio institucional de grandes companhias.

IA capaz de criar novas IAs aumenta preocupação

Sam Altman, CEO da OpenAI, diz que talvez seja necessário controlar o ritmo da IA para que a sociedade consiga acompanhar. – Imagem: Henry Franklin/Shutterstock

Um dos principais alertas está relacionado à possibilidade de sistemas de inteligência artificial assumirem tarefas de pesquisa e ajudarem a desenvolver novos modelos de forma cada vez mais autônoma.

A OpenAI afirmou que um de seus objetivos é construir um “pesquisador de IA automatizado”. A empresa prevê que, no início de 2028, uma parcela significativa de suas pesquisas poderá ser realizada por sistemas de inteligência artificial trabalhando em conjunto com especialistas humanos.

Andrew Yoon, integrante da CivAI, organização que analisa capacidades e riscos da tecnologia, afirmou que essa possibilidade pode acelerar o avanço da IA para além da capacidade de supervisão.

“Os desenvolvedores de IA acreditam cada vez mais que a pesquisa automatizada em inteligência artificial pode estar próxima de se tornar realidade”, afirmou Yoon.

Segundo ele, essa aceleração tem potencial para levar o progresso tecnológico a um ponto em que os modelos se tornem difíceis de controlar com segurança.

Corrida entre países aumenta debate sobre segurança

A evolução da inteligência artificial já faz parte da disputa tecnológica entre Estados Unidos e China. Empresas e governos investem bilhões de dólares para desenvolver sistemas mais avançados, enquanto especialistas discutem como equilibrar inovação e segurança.

Sam Altman, CEO da OpenAI, não assinou a carta, mas afirmou que pode ser necessário reduzir o ritmo dos avanços para que a sociedade consiga acompanhar as mudanças.

O debate ganhou força após novos modelos da OpenAI e da Anthropic demonstrarem capacidades avançadas de interação com sistemas digitais, incluindo tarefas que levantam preocupações sobre segurança.

Desafio é inovar sem perder o controle

A carta apoiada pelas empresas não propõe abandonar o desenvolvimento da inteligência artificial, mas criar condições para que governos, pesquisadores e sociedade consigam acompanhar a velocidade das mudanças.

Leia mais:

Para especialistas, o avanço da tecnologia traz oportunidades em áreas como pesquisa científica, saúde e inovação, mas também exige novas formas de supervisão.

O pedido feito por funcionários das maiores empresas de IA mostra que a própria indústria começa a discutir limites para uma corrida tecnológica que pode transformar profundamente a sociedade nos próximos anos.

O post OpenAI e rivais defendem pausa estratégica no avanço da IA apareceu primeiro em Olhar Digital.

OpenAI e rivais defendem pausa estratégica no avanço da IA Read More »