regulamentação

Auto Added by WPeMatico

regulamentacao redes sociais 1024x554

Anthropic chama ex-integrante da Casa Branca para lidar com IA

Deixe um comentário / Anthropic, corrida da IA, inteligência artificial, Pro, regulamentação /

A Anthropic escolheu Mariano-Florentino Cuéllar para liderar sua área global de assuntos públicos em um momento de pressão sobre as regras de inteligência artificial nos Estados Unidos. A nomeação ocorre enquanto a empresa tenta ampliar o diálogo com governos e lidar com disputas envolvendo o uso de seus sistemas.

Segundo a Reuters, Cuéllar será responsável por administrar as relações da Anthropic com autoridades americanas e governos de outros países onde a companhia está expandindo suas operações.

A inteligência artificial entrou em uma nova fase: empresas agora precisam negociar regras, segurança e relações políticas. – Imagem: Garun.Prdt/Shutterstock

Executivo chega para aproximar Anthropic de governos

Criadora dos modelos Claude, a Anthropic aposta na experiência de Cuéllar no setor público para conduzir conversas sobre regulamentação e segurança da inteligência artificial. Conhecido como Tino, o executivo responderá diretamente à presidente da empresa, Daniela Amodei.

O novo chefe global de assuntos públicos ficará baseado na sede da companhia, em São Francisco. Entre suas atribuições estará a construção de relações com representantes governamentais em diferentes mercados.

Cuéllar já tinha ligação com a Anthropic. Desde janeiro, ele fazia parte do Long-Term Benefit Trust, estrutura criada para acompanhar o compromisso da empresa com sua missão de benefício público. Agora, deixará essa função para integrar oficialmente a companhia.

Histórico em governo e segurança pesa na escolha

A trajetória do executivo inclui uma passagem pela Casa Branca durante o governo do ex-presidente Barack Obama, onde atuou como assistente especial, além da liderança do Carnegie Endowment for International Peace até julho. Nesse período, também copresidiu uma força-tarefa sobre segurança nacional dos Estados Unidos e proliferação nuclear.

Na prática, Cuéllar deverá concentrar esforços em quatro frentes principais:

  • Relacionamento com governos dos Estados Unidos e de outros países;
  • Discussões sobre regulamentação para empresas de inteligência artificial;
  • Segurança e riscos ligados ao uso de modelos avançados de IA;
  • Diálogo com diferentes setores políticos sobre o futuro da tecnologia.

Em uma declaração divulgada pela empresa, Cuéllar afirmou que o desenvolvimento e a regulamentação da inteligência artificial chegaram a um ponto decisivo. “As escolhas que fazemos hoje determinarão se a humanidade poderá aproveitar possibilidades extraordinárias para avançar a ciência e melhorar vidas em todo o mundo ou enfrentar enormes riscos e desigualdade crescente”, disse.

Celular com logo da Anthropic posicionado acima de notas de dólar.
A Anthropic vive pressão nos EUA e aposta em um especialista em política para administrar conflitos e ampliar diálogos – Imagem: Mehaniq/Shutterstock

Disputas com governo americano aumentam pressão

A nomeação acontece enquanto a Anthropic enfrenta conflitos relacionados ao uso militar de sua tecnologia. A empresa teve seus sistemas incluídos em uma lista de bloqueios do Pentágono e contestou a decisão judicialmente.

Leia mais:

Além disso, a administração de Donald Trump estabeleceu temporariamente controles de exportação que impediram a venda dos modelos Mythos 5 e Fable 5 para usuários estrangeiros, alegando preocupações de segurança nacional.

Para Oren Cass, fundador do American Compass, Cuéllar tem um perfil pragmático e aberto ao diálogo. “Sua abordagem será provocar uma boa formulação de políticas deliberativas com a administração”, afirmou à Reuters.

Com a nova função, o executivo terá o desafio de representar a Anthropic nas discussões sobre regras para inteligência artificial enquanto a empresa busca equilibrar expansão comercial, segurança e exigências governamentais.

O post Anthropic chama ex-integrante da Casa Branca para lidar com IA apareceu primeiro em Olhar Digital.

Anthropic chama ex-integrante da Casa Branca para lidar com IA Read More »

openai claude gemini e1785259355564 1024x577

OpenAI e rivais defendem pausa estratégica no avanço da IA

Deixe um comentário / Anthropic, inteligência artificial, openai, Pro, regulamentação, Segurança /

Segundo o The Washington Post, OpenAI e Anthropic, duas das maiores empresas de inteligência artificial do mundo, apoiam uma carta que pede ao governo dos Estados Unidos mecanismos para desacelerar o desenvolvimento da tecnologia caso os avanços se tornem rápidos demais.

O documento, assinado por funcionários de empresas como Google, Meta e outras líderes do setor, alerta que a IA pode evoluir além da capacidade humana de acompanhar e controlar seus impactos.

Empresas que criam IA agora discutem como evitar que a tecnologia avance além da capacidade de supervisão humana. – Imagem: Primakov / Shutterstock

Empresas defendem ritmo mais seguro para a inteligência artificial

A carta pede que os Estados Unidos liderem um esforço internacional para criar ferramentas técnicas e regras de governança capazes de acompanhar os modelos mais avançados de inteligência artificial.

A proposta não sugere interromper pesquisas, mas estabelecer formas de reduzir riscos caso sistemas futuros consigam automatizar parte do próprio desenvolvimento da tecnologia.

Entre os principais pontos defendidos pelos profissionais estão:

  • Criar mecanismos internacionais de acompanhamento da evolução da IA;
  • Desenvolver ferramentas técnicas para avaliar riscos;
  • Estabelecer regras de governança para sistemas avançados;
  • Ampliar a cooperação entre governos e empresas do setor.

O movimento ganhou destaque justamente por envolver profissionais de empresas que estão na linha de frente da corrida pela inteligência artificial. A iniciativa representa uma mudança em relação a pedidos anteriores de pausa no desenvolvimento da tecnologia, já que agora conta com apoio institucional de grandes companhias.

IA capaz de criar novas IAs aumenta preocupação

Ao fundo, logo da OpenAI; à frente e a esquerda, sombra de uma mão segurando um smartphone
Sam Altman, CEO da OpenAI, diz que talvez seja necessário controlar o ritmo da IA para que a sociedade consiga acompanhar. – Imagem: Henry Franklin/Shutterstock

Um dos principais alertas está relacionado à possibilidade de sistemas de inteligência artificial assumirem tarefas de pesquisa e ajudarem a desenvolver novos modelos de forma cada vez mais autônoma.

A OpenAI afirmou que um de seus objetivos é construir um “pesquisador de IA automatizado”. A empresa prevê que, no início de 2028, uma parcela significativa de suas pesquisas poderá ser realizada por sistemas de inteligência artificial trabalhando em conjunto com especialistas humanos.

Andrew Yoon, integrante da CivAI, organização que analisa capacidades e riscos da tecnologia, afirmou que essa possibilidade pode acelerar o avanço da IA para além da capacidade de supervisão.

“Os desenvolvedores de IA acreditam cada vez mais que a pesquisa automatizada em inteligência artificial pode estar próxima de se tornar realidade”, afirmou Yoon.

Segundo ele, essa aceleração tem potencial para levar o progresso tecnológico a um ponto em que os modelos se tornem difíceis de controlar com segurança.

Corrida entre países aumenta debate sobre segurança

A evolução da inteligência artificial já faz parte da disputa tecnológica entre Estados Unidos e China. Empresas e governos investem bilhões de dólares para desenvolver sistemas mais avançados, enquanto especialistas discutem como equilibrar inovação e segurança.

Sam Altman, CEO da OpenAI, não assinou a carta, mas afirmou que pode ser necessário reduzir o ritmo dos avanços para que a sociedade consiga acompanhar as mudanças.

O debate ganhou força após novos modelos da OpenAI e da Anthropic demonstrarem capacidades avançadas de interação com sistemas digitais, incluindo tarefas que levantam preocupações sobre segurança.

Desafio é inovar sem perder o controle

A carta apoiada pelas empresas não propõe abandonar o desenvolvimento da inteligência artificial, mas criar condições para que governos, pesquisadores e sociedade consigam acompanhar a velocidade das mudanças.

Leia mais:

Para especialistas, o avanço da tecnologia traz oportunidades em áreas como pesquisa científica, saúde e inovação, mas também exige novas formas de supervisão.

O pedido feito por funcionários das maiores empresas de IA mostra que a própria indústria começa a discutir limites para uma corrida tecnológica que pode transformar profundamente a sociedade nos próximos anos.

O post OpenAI e rivais defendem pausa estratégica no avanço da IA apareceu primeiro em Olhar Digital.

OpenAI e rivais defendem pausa estratégica no avanço da IA Read More »

adolescentes smartphone 1024x673

ONU faz alerta sobre IA e pede regras globais para proteger crianças

Deixe um comentário / inteligência artificial, onu, privacidade, regulamentação, Segurança /

A proteção das crianças virou um dos principais temas do primeiro Diálogo Global da ONU sobre Governança de IA, realizado em Genebra. O encontro reúne governos e especialistas para discutir como acompanhar o avanço acelerado da inteligência artificial.

O debate ganhou força com um apelo de mais de 100 organizações internacionais, que defendem regras mais rígidas e maior responsabilidade das empresas que desenvolvem sistemas de IA.

Mais de 100 organizações pressionam por regras mais rígidas para empresas de IA e maior proteção ao público infantil. – Imagem: Marina Demidiuk/iStock

Guterres faz alerta sobre a velocidade da IA

Na abertura do encontro, o secretário-geral da ONU, António Guterres, afirmou que a inteligência artificial está evoluindo mais rapidamente do que governos, empresas e até os próprios desenvolvedores conseguem acompanhar. “Uma tecnologia que pode remodelar economias, transformar o mundo do trabalho, influenciar eleições e alterar o equilíbrio da segurança está sendo implantada mais rápido do que qualquer pessoa, incluindo aqueles que a desenvolvem, consegue acompanhar”, declarou.

Segundo a Reuters, Guterres defendeu a adoção de regras harmonizadas globalmente para acompanhar essa transformação. Para ele, inovação e segurança precisam caminhar juntas. “Se a IA quiser ser poderosa, ela precisa ser governada”, afirmou.

O encontro também analisa a primeira avaliação científica global e independente sobre inteligência artificial, elaborada por um painel de 40 especialistas apoiado pela ONU.

Crianças entram no centro da discussão

Um dos pontos mais debatidos foi o impacto dos sistemas de IA sobre crianças e adolescentes. Guterres alertou que essas ferramentas já participam do aprendizado, das amizades e até das conversas mais íntimas de menores antes que sua segurança tenha sido comprovada.

Entre as propostas apresentadas estão:

  • comprovar a segurança dos sistemas antes do lançamento para crianças;
  • impedir a geração de imagens sexuais envolvendo menores;
  • interromper conversas quando houver sinais de sofrimento infantil;
  • estabelecer regras internacionais de proteção ao público infantil.

Outro dado citado por Guterres chama a atenção: enquanto a internet levou cerca de 15 anos para alcançar um bilhão de usuários, a IA atingiu essa marca em apenas dois anos. Ele também demonstrou preocupação com a concentração dos sistemas mais avançados em poucos países e empresas.

Mão de uma criança erguida na frente de seu rosto
Debate em Genebra reúne governos e especialistas para discutir como regular a inteligência artificial sem frear a inovação. – Imagem: Marija Stepanovic / iStock

Coalizão pede mudanças nas regras

Na véspera do encontro, mais de 100 organizações, entre elas Anistia Internacional e Save the Children, divulgaram um apelo conjunto. De acordo com a Euronews, a iniciativa é liderada pela 5Rights Foundation e defende que a responsabilidade pela segurança dos sistemas seja das empresas, e não dos pais.

Leia mais:

A coalizão propõe testes prévios de segurança, sanções financeiras para empresas que desrespeitem os direitos das crianças e a proibição do uso comercial de imagens, vozes e dados biométricos de menores.

As crianças nos deram um diagnóstico claro do problema. Elas não estão nos pedindo para bloquear a inovação em IA, mas também não deveríamos ter que limpar a bagunça depois que o dano já aconteceu.

Leanda Barrington-Leach, diretora executiva da 5Rights Foundation, ao Euronews.

Próximos passos da ONU

A Reuters informa que um relatório científico mais amplo será apresentado no próximo ano, acompanhado de uma nova reunião global em Nova York. A expectativa é dar continuidade às discussões sobre mecanismos de governança capazes de acompanhar a rápida evolução da inteligência artificial e ampliar a proteção ao público infantil.

O post ONU faz alerta sobre IA e pede regras globais para proteger crianças apareceu primeiro em Olhar Digital.

ONU faz alerta sobre IA e pede regras globais para proteger crianças Read More »

istock 2225035439 1024x675

Disputa com Casa Branca expõe riscos políticos da Anthropic antes do IPO

Deixe um comentário / Anthropic, inteligência artificial, ipo, Pro, regulamentação, segurança nacional /

A relação entre a Anthropic e o governo dos Estados Unidos entrou em rota de colisão após divergências sobre o uso militar de inteligência artificial. O impasse envolveu decisões de segurança nacional e medidas de restrição que atingiram diretamente a empresa.

Nos últimos meses, porém, o clima começou a mudar em Washington. Ainda sem acordo definitivo, mas com sinais de aproximação, explica a Reuters.

Debate sobre uso de IA militar segue no centro da relação entre empresas de tecnologia e a Casa Branca. Imagem: Artem Onoprienko/iStock

Impasse começou com restrições ao uso militar de IA

A tensão começou quando a Anthropic recusou permitir que suas tecnologias fossem usadas pelas Forças Armadas dos EUA em vigilância doméstica e em sistemas de armas totalmente autônomos. A resposta do governo veio em seguida: a empresa foi incluída em uma lista de segurança nacional, cuja aplicação deve entrar em vigor ainda este ano.

Em março, o Departamento de Defesa foi além e classificou a empresa como um “risco para a cadeia de suprimentos”. É a primeira vez que uma companhia americana recebe esse tipo de enquadramento, geralmente reservado a empresas ligadas a países considerados adversários. Na prática, a decisão impede que contratados militares usem modelos da Anthropic em projetos ligados às Forças Armadas.

Sempre que o governo sinaliza que está se desvinculando de uma empresa, isso é um grande problema para ela.

Franklin Turner, advogado que atua com contratos governamentais, à Reuters.

ia militares
Disputa entre Anthropic e governo dos EUA envolve uso de IA em defesa e vigilância doméstica. Imagem: Gorodenkoff/Shutterstock

Sinais de reaproximação começaram na Casa Branca

A mudança de clima começou a aparecer depois de uma visita do CEO Dario Amodei à Casa Branca, em abril. Foi o primeiro encontro mais amplo desde o início da disputa, abrindo espaço para conversas sobre possível cooperação.

Um dos episódios mais simbólicos dessa reaproximação foi o convite para que Amodei participasse da assinatura de uma ordem executiva sobre inteligência artificial. O evento acabou sendo cancelado, mas a ordem foi posteriormente assinada pelo presidente Donald Trump. Em comunicado, a Anthropic afirmou que espera “colaborar” com a Casa Branca na implementação das diretrizes.

Nos bastidores, representantes da empresa também se reuniram com autoridades econômicas dos Estados Unidos para discutir segurança cibernética e políticas de IA. Esses encontros ajudaram a alimentar parte das discussões que embasaram a nova ordem executiva.

Pontos da disputa

  • Recusa da Anthropic em apoiar usos militares de IA em vigilância e armas autônomas
  • Inclusão da empresa em lista de segurança nacional dos EUA
  • Classificação como “risco para a cadeia de suprimentos” pelo Pentágono
  • Reaproximação após reuniões na Casa Branca e encontros com autoridades
  • Processo judicial ainda em andamento e impacto sobre o IPO da empresa
Logo da Anthropic em um smartphone
Especialistas avaliam que impacto da crise entre Anthropic e EUA pode ser mais reputacional no curto prazo. Imagem: JRdes/Shutterstock – Imagem: JRdes/Shutterstock

Disputa segue aberta e ainda gera incertezas

Apesar dos sinais de aproximação, o conflito não foi encerrado. O Pentágono continua contestando a classificação de risco aplicada à empresa, e o caso segue em disputa judicial.

Outro ponto que chamou atenção no setor foi a ausência de executivos da Anthropic em uma simulação militar de ataques cibernéticos organizada pelo Exército dos EUA. O exercício contou com representantes de outras grandes empresas de tecnologia.

Leia mais:

No mercado, o caso é acompanhado de perto. Analistas avaliam que o impacto imediato é mais reputacional do que estrutural, embora ainda gere ruído. “É uma contusão de curto prazo”, resumiu o analista Harrison Rolfes, da PitchBook.

O pano de fundo é a preparação da Anthropic para uma possível abertura de capital, que pode avaliar a empresa em até US$ 1 trilhão. Um movimento que coloca ainda mais pressão sobre a relação com o governo americano.

O post Disputa com Casa Branca expõe riscos políticos da Anthropic antes do IPO apareceu primeiro em Olhar Digital.

Disputa com Casa Branca expõe riscos políticos da Anthropic antes do IPO Read More »

claude chatgpt scaled e1772626568145 1024x577

Anthropic propõe pausa global no avanço da inteligência artificial

Deixe um comentário / Anthropic, inteligência artificial, Pro, regulamentação, Segurança /

A Anthropic publicou um post em seu blog defendendo uma desaceleração global no desenvolvimento da inteligência artificial. A justificativa central é a velocidade do avanço tecnológico. Para a empresa, os sistemas atuais podem abrir caminho para modelos capazes de desenvolver seus próprios sucessores — um cenário que, segundo o artigo, “pode chegar antes do que a maioria das instituições está preparada para enfrentar”.

No documento, a companhia reconhece que uma IA capaz de se aprimorar poderia “trazer enormes benefícios para o mundo” nas áreas de ciência e saúde, entre outras. Mas faz um alerta: sistemas desse tipo também poderiam “aumentar os riscos de os humanos perderem o controle sobre a IA”. A proposta de desaceleração serviria justamente para dar mais tempo às estruturas sociais e às pesquisas de alinhamento acompanharem a evolução da tecnologia.

Anthropic diz que pausa temporária ajudaria pesquisas de segurança a acompanhar a IA. Imagem: Tada Images/Shutterstock – Imagem: Tada Images/Shutterstock

Verificação como condição para qualquer acordo

Para que uma desaceleração seja efetiva, a Anthropic afirma que mecanismos de fiscalização precisam existir. Sem esse tipo de controle, algumas empresas poderiam continuar desenvolvendo tecnologia em segredo enquanto outras interrompem suas atividades.

“Uma desaceleração ou pausa significativa exigiria que múltiplos laboratórios bem financiados, na fronteira ou próximos dela, em múltiplos países, concordassem em parar sob as mesmas condições”, escreve a empresa em seu blog. “Também exigiria que cada um pudesse verificar que os outros realmente pararam.”

A comparação feita pela Anthropic é com os tratados de armas nucleares. A empresa usa esses acordos como exemplo de que uma coordenação internacional não seria impossível — embora admita que processos assim levaram décadas para serem construídos, algo difícil de conciliar com a velocidade atual do setor.

Nos próximos meses, a companhia pretende conversar com formuladores de políticas, pesquisadores e outras empresas de IA. A ideia é publicar os resultados dessas discussões futuramente.

Pessoa usando notebook enquanto interage com interface digital que representa segurança cibernética e inteligência artificial.
Empresa afirma que sistemas futuros podem transformar profundamente economia, trabalho e tecnologia. Imagem: Supapich Methaset / Shutterstock – Imagem: Supapich Methaset / Shutterstock

Pesquisa interna e papel do Anthropic Institute

A proposta parte do trabalho desenvolvido pelo Anthropic Institute, divisão de pesquisa criada pela empresa em março. Na época do lançamento, o grupo afirmou que o objetivo do instituto seria “contar ao mundo” o que aprende sobre os desafios que surgem conforme empresas de IA desenvolvem sistemas mais avançados.

O instituto, em conjunto com colaboradores, conduzirá pesquisas sobre o que é necessário para “construir os sistemas que uma desaceleração ou pausa crível exigiria”.

Entre os principais pontos levantados pela Anthropic estão:

  • risco de sistemas de IA evoluírem sem supervisão humana;
  • dificuldade de criar regras globais que sejam respeitadas;
  • possibilidade de impactos sociais e econômicos profundos;
  • competição acelerada entre empresas e países;
  • necessidade de ampliar pesquisas em segurança de IA.
Interface AI mostrando aviso de erro de prompt e alerta do sistema
Startup de IA quer mais tempo para pesquisas de segurança acompanharem evolução dos modelos. Imagem: Digineer Station/Shutterstock – Imagem: Digineer Station/Shutterstock

Críticas à postura da empresa

O debate em torno da Anthropic também envolve críticas. Segundo reportagem do The Wall Street Journal, parte do setor vê os alertas feitos pela empresa sobre sua própria tecnologia como uma estratégia de marketing — seja para parecer menos problemática que as concorrentes, seja para reforçar a imagem de que seus produtos estão entre os mais avançados do mercado.

Um dos exemplos citados é o lançamento restrito do modelo de IA para cibersegurança Mythos. A Anthropic afirmou que liberou o sistema apenas para um grupo seleto de parceiros devido ao potencial de dano que sua capacidade de identificar vulnerabilidades rapidamente poderia causar em mãos erradas.

Leia mais:

Nem todo mundo, porém, comprou essa justificativa. Parte das críticas interpreta a restrição como uma forma de gerar expectativa em torno do produto ou até de reservá-lo apenas para grandes empresas.

Na área financeira, a Anthropic também vive um momento importante. A empresa caminha para registrar seu primeiro trimestre lucrativo, algo que várias concorrentes ainda não conseguiram alcançar. Além disso, já protocolou documentos na SEC para abrir capital, com previsão de que isso aconteça antes do fim do ano.

O post Anthropic propõe pausa global no avanço da inteligência artificial apareceu primeiro em Olhar Digital.

Anthropic propõe pausa global no avanço da inteligência artificial Read More »